• <xmp id="6ss4g">
  • 聚焦烏鎮:倫理規則和技術安全是AI高質量發展關鍵
    來源: 北京商報 作者: 發布時間: 2022-11-11

    11月10日,在2022年世界互聯網大會烏鎮峰會“人工智能與數字倫理”論壇上,瑞萊智慧CEO田天表示,在數智化時代,人工智能充當著“大腦”的角色,在目標性能的實現、設施運維的智能化和設施安全保障等方面發揮著重要作用。例如,運用人工智能的計算機視覺技術,可以實現工業殘次品的檢測、構建人臉識別安防設備,在提升生產性能與生產效率的同時,大幅提升安全保障能力。

    近年來,隨著算法的快速發展,算力、數據等資源的日益豐富,人工智能產業呈現快速發展態勢。但田天表示,放眼未來,人工智能若要實現高質量發展,需要突破倫理規則和技術安全兩大關鍵問題。

    首先,隨著人工智能逐步成為經濟社會的關鍵角色,它與人類的交互規則構成了倫理問題,例如,人機控制權分配、人工智能采信度等等。作為一項具有開放性但又遠未成熟的新技術,人工智能不可避免地會對現有倫理關系與社會結構造成沖擊。

    比如,人類對機器控制權的不適當讓渡,會導致惡性事故的發生,典型的例子如自動駕駛汽車電子剎車系統失控引發交通事故,以及過度信任算法而忽視算法偏見導致的不公平事件等。隨著人工智能對生產生活方方面面的不斷滲透,倫理問題層出不窮。

    其次技術安全問題。以當前落地應用最為廣泛的人臉識別為例,這一技術實現的整個過程為黑箱模式,主要依靠海量人臉數據進行特征提取、訓練和識別,從而能夠利用相關漏洞,采用多種形式進行攻擊。例如,在人臉照片上添加少量干擾或將對抗補丁打印制作后由真人佩戴,以這種定向攻擊的形式破解人身核驗。

    面對這些問題,田天表示,需要從倫理規則和技術規則兩方面加以解決。

    一是倫理規則建設。這涉及到人與人工智能之間控制權閾值如何設定、兜底機制如何設計等問題,需結合具體應用場景,打造可量化、可度量、可執行的具體標準,再落實到算法、代碼層面。

    二是技術路徑優化。在數據、算法、算力三大要素基礎上,將知識要素融合進來,發展安全、可靠、可信和可擴展的第三代人工智能,不斷提升人工智能的魯棒性和可解釋性,同時持續提高人工智能倫理安全、技術安全的敏捷測評水平,使之成為保障人工智能產業高質量發展的關鍵能力。(記者 魏蔚)

    地方動態

    2022(第四屆)中國電子政務安全大會在京成功召開

    第十二屆能源企業信息化大會在北京成功召開

    2022第五屆中國信息技術應用創新大會在京成功召開

    2022(第七屆)中國網絡信息安全峰會在京隆重召開

    • 協會要聞
    • 通知公告
    女校花在宿舍被老头揉搓
  • <xmp id="6ss4g">