企業觀察網區域大數據服務中心

技術與規則聯動 應對人工智能發展挑戰

來源:  科技日報       作者:王春      發布時間:2021-4-16 17:31  |  

國外有IBM沃森的醫療AI產品做出錯誤診斷并開出不安全藥物的教訓,國內有杭州動物園發生的“中國人臉識別第一案”的案例……近年來,人工智能的監管問題已成為其發展道路上不可忽視的關鍵問題。

4月12日,“AI可信專題論壇”在上海召開,專家們圍繞人工智能是否可信這一關鍵問題展開了深入探討。中國科學院院士何積豐指出:“技術的發展從來都是一把雙刃劍,人工智能在給人類社會帶來便利的同時,也帶來了新的安全問題及風險。”

“人工智能發展仍舊面臨諸多挑戰。”京東集團技術委員會主席、京東人工智能研究院院長周博文指出,真實世界環境開放、邊界和規則模糊、數據噪音多、AI模型的部分結果難以信賴等引發的問題層出不窮。如智能攝像頭將公交車上的廣告人物識別為闖紅燈者、AI寫作軟件創作核材料被盜的假新聞、智能音箱建議使用者自殺等,這些人工智能暴露的問題已經逐漸與人們的生活密切相關。

復旦大學計算機學院院長姜育剛指出,要通過“技術+規則”雙輪驅動算法治理。“技術與規則聯動,一方面研究更符合規則的人工智能算法,發展評估技術以度量現有人工智能算法的合規程度;另一方面通過規則自頂向下約束人工智能技術活動牽引其健康發展。”

清華大學人工智能國際治理研究院副院長梁正對該會議上發布的《人工智能治理框架與實施路徑》報告內容進行介紹時表示,當前人工智能治理的挑戰主要集中于三個方面:數據、算法、平臺等新興治理對象的涌現使得追責的難度不斷增大;人工智能技術的發展和應用場景的拓寬使得潛在的重大技術、經濟和道德風險開始沖擊人類社會現存的價值體系和競爭格局;現存的法律、監管制度供給的缺陷和全球范圍內靈活、有效治理機制的缺失問題進一步凸顯。

“在治理過程中,除了應對以上挑戰所帶來的風險外,還須實現發展與治理的平衡,既要避免規范不足導致的社會問題,也要避免過度監管阻滯技術的發展。”梁正說。

(編輯:于思洋

今日看點
視覺 / 視頻更多
習近平在博鰲亞洲論壇2021年年會開幕式演講
李克強考察中國—歐洲中心
郝鵬赴天津調研國資國企改革創新和黨的建設
粵港澳大灣區大容量海上風電項目并網發電
烏瑪高速公路控制性工程鎮羅黃河特大橋合龍
熱烈慶祝企業觀察網改版升級
融媒體更多

4152.9億元! 一季度央企凈利潤翻兩倍,創歷史同期新

中國協作機器人扛把子,國投招商為何選擇了它?

中國建材的玻璃:再也不想做“小透明”了

時評更多
a级片网站-网站A片-a类片子网