國外有IBM沃森的醫療人工智能產品作出錯誤診斷并開出不安全藥物的教訓，國內有杭州動物園發生的“中國人臉識別第一案”……近年來，人工智能的監管問題已成為其發展道路上不可忽視的關鍵問題。
4月12日，“AI可信專題論壇”在上海召開，專家們圍繞人工智能是否可信這一問題展開探討。中國科學院院士何積豐指出：“技術的發展從來都是一把雙刃劍，人工智能在給人類社會帶來便利的同時,也帶來了新的安全問題及風險。”
“人工智能發展仍舊面臨諸多挑戰。”京東集團技術委員會主席、京東人工智能研究院院長周伯文說，真實世界環境開放、邊界和規則模糊、數據噪音多、人工智能模型的部分結果難以信賴等引發的問題層出不窮。如智能攝像頭將公交車上的廣告人物識別為闖紅燈者等，這些人工智能暴露的問題已經逐漸與人們的生活密切相關。
復旦大學計算機科學技術學院院長姜育剛指出，要通過“技術+規則”雙輪驅動算法治理：“技術與規則聯動，一方面研究更符合規則的人工智能算法，發展評估技術以度量現有人工智能算法的合規程度；另一方面通過規則自上而下約束人工智能技術活動，牽引其健康發展。”
清華大學人工智能國際治理研究院副院長梁正表示，當前人工智能治理的挑戰主要集中于三個方面：數據、算法、平臺等新興治理對象的涌現使得追責的難度不斷增大；人工智能技術的發展和應用場景的拓寬使得潛在的重大技術、經濟和道德風險開始沖擊人類社會現存的價值體系、競爭格局；現存的法律、監管制度供給的缺陷和全球范圍內靈活、有效治理機制的缺失問題進一步凸顯。
“在治理過程中，除了應對以上挑戰所帶來的風險外，還要實現發展與治理的平衡，既要避免規范不足導致的社會問題，也要避免過度監管阻滯技術的發展。”梁正說。
（原載4月16日《科技日報》）
作者：吳紅梅 王春
評論