奇安信集團董事長齊向東：發展AI過程中，全行業要主動樹立安全意識

　　“(發展人工智能的)沖鋒號角已經吹響了。”奇安信集團董事長齊向東在2024年世界互聯網大會烏鎮峰會現場向中青報·中青網記者表示，當下，整個社會發展人工智能(AI)的熱情高漲。今年，烏鎮峰會正式開啟了“下一個十年”的新篇章，AI是本屆烏鎮峰會的“主角”。在他看來，未來5年至10年，用“AI改造一切”是大勢所趨，AI將助力人類創造更美好的生活。

　　安全是發展的底線。齊向東指出，在AI賦能千行百業的過程中，人們都聚焦于如何發展AI，有時忽視了AI發展的另一面——安全風險。安全一旦出現問題，“一失萬無”，即“一出事就什么都沒了”的情況并不鮮見。齊向東說：“AI發展的‘戰車’一旦動起來，就滾滾向前。它的動力太足了，能給我們帶來的好處不言而喻。但安全問題也很重要。”

　　當前，“AI投毒”污染數據等“AI風險”已經出現，正在沖擊AI安全防線。齊向東解釋稱，“數據投毒”是一種通過在訓練數據中植入惡意樣本或修改數據以欺騙機器學習模型的方法。黑客組織利用AI升級攻擊手段，通過對抗樣本、數據投毒、模型竊取等多種方式對AI算法進行攻擊，使其產生錯誤的判斷。由于算法黑箱和算法漏洞的存在，這些攻擊往往難以檢測和防范，處理這些問題的難度也不小。

　　“AI病”還需“AI治”。齊向東指出，在AI時代，網絡安全面臨全方位的挑戰;以AI驅動安全，利用AI應對安全風險，將極大地提升處理問題的效率。齊向東建議，在發展AI的過程中，全行業要主動樹立安全意識;全球各國都應關注并積極培育網絡安全產業的蓬勃發展，加強網絡安全人才的培養。

　　來源：中國青年報客戶端記者 趙麗梅、張均斌