新華網視評｜讓AI成“幫手”而不是“幫兇”

近日，杭州警方披露AI大模型換臉竊取個人隱私全國首案，令人細思極恐。

犯罪分子將受害人靜態照片，輸入到模型中，再通過文字、語音提出需求，生成一段活體視頻。這段活體視頻可以模仿人臉進行點頭、眨眼、側臉，突破平臺人臉認證，強制登錄他人賬號，獲取大量受害人隱私數據出售獲利。

這只是AI技術應用亂象的冰山一角。近年來，人工智能技術迅猛發展，帶來更多新機遇和更便捷服務，但新技術也往往被一些不法分子利用，成為違法犯罪的“幫兇”。

AI“換臉”實施詐騙、AI偽造圖片傳播謠言、AI推銷電話讓人不堪其擾……種種亂象，不僅侵犯消費者合法權益，威脅人身財產安全，也阻礙了AI行業的健康有序發展。

毋庸置疑，AI是科技發展的重要方向，是各國競爭的科技高地。但發展AI的同時，絕不能忽視其風險隱患。為狂飆的AI系好“安全帶”，讓其成“幫手”而不是“幫兇”，重在加強治理和規范。

在近期舉行的2024年國家網絡安全宣傳周上，AI的安全應用問題，成為熱門話題。期間，相關部門發布《人工智能安全治理框架》1.0版，提出人工智能安全治理原則等方向性的破解思路。一些應對AI安全風險的黑科技也亮相網絡安全博覽會，比如AI實時鑒偽系統，針對AI換臉、AI擬聲等詐騙套路進行有效識別、反制。

科技從來都是“雙刃劍”，是好是壞，是益是害，關鍵看握劍的人準備怎么用。在大力發展AI的時候，務必增強安全意識，加強相關安全技術推廣應用，推動社會各方形成治理共識，讓AI更好造福人類。（文案：馬若虎）