人工智能應用系統內生安全藍皮書：內生安全賦能系統構建的方法和內在的構造效應,提升應對能力

2024年1月，人工智能(AI) 新銳巨頭OpenAI 公司的創始人兼 席執行官薩姆 · 奧爾特曼(Sam Altman)在世界達沃斯論壇上強調， AI 帶來的技術革命不同于以往，而是成為了一種“不可思議的提G 生產力的工具”。作為具顛覆性的新興技術之一，AI 發展在為人類 社會經濟發展帶來巨大紅利的同時，也引發了一系列現實危害和風險 挑戰，主要包括數據竊取、隱私泄露、算法歧視、對抗攻擊等安全威 脅，它們不僅威脅著個人信息的保護，影響著企業的信譽和運營安全， 甚至對安全也構成了潛在的隱患，這些問題需要我們持續關注并 采取有效措施加以防范和解決。

當前人工智能應用系統的安全威脅是由于其網絡軟硬件運行環 境和模型算法兩個層面存在的“內生安全問題”所致。然而現有的人 工智能應用系統安全防護模式和技術路線很少能跳出“盡力而為、問 題歸零”的慣性思維，傳統的對抗訓練、挖漏洞、打補丁、封門補漏、 查毒殺馬乃至設蜜罐、布沙箱等層層疊疊的附加式防護措施，在引入 安全功能的同時不可避免地會引入新的內生安全隱患。

為創造性破解人工智能應用系統內生安全難題，本藍皮書提出一種內生安全賦能人工智能應用系統構建的方法，利用內生安全機理中內在的構造效應，從體制機理上管控或規避人工智能應用系統面臨的破壞及威脅，進而有效提升人工智能應用系統在面對復雜多變安全環境時的應對能力，為AI 技術的健康發展提供堅實保障。

附件：人工智能應用系統內生安全藍皮書：內生安全賦能系統構建的方法和內在的構造效應,提升應對能力