安全亟須與“智”同行

——總體國家安全觀學習輔導系列述評

（十六）

　　自1956年首次提出概念，人工智能技術的發展經歷多次起落。近年來，隨著大數據、云計算、互聯網、物聯網等新興技術的融合發展，人工智能又迎來了蓬勃發展期，并成為舉世公認的前沿技術代表“名片”之一。在新一輪科技革命和產業革命加速演進的浪潮下，圖像分類、語音識別、問答系統、人機交互、無人駕駛等人工智能技術正成為推動傳統產業升級換代的決定性力量和全球經濟發展的新引擎，世界各國紛紛把發展人工智能作為提升國家競爭力、維護國家安全的重要抓手。然而，一枚硬幣分兩面，技術的狂飆突進也伴隨著風險的陡然上升。著名物理學家霍金就曾表示，強大人工智能的崛起，對人類來說，可能是最好的事情，也可能是最糟糕的事情。人們驚呼“未來已來”的同時也在擔心“未來安不安全”，人工智能安全問題越來越受到重視。

　　人工智能安全是指通過采取必要措施，防范對人工智能系統的攻擊、侵入、干擾、破壞和非法使用以及意外事故，使人工智能系統處于穩定可靠運行的狀態，以及遵循人工智能以人為本、權責一致等安全原則，保障人工智能算法模型、數據、系統和產品應用的完整性、保密性、可用性、魯棒性、透明性、公平性和隱私的能力。人工智能安全涉及內生安全、衍生安全和發展安全，是國家安全的關鍵領域。

　　以善治促善“智”

　　習近平總書記深刻指出：“人工智能是引領這一輪科技革命和產業變革的戰略性技術，具有溢出帶動性很強的‘頭雁’效應。”

　　人工智能是人類發展的新領域，也是國家安全最為前沿的新興領域。作為一項賦能型技術，人工智能在智能交互、決策輔助、智能建模等方面具有強大創新能力和廣泛應用場景，能夠帶動國家安全能力整體躍升和跨越式發展，是維護和支撐經濟、科技、網絡等其他領域安全的重要力量。作為一項革命性技術，人工智能具有技術屬性和社會屬性雙重特征，人工智能的發展和應用將對倫理道德、社會穩定帶來一系列影響，如何實現人工智能發展與治理的平衡，是國家安全治理的重要議題。

　　黨的十八大以來，以習近平同志為核心的黨中央高瞻遠矚，搶抓新一輪科技革命、產業變革風口，把發展人工智能提升到戰略高度，深化人工智能研發應用，開展“人工智能+”行動，推進人工智能賦能千行百業，大力推動發展方式轉變、經濟結構優化、增長動力轉換，有力支撐現代化產業體系完善和新質生產力發展，智慧農場、智能工廠、智能港口、智慧家居、智能教育等應用場景得到極大拓展，人民群眾日益增長的美好生活需要得到不斷滿足，中國人工智能創新水平已進入世界前列，為強國建設、民族復興提供了新的澎湃動能。

　　以可控促可靠

　　人工智能技術發展和其他技術進步一樣，也是一把“雙刃劍”。由于技術的不確定和應用的廣泛性，可能會給國家安全和人民利益帶來諸多風險，因此未雨綢繆十分必要，必須加強對人工智能發展的戰略研判，加強前瞻預防和約束引導，最大限度降低風險。

　　總的來看，隨著人工智能技術在不同領域應用程度的深化，其引發的安全風險也涵蓋了國家、社會、企業和個人等多個層面。不法分子可能借助人工智能技術進行數據竊取、網絡攻擊、經濟犯罪、制造傳播虛假信息等違法犯罪活動，敵對勢力甚至可能開展攻擊抹黑、輿論造勢、文化滲透等干擾破壞活動，對國家安全和社會秩序帶來風險與挑戰。

　　中國始終以鼓勵人工智能創新發展為第一要務，以有效防范化解人工智能安全風險為出發點和落腳點，按照風險管理的理念，緊密結合人工智能技術特性，分析人工智能風險來源和表現形式，針對模型算法安全、數據安全和系統安全等內生安全風險和網絡域、現實域、認知域、倫理域等應用安全風險，開展綜合防治、系統施治，推動社會各方積極參與、協同治理，不斷培育安全、可靠、公平、透明的人工智能技術研發和應用生態，促進人工智能健康有序發展。

　　以共建促共享

　　人工智能治理攸關全人類命運，是世界各國面臨的共同課題。作為人工智能技術大國，中國始終致力于在人工智能領域構建人類命運共同體，積極推動深化人工智能發展和治理國際合作，先后提出了《中國關于加強人工智能倫理治理的立場文件》《全球人工智能治理倡議》等一系列文件倡議，主提的加強人工智能能力建設國際合作決議獲第78屆聯合國大會協商一致通過，持續為推進人工智能的全球治理提供中國方案，貢獻中國智慧，得到國際社會的高度評價。中方新近成立中國-金磚國家人工智能發展與合作中心，愿同各方深化創新合作，釋放人工智能能量。

　　國家安全機關將在黨中央堅強領導下，貫徹總體國家安全觀，與有關部門一道，以有力行動維護人工智能安全，保障人工智能始終朝著有利于維護國家安全、促進社會進步和增進人民福祉的方向發展。