11月21日，2024 年世界互聯網大會烏鎮峰會人工智能負責任開發與應用論壇舉行。安恒信息董事長范淵發表《人工智能技術與應用的安全可靠和健康發展》主題演講。在范淵看來，新一代人工智能技術，不僅僅是人機交互體驗、協作的革命，更是專家經驗傳承的一次變革。在網絡安全、數據安全領域，AI正在重構安全工作協同關系，助力安全產業發展和行業應用價值化呈現，引發行業質變。我們應該以工具視之、以工具用之、以工具治理之。

　　范淵指出，安恒信息依托多年來積累的技術和實踐經驗，做了諸多有益探索。

　　一方面，智能體+安全運營，可以實現運營工作提質增效。2023年8月，恒腦安全垂域大模型首次發布后，在杭州亞運會期間投入實戰應用，憑借“精準”和“高效”的雙重優勢，恒腦的自動化研判機制顯著提升告警分析效率，進一步降低了人力投入。依靠安全大模型和智能體的賦能，安恒信息惡意軟件檢測迅速實現了行業領先，在國家計算機網絡應急技術處理協調中心公布的 2024 年人工智能技術賦能網絡安全應用測試結果中，安恒信息在惡意軟件檢測場景排名第一。

　　另一方面，智能體+數據安全，可以實現安全與業務的完美融合。例如，數據分類分級借助 AI 對行業和業務特性的理解，將數據分類分級效率提升30倍，并在政府、運營商、教育、醫療、企業、金融、交通、公安、煙草等行業實現全面覆蓋，彰顯出AI 在數據安全領域的強大力量。

　　范淵還強調，人工智能是引領這一輪科技革命和產業變革的戰略性技術，具有溢出帶動性很強的“頭雁”效應。當前，鼓勵人工智能創新發展仍是第一要務。但隨著 AI 技術深入場景，安全事件頻發，例如大模型敏感數據泄露、歧視內容輸出、虛假內容生成等風險問題等。如何能夠讓人工智能的發展始終沿著我們希望的軌道前進?軌道的微調、軌道的預判、軌道的規則變得非常關鍵。因此，在加速技術應用“虛實共進”，變“Chat”為“Product”的同時，要確保人工智能安全、可靠、可控。

　　為此，安恒信息創新性提出人工智能領域的安全治理實踐路徑。首先是做好隱私計算。數據是大模型的燃料，隱私計算是數據的安全閥門。安恒恒隱·隱私計算平臺首批獲得了中國信通院面向大模型的可信執行環境產品專項測試證書，為數據的“可用不可見，可訓不可見”提供實踐途徑。

　　其次，加快建立人工智能安全監管和評估體系。例如，恒腦智鑒，基于五大核心大模型風險檢測能力，采用精細化風險評估方法，配備多種檢測手段和大量測試用例，構建了AI基礎設施、模型算法、應用服務的全鏈路風險評估體系，可覆蓋了12大類、40多個不同類型、2000多種不同的風險。

　　最后，范淵提出，面向未來，安恒信息將持續開展大模型安全研究，致力于讓模型可控、不越界。期待各方以開放和包容的心態迎接新技術的到來，肩負起引導其健康發展的重任，共同探索AI與人類的命運共同體，確保技術進步能夠促進社會的發展進步，真正實現“人機”和諧共存的美好愿景。