由騰訊云攜手中國信通院云大所、C114通信網(wǎng)打造的“云啟WETELE運營商數(shù)智升級”系列在線課堂，2025年前兩期分別探討了“大模型和運營商智能化轉(zhuǎn)型”、“云計算技術(shù)和應(yīng)用融合創(chuàng)新”。今天開講的第三期，由中國聯(lián)通研究院專家徐雷、騰訊云專家李欣，和大家一起探討人工智能時代的安全治理模式以及高競爭力的安全解決方案。

人工智能安全治理探討

在課堂上，徐雷首先講到，人工智能安全治理是關(guān)鍵議題。一方面，全球主要國家都在積極布局人工智能安全治理體系建設(shè)，以中國為例，最新的政策是2025年3月，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識辦法》；另一方面，人工智能安全風(fēng)險事件頻發(fā)，且方式多種多樣，包括數(shù)據(jù)泄露、版權(quán)侵權(quán)、工具漏洞、深度偽造、內(nèi)容安全、大模型幻覺等，為安全治理帶來了巨大挑戰(zhàn)。

中國聯(lián)通是人工智能產(chǎn)業(yè)的重要參與者。此前，由中國聯(lián)通攜手8家產(chǎn)業(yè)合作伙伴聯(lián)合發(fā)布行業(yè)首個《人工智能內(nèi)生安全白皮書（2024）》，針對人工智能面臨的內(nèi)生安全風(fēng)險與挑戰(zhàn)，提出人工智能內(nèi)生安全體系。

在具體實踐方面，徐雷介紹了中國聯(lián)通自主創(chuàng)新研發(fā)“評測+增強+治理”三位一體的人工智能安全治理解決方案，構(gòu)建大模型安全評測數(shù)據(jù)集，突破模型算法可信增強技術(shù)，打造人工智能安全治理一體化服務(wù)能力。

方案覆蓋五大風(fēng)險場景與多元攻擊手段，為AI內(nèi)容安全保駕護航；打造多模態(tài)AI生成內(nèi)容安全評測數(shù)據(jù)集，實現(xiàn)智能化精準(zhǔn)評測；從數(shù)據(jù)構(gòu)建、模型定義到強化訓(xùn)練，提升模型基座安全能力；通過優(yōu)化訓(xùn)練數(shù)據(jù)、改進(jìn)算法及引入外部知識等方法，有效減輕大模型幻覺現(xiàn)象；通過“以模治模”的技術(shù)創(chuàng)新，為攻克人工智能安全新挑戰(zhàn)提供了可行性方案。

最后，徐雷展望了人工智能安全治理聚焦的三個領(lǐng)域。

一是端側(cè)AI安全。端側(cè)AI面臨物理對抗攻擊、本地化存儲脆弱性、供應(yīng)鏈復(fù)雜性及資源局限性四大核心風(fēng)險。需結(jié)合輸入數(shù)據(jù)增強、模型加密、供應(yīng)鏈可信驗證及云邊端協(xié)同防御等技術(shù)手段，構(gòu)建全鏈路安全防護體系。

二是智能體安全。智能體已成為主流的AI應(yīng)用落地模式，其安全風(fēng)險源于動態(tài)化的外部工具集成和自主決策的不可預(yù)測，需構(gòu)建從協(xié)議加固到行為監(jiān)控的全方位防護方案。

三是具身智能安全。具身智能在工業(yè)制造、物流運輸、醫(yī)療健康等領(lǐng)域，存在安全風(fēng)險。需通過采集限制、數(shù)據(jù)加密構(gòu)建隱私防線，依托實時監(jiān)控與安全算法實現(xiàn)行動端可靠防護。

騰訊一體化安全運營實踐

李欣則具體分享了騰訊的一體化安全運營實踐。騰訊安全依托于騰訊公司20多年來服務(wù)10億級用戶，積累了深厚的安全運營經(jīng)驗。以騰訊云為例，擁有數(shù)百個一級產(chǎn)品、各種類型的云業(yè)務(wù)形態(tài)、多樣化的技術(shù)棧與架構(gòu)以及多重組織與人員結(jié)構(gòu)，需要強大的安全運營體系支撐。

騰訊安全運營的目標(biāo)是什么？構(gòu)建面向集團和客戶的快速風(fēng)險感知、全面檢測、高效處置及敏捷響應(yīng)能力，幫助降低安全入侵風(fēng)險，保障集團及客戶業(yè)務(wù)安全。李欣做了分解：打造DevSecOps體系，實現(xiàn)安全運營指標(biāo)化；敏捷安全運營體系，實現(xiàn)安全運營自動化；安全技術(shù)能力體系，瞄準(zhǔn)入侵事件0發(fā)生。

李欣同時講到，安全運營的邊界，是合理的資產(chǎn)管理架構(gòu)分工，明確“業(yè)務(wù)是安全的第一負(fù)責(zé)人”。騰訊為此構(gòu)筑了端到端的安全服務(wù)能力，包括了預(yù)測、防御、檢測、驗證的全流程安全服務(wù)，為內(nèi)部業(yè)務(wù)及供應(yīng)商提供安全能力清單。

在安全運營團隊配置方面，騰訊擁有多名業(yè)界頂尖安全專家，連續(xù)兩年蟬聯(lián)“網(wǎng)安世界杯”之稱的DEFCON CTF總冠軍；1500多項云安全技術(shù)專利申請量位列行業(yè)第一；強網(wǎng)杯、網(wǎng)鼎杯、護網(wǎng)杯三大“國賽”大滿貫，表現(xiàn)突出。同時，騰訊也注重建立安全運營制度和流程，多維度、多方式安全內(nèi)宣，提升業(yè)務(wù)團隊安全意識。

課堂最后講述了安全運營自動化。李欣特別提到，“在信息安全進(jìn)化過程中，每個環(huán)節(jié)都離不開人，人是安全的尺度”。安全事件的處置標(biāo)準(zhǔn)與執(zhí)行動作，需要人與流程來落地。騰訊構(gòu)建數(shù)據(jù)驅(qū)動的自動化平臺，實現(xiàn)運營“三可五連接”：可觀測、可衡量、可改善；連接告警、連接資產(chǎn)、連接策略、連接人員、連接流程。基于場景標(biāo)準(zhǔn)化、工具標(biāo)準(zhǔn)化、流程標(biāo)準(zhǔn)化，助力敏捷運營，無縫對接內(nèi)外部各項安全能力，實現(xiàn)安全運營流程的高效落地。

騰訊當(dāng)前可提供豐富的安全服務(wù)：漏洞情報服務(wù)、數(shù)據(jù)泄露情報服務(wù)、安全攻防服務(wù)、安全驗證服務(wù)、安全托管服務(wù)等。李欣總結(jié)，騰訊安全運營的理念，是以“智慧攻防”，促“敏捷運營”。

獲取“云啟WETELE運營商數(shù)智升級”系列云課堂，更多完整課程信息，請點擊觀看云課堂專題頁面：http://www.sancean.com/topic/6356.html