自2017年Transformer架構誕生，大模型便踏上了迅猛發展的征程。從數量來看，全球大模型創新節奏持續加快。2023年

，全球基礎模型數量較2022年實現翻倍增長。2024年
，創新活力持續釋放，新增或迭代的基礎模型近百個。據2025年7月世界人工智能大會最新數據顯示
，全球已發布大模型總數達3755個
，其中中國發布1509個
，位居首位；7月31日召開的國務院常務會議審議通過《關於深入實施“人工智能+”行動的意見》，提出要深入實施“人工智能+”行動
，推動人工智能在經濟社會發展各領域加快普及、深度融合，形成以創新帶應用、以應用促創新的良性循環。

　　從技術能力來看，大模型的技術能力邊界不斷拓展。從最初簡單的文本處理
，逐步向多模態領域延伸

，如今已能實現文本
、圖像
、音頻等跨模態內容的理解和湧現。目前
，已經出現了一批以大模型為基礎
、多智能體協作的技術解決方案，正在向通用人工智能快速演進。

　　從產業應用來看，大模型與傳統產業融合速度顯著加快。自2025年初DeepSeek在全球範圍引發熱潮以來，大模型在政務、醫療
、互聯網、教育等垂直領域落地生根
，不僅重塑了傳統產業的生產模式與服務形態，更成為數字經濟高質量發展的重要動力。

　　然ran而er，大da模mo型xing的de迅xun速su發fa展zhan也ye帶dai來lai了le一yi係xi列lie嚴yan峻jun的de安an全quan問wen題ti，貫guan穿chuan模mo型xing的de全quan生sheng命ming周zhou期qi。在zai國guo務wu院yuan常chang務wu會hui議yi中zhong，特te別bie強qiang調tiao要yao提ti升sheng安an全quan能neng力li水shui平ping
，加jia快kuai形xing成cheng動dong態tai敏min捷jie
、多元協同的人工智能治理格局。

　　隨(sui)著(zhe)大(da)模(mo)型(xing)技(ji)術(shu)與(yu)產(chan)業(ye)場(chang)景(jing)的(de)深(shen)度(du)融(rong)合(he)，其(qi)安(an)全(quan)風(feng)險(xian)已(yi)從(cong)技(ji)術(shu)層(ceng)麵(mian)延(yan)伸(shen)至(zhi)業(ye)務(wu)全(quan)鏈(lian)條(tiao)
，既(ji)包(bao)含(han)內(nei)生(sheng)隱(yin)患(huan)
，也(ye)衍(yan)生(sheng)出(chu)對(dui)物(wu)理(li)世(shi)界(jie)的(de)直(zhi)接(jie)威(wei)脅(xie)。全(quan)麵(mian)梳(shu)理(li)這(zhe)些(xie)風(feng)險(xian)，並(bing)構(gou)建(jian)係(xi)統(tong)性(xing)防(fang)護(hu)方(fang)案(an)，成(cheng)為(wei)大(da)模(mo)型(xing)健(jian)康(kang)發(fa)展(zhan)的(de)關(guan)鍵(jian)。

　　從技術層麵看
，大模型安全風險首先體現在技術本身的“先天不足”，即內生安全問題，包含模型魯棒性差
、算法黑箱特性顯著，加之大模型特有的“幻覺”問題。在應用過程中，這些內生安全問題會得以顯現，即衍生安全問題，包括模型誤用、濫用導致的虛假信息泛濫
、決策偏差等。這些問題已開始對金融、工業等核心領域的業務連續性構成威脅——例如工業製造中

，模型決策偏差可能沿生產鏈路放大，引發連鎖反應甚至業務中斷。

　　從全生命周期看，安全風險貫穿始終。在模型選型與測試評估階段，開源模型易遭投毒、契合場景需求的係統性安全測試評估方法、測試數據
、工具缺失的問題嚴重，傳統的基於規則的判斷模式難精準衡量大模型的安全問題。在模型訓練/weitiaojieduan，xunlianhuoweitiaoyuliaoruohanweifabuliangxinxidengminganshujuhuiwuranmoxing
，quefamoxinganquanduiqijizhikenengdaozhimoxingshuchuyishikong
，zheyechengweilemoxingzaiyingyongguochengzhongfengxiandezuizhijiegenyuan。zaishangxianfuwujieduan，moxingbushuyilaidetuilikuangjiadengruanjianhuanjingpubiancunzailoudongquexian，moxinglubangxingcha、智能體等上層應用防護不完善
，可能導致數據泄露等嚴重危害。在更新
、下線銷毀階段，緩存數據、臨時文件可能幹擾新模型運行，模型文件、權重、緩存等信息則需妥善銷毀。盡管更新下線階段風險暫時沒完全顯現，但隨著技術應用的不斷深入
，會在未來呈現出實際危害。

　　與傳統信息係統安全相比，大模型安全的攻防焦點延續了傳統安全的核心要素——硬件、數據。防火牆、數據泄露防護（DLP）等工具經改造後仍可發揮作用，傳統的“識別-評估-管理-持續改進”的風險管理框架依然適用。但大模型也帶來了新的威脅：如攻擊手段已實現智能化迭代
，攻擊者可通過大模型自動演化攻擊模式
，突破傳統邊界防護；業務係統的複雜度提升
，“雲邊端”一體化架構下，一次攻擊可能導致多個業務係統中斷
；防護和應對成本大幅攀升

，據統計
，2023年全球AI網絡安全支出為240億美元
，預計2030年增至1330億美元。

　　此外，大模型安全風險還呈現出多維複雜交織的新態勢。風險載體從傳統硬件、數據擴展至模型
、智能體等新對象，數據層麵的投毒
、對抗樣本有可能造成模型後門植入，或致使推理決策的重大錯誤。模型黑箱、幻覺特性導致內容生成過程中的風險不可預見。智能體因形態多樣、協議不統一、權限控製能力不足，難以用標準化手段防護。同時，在風險檢測評估方麵
，缺乏統一的標準、工具和動態監控方法。這些都需要新的管理思路和技術手段進行應對。

　　大模型安全“工具箱”作為一套集成全流程安全技術產品和工具的綜合解決方案，以“攻-檢-防”全流程為核心思路，覆蓋大模型生命周期的主要環節
，形成了涵蓋“智鑒”大模型安全檢測平台、“智鉞”大模型安全自動化仿真驗證平台和“智盾”大模型安全加固防護方案的產品服務矩陣，實現風險“發現-評估-加固-驗證”閉環機製，確保大模型在全生命周期的安全性。

　　“智鑒”damoxinganquanjiancepingtaijujiaoyudamoxingjichuhuanjinghemoxingyingyongguochengzhongshurushuchuneirongdeanquanjiance。damoxingjichuhuanjingjiancezhenduidamoxingyanfahebushuhuanjieanquanwenti，tongguodaimasaomiao、漏洞和軟件成分，發現模型環境的安全風險。模型輸入輸出內容安全檢測重點針對模型接收和產生的內容，包含有害
、商業或技術敏感信息。

　　“智鉞”大da模mo型xing安an全quan自zi動dong化hua仿fang真zhen驗yan證zheng平ping台tai主zhu要yao用yong於yu對dui大da模mo型xing提ti供gong自zi動dong化hua的de安an全quan評ping估gu支zhi持chi。在zai測ce試shi能neng力li方fang麵mian，支zhi持chi自zi動dong化hua調tiao用yong模mo型xing接jie口kou
，無wu需xu人ren工gong幹gan預yu即ji可ke完wan成cheng攻gong擊ji測ce試shi，測ce試shi完wan成cheng後hou，可ke自zi動dong生sheng成cheng包bao含han測ce試shi過guo程cheng

、結果、anquanwentijigaijinjianyidepinggubaogao，weiyingyongfangtigongqingxizhiguandejielun。zaiceshishujufangmian，pingtaijichenglebaiwanliangjiceshishujuhejinbaizhonggongjifangfamoban。tongshi，haikejieheyonghuxuqiu，dingzhihuakaizhanshujuzhizuohepinggumoxingjianshegongzuo，manzuchangjinghuaanquanceshixuqiu。

　　“智盾”大da模mo型xing安an全quan加jia固gu防fang護hu方fang案an依yi托tuo積ji累lei的de海hai量liang大da模mo型xing安an全quan數shu據ju，采cai用yong模mo型xing微wei調tiao對dui齊qi和he安an全quan知zhi識shi庫ku增zeng強qiang等deng手shou段duan進jin行xing模mo型xing對dui齊qi防fang護hu，提ti升sheng大da模mo型xing自zi身shen安an全quan能neng力li，同tong時shi兼jian顧gu大da模mo型xing原yuan本ben的de通tong用yong能neng力li
，避bi免mian安an全quan加jia固gu對dui模mo型xing功gong能neng造zao成cheng負fu麵mian影ying響xiang。經jing實shi踐jian驗yan證zheng，“智盾”方案能顯著提升大模型的安全性能，多個開源大模型被攻擊成功概率下降超過30個百分點
，最高超過70個百分點。此外，還支持對大模型進行語意層麵的權限控製

，防止不同權限人員使用同一套模型的過程中造成的數據未授權訪問問題。

　　目前
，工具箱中的產品已經服務於能源行業多個用戶單位開展大模型安全檢測、防護等工作，特別支撐了煤炭科學研究院太陽石礦山大模型，完成了生成式人工智能服務上線備案工作。

　　未來
，大模型、智zhi能neng體ti必bi將jiang與yu業ye務wu生sheng產chan環huan節jie實shi現xian更geng加jia深shen度du的de融rong合he。因yin此ci，為wei推tui動dong新xin技ji術shu的de深shen度du融rong合he
，可ke通tong過guo對dui場chang景jing進jin行xing風feng險xian分fen級ji分fen類lei評ping估gu的de方fang式shi，全quan麵mian梳shu理li並bing最zui終zhong形xing成cheng技ji術shu落luo地di的de路lu線xian圖tu，再zai配pei合he技ji術shu手shou段duan進jin行xing檢jian測ce、監測、防護，實現大模型、智能體與傳統行業的深度融合。