7月9日,2024(第二十三屆)中國互聯(lián)網(wǎng)大會在北京國際會議中心開幕。360智腦總裁張向征受邀出席，并就大模型安全的重要性以及在落地應用過程中的四大原則和“以模制模”理念進行了全面分享。

會上，張向征明確指出，大模型不僅是數(shù)智化時代的重要基礎設施，安全是大模型應用的基石，大模型的發(fā)展要遵循的“安全、向善、可信、可控”四大原則。此外，360集團在實踐中也提出“以模制模”的理念，用專業(yè)知識訓練的大模型做大模型的安全識別、評估和管控。

具體而言，大模型生態(tài)鏈安全檢測系統(tǒng)，可以確保模型環(huán)境安全。值得一提的是AISE人工智能系統(tǒng)安全檢測平臺，作為國內首個支持系統(tǒng)化安全檢測、首個支持提示注入風險檢測的平臺，不僅支持針對多種安全風險測評，更能覆蓋圖像識別、人臉識別、目標檢測、生成式AI等多場景，輸出安全評分及分析報告，并提供相應的安全加固方案。智腦風控引擎，為大模型內容安全保駕護航。在使用安全工具的輔助下，大模型風控能力的迭代效率也將提升?；诎踩ぞ咴鰪?，360紅藍對抗團隊僅需輸入風險主題和目標大模型，即可對線上大模型的風險自動巡查。而微調和強化學習技術的引入，也有效提升大模型回復安全。另外，基于幻覺檢測Agent，大模型輸出可信度也得到進一步的提升。這一套完善的大模型安全方案支持SaaS、私有化、混合云、公有云多種部署或交付方式，滿足企業(yè)對便捷、成本、安全等多種因素的個性化需求。

在大模型安全解決方案上，360集團從未停歇。從技術創(chuàng)新到舉辦大模型攻防競賽，再到參與大模型國家標準的編寫，360集團始終致力于為AI大模型的安全發(fā)展貢獻力量，護航大模型應用，助力數(shù)智化轉型。