• 周鴻祎
• 安全
• AI

2024年全國(guó)兩會(huì)大幕開(kāi)啟，全國(guó)政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎正式進(jìn)入履職的第七年。作為安全科技領(lǐng)域的委員代表，周鴻祎兩會(huì)提案關(guān)注通用大模型安全問(wèn)題，建議制定通用大模型安全標(biāo)準(zhǔn)體系，鼓勵(lì)兼具“安全和AI”能力的企業(yè)解聚焦攻堅(jiān)，承擔(dān)重?fù)?dān)。

當(dāng)前，人工智能引領(lǐng)的全球新一輪科技革命和產(chǎn)業(yè)變革加速演進(jìn)，通用大模型作為推動(dòng)技術(shù)變革的核心，是時(shí)代發(fā)展的關(guān)鍵引擎，在國(guó)家的高度重視下，我國(guó)通用大模型發(fā)展迅速。然而，安全問(wèn)題隨著技術(shù)的發(fā)展愈發(fā)凸顯。安全與發(fā)展是一體之兩翼，驅(qū)動(dòng)之雙輪，通用大模型的安全意義重大，關(guān)系到技術(shù)研發(fā)落地全產(chǎn)業(yè)鏈的安全，微小的安全問(wèn)題便有可能引發(fā)系統(tǒng)性的安全風(fēng)險(xiǎn)，因此更需要國(guó)家和企業(yè)重點(diǎn)應(yīng)對(duì)和保障。

周鴻祎將通用人工智能技術(shù)引發(fā)的復(fù)雜安全風(fēng)險(xiǎn)分為技術(shù)安全、內(nèi)容安全和人類(lèi)安全三個(gè)方面。其中，技術(shù)安全主要涉及大模型技術(shù)本身引發(fā)的安全問(wèn)題，如網(wǎng)絡(luò)、數(shù)據(jù)和生成內(nèi)容的安全；內(nèi)容安全則是對(duì)大模型的控制、濫用、誤用和惡意應(yīng)用等問(wèn)題；而人類(lèi)安全問(wèn)題則是大模型強(qiáng)大后帶來(lái)的安全可控問(wèn)題。他在提案中特意加以說(shuō)明，稱(chēng)通用大模型的發(fā)展已不是單純的科技之爭(zhēng)，更是國(guó)運(yùn)之爭(zhēng)，影響深遠(yuǎn)，中國(guó)應(yīng)盡早未雨綢繆，重視大模型安全。

為此，周鴻祎提出三點(diǎn)建議。首先，他指出目前國(guó)內(nèi)的大模型安全問(wèn)題不容樂(lè)觀，建議有關(guān)部門(mén)采用揭榜掛帥等方式，鼓勵(lì)并扶持兼具“安全和AI”能力的企業(yè)，更好發(fā)揮其解決通用大模型安全問(wèn)題的重要作用。

其次，周鴻祎認(rèn)為，現(xiàn)階段將安全模塊作為大模型外掛的做法已不可行，安全需要貫穿通用大模型的整個(gè)構(gòu)建過(guò)程，確保安全措施在系統(tǒng)的整個(gè)生命周期中得到充分考慮和實(shí)施。建議國(guó)家研究制定保障通用大模型安全的標(biāo)準(zhǔn)體系，推動(dòng)通用大模型開(kāi)展安全評(píng)測(cè)、接入安全服務(wù)，降低通用大模型安全風(fēng)險(xiǎn)。

最后，相比民營(yíng)企業(yè)以及其他各類(lèi)組織，政府、央國(guó)企對(duì)通用大模型的應(yīng)用具有更高的安全標(biāo)準(zhǔn)，不僅關(guān)涉商業(yè)安全，更關(guān)涉國(guó)家安全。因此，他建議政府、央國(guó)企與兼具“安全和AI”能力的企業(yè)在大模型安全領(lǐng)域展開(kāi)深入合作，發(fā)揮此類(lèi)企業(yè)在人工智能安全領(lǐng)域的優(yōu)勢(shì)作用，為國(guó)家安全貢獻(xiàn)力量。