既是守護(hù)者的“火眼金睛” 又能成為攻擊者的“兇器”

AI新模型拉響網(wǎng)絡(luò)安全攻防警報(bào)

【今日視點(diǎn)】

本報(bào)記者 劉 霞

當(dāng)人工智能(AI)的“觸手”伸向網(wǎng)絡(luò)安全領(lǐng)域，一場(chǎng)前所未有的風(fēng)暴悄然降臨。據(jù)美國(guó)《紐約時(shí)報(bào)》網(wǎng)站報(bào)道，Anthropic公司本月初宣布開發(fā)出最新AI模型Claude Mythos Preview(以下簡(jiǎn)稱“Mythos”)。公司聲稱，新模型具備空前的漏洞識(shí)別能力，既能助力企業(yè)查漏補(bǔ)缺，也可能被黑客用作攻擊利刃。公司高管甚至直言，新模型將對(duì)現(xiàn)有網(wǎng)絡(luò)安全體系帶來“顛覆性沖擊”。

由于擔(dān)心新模型可能被濫用，Anthropic公司強(qiáng)調(diào)，暫時(shí)不會(huì)公開發(fā)布Mythos，而是先提供給數(shù)十家關(guān)鍵基礎(chǔ)設(shè)施與頭部科技公司使用。

Mythos既可以成為守護(hù)者的“火眼金睛”，也能成為黑客的“兇器”。當(dāng)AI的智能超越人類修補(bǔ)漏洞的速度，網(wǎng)絡(luò)戰(zhàn)場(chǎng)將會(huì)怎樣？美國(guó)政府高層緊急磋商、金融巨頭如臨大敵、技術(shù)領(lǐng)袖熱烈討論……筑牢數(shù)字世界安全“護(hù)欄”的行動(dòng)迫在眉睫。

Mythos并非專項(xiàng)“安全模型”

Mythos并非專項(xiàng)“安全模型”，而是通用大語(yǔ)言模型，其能力實(shí)現(xiàn)“代際”躍升，源于邏輯推理與智能體自主決策的全面進(jìn)化。在人類指令下，該模型能針對(duì)主流操作系統(tǒng)與瀏覽器，自主挖掘并利用“零日漏洞”。

《紐約時(shí)報(bào)》報(bào)道稱，過去數(shù)周內(nèi)，Mythos已發(fā)現(xiàn)數(shù)千個(gè)高?；驀?yán)重級(jí)漏洞，其中不少已在代碼深處蟄伏10—20年，最古老的甚至在開源系統(tǒng)OpenBSD中隱匿長(zhǎng)達(dá)27年。OpenBSD以高安全性著稱，廣泛用于防火墻等關(guān)鍵基礎(chǔ)設(shè)施。

Anthropic團(tuán)隊(duì)在評(píng)估報(bào)告中直言：這一次，威脅已不再是紙上談兵，高級(jí)語(yǔ)言模型的時(shí)代已然來臨。負(fù)責(zé)測(cè)試公司最先進(jìn)AI系統(tǒng)的前沿紅隊(duì)主管洛根·格雷厄姆表示，Mythos挖掘與利用漏洞的效率約為前代模型的10倍，堪稱網(wǎng)絡(luò)安全行業(yè)“洗牌與變革”的起點(diǎn)。

Anthropic公司強(qiáng)調(diào)，Mythos卓越的能力并非專項(xiàng)訓(xùn)練的產(chǎn)物，而是底層代碼與推理能力整體躍遷的自然結(jié)果。他預(yù)言，類似能力有可能迅速普及于各大模型。若未來的“模型浪潮”能以遠(yuǎn)超防御方打補(bǔ)丁的速度挖掘漏洞，黑客與企業(yè)間的攻防博弈必將急劇升級(jí)。

安全風(fēng)險(xiǎn)引發(fā)高度警惕

美國(guó)白宮《人工智能行動(dòng)計(jì)劃》合著者迪恩·鮑爾對(duì)《國(guó)會(huì)山報(bào)》表示，越來越多美國(guó)官員已意識(shí)到，AI并未如此前預(yù)期的那般平穩(wěn)演進(jìn)，而是呈現(xiàn)爆發(fā)式迭代。“政府尚未做好應(yīng)對(duì)準(zhǔn)備，這是我們必須直面的現(xiàn)實(shí)”。

美國(guó)國(guó)家經(jīng)濟(jì)委員會(huì)主任凱文·哈塞特在接受?？怂剐侣劜稍L時(shí)坦言，AI掌握自主挖掘軟件漏洞的新路徑尚屬新生事物，必須高度警惕。

《國(guó)會(huì)山報(bào)》網(wǎng)站4月14日?qǐng)?bào)道稱，白宮官員正緊急部署應(yīng)對(duì)新模型可能引發(fā)的網(wǎng)絡(luò)安全危機(jī)，AI的潛在風(fēng)險(xiǎn)已躍升為美國(guó)政府的首要關(guān)切。就在Mythos發(fā)布當(dāng)天，美國(guó)財(cái)長(zhǎng)斯科特·貝森特與美聯(lián)儲(chǔ)主席杰羅姆·鮑威爾和華爾街高管舉行閉門會(huì)議，討論Mythos及其他AI模型可能引發(fā)的風(fēng)險(xiǎn)及對(duì)策。此舉無疑加劇了新模型引發(fā)的緊張情緒。據(jù)悉，美聯(lián)儲(chǔ)以往僅在面臨系統(tǒng)性金融風(fēng)險(xiǎn)(如2008年金融危機(jī)或2020年疫情沖擊)時(shí)，才會(huì)啟動(dòng)此類高層級(jí)緊急磋商。

《華爾街日?qǐng)?bào)》稱，美國(guó)國(guó)家網(wǎng)絡(luò)安全總監(jiān)已牽頭組建專項(xiàng)應(yīng)對(duì)小組，召集各部門排查關(guān)鍵基礎(chǔ)設(shè)施的安全軟肋，并全面加固易遭AI攻擊的政府系統(tǒng)防線。

華爾街也迅速響應(yīng)。高盛首席執(zhí)行官大衛(wèi)·所羅門在近日的財(cái)報(bào)電話會(huì)上向投資者強(qiáng)調(diào)：網(wǎng)絡(luò)安全始終是該公司的業(yè)務(wù)核心，他們將持續(xù)加大投入。據(jù)悉，高盛已獲Mythos的優(yōu)先訪問權(quán)限，正攜手Anthropic公司及其他安全廠商筑牢防線。

另?yè)?jù)英國(guó)《金融時(shí)報(bào)》報(bào)道，英國(guó)金融監(jiān)管機(jī)構(gòu)正與政府主要網(wǎng)絡(luò)安全監(jiān)管部門及國(guó)內(nèi)最大銀行緊急磋商，評(píng)估Anthropic最新AI模型可能帶來的風(fēng)險(xiǎn)。加拿大最大銀行和頂級(jí)監(jiān)管機(jī)構(gòu)的高管近日也齊聚一堂，討論這一議題。

“玻璃翼計(jì)劃”防患于未然

除政府和行業(yè)多管齊下加固安全堤壩外，AI公司也紛紛采取行動(dòng)，防患于未然。

為防范新模型被濫用及潛在的安全風(fēng)險(xiǎn)，Anthropic公司明確表示暫不向公眾開放Mythos，轉(zhuǎn)而于4月7日啟動(dòng)“玻璃翼計(jì)劃”。

該計(jì)劃將向亞馬遜AWS、蘋果、博通、思科、微軟、英偉達(dá)等40家關(guān)鍵基礎(chǔ)設(shè)施企業(yè)和科技巨頭開放，用于掃描并修補(bǔ)系統(tǒng)及核心開源項(xiàng)目中的漏洞。其核心邏輯在于：在強(qiáng)大的AI系統(tǒng)全面普及前，搶先排查并封堵潛在的安全缺口，筑牢網(wǎng)絡(luò)安全的“護(hù)欄”。

Anthropic公司透露，“玻璃翼”得名于玻璃翼蝶。此類蝴蝶憑透明雙翼隱藏于繁枝茂葉間，就如現(xiàn)今關(guān)鍵軟件中蟄伏的漏洞，它們深藏于錯(cuò)綜復(fù)雜的技術(shù)架構(gòu)底層，長(zhǎng)期逃過人類安全員的“法眼”。

多家參與該計(jì)劃的企業(yè)強(qiáng)調(diào)，AI能力即將跨越臨界點(diǎn)，關(guān)鍵基礎(chǔ)設(shè)施的防護(hù)工作刻不容緩，必須走向系統(tǒng)化與常態(tài)化。