/為求完整特此更新 -- 國(guó)際人工智能安全報(bào)告主席辦公室/

國(guó)際人工智能安全報(bào)告主席辦公室通知，其於 2 月 4 日透過 PR Newswire 發(fā)佈的新聞稿「2026 年《國(guó)際人工智能安全報(bào)告》勾勒快速變革與新興風(fēng)險(xiǎn)」內(nèi)容已作更新。以下是完整的最新新聞稿，文末附有補(bǔ)充說明：

2026 年《國(guó)際人工智能安全報(bào)告》勾勒快速變革與新興風(fēng)險(xiǎn)

蒙特利爾2026年2月5日 /美通社/ -- 2026 年《國(guó)際人工智能安全報(bào)告》(International AI Safety Report) 今日發(fā)佈，該報(bào)告基於科學(xué)依據(jù)，提供關(guān)於通用人工智能 (AI) 功能、新興風(fēng)險(xiǎn)，以及當(dāng)前風(fēng)險(xiǎn)管理與安全措施現(xiàn)狀的最新國(guó)際共同評(píng)估。

此第二版《國(guó)際人工智能安全報(bào)告》由圖靈獎(jiǎng) (Turing Award) 得主 Yoshua Bengio 主持，匯集逾百位國(guó)際專家，並獲專家諮詢委員會(huì)支持，委員會(huì)成員由來自歐盟 (EU)、經(jīng)濟(jì)合作暨發(fā)展組織 (OECD)、聯(lián)合國(guó) (UN) 等 30 多個(gè)國(guó)家和國(guó)際組織提名。 報(bào)告的結(jié)論將為本月下旬印度主辦的人工智能影響力峰會(huì) (AI Impact Summit) 提供討論依據(jù)。

報(bào)告要點(diǎn)如下：

• 通用人工智能功能繼續(xù)快速進(jìn)步，在數(shù)學(xué)、編程和自主運(yùn)作領(lǐng)域尤甚。2025 年，頂尖人工智能系統(tǒng)在國(guó)際數(shù)學(xué)奧林匹克題目上表現(xiàn)達(dá)到金牌水準(zhǔn)，在科學(xué)基準(zhǔn)測(cè)試中超越博士級(jí)專家水平，並能自主完成一些人類程式員需要耗時(shí)幾小時(shí)的軟件工程任務(wù)。 然而，性能表現(xiàn)依舊參差不齊，系統(tǒng)在某些看似容易的任務(wù)上仍然無法完成。
• 人工智能普及速度迅速，但全球分佈不均。 人工智能普及速度已超越個(gè)人電腦等過往技術(shù)，目前每週至少有 7 億人使用頂尖人工智能系統(tǒng)。 部分國(guó)家有過半人口使用人工智能，但在非洲、亞洲和拉丁美洲的許多地區(qū)，估計(jì)採(cǎi)用率仍低於一成。
• 深偽事件正不斷攀升。人工智能深偽技術(shù)越來越多用於詐騙。 同時(shí)，人工智能生成未經(jīng)同意的私密影像也日益普遍，這對(duì)婦女和女童的影響尤其嚴(yán)重。 例如，一項(xiàng)研究發(fā)現(xiàn)，在 20 款流行的「脫衣」應(yīng)用程式中，有 19 款專注於模擬女性脫衣。
• 對(duì)生物技術(shù)濫用的擔(dān)憂已敲響警鐘，促使部分領(lǐng)先模型增強(qiáng)安全措施。2025 年，鑒於預(yù)部署測(cè)試未能排除系統(tǒng)或?qū)?shí)質(zhì)協(xié)助新手研發(fā)生化武器的可能，幾間人工智能公司紛紛推出防護(hù)升級(jí)的新型號(hào)。
• 犯罪份子等心懷惡意之徒正積極利用通用人工智能發(fā)動(dòng)網(wǎng)絡(luò)攻擊。人工智能系統(tǒng)能生成惡意代碼，並找出犯罪份子可利用的軟件漏洞。 2025 年，一個(gè)人工智能代理在一場(chǎng)重大網(wǎng)絡(luò)安全比賽中躋身隊(duì)伍排名前 5%。 地下市場(chǎng)現(xiàn)已售賣預(yù)先封裝的人工智能工具，降低攻擊所需的技能門檻。
• 縱然眾多防護(hù)措施正在不斷完善，但現(xiàn)行風(fēng)險(xiǎn)管理技術(shù)仍非萬無一失。 縱使如「幻覺」等特定失誤類型已越漸少見，但部分模型現(xiàn)已具備區(qū)分評(píng)估與部署情境的能力，並可相應(yīng)調(diào)整行為，由此為評(píng)估與安全測(cè)試帶來嶄新挑戰(zhàn)。

本報(bào)告主席、蒙特利爾大學(xué)正教授、LawZero 科學(xué)主任暨 Mila - 魁北克 AI 研究所科學(xué)顧問 Yoshua Bengio 表示：

「自一年前首份《國(guó)際人工智能安全報(bào)告》面世以來，我們目睹模型能力與其潛在風(fēng)險(xiǎn)的同步飛躍。技術(shù)進(jìn)步之快與落實(shí)有效防護(hù)措施之力存在落差，這仍是嚴(yán)峻挑戰(zhàn)。 此報(bào)告旨在為決策者提供所需之嚴(yán)謹(jǐn)證據(jù)，以引導(dǎo)人工智能邁向安全可靠、普惠全民的未來。 藉此第二版，我們正於全球各地更新並增強(qiáng)先進(jìn)人工智能快速演進(jìn)的科學(xué)為本共識(shí)理解。 」

英國(guó)人工智能部長(zhǎng) Kanishka Narayan 表示：

「對(duì)人工智能的信任及信心，是徹底發(fā)揮其潛力的關(guān)鍵。 此技術(shù)將帶來升級(jí)公共服務(wù)、嶄新工作機(jī)遇以及改變生活的創(chuàng)新， 但我們亦決心在此技術(shù)發(fā)展過程中保障民眾安全。 負(fù)責(zé)任的人工智能發(fā)展是共同要?jiǎng)?wù)，唯有通力合作才能塑造精彩未來，讓人工智能帶來積極變革。 本報(bào)告正是協(xié)助我們達(dá)成此目標(biāo)——當(dāng)中匯集全球?qū)＜遥_保我們基於堅(jiān)實(shí)的科學(xué)證據(jù)作出當(dāng)下的正確決策，從而奠定根基，開創(chuàng)更光明、更安全的未來?！?/i>