中國消費者報北京訊(記者聶國春)日前,世界數(shù)字科學(xué)院(WDTA)在聯(lián)合國日內(nèi)瓦總部正式發(fā)布AI STR系列新標(biāo)準(zhǔn)《AI智能體運行安全測試標(biāo)準(zhǔn)》,標(biāo)準(zhǔn)由螞蟻集團、清華大學(xué)、中國電信牽頭,聯(lián)合普華永道、新加坡南洋理工大學(xué)、美國圣路易斯華盛頓大學(xué)等20余家國內(nèi)外機構(gòu)、企業(yè)及高校共同編制。
該標(biāo)準(zhǔn)針對智能體跨越“語言墻”所帶來的行為風(fēng)險,首次將輸入輸出、大模型、RAG、記憶和工具5個關(guān)鍵鏈路與運行環(huán)境對應(yīng)起來,構(gòu)建了全鏈路風(fēng)險分析框架;同時,細(xì)分了智能體風(fēng)險類型,完善并創(chuàng)新提出了模型檢測、網(wǎng)絡(luò)通信分析和工具模糊測試等測試方法,彌補了智能體安全測試技術(shù)標(biāo)準(zhǔn)的空白。
最新調(diào)研數(shù)據(jù)顯示,超過70%的智能體從業(yè)者擔(dān)憂AI幻覺與錯誤決策、數(shù)據(jù)泄露等問題;超半數(shù)受訪者表示,所在企業(yè)尚未設(shè)立明確的智能體安全負(fù)責(zé)人。據(jù)悉,該標(biāo)準(zhǔn)不僅提供了一套可行可靠的智能體安全基準(zhǔn),也為全球AI智能體生態(tài)的安全、可信和可持續(xù)發(fā)展提供了有益探索。目前,部分標(biāo)準(zhǔn)的測評與認(rèn)證已在金融、醫(yī)療等領(lǐng)域落地應(yīng)用。

官方微信公眾號

官方微博













