4月17日，第27屆聯合國科技(jì)大(dà)會(huì)在瑞士日內(nèi)瓦盛大(dà)召開(kāi)，世界數(shù)字技(jì)術(shù)院（WDTA）在此次大(dà)會(huì)上(shàng)發布了備受矚目的兩項國際标準——《生(shēng)成式人(rén)工智能應用安全測試标準》和(hé)《大(dà)語言模型安全測試方法》。這兩項創新性的标準，凝聚了OpenAI、螞蟻集團、科大(dà)訊飛、谷歌(gē)、微軟、英偉達、百度、騰訊等衆多(duō)單位的專家(jiā)學者們的智慧與努力。值得(de)一提的是，《大(dà)語言模型安全測試方法》這一标準更是由螞蟻集團牽頭編制(zhì)。

這兩項國際标準的發布，标志(zhì)着全球AI安全領域取得(de)了重要的突破。它們不僅填補了在大(dà)語言模型和(hé)生(shēng)成式AI應用方面安全測試領域的空(kōng)白，而且為(wèi)整個(gè)行(xíng)業提供了統一的測試框架和(hé)明(míng)确的測試方法。這将極大(dà)地提高(gāo)AI系統的安全性，推動AI技(jì)術(shù)朝着更加負責任的方向發展，并增強公衆對AI技(jì)術(shù)的信任感。

作(zuò)為(wèi)本次标準發布的重要參與者，螞蟻集團自2015年起便積極投身于可(kě)信AI技(jì)術(shù)的研究與探索。如今，他們已經建立了完善的大(dà)模型綜合安全治理(lǐ)體(tǐ)系，并自主研發了業界首個(gè)大(dà)模型安全一體(tǐ)化解決方案——“蟻天鑒”。這一解決方案在AIGC安全性和(hé)真實性評測、大(dà)模型智能化風控、AI魯棒和(hé)可(kě)解釋性檢測等方面發揮着重要作(zuò)用。

《大(dà)語言模型安全測評方法》的發布，正是基于“蟻天鑒”AI安全檢測體(tǐ)系的應用實踐，并與全球生(shēng)态夥伴進行(xíng)深入交流後的成果。此外，螞蟻集團還(hái)成立了科技(jì)倫理(lǐ)委員會(huì)和(hé)專門(mén)團隊，負責對生(shēng)成式AI的風險進行(xíng)評估和(hé)管理(lǐ)。公司所有(yǒu)AI産品都必須經過科技(jì)倫理(lǐ)評測機制(zhì)的嚴格審查，以确保AI技(jì)術(shù)的安全性和(hé)可(kě)信度。

世界數(shù)字技(jì)術(shù)院（WDTA）作(zuò)為(wèi)本次标準發布的推動者，是一個(gè)在日內(nèi)瓦注冊的國際非政府組織。它遵從聯合國的指導框架，緻力于在全球範圍內(nèi)推動數(shù)字技(jì)術(shù)的發展，促進國際間(jiān)的合作(zuò)與交流。而AI STR（安全、可(kě)信、負責任）計(jì)劃作(zuò)為(wèi)WDTA的核心倡議之一，旨在确保人(rén)工智能系統的安全性、可(kě)信性和(hé)責任性。螞蟻集團、華為(wèi)、科大(dà)訊飛、國際數(shù)據空(kōng)間(jiān)協會(huì)(IDSA)、弗勞恩霍夫研究所、中國電(diàn)子等均是該計(jì)劃的重要成員單位。

這兩項國際标準的發布，不僅展示了我國在人(rén)工智能領域的深厚實力，也為(wèi)全球AI技(jì)術(shù)的發展提供了有(yǒu)力的支持。未來(lái)，随着更多(duō)企業和(hé)機構加入到這一領域的研究與實踐中來(lái)，相信我們将會(huì)看到更多(duō)創新性的成果湧現，推動人(rén)工智能技(jì)術(shù)的持續進步與發展。