國際權(quán)威期刊《科學(xué)》（Science）雜志發(fā)表了一篇由來自全球多國的25位世界頂尖人工智能、計算機科學(xué)、公共政策及倫理學(xué)領(lǐng)域的科學(xué)家聯(lián)合署名的評論文章。文章的核心議題是呼吁國際社會采取比當(dāng)前“更強有力、更系統(tǒng)化”的集體行動，以應(yīng)對人工智能（AI）技術(shù)快速發(fā)展所帶來的日益嚴(yán)峻的潛在風(fēng)險，并著重提出了建設(shè)“人工智能公共數(shù)據(jù)平臺”這一關(guān)鍵性倡議。
文章開篇即指出，人工智能，尤其是大型語言模型和生成式AI的爆炸式發(fā)展，在帶來生產(chǎn)力革命、科學(xué)發(fā)現(xiàn)加速和社會福祉提升的巨大機遇的也伴隨著一系列深刻且可能不可逆的風(fēng)險。這些風(fēng)險不僅限于技術(shù)層面，更廣泛涉及社會倫理、經(jīng)濟結(jié)構(gòu)、地緣政治乃至人類文明的長期未來。科學(xué)家們列舉的風(fēng)險圖譜包括但不限于：
- 系統(tǒng)性風(fēng)險與失控：高級AI系統(tǒng)可能因其目標(biāo)的復(fù)雜性和不可預(yù)測性，產(chǎn)生與人類價值觀相悖甚至有害的行為，尤其是在自主決策系統(tǒng)中，存在“對齊問題”未能徹底解決而導(dǎo)致的失控風(fēng)險。
- 社會公平與偏見加劇：當(dāng)前AI模型的訓(xùn)練嚴(yán)重依賴互聯(lián)網(wǎng)等來源的數(shù)據(jù)，其中蘊含的社會偏見、歷史不公和虛假信息可能被放大和固化，進一步加劇社會不平等和歧視。
- 安全與惡意濫用：AI能力可能被用于開發(fā)新型網(wǎng)絡(luò)武器、制造高度逼真的虛假信息（如深度偽造）進行輿論操縱、或輔助自動化攻擊系統(tǒng)，對國家安全和個人隱私構(gòu)成嚴(yán)重威脅。
- 經(jīng)濟顛覆與就業(yè)沖擊：AI自動化可能以空前的速度和廣度取代人力，引發(fā)大規(guī)模結(jié)構(gòu)性失業(yè)和社會動蕩，而由此產(chǎn)生的財富可能進一步集中。
- 生態(tài)與資源挑戰(zhàn)：訓(xùn)練和運行尖端AI模型需要巨大的計算資源和能源消耗，其碳足跡對環(huán)境可持續(xù)性構(gòu)成挑戰(zhàn)。
科學(xué)家們認(rèn)為，目前各國政府、產(chǎn)業(yè)界和國際組織采取的措施——如自愿性的倫理準(zhǔn)則、行業(yè)自律和零散的監(jiān)管提案——在應(yīng)對上述系統(tǒng)性、全球性挑戰(zhàn)方面顯得“碎片化且力度不足”。他們強調(diào)，AI風(fēng)險的本質(zhì)是跨國界的，任何單一國家或公司的行動都難以奏效，必須依靠全球性的協(xié)調(diào)與合作。
為此，聯(lián)名文章的核心建議是倡議并推動建立“人工智能公共數(shù)據(jù)平臺”。這一平臺構(gòu)想具有以下關(guān)鍵特征與目標(biāo)：
- 開放與協(xié)作的研究基礎(chǔ)設(shè)施：平臺旨在成為一個全球科學(xué)家、工程師和倫理學(xué)家可以安全、可控地訪問高質(zhì)量、多樣化數(shù)據(jù)集和標(biāo)準(zhǔn)化計算資源的公共空間。其核心是打破目前高質(zhì)量訓(xùn)練數(shù)據(jù)被少數(shù)大型科技公司壟斷的局面，促進更廣泛、更透明的AI安全與對齊研究。
- 專注于安全與對齊研究：平臺將優(yōu)先支持對AI系統(tǒng)安全性、魯棒性、可解釋性和價值觀對齊（Alignment）的研究。例如，研究人員可以在平臺上系統(tǒng)地測試AI模型在極端或?qū)剐郧榫诚碌男袨椋_發(fā)更有效的“紅隊測試”方法，以及探索讓AI系統(tǒng)穩(wěn)定遵循復(fù)雜人類倫理框架的技術(shù)路徑。
- 標(biāo)準(zhǔn)化的風(fēng)險評估基準(zhǔn)：通過平臺，國際社會可以共同開發(fā)和維護一套權(quán)威、動態(tài)更新的AI風(fēng)險評估基準(zhǔn)與測試標(biāo)準(zhǔn)。這將為客觀衡量不同AI模型的風(fēng)險水平、比較不同安全技術(shù)的有效性提供共同標(biāo)尺，也為監(jiān)管政策的制定提供科學(xué)依據(jù)。
- 促進全球治理與監(jiān)管合作：該平臺的建設(shè)和運營本身可以成為國際AI治理合作的典范。它需要建立包括政府、學(xué)術(shù)界、產(chǎn)業(yè)界和民間社會代表在內(nèi)的多邊治理架構(gòu)，制定嚴(yán)格的數(shù)據(jù)安全、訪問權(quán)限和研究成果共享協(xié)議，為未來更廣泛的國際AI治理條約或框架奠定實踐基礎(chǔ)。
科學(xué)家們在文章中承認(rèn)，建立這樣一個全球性平臺面臨政治意愿協(xié)調(diào)、資金籌集、技術(shù)實現(xiàn)、數(shù)據(jù)隱私保護以及防止技術(shù)被濫用的多重挑戰(zhàn)。但他們強調(diào)，與無所作為可能帶來的災(zāi)難性風(fēng)險相比，投入資源建設(shè)這樣的“全球公共品”是必要且緊迫的投資。
這25位頂尖科學(xué)家向全球的研究機構(gòu)、國家政府、科技企業(yè)和公民社會發(fā)出強烈呼吁：必須立即提升AI風(fēng)險防范的政治與資源優(yōu)先級。他們敦促二十國集團（G20）、聯(lián)合國等主要多邊論壇將建立“人工智能公共數(shù)據(jù)平臺”及相關(guān)治理框架列入核心議程，并啟動實質(zhì)性的籌備工作。他們認(rèn)為，在AI能力可能超越人類智能關(guān)鍵閾值的“臨界點”到來之前，人類社會必須建立起有效監(jiān)督和引導(dǎo)這一強大技術(shù)的集體能力。此次聯(lián)名發(fā)聲，標(biāo)志著科學(xué)共同體對AI治理的關(guān)切已達到一個新的高度，也為全球應(yīng)對AI時代的共同挑戰(zhàn)指明了一條以開放科學(xué)和國際合作為基礎(chǔ)的前進道路。
