時(shí)下，作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，人工智能正帶來前所未有發(fā)展機(jī)遇。用AI算法驅(qū)動生產(chǎn)，請AI“健康管家”根據(jù)個(gè)性化營養(yǎng)需求定制食譜，通過AI系統(tǒng)優(yōu)化紅綠燈配時(shí)、緩解交通擁堵……人工智能技術(shù)正深度融入社會經(jīng)濟(jì)的方方面面，走進(jìn)人們的日常生活。

美國公司Relativity Space執(zhí)行董事長兼首席執(zhí)行官埃里克·施密特預(yù)計(jì)，今后兩年將涌現(xiàn)一大批AI智能體，可以通過語言記憶來完成任務(wù)，即人類發(fā)出語言指令，智能體記住指令并采取行動。這將對企業(yè)產(chǎn)生巨大影響。

中國人工智能企業(yè)MiniMax創(chuàng)始人、首席執(zhí)行官閆俊杰注意到，AI正不斷拓展應(yīng)用場景，還在與人類一起持續(xù)改進(jìn)AI自身。今后，AI將日益強(qiáng)大，且這種變化“有可能是無止境的”。

(資料圖)

但與此同時(shí)，人工智能也帶來前所未遇的風(fēng)險(xiǎn)挑戰(zhàn)。如何確保人工智能安全可控，始終沿著人類文明進(jìn)步方向發(fā)展，是與會人士最為關(guān)注的問題之一。

上海人工智能實(shí)驗(yàn)室主任、首席科學(xué)家周伯文表示，當(dāng)前人工智能的特點(diǎn)是通用性、可復(fù)制和開源。AI的發(fā)展和安全同樣重要，二者并非零和游戲。

“我們目前仍然沒有科學(xué)方法來確保人工智能的安全性，也無法確保人工智能可以始終符合人類意愿，并被人類控制。”圖靈獎得主約書亞·本吉奧直言。

在2024年諾貝爾物理學(xué)獎得主杰弗里·辛頓看來，人類已習(xí)慣作為頂級智能存在，很難想象被更高級智能主導(dǎo)。“就像飼養(yǎng)虎崽作為寵物，我們必須確保其成年后不會反噬。”

杰弗里·辛頓認(rèn)為，如何訓(xùn)練已經(jīng)相當(dāng)聰明的AI，使其甘于輔助人類，是各國應(yīng)當(dāng)通力合作的重要議題。他主張建立一個(gè)由各國人工智能安全研究機(jī)構(gòu)與協(xié)會組成的國際化社群，促進(jìn)AI向善。

如何避免發(fā)展中國家深陷智能鴻溝，也是亟待解決的一大問題。此前有業(yè)內(nèi)人士指，發(fā)達(dá)國家總體上掌握著比發(fā)展中國家更先進(jìn)的人工智能技術(shù)，這進(jìn)一步影響了后者在國際舞臺上的話語權(quán)。

美國約翰斯·霍普金斯大學(xué)政府與政策學(xué)院教授吉莉安·哈德菲爾德說，應(yīng)當(dāng)確保各國，尤其是那些尚未從工業(yè)革命中充分獲益的國家都能從人工智能發(fā)展中受益。

規(guī)避這些“暗礁”，步伐已經(jīng)邁出。2025世界人工智能大會暨人工智能全球治理高級別會議發(fā)表《人工智能全球治理行動計(jì)劃》稱，及時(shí)開展人工智能風(fēng)險(xiǎn)研判，提出針對性防范應(yīng)對措施，構(gòu)建具有廣泛共識的安全治理框架。

此外，行動計(jì)劃還明確提出，支持各國特別是全球南方結(jié)合自身國情發(fā)展人工智能技術(shù)和服務(wù)，助力全球南方真正接觸和應(yīng)用人工智能，推動人工智能包容普惠發(fā)展。

中國政府26日倡議成立世界人工智能合作組織，初步考慮總部設(shè)在上海。這是中方堅(jiān)持踐行多邊主義、推動共商共建共享全球治理的重要舉措，也是中方響應(yīng)全球南方呼聲、助力彌合數(shù)字和智能鴻溝、促進(jìn)人工智能向善普惠發(fā)展的實(shí)際行動。

標(biāo)簽：