人工智能作為全球性的技術(shù)挑戰(zhàn)，正在超越單純的科技維度，走進全球治理議程。近日，一場主題為“人工智能最新發(fā)展趨勢暨全球人工智能治理”的圓桌研討會在復(fù)旦大學(xué)舉行。來自計算機科學(xué)、技術(shù)哲學(xué)、國際問題研究等領(lǐng)域的專家齊聚一堂，聚焦前沿創(chuàng)新，共商全球治理。

技術(shù)背后的叩問

復(fù)旦大學(xué)發(fā)展研究院常務(wù)副院長、文科資深教授彭希哲在致辭中表示，前沿科技的創(chuàng)新不僅帶來了豐厚的技術(shù)紅利，也將諸多不確定性和復(fù)雜性挑戰(zhàn)推到了前臺。人工智能作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，既對發(fā)展新質(zhì)生產(chǎn)力、推動產(chǎn)業(yè)優(yōu)化升級起到了關(guān)鍵作用，也在不斷叩問技術(shù)背后隱藏的人類主體性、科技倫理、社會治理乃至全球治理的深層問題。

就類腦智能和通用人工智能（AGI）的發(fā)展，復(fù)旦大學(xué)類腦智能科學(xué)與技術(shù)研究院/大數(shù)據(jù)學(xué)院院長馮建峰教授提出，實現(xiàn)通用人工智能至少有兩種路徑：一是“功能類腦”，以深度神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)，根據(jù)功能人工設(shè)計結(jié)構(gòu)；二是“結(jié)構(gòu)類腦”。為此，復(fù)旦大學(xué)成立了亞洲頂級腦影像中心，積累了大量健康和疾病大腦數(shù)據(jù)，希望通過對比分析，建模和理論研究找到實現(xiàn)AGI的理論和算法基礎(chǔ)。

大語言模型的演化方向

香港科技大學(xué)常務(wù)副校長、香港生成式人工智能研究中心主任郭毅可教授認為，人工智能的飛躍實際上才剛剛開始。在他看來，語言不僅是交流工具，更是思維的編碼與解碼。目前的大模型主要通過信息壓縮和向量化實現(xiàn)語言理解，缺乏抽象能力、主觀價值和情感意識。他認為人性化的語言模型是未來大模型發(fā)展的必然趨勢。

大語言模型如何演化為世界模型？復(fù)旦大學(xué)計算機科學(xué)技術(shù)學(xué)院MOSS系統(tǒng)負責(zé)人邱錫鵬教授指出，語言對于通用人工智能而言極其重要，而目前的大語言模型存在很多不足，未來的研究方向是如何將大語言模型演化為世界模型，即一種能夠模擬和理解環(huán)境，并能夠進行決策和預(yù)測的模型，實現(xiàn)“具身智能+世界模型”的目標(biāo)。

前所未有的倫理挑戰(zhàn)

人工智能的快速發(fā)展不僅引發(fā)一場深刻的范式變革，同時也帶來了前所未有的倫理挑戰(zhàn)。同濟大學(xué)人文學(xué)院特聘教授杜嚴(yán)勇指出，在國家和國際組織層面，盡管相關(guān)戰(zhàn)略和相關(guān)倫理規(guī)范出臺頻繁，但大多還難以對人工智能的發(fā)展形成強有力的約束。目前的人工智能治理有三大特點：一是治理服務(wù)于國家戰(zhàn)略；二是倫理治理受到普遍重視，但治理體制不完善；三是科學(xué)家、企業(yè)家在一定程度上主導(dǎo)倫理治理，倫理學(xué)家話語權(quán)不強。未來應(yīng)加強倫理委員會建設(shè)，結(jié)合具體場景實現(xiàn)倫理和技術(shù)的融合，提高學(xué)術(shù)團體與學(xué)者自律，并讓倫理學(xué)家發(fā)揮更大作用。

上海人工智能實驗室治理研究中心副主任王迎春研究員指出，中國高度重視人工智能安全，通過備案制和評測機制等管理大模型。未來需要進一步構(gòu)建評測科學(xué)體系，發(fā)展多學(xué)科融合的評測技術(shù)和工具，也應(yīng)繼續(xù)高度重視并積極參與推動相關(guān)基準(zhǔn)對接和推進跨文化對齊工作。通過構(gòu)建發(fā)展和安全的雙基座，為人工智能的發(fā)展和應(yīng)用提供一個安全的基礎(chǔ)。

上海市科學(xué)學(xué)研究所科技與社會研究室副主任李輝研究員通過全球?qū)＜业亩鄻右暯牵接懥巳斯ぶ悄芗夹g(shù)的本質(zhì)和治理規(guī)律，強調(diào)技術(shù)理解的重要性以及全球領(lǐng)導(dǎo)力在定義和推動人工智能治理中的作用。

全球治理格局的關(guān)鍵變量

人工智能發(fā)展正成為影響國家間力量平衡和全球治理格局的關(guān)鍵變量，背后既有國家間的戰(zhàn)略競爭，也有全球治理合作。復(fù)旦大學(xué)美國研究中心副主任趙明昊教授指出，地緣技術(shù)是探討技術(shù)與國際關(guān)系的交匯點。當(dāng)前，中美兩國在科技領(lǐng)域，尤其是人工智能領(lǐng)域的競爭日益加劇。這場技術(shù)博弈不僅是中美兩國之間的，也是全球性的。

復(fù)旦大學(xué)發(fā)展研究院青年副研究員姚旭指出，在全球人工智能治理方面，當(dāng)前不同國家和地區(qū)采取了不同的路徑，中國始終堅持發(fā)展與安全監(jiān)管并行。全球主要行為體都在加大對人工智能技術(shù)發(fā)展的投入和支持，除了政策、技術(shù)和產(chǎn)業(yè)的結(jié)合外，人工智能發(fā)展的未來將極大依賴于數(shù)據(jù)的質(zhì)量和可獲取性。

本次研討會由復(fù)旦大學(xué)發(fā)展研究院主辦，“中美友好互信合作計劃”平臺首席專家蔣昌建主持。復(fù)旦大學(xué)發(fā)展研究院自1993年成立以來，一直致力于成為國內(nèi)高校智庫建設(shè)的先行者和中國特色新型智庫的探路者，是首批上海市重點智庫、中國十大最具影響力智庫，在國家治理、社會治理、生態(tài)治理、網(wǎng)絡(luò)治理和科技創(chuàng)新等領(lǐng)域，形成了一系列面向世界和國家需求的學(xué)術(shù)研究和決策咨詢成果。