隨著人工智能技術(shù)從理論探索邁向大規(guī)模產(chǎn)業(yè)應(yīng)用,尤其是通用人工智能(AGI)的曙光初現(xiàn),如何對人工智能,特別是未來可能出現(xiàn)的通用應(yīng)用系統(tǒng)進行有效治理,已成為全球科技、倫理與政策領(lǐng)域的核心議題。在《人工智能的發(fā)展和應(yīng)用》系列講座的第五講中,賽智產(chǎn)業(yè)研究院院長趙剛博士聚焦“人工智能現(xiàn)代化治理”,為我們系統(tǒng)闡述了在通用應(yīng)用系統(tǒng)時代來臨之際,構(gòu)建與之匹配的治理框架的緊迫性、核心原則與實踐路徑。
趙剛院長開宗明義地指出,人工智能通用應(yīng)用系統(tǒng)將不再是解決單一問題的工具,而是具備跨領(lǐng)域?qū)W習(xí)、推理和決策能力的復(fù)雜系統(tǒng)。其能力邊界與應(yīng)用場景的極大拓展,使得傳統(tǒng)針對特定、窄域AI的監(jiān)管與治理模式面臨失效風(fēng)險。因此,推進治理體系的“現(xiàn)代化”,其本質(zhì)是前瞻性地構(gòu)建一個能夠適應(yīng)技術(shù)快速迭代、平衡創(chuàng)新發(fā)展與風(fēng)險防控的動態(tài)治理生態(tài)。
講座中,趙剛系統(tǒng)梳理了人工智能現(xiàn)代化治理的三大核心支柱:
第一,治理理念需從“事后監(jiān)管”轉(zhuǎn)向“敏捷治理”與“貫穿式治理”。 對于通用應(yīng)用系統(tǒng),其研發(fā)周期長、潛在影響深遠,治理必須深度嵌入技術(shù)研發(fā)、測試驗證、部署應(yīng)用和迭代升級的全生命周期。這意味著需要建立“監(jiān)管沙盒”、實時風(fēng)險評估與動態(tài)合規(guī)調(diào)整機制,使治理規(guī)則本身具備足夠的彈性和適應(yīng)性,與技術(shù)發(fā)展同步演進。
第二,治理框架需實現(xiàn)“技術(shù)-倫理-法律”的協(xié)同。 趙剛強調(diào),單純依靠技術(shù)標(biāo)準(zhǔn)或滯后立法都難以應(yīng)對挑戰(zhàn)。現(xiàn)代化治理需要三位一體:在技術(shù)層面,推動可解釋性、魯棒性、可控性等關(guān)鍵技術(shù)指標(biāo)的研發(fā)與標(biāo)準(zhǔn)化;在倫理層面,將公平、透明、問責(zé)、人類監(jiān)督等價值原則轉(zhuǎn)化為可評估、可審計的具體準(zhǔn)則;在法律層面,則需明確責(zé)任主體、事故歸責(zé)、數(shù)據(jù)與算法權(quán)利等法律邊界,為技術(shù)創(chuàng)新劃定安全的“競技場”。
第三,治理主體需形成“多元共治”的格局。 政府、企業(yè)、科研機構(gòu)、行業(yè)組織、公眾及國際社會需共同參與。政府負責(zé)制定頂層設(shè)計、底線規(guī)則與國際協(xié)調(diào);企業(yè)與研發(fā)機構(gòu)需承擔(dān)主體責(zé)任,建立內(nèi)部治理與倫理審查委員會;行業(yè)組織可推動形成共識性標(biāo)準(zhǔn)與最佳實踐;公眾參與則能確保技術(shù)發(fā)展符合社會公共利益。趙剛特別指出,在通用人工智能領(lǐng)域,加強全球?qū)υ捙c合作,探索建立國際性的治理準(zhǔn)則與協(xié)調(diào)機制至關(guān)重要,以避免“治理洼地”和惡性競爭。
針對人工智能通用應(yīng)用系統(tǒng)的具體挑戰(zhàn),趙剛進一步分析了幾個關(guān)鍵治理領(lǐng)域:在安全與可控性方面,必須確保系統(tǒng)目標(biāo)與人類價值觀對齊,防止濫用和自主產(chǎn)生危害;在數(shù)據(jù)與隱私方面,需在賦能系統(tǒng)與保護個人權(quán)利之間取得新平衡;在經(jīng)濟與社會影響方面,需前瞻研究對就業(yè)、財富分配和社會結(jié)構(gòu)的沖擊,并制定適應(yīng)性政策。
趙剛道,人工智能的現(xiàn)代化治理并非為了束縛創(chuàng)新的手腳,而是為其鋪設(shè)更堅實、更可持續(xù)的發(fā)展軌道。面對通用應(yīng)用系統(tǒng)這一可能重塑人類文明形態(tài)的強大技術(shù),我們唯有以高度的責(zé)任感和前瞻性,構(gòu)建起理性、包容、有效的現(xiàn)代化治理體系,才能確保人工智能技術(shù)最終造福全人類,引領(lǐng)社會邁向智能、公平、繁榮的新未來。本次講座為業(yè)界、學(xué)界和政策制定者理解與應(yīng)對下一波人工智能浪潮的治理挑戰(zhàn),提供了極具價值的框架性思考。