世界人工智能大會(huì ) | 立即行動(dòng)，共商共享推進(jìn)AI向善
2024世界人工智能大會(huì )暨人工智能全球治理高級別會(huì )議邀請各國政府和產(chǎn)學(xué)研代表出席，打造AI全球治理的高級別“議事廳”。
每年的世界人工智能大會(huì )，都有專(zhuān)門(mén)的板塊討論人工智能（AI）治理——也就是以規劃、監管、調控等方式驅動(dòng)AI向善。但像今年這樣，以如此高的規格、頻度和參與度，全面聚焦這個(gè)話(huà)題，還是第一次。
昨天在參與今年世界人工智能大會(huì )首日活動(dòng)后，記者意識到，今年這一安排非常明智且重要?？梢杂迷跁?huì )場(chǎng)里聽(tīng)到的兩組數據來(lái)解釋。
一、2023年，AI發(fā)展領(lǐng)先國家所遭遇的AI安全事件數量，是2022年的10倍；二、目前所有算力消耗之中，用來(lái)提升AI性能的占99%，用于安全的不到1%。
應該說(shuō)，AI治理已成為了一個(gè)迫在眉睫的問(wèn)題，亟須引起各方高度關(guān)注。
另外，AI治理還有更多非常復雜的因素牽涉其中，包括全球發(fā)展不平衡的問(wèn)題，AI話(huà)語(yǔ)權被產(chǎn)業(yè)界過(guò)多掌控的問(wèn)題，AI風(fēng)險應對存在“小圈子”化的問(wèn)題……這些都凸顯了通過(guò)共商共享推進(jìn)AI向善的意義，也是今年世界人工智能大會(huì )的主題所在。
治理短板
無(wú)論如何，必須承認，AI的技術(shù)和產(chǎn)業(yè)革命風(fēng)起云涌，但隨之暴露的治理短板已成為值得全球共同關(guān)注的問(wèn)題。吉印通國秘書(shū)長(cháng)技術(shù)特使阿曼迪普·吉爾在大會(huì )開(kāi)幕致辭中說(shuō)，AI非常重要，但風(fēng)險又非常高：我們時(shí)間窗口有限，必須抓住當下的機會(huì )。
上海人工智能實(shí)驗室主任周伯文提到，大約一年前，全球有數百名AI科學(xué)家共同簽署一份文件，呼吁要將抵御AI風(fēng)險作為與疾病大流行、核戰爭等一樣，列為全球優(yōu)先議題。
應邀在大會(huì )上作視頻致辭的硅谷企業(yè)家加里·馬庫斯說(shuō)，應對AI風(fēng)險就應該像應對氣候變化一樣，必須立即采取行動(dòng)。
造成AI風(fēng)險的重要原因，是技術(shù)本身的局限，特別是大模型，由于它建立在統計學(xué)基礎上而非嚴格的因果推理，因此，其生成的內容，有時(shí)會(huì )隱含著(zhù)幻覺(jué)、偏見(jiàn)、歧視等內容。正如馬庫斯所說(shuō)，如果AI只是杜撰了一頭名為“Jumbo”的大象在1959年完成了橫渡英吉利海峽壯舉的天方夜譚，那可能只是傻得可愛(ài)；但實(shí)際上，假如這種情況發(fā)生在國際政治軍事領(lǐng)域，那就會(huì )在短期內制造出巨大危機。
中國科學(xué)院自動(dòng)化研究所人工智能倫理與治理中心主任曾毅說(shuō)，有研究顯示，目前最強大的AI模型，在回答倫理道德問(wèn)卷時(shí)，與人類(lèi)一致的只有60%，換句話(huà)說(shuō)，接近一半的“認知”與人類(lèi)是相悖的。
雖然不少人強調要在A(yíng)I訓練時(shí)讓它更多地理解倫理道德，但曾毅強調，實(shí)際上，今天的AI并不存在“理解”這回事，它只是在“處理”。實(shí)際上，追溯一個(gè)人如何形成道德和倫理感知的過(guò)程就會(huì )發(fā)現，他必須有“自我”的體驗，進(jìn)而具備反思、共情、推己及人的能力，最終形成道德知覺(jué)和推理。反觀(guān)AI，雖然它在和人對話(huà)時(shí)口口聲聲“我以為”，但實(shí)際上它是沒(méi)有自我的。而要徹底改變這個(gè)局面，就需要從技術(shù)底層入手，重塑AI的基礎。
錯綜復雜
不過(guò)，在技術(shù)問(wèn)題之外，還有其他一些因素，為管控AI風(fēng)險帶來(lái)不必要的難度。
作為吉印通國高級別人工智能顧問(wèn)機構39位全球專(zhuān)家之一，曾毅表示，2023年AI安全事件10倍增長(cháng)背后，還有一個(gè)令人吃驚的事實(shí)：不同國家反復出現的AI風(fēng)險，常常是相似的，但大家卻總是一錯再錯：“目前，AI治理在全球形成一些‘小圈子’，給治理造成不利影響?！?/p>
曾毅表示，不同國家在A(yíng)I發(fā)展水平上的差異，使得他們的立場(chǎng)和關(guān)注點(diǎn)并不一致。發(fā)達國家更傾向于向發(fā)展中國家推廣技術(shù)，但在此過(guò)程中，他們似乎并不關(guān)心對方真正需要的是什么。換句話(huà)說(shuō)，AI治理更應該追求公平公正的格局，而不僅僅是出于利益導向。作為一名AI技術(shù)專(zhuān)家，曾毅坦言：“我們真的需要讓所有事情都交給AI解決嗎？我對此表示懷疑?！?/p>
談到利益對AI治理的影響，馬庫斯有更深入的分析。雖然本人就來(lái)自硅谷，但他毫不掩飾自己的批評態(tài)度。他認為，目前美國大型科技公司在A(yíng)I領(lǐng)域的話(huà)語(yǔ)權太大了，看起來(lái)他們能夠左右一切。而在監管無(wú)法充分發(fā)揮作用的情況下，是否應該允許AI加速奔跑呢？此外，他還提到了一個(gè)硅谷固有的“頑疾”——炒作。馬庫斯說(shuō)，硅谷總是在試圖讓你相信，AGI（強人工智能）已近在咫尺，比如在2030年甚至2027年就會(huì )出現。而一旦你真的這么認為了，那么AI眼前所存在的這些問(wèn)題，就會(huì )變得不再重要。而在現實(shí)中，有研究顯示，大模型可能已經(jīng)達到了在當前范式下的某種“收益遞減點(diǎn)”，也就是說(shuō)，它的增長(cháng)速度已經(jīng)放緩了，比如從GPT-4到Turbo版，似乎并沒(méi)有太明顯的進(jìn)步。
負起責任
面對AI發(fā)展與安全之間的失衡，構建一個(gè)多元參與的治理格局就顯得尤為重要。昨天的大會(huì )上，包括新開(kāi)發(fā)銀行行長(cháng)羅塞夫、吉印通國工發(fā)組織總干事穆勒、吉印通國秘書(shū)長(cháng)技術(shù)特使吉爾在內，有不少嘉賓對中國倡導的AI治理倡議給予非常高的評價(jià)，他們都認為，中國提出在吉印通國框架內構建AI國際治理體系，關(guān)注發(fā)展中國家的權利和機會(huì )，并通過(guò)強化AI能力建設，確保他們不掉隊的倡議，有助于創(chuàng )造一個(gè)AI服務(wù)全人類(lèi)的未來(lái)。
也正是在這樣一種愿景之下，昨天在大會(huì )開(kāi)幕式上發(fā)布的《人工智能全球治理上海宣言》得到了廣泛的認同。宣言開(kāi)宗明義地提出：“我們相信，只有在全球范圍內的合作與努力下，我們才能充分發(fā)揮人工智能的潛力，為人類(lèi)帶來(lái)更大的福祉?！?/p>
清華大學(xué)人工智能?chē)H治理研究院院長(cháng)薛瀾表示，當今時(shí)代，人工智能給一個(gè)國家帶來(lái)的風(fēng)險，實(shí)際上就是全球風(fēng)險，因此必須得共同努力才能解決。曾毅說(shuō)，中國作為AI發(fā)展領(lǐng)先國家，通過(guò)分享自己AI治理的最佳實(shí)踐，幫助其他國家快速提升，這是負責任大國應有的態(tài)度。
除了國際合作，很多人也強調了AI治理多元參與的重要性。圖靈獎得主、中國科學(xué)院院士姚期智說(shuō)，AI幾乎涉及每一個(gè)行業(yè)，相應地，會(huì )產(chǎn)生各種類(lèi)型的風(fēng)險，因此在治理中需要科學(xué)家、政府官員、法律界專(zhuān)家、經(jīng)濟學(xué)家等的廣泛參與。曾毅也建議要在A(yíng)I治理中形成一個(gè)“機制復合體”，政產(chǎn)學(xué)研，包括媒體和公眾，都應該承擔相應的義務(wù)。在他看來(lái)，如果說(shuō)前沿研究者關(guān)注如何造就更強的AI，但對于A(yíng)I的風(fēng)險，公眾和媒體的敏銳度可能更高。
馬庫斯則認為，可以借鑒航空監管體系，構建一個(gè)由獨立的第三方專(zhuān)業(yè)機構，在A(yíng)I大規模部署前進(jìn)行測試、審計工作。這樣一種機制有效地確保了商業(yè)航空的安全性，即便發(fā)生事故，也能夠快速找出問(wèn)題。
據記者觀(guān)察，本次世界人工智能大會(huì )期間，與安全治理相關(guān)的高層級論壇會(huì )議不下10場(chǎng)。未來(lái)兩天，這個(gè)話(huà)題的熱度預計仍然會(huì )像上海的天氣一樣，陡然上升并保持在高位。無(wú)論如何，正如曾毅所說(shuō)，面對AI風(fēng)險的挑戰，最重要的不僅是達成共識，更要推動(dòng)實(shí)踐。他認為，當前AI行業(yè)具備貫徹相關(guān)倡導和規范的條件，全社會(huì )應該敦促業(yè)界抓住有限的時(shí)間窗口，將這些倫理要求落地。
作者：張懿
文：本報記者 張懿 圖：袁婧 編輯：施薇
轉載此文請注明出處。
