從蒸汽機(jī)驅(qū)動(dòng)工業(yè)革命，到電力重塑生產(chǎn)方式，再到信息技術(shù)顛覆社會(huì)連接，歷次技術(shù)飛躍都深刻重構(gòu)了人類(lèi)文明的軌跡。而正在迅猛發(fā)展的人工智能的獨(dú)特之處在于：它催生了首個(gè)具備自主演進(jìn)能力的智能主體。

　　生成式AI正在以周為單位迭代，人類(lèi)文明再次站在了躍遷的臨界點(diǎn)。與此同時(shí)，疑惑、反思、擔(dān)憂(yōu)接踵而來(lái)：

　　當(dāng)人工智能大量自動(dòng)化及替代人類(lèi)工作時(shí)，人類(lèi)與人工智能如何共洽?

　　當(dāng)人工智能像電流一般滲透進(jìn)人類(lèi)的工作生活，人類(lèi)文明面臨何種挑戰(zhàn)?挑戰(zhàn)之中人類(lèi)文明將面臨威脅還是躍升?

　　當(dāng)人工智能變得越來(lái)越成熟甚至超越人的智慧，人類(lèi)如何保全自己的主體性?人類(lèi)文明將發(fā)生什么樣的變化、又需要何種核心價(jià)值觀的支撐?

　　種種嶄新的疑問(wèn)面前，漸進(jìn)式的討論與思考必不可少。

　　經(jīng)濟(jì)觀察報(bào)專(zhuān)訪中共中央黨校社會(huì)和生態(tài)文明教研部教授丁元竹，探討人工智能時(shí)代的人類(lèi)文明走向。丁元竹長(zhǎng)期致力于人工智能與社會(huì)治理、人類(lèi)文明演進(jìn)交叉研究，在其著作《從篝火到AI：窺見(jiàn)無(wú)垠的共同體》中，丁元竹曾對(duì)人工智能在未來(lái)社會(huì)的角色、人類(lèi)社會(huì)關(guān)系網(wǎng)絡(luò)變化的可能趨勢(shì)與問(wèn)題、未來(lái)社會(huì)的可能特征等進(jìn)行了分析。

　　以下為經(jīng)濟(jì)觀察報(bào)與丁元竹的專(zhuān)訪內(nèi)容。

　　人工智能對(duì)社會(huì)文明帶來(lái)威脅還是躍升?

　　經(jīng)濟(jì)觀察報(bào)：人工智能是一種新技術(shù)、新智能，你認(rèn)為社會(huì)目前對(duì)人工智能的接受程度如何?

　　丁元竹：要使人們接受新技術(shù)，需要把各個(gè)利益相關(guān)方都納入考量范圍，與社會(huì)開(kāi)展對(duì)話(huà)，提高技術(shù)的社會(huì)接受度?？v觀智人歷史就會(huì)發(fā)現(xiàn)，只有引發(fā)社會(huì)變革的技術(shù)與適應(yīng)、促進(jìn)技術(shù)發(fā)展的社群協(xié)同發(fā)展、相互促進(jìn)，才能推動(dòng)社會(huì)的發(fā)展。誠(chéng)然，人工智能在最近兩年的發(fā)展中確實(shí)存在很多問(wèn)題，既存在算力問(wèn)題，也有模型問(wèn)題，還有數(shù)據(jù)方面的問(wèn)題，這都影響人工智能的應(yīng)用和發(fā)展。

　　但必須看到，除了“技術(shù)—經(jīng)濟(jì)周期”之外，社會(huì)對(duì)人工智能的發(fā)展也有一個(gè)技術(shù)的“社會(huì)接受”過(guò)程，主要表現(xiàn)在三個(gè)方面：一是全體社會(huì)成員對(duì)人工智能技術(shù)的認(rèn)識(shí)程度，人們?nèi)绾螐囊延械闹R(shí)框架、歷史和經(jīng)驗(yàn)看待正在出現(xiàn)的新技術(shù)及其社會(huì)影響，以及對(duì)自己、對(duì)社會(huì)帶來(lái)的正面與負(fù)面影響。新科技在歷史上之所以常常帶來(lái)災(zāi)難，并不是科技本身有什么問(wèn)題，而是人類(lèi)得花點(diǎn)兒時(shí)間才能學(xué)會(huì)善用科技。二是人們掌握人工智能技術(shù)和對(duì)人工智能發(fā)展現(xiàn)狀的認(rèn)識(shí)會(huì)影響人們的認(rèn)知。三是人們能不能對(duì)人工智能技術(shù)有深刻的理解，它的發(fā)展現(xiàn)狀、規(guī)律等，尤其是那些在社會(huì)領(lǐng)域中工作的專(zhuān)業(yè)人員，他們能不能想象出自己生活和工作領(lǐng)域的人工智能應(yīng)用場(chǎng)景，且與技術(shù)人員建立起密切的聯(lián)系、溝通，甚至參與到人工智能技術(shù)開(kāi)發(fā)過(guò)程中，這對(duì)加速人工智能場(chǎng)景落地和在經(jīng)濟(jì)社會(huì)領(lǐng)域中的廣泛應(yīng)用非常關(guān)鍵。

　　縱觀歷史，新技術(shù)進(jìn)入社會(huì)領(lǐng)域的速度不會(huì)那么快，因?yàn)槿藗兛偸茄刂撤N習(xí)慣的路徑前進(jìn)，盡管對(duì)出現(xiàn)的新情況、新技術(shù)抱有熱情、渴望、歡迎的態(tài)度，但真正深刻認(rèn)識(shí)并迅速接受新技術(shù)往往不是大多數(shù)成員能夠做到的。

　　經(jīng)濟(jì)觀察報(bào)：人們?cè)谥饾u接受人工智能這項(xiàng)新技術(shù)的過(guò)程中，會(huì)面臨哪些挑戰(zhàn)?

　　丁元竹：人工智能技術(shù)以前所未有的速度在落地生根，廣泛滲透到各個(gè)領(lǐng)域，它如同一股強(qiáng)勁的力量，開(kāi)始重塑人類(lèi)生產(chǎn)方式、生活方式，以及社會(huì)運(yùn)行等。但是，在這場(chǎng)看似璀璨的科技變革浪潮之下，卻潛藏著一系列不能忽視的暗流。盡管人工智能技術(shù)尚未達(dá)到高度自主可控水平，但隨著技術(shù)不斷發(fā)展迭代，未來(lái)不排除出現(xiàn)技術(shù)失控的可能性。因此，有必要從現(xiàn)在開(kāi)始高度重視人工智能技術(shù)落地過(guò)程中可能帶來(lái)的風(fēng)險(xiǎn)與挑戰(zhàn)。

　　以生成式人工智能為例，自然語(yǔ)言處理模型對(duì)社會(huì)潛在影響廣泛而多樣，幾乎涉及社會(huì)治理、公共服務(wù)、社會(huì)結(jié)構(gòu)的方方面面。一是就業(yè)和勞動(dòng)力市場(chǎng)。人工智能和自動(dòng)化會(huì)導(dǎo)致各行各業(yè)的工作崗位流失。然而，它也會(huì)創(chuàng)造出更具復(fù)雜性、創(chuàng)造性和技術(shù)技能性的新崗位。二是隱私和數(shù)據(jù)保護(hù)。人工智能系統(tǒng)依賴(lài)大量數(shù)據(jù)引發(fā)了人們對(duì)隱私和安全的擔(dān)憂(yōu)，若是監(jiān)管不當(dāng)，會(huì)導(dǎo)致數(shù)據(jù)分析結(jié)果的濫用。三是數(shù)據(jù)訓(xùn)練中的偏見(jiàn)和公平問(wèn)題，人工智能系統(tǒng)無(wú)意中會(huì)表現(xiàn)出在訓(xùn)練數(shù)據(jù)中存在的偏見(jiàn)，導(dǎo)致在工作招聘、執(zhí)法和貸款審批等領(lǐng)域產(chǎn)生不公平結(jié)果。

　　人工智能的真正挑戰(zhàn)不在于技術(shù)本身，而在于如何把它接入人類(lèi)社會(huì)和文化的體制機(jī)制。未來(lái)，發(fā)生在人工智能領(lǐng)域的競(jìng)爭(zhēng)不僅是算力競(jìng)爭(zhēng)，更是制度體制和文化適應(yīng)性的較量——就像電動(dòng)車(chē)的成功既依靠電池技術(shù)，也依靠充電網(wǎng)絡(luò)一樣。人工智能之所以特別，以至于有必要調(diào)整私法來(lái)促進(jìn)其推廣并挖掘其增長(zhǎng)潛力，原因在于它具有許多新的特性，其中兩個(gè)尤為重要：自主性和不透明性。

　　經(jīng)濟(jì)觀察報(bào)：在這種挑戰(zhàn)中，人工智能會(huì)給人類(lèi)文明帶來(lái)威脅還是躍升?

　　丁元竹：不能簡(jiǎn)單地談威脅還是躍升，討論人工智能的治理就需要擺脫既往的思考習(xí)慣，必須基于治理與技術(shù)同步的相關(guān)體制機(jī)制研究，探索基于“自主性和不透明性”治理的底層邏輯：AI不是簡(jiǎn)單的技術(shù)工具，而是在受人類(lèi)大腦啟發(fā)基礎(chǔ)上開(kāi)發(fā)的具有智能特征的物種，管理好人工智能是社會(huì)治理的重要內(nèi)容和基礎(chǔ)性工作。

　　未來(lái)，大模型實(shí)體化、垂直化，具身智能社會(huì)化將會(huì)涌現(xiàn)，堅(jiān)持以人為中心的人工智能發(fā)展，使人類(lèi)成為AI培訓(xùn)師、引導(dǎo)者，實(shí)現(xiàn)人機(jī)良性互動(dòng)將成為人工智能治理的核心問(wèn)題。因此，人工智能的治理是技術(shù)與制度、體制機(jī)制、社會(huì)文化的發(fā)展進(jìn)化和適應(yīng)過(guò)程。

　　多元文化背景下的人工智能價(jià)值對(duì)齊

　　經(jīng)濟(jì)觀察報(bào)：你曾提到多元文化背景下的人工智能價(jià)值對(duì)齊，為什么我們要關(guān)注這個(gè)問(wèn)題?

　　丁元竹：世界文化是多元的，這是人類(lèi)社會(huì)特有的現(xiàn)象，各種文化間的沖突在人工智能出現(xiàn)前就時(shí)有發(fā)生。這種文化的多元性也影響到了人工智能，例如程序員都有自己的價(jià)值取向，所以在參數(shù)設(shè)定上、向量設(shè)計(jì)中就設(shè)計(jì)進(jìn)去他們的價(jià)值理念。再如來(lái)自不同國(guó)家的大模型有屬于自己國(guó)家的文化價(jià)值認(rèn)知，在中國(guó)，點(diǎn)頭表示同意，搖頭表示不同意，但是在印度文化里面，點(diǎn)頭表示不同意，搖頭表示同意，在這種情況下，人與人工智能互動(dòng)時(shí)會(huì)產(chǎn)生誤解。

　　人類(lèi)需要的是超越自己的人工智能，還是需要協(xié)助人類(lèi)提高自己福祉的人工智能?我認(rèn)為是后者，成熟的人工智能既是技術(shù)飛躍，更是人類(lèi)社會(huì)的認(rèn)知延伸和合作助手，它具備的核心特征將涵蓋技術(shù)、倫理和社會(huì)。

　　成熟的人工智能本身具備自主性，在不依賴(lài)人的情況下可以對(duì)系統(tǒng)做出改變，甚至逃避人類(lèi)。所以，我們需要關(guān)注多元文化背景下的人工智能價(jià)值對(duì)齊，讓人工智能價(jià)值和人類(lèi)機(jī)制、人類(lèi)需求對(duì)齊，讓人工智能成為人類(lèi)福祉的一個(gè)工具。隨著人工智能技術(shù)快速發(fā)展，價(jià)值對(duì)齊不僅關(guān)乎技術(shù)安全，更涉及社會(huì)、倫理和哲學(xué)等深層邏輯。

　　經(jīng)濟(jì)觀察報(bào)：不同文化背景下的沖突歷來(lái)存在，這種人工智能價(jià)值對(duì)齊也會(huì)有不少難點(diǎn)，怎么去實(shí)現(xiàn)對(duì)齊是需要合力解決的問(wèn)題。

　　丁元竹：價(jià)值對(duì)齊為什么如此困難?是因?yàn)槿祟?lèi)價(jià)值觀的多元性與矛盾：不同文化對(duì)“公平”“自由”有著自己的理解和定義。人工智能價(jià)值對(duì)齊不僅是對(duì)技術(shù)的挑戰(zhàn)，更是對(duì)文明存續(xù)的考驗(yàn)。人工智能造福人類(lèi)的關(guān)鍵在于把價(jià)值對(duì)齊視為一個(gè)持續(xù)過(guò)程，而不是一次性的解決方案，如盡管人們視通用人工智能的出現(xiàn)不可避免，但通用人工智能發(fā)展不僅取決于大模型技術(shù)，也取決于機(jī)械技術(shù)進(jìn)化。

　　回到怎么對(duì)齊的問(wèn)題上，由于不同文化、族群、群體之間對(duì)“公平”“正義”的定義和理解存在著差異，價(jià)值對(duì)齊需要解決在多元文化和多元價(jià)值觀中尋求共同價(jià)值的共識(shí)，避免算法歧視或偏見(jiàn)。解決好這個(gè)問(wèn)題，需要所有利益相關(guān)方的參與協(xié)作，需要科學(xué)家、技術(shù)專(zhuān)家、社會(huì)學(xué)者、人類(lèi)學(xué)者、倫理學(xué)者、政策制定者及公眾共同制定對(duì)齊標(biāo)準(zhǔn)，還要建立動(dòng)態(tài)反饋機(jī)制，通過(guò)用戶(hù)反饋和問(wèn)責(zé)審計(jì)不斷校準(zhǔn)人工智能的行為。

　　人工智能價(jià)值對(duì)齊是人類(lèi)社會(huì)的“鏡像”——它要求人們?cè)谥悄軙r(shí)代重新審視自身的價(jià)值觀體系。唯有實(shí)現(xiàn)技術(shù)迭代、倫理深思和公眾參與的結(jié)合，才能構(gòu)建既強(qiáng)大又可控的人工智能未來(lái)。從長(zhǎng)遠(yuǎn)看，解決人工智能的可靠性、可解釋性、數(shù)據(jù)偏見(jiàn)等問(wèn)題需突破認(rèn)知科學(xué)、生命科學(xué)、能源效率(如降低算力依賴(lài))、人機(jī)協(xié)作等領(lǐng)域的問(wèn)題。如果以“通用人工智能”或“超級(jí)人工智能”為標(biāo)準(zhǔn)，目前的人工智能技術(shù)確實(shí)不成熟。

　　人工智能如何影響社會(huì)秩序與結(jié)構(gòu)

　　經(jīng)濟(jì)觀察報(bào)：人工智能的普及與進(jìn)步將自動(dòng)化更多的人類(lèi)工作，你認(rèn)為這會(huì)對(duì)人類(lèi)社會(huì)現(xiàn)有的用工秩序和社會(huì)結(jié)構(gòu)帶來(lái)沖擊嗎?

　　丁元竹：人工智能對(duì)就業(yè)市場(chǎng)的沖擊也是人們最為關(guān)注的議題之一，我認(rèn)為其替代人類(lèi)工作的速度和范圍或許會(huì)遠(yuǎn)遠(yuǎn)超過(guò)以往任何一次技術(shù)革命。目前看，具有高替代風(fēng)險(xiǎn)的崗位是那些規(guī)則明確型的工作，諸如制造業(yè)中的裝配線工人、會(huì)計(jì)流程中的自動(dòng)化報(bào)表人員、法律工作中的合同審核人員等。

　　具有中等替代風(fēng)險(xiǎn)的崗位包括部分創(chuàng)意工作，比如像廣告文案人員、平面設(shè)計(jì)、新聞寫(xiě)作、音樂(lè)作曲，以及個(gè)性化輔導(dǎo)等。那些情感互動(dòng)性高或復(fù)雜性程度高的決策工作，諸如心理咨詢(xún)師、高級(jí)管理人員、社會(huì)工作者、園藝師、養(yǎng)老護(hù)理人員等目前被替代的可能性和數(shù)量或許不會(huì)太大。比爾·蓋茨認(rèn)為，醫(yī)生和教師等職業(yè)將被AI取代，但軟件開(kāi)發(fā)者(主要指發(fā)現(xiàn)和修復(fù)錯(cuò)誤、優(yōu)化算法等)、生物學(xué)家和能源專(zhuān)家有望幸存。

　　不容樂(lè)觀的是，那些被替代的流水線工人或文員很難快速轉(zhuǎn)型為人工智能訓(xùn)練師或機(jī)器人維護(hù)員，行業(yè)轉(zhuǎn)型并非易事，2022年，美國(guó)僅54%的失業(yè)者成功轉(zhuǎn)入新行業(yè)。

　　經(jīng)濟(jì)觀察報(bào)：我們需要為人工智能帶來(lái)的這種替代而焦慮嗎?

　　丁元竹：從過(guò)去的經(jīng)驗(yàn)來(lái)看，一個(gè)領(lǐng)域的工作被替代，會(huì)產(chǎn)生其他領(lǐng)域的就業(yè)崗位來(lái)。比如大模型訓(xùn)練約1萬(wàn)塊H100的算力中心，每天耗電花費(fèi)需要75萬(wàn)美元，差不多相當(dāng)于一個(gè)中等城市的電力支持，那么新能源、核能等領(lǐng)域的就業(yè)崗位就會(huì)相應(yīng)發(fā)展起來(lái)。

　　對(duì)此，政府有關(guān)部門(mén)需要及早預(yù)測(cè)，制定支持勞動(dòng)力轉(zhuǎn)型政策，例如，編制再培訓(xùn)和終身學(xué)習(xí)計(jì)劃等，甚至需要人工智能企業(yè)與政府一道探索全民基本收入等政策，應(yīng)對(duì)失業(yè)或就業(yè)不足等潛在風(fēng)險(xiǎn)。

　　經(jīng)濟(jì)觀察報(bào)：在互聯(lián)網(wǎng)時(shí)代，摩爾定律和互聯(lián)網(wǎng)效應(yīng)從底層邏輯上加劇了財(cái)富向少數(shù)人手中聚集。那么在人工智能時(shí)代，會(huì)加劇社會(huì)財(cái)富甚至社會(huì)關(guān)系的不平等嗎?

　　丁元竹：通過(guò)提供人工智能生成的內(nèi)容、產(chǎn)品或服務(wù)，企業(yè)可以探索新的收入來(lái)源和商業(yè)模式。隨著人工智能技術(shù)的發(fā)展，它正成為科技領(lǐng)域日益重要的一部分。那些忽視人工智能和機(jī)器學(xué)習(xí)的企業(yè)有可能在技術(shù)創(chuàng)新方面落伍。

　　眼下，大型科技公司競(jìng)相選擇生成式人工智能作為核心業(yè)務(wù)向其他領(lǐng)域拓展或者發(fā)展自己的人工智能，例如，蘋(píng)果、亞馬遜和 Meta 都在嘗試將機(jī)器學(xué)習(xí)融入自己的企業(yè)運(yùn)營(yíng)。各行各業(yè)也都在加速利用人工智能技術(shù)推動(dòng)創(chuàng)新、提高效率和增強(qiáng)用戶(hù)體驗(yàn)。問(wèn)題是，這樣的拓展會(huì)不會(huì)造成財(cái)富的更加過(guò)度聚集，甚至出現(xiàn)較互聯(lián)網(wǎng)時(shí)代更為凸顯的贏者通吃現(xiàn)象呢?

　　人工智能時(shí)代的新型文明觀

　　經(jīng)濟(jì)觀察報(bào)：你覺(jué)得當(dāng)下的人工智能迎來(lái)“奇點(diǎn)時(shí)刻”了嗎?

　　丁元竹：我既不是技術(shù)保守主義者，也不是技術(shù)激進(jìn)主義者和人文社會(huì)焦慮者?？傮w來(lái)看，人工智能技術(shù)還不太成熟。

　　盡管人工智能在過(guò)去十年中取得了不可思議的進(jìn)展，但很多研究仍處于起步階段，尤其是機(jī)器人技術(shù)，這項(xiàng)技術(shù)是出了名的難，即使在深度學(xué)習(xí)普及的時(shí)代，機(jī)器人技術(shù)的發(fā)展步伐也相對(duì)緩慢。

　　一是從技術(shù)發(fā)展階段性看，當(dāng)前的人工智能在抽象推理、常識(shí)理解、情感表達(dá)、自我意識(shí)、創(chuàng)造性思維等方面還遠(yuǎn)未達(dá)到人類(lèi)的水平。例如，大語(yǔ)言模型會(huì)生成文字流暢但邏輯錯(cuò)誤的答案，無(wú)法真正理解上下文和真實(shí)的語(yǔ)義。大模型的準(zhǔn)確性依賴(lài)高質(zhì)量數(shù)據(jù)，在面對(duì)數(shù)據(jù)資源稀缺、數(shù)據(jù)偏差或動(dòng)態(tài)變化的環(huán)境時(shí)，大模型表現(xiàn)出極大的不穩(wěn)定性，這種情況也出現(xiàn)在醫(yī)療診斷、復(fù)雜決策等過(guò)程中。二是從應(yīng)用場(chǎng)景看，目前部分領(lǐng)域的人工智能應(yīng)用已高度成熟。人工智能在特定任務(wù)上已經(jīng)超越人類(lèi)，如圖像識(shí)別，包括醫(yī)療影像分析、語(yǔ)音識(shí)別、圍棋對(duì)決、推薦系統(tǒng)(包括電商、短視頻)等。許多企業(yè)通過(guò)人工智能優(yōu)化業(yè)務(wù)流程，這類(lèi)“窄人工智能”技術(shù)已成熟到可以規(guī)模化和落地程度。有些大模型雖然不盡完美，但可以成為生產(chǎn)性工具，進(jìn)入生產(chǎn)過(guò)程和市場(chǎng)領(lǐng)域。三是期望與現(xiàn)實(shí)之間存在差距。公眾對(duì)人工智能的認(rèn)知時(shí)常被媒體夸大，造成一定程度的技術(shù)迷茫。技術(shù)發(fā)展快于法律和倫理框架的建設(shè)加劇了人工智能的“不成熟”感覺(jué)。

　　技術(shù)表現(xiàn)接近“人類(lèi)水平”的說(shuō)法本身，會(huì)讓人覺(jué)得是臆想，甚至是海市蜃樓。人類(lèi)的能力維度是豐富多樣的，遠(yuǎn)非任何單一指標(biāo)所能衡量。但我們的缺點(diǎn)和優(yōu)點(diǎn)一樣具有啟發(fā)性。只有更好地了解和認(rèn)識(shí)人類(lèi)自身，才能更好地認(rèn)識(shí)人工智能。人的感知能力雖然有種種局限，但與機(jī)器截然相反。我們從整體上看待世界，不僅能識(shí)別世界的內(nèi)容，更可以進(jìn)一步理解不同事物之間的關(guān)系、意義、過(guò)去和未來(lái)。迄今為止，人類(lèi)對(duì)自身的認(rèn)識(shí)仍然存在諸多空白。

　　經(jīng)濟(jì)觀察報(bào)：那面對(duì)人工智能的逐漸“成熟”，社會(huì)文明會(huì)發(fā)生怎么樣的變化?

　　丁元竹：人們總是在短期內(nèi)高估了技術(shù)發(fā)明，而在長(zhǎng)期上忽視了它的價(jià)值。尤其是在人工智能技術(shù)連連迭代的時(shí)候，長(zhǎng)期主義尤為重要。如果在早期就認(rèn)識(shí)了問(wèn)題所在并加以跟蹤，比技術(shù)逐步成熟并深深嵌入體制機(jī)制后再進(jìn)行治理會(huì)付出更少的治理代價(jià)。

　　人類(lèi)正站在人工智能時(shí)代的新的門(mén)檻上，有望達(dá)到前所未有的文明水平，人工智能發(fā)展已經(jīng)勢(shì)不可擋，我們要開(kāi)創(chuàng)人工智能時(shí)代的新型文明形態(tài)。這就需要培育人文社會(huì)科學(xué)家與科學(xué)技術(shù)人員之間密切合作的文化，這種文化要求人文科學(xué)家要深度了解科學(xué)技術(shù)發(fā)展的特點(diǎn)，科學(xué)技術(shù)人員要深度了解人文社會(huì)科學(xué)的基本原理，人文科學(xué)家與社會(huì)與自然科學(xué)家之間要達(dá)成默契：大家互相接納、共同配合。

　　經(jīng)濟(jì)觀察報(bào)：開(kāi)創(chuàng)人工智能時(shí)代的新型文明形態(tài)，當(dāng)下急迫嗎?

　　丁元竹：必須從現(xiàn)在起培育人類(lèi)與機(jī)器之間的默契與配合的文化，這種文化是新的人類(lèi)文明和智能文明時(shí)代的文化。

　　人工智能時(shí)代的合作，不僅僅是科學(xué)技術(shù)人員的事情，也是人文社會(huì)科學(xué)人員的事情，更是全社會(huì)的事情。當(dāng)全體社會(huì)成員把自己的未來(lái)和命運(yùn)與人工智能技術(shù)開(kāi)發(fā)結(jié)合起來(lái)時(shí)，大家才會(huì)產(chǎn)生一種自豪感、安全感，人類(lèi)才會(huì)有著更好的未來(lái)，這正是新的文明形態(tài)所需要的核心價(jià)值。

　　人工智能更聰明后面臨的未來(lái)風(fēng)險(xiǎn)

　　經(jīng)濟(jì)觀察報(bào)：人工智能還在繼續(xù)高速發(fā)展，你如何看待未來(lái)人工智能高度成熟后會(huì)面臨的風(fēng)險(xiǎn)?

　　丁元竹：對(duì)于人工智能的未來(lái)，人們態(tài)度各異。有人認(rèn)為，如果人工智能無(wú)法與人類(lèi)價(jià)值觀、倫理規(guī)則和社會(huì)大多數(shù)人的利益保持一致，會(huì)引發(fā)個(gè)體權(quán)利受到侵害，甚至造成人類(lèi)文明存亡的嚴(yán)重危機(jī)。的確，人工智能正在迅猛發(fā)展，前Open AI研究員丹尼爾·科科塔伊洛團(tuán)隊(duì)發(fā)布了76頁(yè)“AI 2027”報(bào)告，預(yù)測(cè)通用人工智能將在2027年中期實(shí)現(xiàn);報(bào)告描繪出從2025年最貴AI誕生到2027年Agent-5滲透政府決策的發(fā)展路徑，預(yù)計(jì)AI將快速超越人類(lèi)智能;研究團(tuán)隊(duì)預(yù)測(cè)超人AI的影響將超過(guò)工業(yè)革命，但部分專(zhuān)家質(zhì)疑這種預(yù)測(cè)缺乏科學(xué)依據(jù)且過(guò)于極端。

　　有關(guān)人工智能未來(lái)的風(fēng)險(xiǎn)可以歸結(jié)為目標(biāo)錯(cuò)配問(wèn)題。人工智能根據(jù)設(shè)定目標(biāo)嚴(yán)格預(yù)設(shè)指標(biāo)，但它無(wú)法理解人類(lèi)價(jià)值觀的復(fù)雜性和模糊性。人工智能軍事系統(tǒng)或許會(huì)擅自升級(jí)沖突，如無(wú)人機(jī)做出誤判，視無(wú)辜的平民為威脅目標(biāo)并發(fā)動(dòng)攻擊。超級(jí)人工智能企業(yè)通過(guò)算法壟斷定價(jià)權(quán)，操縱市場(chǎng)，損害消費(fèi)者利益。美國(guó)COMPAS司法系統(tǒng)對(duì)黑人被告給出“再犯罪風(fēng)險(xiǎn)更高”的誤判，強(qiáng)化了種族之間的偏見(jiàn)，甚至引發(fā)種族之間的沖突。算法的個(gè)性化推送制造了“信息繭房”，造成社會(huì)輿論的極端化和社會(huì)矛盾加劇。

　　過(guò)度和長(zhǎng)期依賴(lài)人工智能會(huì)導(dǎo)致人類(lèi)判斷力、思考力退化，如飛行員會(huì)因長(zhǎng)期使用自動(dòng)駕駛技術(shù)造成駕駛技能生疏，在遇到處理緊急情況時(shí)措手不及。人工智能生成內(nèi)容會(huì)損害人類(lèi)原創(chuàng)文化及其多樣性。

　　經(jīng)濟(jì)觀察報(bào)：除了會(huì)冒出更多風(fēng)險(xiǎn)，也會(huì)有積極的方面。

　　丁元竹：人工智能將會(huì)是人類(lèi)的最后一次技術(shù)革命，會(huì)改變現(xiàn)有的教育形態(tài)、科研形態(tài)等等。如前面所說(shuō)，人類(lèi)到目前為止并沒(méi)有解釋自己的精神世界、內(nèi)心世界是怎么形成的，對(duì)人工智能的研究會(huì)讓人類(lèi)反過(guò)來(lái)更了解自己。

　　經(jīng)濟(jì)觀察報(bào)：你是一名教育者，怎么看待人工智能對(duì)人文社會(huì)科學(xué)教育的沖擊?

　　丁元竹：一旦出現(xiàn)世界模型和數(shù)以萬(wàn)計(jì)的具身機(jī)器人與人類(lèi)生活在一起，人文教育事業(yè)必將產(chǎn)生深刻變革。未來(lái)情境下，世界模型具備經(jīng)驗(yàn)學(xué)習(xí)能力、具身機(jī)器人廣泛融入人類(lèi)社會(huì)、人機(jī)文明新形態(tài)形成，人工智能社會(huì)學(xué)理論架構(gòu)的搭建需要突破傳統(tǒng)范式，構(gòu)建一個(gè)動(dòng)態(tài)適應(yīng)、多維度協(xié)同的跨學(xué)科框架。