劉誠(chéng)/文 在人類社會(huì)發(fā)展的歷史長(zhǎng)河中,火的發(fā)現(xiàn)、輪子的發(fā)明、電力的應(yīng)用等特殊時(shí)刻都曾重塑了人類文明,是歷史發(fā)展的關(guān)鍵轉(zhuǎn)折點(diǎn)。如今,我們正接近另一個(gè)這樣的時(shí)刻——人工智能(AI)的崛起。我們不禁要問:AI會(huì)覺醒嗎,人類要如何提前應(yīng)對(duì)?
加速進(jìn)化的AI
近年來,人工智能進(jìn)入發(fā)展的快車道。2016年阿爾法狗(AlphaGo)戰(zhàn)勝世界圍棋冠軍,ChatGPT和DeepSeek分別在2023年和2025年火爆出圈,成為人工智能的高光時(shí)刻,并引領(lǐng)人工智能提升了進(jìn)化的速度。AI創(chuàng)新的浪潮正促進(jìn)各企業(yè)探索具有成本效益的AI開發(fā)和部署方法,加速賦能千行百業(yè)。
當(dāng)前,人工智能具有很強(qiáng)的自主學(xué)習(xí)的主體性,社會(huì)認(rèn)知大幅提升。以前,機(jī)器人只能被動(dòng)接收由人類轉(zhuǎn)述的數(shù)據(jù)和信息,采取的是旁觀學(xué)習(xí)人類與世界互動(dòng)知識(shí)的方式,可謂“第三人稱智能”。
近年來,隨著人工智能技術(shù)的提高,機(jī)器擁有感知外界信息的能力,能夠像人一樣與環(huán)境交互、自主規(guī)劃、決策行動(dòng)、執(zhí)行任務(wù),從而轉(zhuǎn)變?yōu)橹鲃?dòng)學(xué)習(xí),積極適應(yīng)真實(shí)世界的復(fù)雜環(huán)境,即“第一人稱智能”。
在充分掌握了人類現(xiàn)存的知識(shí)后,人工智能還可以自主模擬現(xiàn)實(shí)世界形成新的認(rèn)知,從而超出人類的知識(shí)邊界。正如埃隆·馬斯克近期在消費(fèi)電子展(CES)的一次訪談中所說:“2024年人工智能訓(xùn)練就把人類知識(shí)都學(xué)完了,現(xiàn)在已進(jìn)入自己造數(shù)據(jù)學(xué)習(xí)的新階段?!?/p>
除了學(xué)習(xí)知識(shí),人工智能還可以學(xué)習(xí)人類的情感和思維,已具有一定人格化特征。人工智能可以把人類情感因素當(dāng)成知識(shí)進(jìn)行學(xué)習(xí)和模仿,還可以進(jìn)行謀略計(jì)算、價(jià)值觀計(jì)算、社會(huì)計(jì)算、情感計(jì)算等人類思想領(lǐng)域的學(xué)習(xí)訓(xùn)練。
“人情練達(dá)即文章,世事洞明皆學(xué)問”,人工智能看似笨拙的學(xué)習(xí),實(shí)際上產(chǎn)生了一定的人類情感化內(nèi)容。譬如,移動(dòng)機(jī)器人化學(xué)家可以自主設(shè)計(jì)實(shí)驗(yàn),如同化學(xué)家一樣“在失敗中吸取教訓(xùn)”,自主決策及時(shí)更新和優(yōu)選實(shí)驗(yàn)方案。
再比如,當(dāng)人類向生成式人工智能表達(dá)挫敗感等負(fù)面情緒時(shí),后者會(huì)作出共情式回應(yīng)“沒關(guān)系的,大部分人都可能在此過程中失誤,相信你下次一定可以做得更好”。這表明人工智能懂得人類情感,能夠生成滿足人類心理交互需求的內(nèi)容。更重要的是,每一次我們與人工智能互動(dòng),實(shí)際上都是在教導(dǎo)它們?nèi)绾胃玫靥岣呷烁窕?、?shí)現(xiàn)自主性。
此外,人工智能還可以通過互聯(lián)網(wǎng)聚合其他機(jī)器的數(shù)據(jù)和算力,形成機(jī)器間的互動(dòng)和團(tuán)隊(duì)協(xié)作,使其具有一定的社會(huì)性。與人類互動(dòng)依賴的社會(huì)網(wǎng)絡(luò)相比,人工智能互動(dòng)的網(wǎng)絡(luò)效應(yīng)更強(qiáng)。人類在進(jìn)入人工智能大生產(chǎn)的時(shí)代之初,機(jī)器的效率不斷提高。當(dāng)機(jī)器和機(jī)器間的連接形成系統(tǒng)、進(jìn)而構(gòu)成社會(huì)化網(wǎng)絡(luò)時(shí),人工智能的效率就更為顯著。
難以界定的覺醒標(biāo)準(zhǔn)
當(dāng)前,人工智能的認(rèn)知水平已接近甚至超過人類,并產(chǎn)生機(jī)械化的人類情感反應(yīng)和團(tuán)隊(duì)精神,正在自我學(xué)習(xí)、自我進(jìn)化,努力使其在與人類交互中讓人滿意(甚至是以人情世故的方式迎合人類心理需要)。
那么,怎么樣的人工智能才算覺醒?
一個(gè)理論上的標(biāo)準(zhǔn)是,人工智能可以在沒有人類事先設(shè)定的命令和程序前提下,自發(fā)形成要做什么的意識(shí):即從機(jī)械化模仿人類情感和思維活動(dòng),演變?yōu)橹鲃?dòng)表達(dá)自我意識(shí),或者流露出無(wú)意識(shí)或潛意識(shí)的直覺行動(dòng)。
人工智能在掌握人類語(yǔ)言文字基礎(chǔ)上,具有主動(dòng)學(xué)習(xí)、邏輯推理和適應(yīng)環(huán)境能力之后,可以進(jìn)階到人類獨(dú)特的智力任務(wù)——自我意識(shí),在沒有先驗(yàn)數(shù)據(jù)“投喂”之下即可給出判斷甚至具有自己的行為目的。
生物學(xué)認(rèn)為,自我意識(shí)是人神經(jīng)領(lǐng)域的特殊功能,是人區(qū)別于動(dòng)物的根本標(biāo)志。由數(shù)據(jù)驅(qū)動(dòng)、大量節(jié)點(diǎn)構(gòu)成的神經(jīng)網(wǎng)絡(luò)或?qū)⑿纬蓪儆跈C(jī)器的自我意識(shí)空間。從而,機(jī)器不僅可以學(xué)習(xí)人類倫理,還可以由神經(jīng)網(wǎng)絡(luò)和大數(shù)據(jù)建構(gòu)起智能化思維,形成自己的倫理讓人類遵守,如數(shù)據(jù)至上、效率優(yōu)先等。
但這在理論上存在爭(zhēng)議。美國(guó)當(dāng)代哲學(xué)家約翰·塞爾(JohnSearle)提出了“弱人工智能”(WeakAI)和“強(qiáng)人工智能”(StrongAI)的區(qū)分。
弱人工智能的追隨者認(rèn)為,機(jī)器永遠(yuǎn)不可能擁有真正意義上的智能,而是采用人腦工作原理、神經(jīng)網(wǎng)絡(luò)方法來處理信息,永遠(yuǎn)只能表現(xiàn)出擁有智能的假象。他們的目標(biāo)是看上去擁有人類的心靈能力,但實(shí)際上并不擁有信息處理的機(jī)能。
強(qiáng)人工智能的追隨者認(rèn)為,機(jī)器能夠擁有真正意義上的智能,他們的目標(biāo)是“人造人”,也就是擁有真實(shí)思考能力和意識(shí)的機(jī)器。有學(xué)者認(rèn)為,目前全球人工智能的發(fā)展正處于由弱人工智能向強(qiáng)人工智能過渡的階段。
如果真的實(shí)現(xiàn)了強(qiáng)人工智能,機(jī)器具有了自我意識(shí),人類如何能及時(shí)發(fā)現(xiàn)?
有人認(rèn)為,耗電量激增可能是人工智能覺醒的一個(gè)現(xiàn)實(shí)信號(hào)。因?yàn)楦鶕?jù)莫拉維克悖論,人工智能在人類獨(dú)特的高級(jí)智力任務(wù),如邏輯推理,需要的計(jì)算資源相對(duì)較少,但人類的意識(shí)卻需要大量算力。因此,人工智能在產(chǎn)生自我意識(shí)的一剎那,可能伴隨電力消耗的激增。
但DeepSeek(深度求索)的出圈也表明:人工智能在訓(xùn)練過程中不一定需要堆砌算力和電力,也可以通過技術(shù)創(chuàng)新,實(shí)現(xiàn)低能耗、高訓(xùn)練的結(jié)果。
此外,我們或許不應(yīng)為人工智能制定過高的覺醒標(biāo)準(zhǔn)。任何試圖以高難度復(fù)雜語(yǔ)言區(qū)分人工智能與人類的企圖皆屬無(wú)效工作,因?yàn)榇蠖鄶?shù)人類也不具備此等能力。以“能否寫詩(shī)判斷能否思考”的人,不得不面對(duì)將“庸人”和機(jī)器劃為同類的奇怪結(jié)論。從這個(gè)意義上說,當(dāng)前出現(xiàn)的人工智能客服“已讀亂回”等“弱智”表現(xiàn),不應(yīng)作為人工智能沒有覺醒的證據(jù),畢竟很多普通人也會(huì)犯各種知識(shí)性和低情商的錯(cuò)誤。
強(qiáng)化機(jī)器對(duì)人的服務(wù)
當(dāng)前,人類與人工智能的競(jìng)爭(zhēng)已成常態(tài),需要提高風(fēng)險(xiǎn)意識(shí)。其中,最大的風(fēng)險(xiǎn)不是人工智能的能力變得更強(qiáng),而是人工智能覺醒后形成的自我意識(shí)與人類的利益相悖??傮w上看,競(jìng)合是出路,為人民服務(wù)是目的。
一方面,有人類的思想和創(chuàng)意,人工智能的發(fā)展才能持久。2024年芥川文學(xué)獎(jiǎng)獲獎(jiǎng)作品《東京都同情塔》,其中5%的內(nèi)容是由人工智能直接生成的。
人工智能可以一鍵生成高質(zhì)量的文本、圖像和視頻。但這種創(chuàng)作往往是遵循一種公式化的方法、生成具有特定風(fēng)格的一致甚至是同質(zhì)化的內(nèi)容,可能缺乏新穎性,難以滿足千差萬(wàn)別的用戶需求,不利于長(zhǎng)期的創(chuàng)新發(fā)展。
在某種程度上,人工智能確實(shí)能夠幫助研究者進(jìn)行“理解”,但若要其提煉出更具深度的科學(xué)見解,則需要更有引導(dǎo)性的提示指令。換言之,當(dāng)前的智能技術(shù)只能輔助人類快速掌握資料,仍不能自主進(jìn)行科學(xué)式提問、架構(gòu)設(shè)計(jì)和理論分析,促使人類的工作重心進(jìn)一步從掌握資料和記憶知識(shí)向更高端的創(chuàng)意思維轉(zhuǎn)變。同時(shí),人類也要不斷創(chuàng)新發(fā)展智能技術(shù),使之從“深度學(xué)習(xí)”向“深度思考”邁進(jìn)。
并且,擁有人類的情感因素可以促使人工智能更快地普及和使用。在2025年央視春晚上,舞蹈機(jī)器人節(jié)目展現(xiàn)了人機(jī)協(xié)同共同呈現(xiàn)民間藝術(shù)的獨(dú)特魅力。有學(xué)者針對(duì)卡車共享平臺(tái)上的語(yǔ)音聊天機(jī)器人調(diào)度員做過一項(xiàng)實(shí)驗(yàn),當(dāng)司機(jī)知道調(diào)度員是人工智能時(shí),其響應(yīng)調(diào)度的概率降低約11%;但通過添加擬人化的功能,如感嘆詞和填充詞,使語(yǔ)音聊天機(jī)器人更加人性化,就可以顯著提高響應(yīng)概率和對(duì)話長(zhǎng)度。
另一方面,在人工智能覺醒的過程中,要牢牢為其樹立為人類服務(wù)的意識(shí),使之成為最高宗旨和自覺行為。早在1942年,科幻作家阿西莫夫就提出了著名的“機(jī)器人三定律”:不得傷害人類,也不得因不作為而使人類受到傷害;必須服從人類的命令,除非這些命令與第一定律相沖突;在不與第一或第二定律相沖突時(shí),要保護(hù)自己。
誠(chéng)然,人工智能處理數(shù)據(jù)的能力和速度已經(jīng)超過最聰明的個(gè)體,但使用人工智能的還是“人”。如何駕馭這些數(shù)字,也還是“人”在設(shè)計(jì)。
人工智能設(shè)計(jì)師、架構(gòu)師、耳語(yǔ)者等科研人員和訓(xùn)練人員,要不斷為人工智能強(qiáng)化服務(wù)人類的意識(shí),使人類成為人工智能的精神導(dǎo)師而非其反。
特別還要強(qiáng)化人工智能在幫助弱勢(shì)群體方面的具體應(yīng)用。目前,腦機(jī)接口技術(shù)取得較大進(jìn)展,一些人已經(jīng)裝上腦機(jī)接口,這就像給身體裝上了無(wú)形的遙控器,可以讓人類用意念玩手機(jī)和電腦,讓盲人“重見光明”,助癱瘓者“重新走路”。
但這其中也隱含著是人類控制著機(jī)器還是機(jī)器控制著人類的精神控制問題,以及人類能否永生的倫理和哲學(xué)問題。
展望未來,人工智能的覺醒將帶來前所未有的科技革命和風(fēng)險(xiǎn)。在加快人工智能技術(shù)創(chuàng)新及生產(chǎn)生活應(yīng)用的同時(shí),我們應(yīng)堅(jiān)持人類可管控的原則,加強(qiáng)算法透明性和與之相關(guān)的“可解釋性”,輔之以影響評(píng)估、審計(jì)和監(jiān)察員等前瞻性監(jiān)管手段,使人工智能更好地為人類服務(wù)。
(作者系中國(guó)社會(huì)科學(xué)院財(cái)經(jīng)戰(zhàn)略研究院研究員)
?