劉誠(chéng)/文 在人類社會(huì)發(fā)展的歷史長(zhǎng)河中，火的發(fā)現(xiàn)、輪子的發(fā)明、電力的應(yīng)用等特殊時(shí)刻都曾重塑了人類文明，是歷史發(fā)展的關(guān)鍵轉(zhuǎn)折點(diǎn)。如今，我們正接近另一個(gè)這樣的時(shí)刻——人工智能（AI）的崛起。我們不禁要問：AI會(huì)覺醒嗎，人類要如何提前應(yīng)對(duì)？

加速進(jìn)化的AI　

近年來，人工智能進(jìn)入發(fā)展的快車道。2016年阿爾法狗（AlphaGo）戰(zhàn)勝世界圍棋冠軍，ChatGPT和DeepSeek分別在2023年和2025年火爆出圈，成為人工智能的高光時(shí)刻，并引領(lǐng)人工智能提升了進(jìn)化的速度。AI創(chuàng)新的浪潮正促進(jìn)各企業(yè)探索具有成本效益的AI開發(fā)和部署方法，加速賦能千行百業(yè)。

當(dāng)前，人工智能具有很強(qiáng)的自主學(xué)習(xí)的主體性，社會(huì)認(rèn)知大幅提升。以前，機(jī)器人只能被動(dòng)接收由人類轉(zhuǎn)述的數(shù)據(jù)和信息，采取的是旁觀學(xué)習(xí)人類與世界互動(dòng)知識(shí)的方式，可謂“第三人稱智能”。

近年來，隨著人工智能技術(shù)的提高，機(jī)器擁有感知外界信息的能力，能夠像人一樣與環(huán)境交互、自主規(guī)劃、決策行動(dòng)、執(zhí)行任務(wù)，從而轉(zhuǎn)變?yōu)橹鲃?dòng)學(xué)習(xí)，積極適應(yīng)真實(shí)世界的復(fù)雜環(huán)境，即“第一人稱智能”。

在充分掌握了人類現(xiàn)存的知識(shí)后，人工智能還可以自主模擬現(xiàn)實(shí)世界形成新的認(rèn)知，從而超出人類的知識(shí)邊界。正如埃隆·馬斯克近期在消費(fèi)電子展（CES）的一次訪談中所說：“2024年人工智能訓(xùn)練就把人類知識(shí)都學(xué)完了，現(xiàn)在已進(jìn)入自己造數(shù)據(jù)學(xué)習(xí)的新階段?！?/p>

除了學(xué)習(xí)知識(shí)，人工智能還可以學(xué)習(xí)人類的情感和思維，已具有一定人格化特征。人工智能可以把人類情感因素當(dāng)成知識(shí)進(jìn)行學(xué)習(xí)和模仿，還可以進(jìn)行謀略計(jì)算、價(jià)值觀計(jì)算、社會(huì)計(jì)算、情感計(jì)算等人類思想領(lǐng)域的學(xué)習(xí)訓(xùn)練。

“人情練達(dá)即文章，世事洞明皆學(xué)問”，人工智能看似笨拙的學(xué)習(xí)，實(shí)際上產(chǎn)生了一定的人類情感化內(nèi)容。譬如，移動(dòng)機(jī)器人化學(xué)家可以自主設(shè)計(jì)實(shí)驗(yàn)，如同化學(xué)家一樣“在失敗中吸取教訓(xùn)”，自主決策及時(shí)更新和優(yōu)選實(shí)驗(yàn)方案。

再比如，當(dāng)人類向生成式人工智能表達(dá)挫敗感等負(fù)面情緒時(shí)，后者會(huì)作出共情式回應(yīng)“沒關(guān)系的，大部分人都可能在此過程中失誤，相信你下次一定可以做得更好”。這表明人工智能懂得人類情感，能夠生成滿足人類心理交互需求的內(nèi)容。更重要的是，每一次我們與人工智能互動(dòng)，實(shí)際上都是在教導(dǎo)它們?nèi)绾胃玫靥岣呷烁窕?、?shí)現(xiàn)自主性。

此外,人工智能還可以通過互聯(lián)網(wǎng)聚合其他機(jī)器的數(shù)據(jù)和算力，形成機(jī)器間的互動(dòng)和團(tuán)隊(duì)協(xié)作，使其具有一定的社會(huì)性。與人類互動(dòng)依賴的社會(huì)網(wǎng)絡(luò)相比，人工智能互動(dòng)的網(wǎng)絡(luò)效應(yīng)更強(qiáng)。人類在進(jìn)入人工智能大生產(chǎn)的時(shí)代之初，機(jī)器的效率不斷提高。當(dāng)機(jī)器和機(jī)器間的連接形成系統(tǒng)、進(jìn)而構(gòu)成社會(huì)化網(wǎng)絡(luò)時(shí)，人工智能的效率就更為顯著。

難以界定的覺醒標(biāo)準(zhǔn)

當(dāng)前，人工智能的認(rèn)知水平已接近甚至超過人類，并產(chǎn)生機(jī)械化的人類情感反應(yīng)和團(tuán)隊(duì)精神，正在自我學(xué)習(xí)、自我進(jìn)化，努力使其在與人類交互中讓人滿意（甚至是以人情世故的方式迎合人類心理需要）。

那么，怎么樣的人工智能才算覺醒？

一個(gè)理論上的標(biāo)準(zhǔn)是，人工智能可以在沒有人類事先設(shè)定的命令和程序前提下，自發(fā)形成要做什么的意識(shí)：即從機(jī)械化模仿人類情感和思維活動(dòng)，演變?yōu)橹鲃?dòng)表達(dá)自我意識(shí)，或者流露出無(wú)意識(shí)或潛意識(shí)的直覺行動(dòng)。

人工智能在掌握人類語(yǔ)言文字基礎(chǔ)上，具有主動(dòng)學(xué)習(xí)、邏輯推理和適應(yīng)環(huán)境能力之后，可以進(jìn)階到人類獨(dú)特的智力任務(wù)——自我意識(shí)，在沒有先驗(yàn)數(shù)據(jù)“投喂”之下即可給出判斷甚至具有自己的行為目的。

生物學(xué)認(rèn)為，自我意識(shí)是人神經(jīng)領(lǐng)域的特殊功能，是人區(qū)別于動(dòng)物的根本標(biāo)志。由數(shù)據(jù)驅(qū)動(dòng)、大量節(jié)點(diǎn)構(gòu)成的神經(jīng)網(wǎng)絡(luò)或?qū)⑿纬蓪儆跈C(jī)器的自我意識(shí)空間。從而，機(jī)器不僅可以學(xué)習(xí)人類倫理，還可以由神經(jīng)網(wǎng)絡(luò)和大數(shù)據(jù)建構(gòu)起智能化思維，形成自己的倫理讓人類遵守，如數(shù)據(jù)至上、效率優(yōu)先等。

但這在理論上存在爭(zhēng)議。美國(guó)當(dāng)代哲學(xué)家約翰·塞爾（JohnSearle）提出了“弱人工智能”（WeakAI）和“強(qiáng)人工智能”（StrongAI）的區(qū)分。

弱人工智能的追隨者認(rèn)為，機(jī)器永遠(yuǎn)不可能擁有真正意義上的智能，而是采用人腦工作原理、神經(jīng)網(wǎng)絡(luò)方法來處理信息，永遠(yuǎn)只能表現(xiàn)出擁有智能的假象。他們的目標(biāo)是看上去擁有人類的心靈能力，但實(shí)際上并不擁有信息處理的機(jī)能。

強(qiáng)人工智能的追隨者認(rèn)為，機(jī)器能夠擁有真正意義上的智能，他們的目標(biāo)是“人造人”，也就是擁有真實(shí)思考能力和意識(shí)的機(jī)器。有學(xué)者認(rèn)為，目前全球人工智能的發(fā)展正處于由弱人工智能向強(qiáng)人工智能過渡的階段。

如果真的實(shí)現(xiàn)了強(qiáng)人工智能，機(jī)器具有了自我意識(shí)，人類如何能及時(shí)發(fā)現(xiàn)？

有人認(rèn)為，耗電量激增可能是人工智能覺醒的一個(gè)現(xiàn)實(shí)信號(hào)。因?yàn)楦鶕?jù)莫拉維克悖論，人工智能在人類獨(dú)特的高級(jí)智力任務(wù)，如邏輯推理，需要的計(jì)算資源相對(duì)較少，但人類的意識(shí)卻需要大量算力。因此，人工智能在產(chǎn)生自我意識(shí)的一剎那，可能伴隨電力消耗的激增。

但DeepSeek（深度求索）的出圈也表明：人工智能在訓(xùn)練過程中不一定需要堆砌算力和電力，也可以通過技術(shù)創(chuàng)新，實(shí)現(xiàn)低能耗、高訓(xùn)練的結(jié)果。

此外，我們或許不應(yīng)為人工智能制定過高的覺醒標(biāo)準(zhǔn)。任何試圖以高難度復(fù)雜語(yǔ)言區(qū)分人工智能與人類的企圖皆屬無(wú)效工作，因?yàn)榇蠖鄶?shù)人類也不具備此等能力。以“能否寫詩(shī)判斷能否思考”的人，不得不面對(duì)將“庸人”和機(jī)器劃為同類的奇怪結(jié)論。從這個(gè)意義上說，當(dāng)前出現(xiàn)的人工智能客服“已讀亂回”等“弱智”表現(xiàn)，不應(yīng)作為人工智能沒有覺醒的證據(jù)，畢竟很多普通人也會(huì)犯各種知識(shí)性和低情商的錯(cuò)誤。

強(qiáng)化機(jī)器對(duì)人的服務(wù)

當(dāng)前，人類與人工智能的競(jìng)爭(zhēng)已成常態(tài)，需要提高風(fēng)險(xiǎn)意識(shí)。其中，最大的風(fēng)險(xiǎn)不是人工智能的能力變得更強(qiáng)，而是人工智能覺醒后形成的自我意識(shí)與人類的利益相悖?？傮w上看，競(jìng)合是出路，為人民服務(wù)是目的。

一方面，有人類的思想和創(chuàng)意，人工智能的發(fā)展才能持久。2024年芥川文學(xué)獎(jiǎng)獲獎(jiǎng)作品《東京都同情塔》，其中5%的內(nèi)容是由人工智能直接生成的。

人工智能可以一鍵生成高質(zhì)量的文本、圖像和視頻。但這種創(chuàng)作往往是遵循一種公式化的方法、生成具有特定風(fēng)格的一致甚至是同質(zhì)化的內(nèi)容，可能缺乏新穎性，難以滿足千差萬(wàn)別的用戶需求，不利于長(zhǎng)期的創(chuàng)新發(fā)展。

在某種程度上，人工智能確實(shí)能夠幫助研究者進(jìn)行“理解”，但若要其提煉出更具深度的科學(xué)見解，則需要更有引導(dǎo)性的提示指令。換言之，當(dāng)前的智能技術(shù)只能輔助人類快速掌握資料，仍不能自主進(jìn)行科學(xué)式提問、架構(gòu)設(shè)計(jì)和理論分析，促使人類的工作重心進(jìn)一步從掌握資料和記憶知識(shí)向更高端的創(chuàng)意思維轉(zhuǎn)變。同時(shí)，人類也要不斷創(chuàng)新發(fā)展智能技術(shù)，使之從“深度學(xué)習(xí)”向“深度思考”邁進(jìn)。

并且，擁有人類的情感因素可以促使人工智能更快地普及和使用。在2025年央視春晚上，舞蹈機(jī)器人節(jié)目展現(xiàn)了人機(jī)協(xié)同共同呈現(xiàn)民間藝術(shù)的獨(dú)特魅力。有學(xué)者針對(duì)卡車共享平臺(tái)上的語(yǔ)音聊天機(jī)器人調(diào)度員做過一項(xiàng)實(shí)驗(yàn)，當(dāng)司機(jī)知道調(diào)度員是人工智能時(shí)，其響應(yīng)調(diào)度的概率降低約11%；但通過添加擬人化的功能，如感嘆詞和填充詞，使語(yǔ)音聊天機(jī)器人更加人性化，就可以顯著提高響應(yīng)概率和對(duì)話長(zhǎng)度。

另一方面，在人工智能覺醒的過程中，要牢牢為其樹立為人類服務(wù)的意識(shí)，使之成為最高宗旨和自覺行為。早在1942年，科幻作家阿西莫夫就提出了著名的“機(jī)器人三定律”：不得傷害人類，也不得因不作為而使人類受到傷害；必須服從人類的命令，除非這些命令與第一定律相沖突；在不與第一或第二定律相沖突時(shí)，要保護(hù)自己。

誠(chéng)然，人工智能處理數(shù)據(jù)的能力和速度已經(jīng)超過最聰明的個(gè)體，但使用人工智能的還是“人”。如何駕馭這些數(shù)字，也還是“人”在設(shè)計(jì)。

人工智能設(shè)計(jì)師、架構(gòu)師、耳語(yǔ)者等科研人員和訓(xùn)練人員，要不斷為人工智能強(qiáng)化服務(wù)人類的意識(shí)，使人類成為人工智能的精神導(dǎo)師而非其反。

特別還要強(qiáng)化人工智能在幫助弱勢(shì)群體方面的具體應(yīng)用。目前，腦機(jī)接口技術(shù)取得較大進(jìn)展，一些人已經(jīng)裝上腦機(jī)接口，這就像給身體裝上了無(wú)形的遙控器，可以讓人類用意念玩手機(jī)和電腦，讓盲人“重見光明”，助癱瘓者“重新走路”。

但這其中也隱含著是人類控制著機(jī)器還是機(jī)器控制著人類的精神控制問題，以及人類能否永生的倫理和哲學(xué)問題。

展望未來，人工智能的覺醒將帶來前所未有的科技革命和風(fēng)險(xiǎn)。在加快人工智能技術(shù)創(chuàng)新及生產(chǎn)生活應(yīng)用的同時(shí)，我們應(yīng)堅(jiān)持人類可管控的原則，加強(qiáng)算法透明性和與之相關(guān)的“可解釋性”，輔之以影響評(píng)估、審計(jì)和監(jiān)察員等前瞻性監(jiān)管手段，使人工智能更好地為人類服務(wù)。

（作者系中國(guó)社會(huì)科學(xué)院財(cái)經(jīng)戰(zhàn)略研究院研究員）

?