你有沒(méi)有發(fā)現(xiàn)，今天的互聯(lián)網(wǎng)正在變得“真假難辨”？而未來(lái)互聯(lián)網(wǎng)的內(nèi)容可能是由機(jī)器人編寫的，這是好事還是壞事？

隨著能力的提升，人工智能可以開(kāi)始能“生成”整個(gè)網(wǎng)絡(luò)世界的內(nèi)容。比如，OpenAI 發(fā)布的DALL-E，使用120億參數(shù)版本的GPT-3來(lái)解釋自然語(yǔ)言輸入，并生成相應(yīng)的圖像，它不僅可以創(chuàng)建現(xiàn)實(shí)中存在的東西，還可以創(chuàng)建現(xiàn)實(shí)中不存在的物體的圖像。隨著OpenAI等公司在大眾市場(chǎng)上投放其產(chǎn)品，AI已經(jīng)能夠創(chuàng)造逼真圖像、模仿音頻和書寫令人信服的人類文字的，而且這些技術(shù)現(xiàn)在正越來(lái)越多地被用于創(chuàng)建西方網(wǎng)絡(luò)平臺(tái)上的政治內(nèi)容。

在某些方面，新創(chuàng)建的內(nèi)容與多年來(lái)頻繁出現(xiàn)的篡改圖片和視頻、誤導(dǎo)性信息以及機(jī)器人電話并無(wú)太大區(qū)別。然而，以前的虛假信息活動(dòng)總是面臨著一系列的進(jìn)入障礙——為社交媒體創(chuàng)建個(gè)性化的信息非常耗時(shí)，對(duì)圖片和視頻進(jìn)行Photoshop處理也是如此。

但現(xiàn)在，生成式人工智能讓任何擁有基本數(shù)字技能的人都能制作這類內(nèi)容，而遏制它們的防護(hù)欄或有效監(jiān)管卻十分有限。生成式人工智能的可供性和可及性，正在降低虛假信息活動(dòng)的進(jìn)入門檻。

直到最近，很少有人關(guān)注人工智能的潛在惡意應(yīng)用：在人工智能范圍狹窄、必須為每種應(yīng)用專門打造的年代里，需要整個(gè)的研究團(tuán)隊(duì)來(lái)開(kāi)發(fā)用于惡意應(yīng)用的人工智能工具，因?yàn)槌杀咎?，并沒(méi)有為惡意行為者提供多少“唾手可得”的應(yīng)用。

如今，這一切都在改變。隨著人工智能變得更加靈活和通用，人工智能的構(gòu)建目的與其潛在下游應(yīng)用之間的聯(lián)系幾乎消失了。大型語(yǔ)言模型可以被訓(xùn)練來(lái)執(zhí)行有價(jià)值的任務(wù)，比如為寫作提供支持、在不同語(yǔ)言之間轉(zhuǎn)譯或編寫更好的代碼?？墒?，一個(gè)能寫文章的系統(tǒng)也能寫假新聞，或者為類人文本生成機(jī)器人大軍提供動(dòng)力。

在21世紀(jì)第二個(gè)十年的末期，我們已經(jīng)見(jiàn)證了社交媒體的分發(fā)革命所引發(fā)的虛假信息洪流；機(jī)器人（bot）、“噴子水軍”（troll farms）和微定向（microtargeting）技術(shù)，會(huì)根據(jù)特定受眾群體的個(gè)人特征和行為向其提供定制內(nèi)容。2018 年的劍橋分析（Cambridge Analytica）丑聞（指8700萬(wàn)臉書用戶數(shù)據(jù)被不當(dāng)泄露給政治咨詢公司劍橋分析，用于在2016年總統(tǒng)大選時(shí)支持美國(guó)總統(tǒng)特朗普）與這些現(xiàn)象尤其相關(guān)，它涉嫌未經(jīng)授權(quán)收集數(shù)百萬(wàn)臉書用戶的個(gè)人數(shù)據(jù)，以便為了政治目的而實(shí)現(xiàn)操縱輿論。

眼下生成式人工智能的出現(xiàn)，則更為直接，可以通過(guò)實(shí)現(xiàn)自動(dòng)化內(nèi)容生產(chǎn)的方式，大大增加操縱輿論的風(fēng)險(xiǎn)。

比如，之前很多人使用網(wǎng)絡(luò)自動(dòng)化機(jī)器人來(lái)讓他們的觀點(diǎn)看起來(lái)更受歡迎，熱度更高，營(yíng)造互動(dòng)頻繁的假象。比如，在一些社交平臺(tái)上，許多賬戶會(huì)在同一時(shí)間內(nèi)發(fā)表完全相同的內(nèi)容，因?yàn)橛玫木褪亲詣?dòng)化機(jī)器人。不過(guò)在之前的技術(shù)條件之下，為每個(gè)虛假賬戶生成唯一的信息既昂貴又耗時(shí)，但是現(xiàn)在借助生成式人工智能，可以毫不費(fèi)力地生成高度個(gè)性化的內(nèi)容，并使之廣播。

又比如，你利用外國(guó)的內(nèi)容農(nóng)場(chǎng)（content farm），甚至毋需掌握某一門流利外語(yǔ)，就能用目標(biāo)受眾的語(yǔ)言寫出一篇讀起來(lái)十分流暢的文章。你需要做的只是，讓一個(gè)語(yǔ)言模型為你“吐”出這篇文章，其中的語(yǔ)法和詞匯都與說(shuō)本族語(yǔ)的人相差無(wú)幾。

已有專家預(yù)計(jì)，從2025 年到 2030 年，99%以上的互聯(lián)網(wǎng)內(nèi)容將由人工智能生成。自動(dòng)化創(chuàng)建內(nèi)容的發(fā)展將徹底改變互聯(lián)網(wǎng)的面貌，并使人們?cè)诤Ａ績(jī)?nèi)容中更難以分辨真假。

人工智能增強(qiáng)的虛假信息，會(huì)給整個(gè)互聯(lián)網(wǎng)帶來(lái)生存性的威脅。新的人工智能功能正迅速增加虛假信息操作的數(shù)量、速度和病毒毒性。隨著這些功能的不斷改進(jìn)和擴(kuò)散，它們進(jìn)一步威脅到對(duì)社會(huì)治理的信任，并刺激受眾懷疑公共生活中真相的可能性。

我們正在面臨一個(gè)面目全非的互聯(lián)網(wǎng)，20多年前那句“在互聯(lián)網(wǎng)上你不知道對(duì)面的是條狗”，變成了某種詛咒，TA甚至不是一條狗，只是機(jī)器，被人為操縱的機(jī)器——但愿這只是一種杞人憂天。

來(lái)源：澎湃新聞

作者：胡泳