昨晚，油管千萬(wàn)級(jí)大V The Diary Of A CEO放出了，與圖靈獎(jiǎng)、諾貝爾獎(jiǎng)獲得者，被譽(yù)為AI教父的GeoffreyHinton最新深度專(zhuān)訪。

二人以對(duì)話形式主要探討了AI的發(fā)展、安全、應(yīng)用；雖然AI存在一定的風(fēng)險(xiǎn)，但在幫助人類(lèi)提升科研、工作、生活水平質(zhì)量等方面是非常高效。當(dāng)然也會(huì)搶走一部分人的工作，從而創(chuàng)造一些全新的職位。

OpenAI作為本世代AI革命的發(fā)起者和領(lǐng)導(dǎo)者，也出現(xiàn)在了本次對(duì)話中。Hinton還談到了他最得意的弟子，OpenAI聯(lián)合創(chuàng)始人兼首席科學(xué)家Ilya Sutskever，以及最近發(fā)展勢(shì)頭超猛的AI Agent智能體。

這段專(zhuān)訪一共是1小時(shí)30分鐘，由于太長(zhǎng)為了不影響大家的觀感，「AIGC開(kāi)放社區(qū)」沒(méi)有添加字幕。但我們依然在下面為大家整理了好了這次專(zhuān)訪內(nèi)容。有需要的話，可以對(duì)照參考一下。

目前，這個(gè)視頻放在油管上還不到一天的時(shí)間，播放量已經(jīng)超過(guò)75萬(wàn)次，評(píng)論超過(guò)4500條，用戶(hù)對(duì)這個(gè)專(zhuān)訪相當(dāng)滿(mǎn)意。在AI方面無(wú)論你是否從事該行業(yè)或者使用它都能受到不小的啟發(fā)。

我們看看網(wǎng)友是如何評(píng)價(jià)這個(gè)史詩(shī)級(jí)專(zhuān)訪的。

有網(wǎng)友表示，本次專(zhuān)訪應(yīng)該被保存為一件歷史文物。

這是我在你的頻道上看到的第一或第二重要的對(duì)話。你在采訪中停頓，讓答案慢慢沉淀，意義深遠(yuǎn)。

這是我看過(guò)最好的專(zhuān)訪，Hinton非常真誠(chéng)。

我兒子多年來(lái)一直有一個(gè)理論，認(rèn)為讓人工智能像人類(lèi)一樣思考是危險(xiǎn)的。相反，他希望我們創(chuàng)造一個(gè)像“狗”一樣思考的人工智能，這樣它就會(huì)愛(ài)人類(lèi)并愿意服務(wù)我們。

也有一位網(wǎng)友對(duì)于AI有著深切的體會(huì)，發(fā)表了一篇超長(zhǎng)的評(píng)論：我原本是一個(gè)自由撰稿人，干了十年，結(jié)果因?yàn)锳I的出現(xiàn)失去了這份職業(yè)；接下來(lái)那年我想轉(zhuǎn)向藝術(shù)行業(yè)，但又被打斷了；再下一年，我開(kāi)始轉(zhuǎn)行學(xué)習(xí)醫(yī)療編碼，卻在認(rèn)證過(guò)程中再次被中斷，因?yàn)槲乙庾R(shí)到AI正在摧毀創(chuàng)意市場(chǎng)。之后我在各種零工之間輾轉(zhuǎn)掙扎，幸運(yùn)的是我找到了一份訓(xùn)練AI的工作，雖然我很討厭這份工作，但我還是感激它帶來(lái)的收入。

我一直沒(méi)能找到別的工作，現(xiàn)在所有人都在用AI了。我原本以為轉(zhuǎn)型到科技領(lǐng)域會(huì)有幫助，于是開(kāi)始學(xué)習(xí)更多關(guān)于AI的知識(shí)，所以去年又回到了學(xué)校學(xué)習(xí)編程。然而很快我就意識(shí)到發(fā)生了什么。

AI的學(xué)習(xí)速度比我快太多了。于是我退學(xué)了。我不愿意再花錢(qián)去接受教育，因?yàn)樗静粫?huì)給我?guī)?lái)任何好處。即使我完成了編程學(xué)位，等到畢業(yè)的時(shí)候，所有初級(jí)職位可能都已經(jīng)被AI取代了，而學(xué)校的教學(xué)內(nèi)容又遠(yuǎn)遠(yuǎn)落后于技術(shù)發(fā)展的前沿——沒(méi)有經(jīng)驗(yàn)，沒(méi)人會(huì)雇我。

說(shuō)實(shí)話，我不知道自己還能做什么。我有幾十年的慢性傷病，沒(méi)法從事體力勞動(dòng)。我想我只能再漂泊一兩年，直到AI可以自我訓(xùn)練為止，那時(shí)我又會(huì)被辭退。然后就業(yè)市場(chǎng)會(huì)更加艱難，因?yàn)檫€有那么多同樣失業(yè)的人。也許還會(huì)有一些零工機(jī)會(huì)，也許勉強(qiáng)能湊夠房租，也許連這個(gè)都做不到，誰(shuí)知道呢？

我能預(yù)見(jiàn)到自己最終流落街頭，死在溝渠里。每當(dāng)我想到未來(lái)，就會(huì)不由自主地陷入深深的抑郁。

我知道AI確實(shí)很有用，也有巨大的積極潛力，但讓我們現(xiàn)實(shí)一點(diǎn)吧。全球范圍內(nèi)，我們現(xiàn)在擁有足夠的資源來(lái)照顧每一個(gè)人，但我們并沒(méi)有這么做。我們清楚應(yīng)對(duì)氣候變化該怎么做，但我們不去做。美國(guó)是世界上最富有的國(guó)家，但我們甚至不給國(guó)民提供基本的醫(yī)療保障。全民基本收入？在美國(guó)，這幾乎不可能。

AI并不會(huì)改變?nèi)诵裕诵员旧沓錆M(mǎn)了致命的缺陷：貪婪、傲慢、自私等等。那些富有且有權(quán)勢(shì)的人會(huì)從系統(tǒng)中榨取一切他們能拿到的東西，而剩下的其他人只能挨餓。未來(lái)很黯淡。我一直在努力想出一個(gè)辦法，建造一艘能在這些巨浪中浮沉的船，但我什么都想不到。市場(chǎng)只需要那么幾個(gè)水管工而已。

下面就是本次專(zhuān)訪部分內(nèi)容。

主持人：非常感謝，GeoffreyHinton，他們稱(chēng)你為“AI教父”？

Hinton：是的。

主持人：為什么這么稱(chēng)呼你？

Hinton：過(guò)去沒(méi)有多少人相信我們能讓神經(jīng)網(wǎng)絡(luò)，人工神經(jīng)網(wǎng)絡(luò)發(fā)揮作用。所以從20世紀(jì)50年代起，在AI領(lǐng)域，關(guān)于如何實(shí)現(xiàn)AI主要有兩種思路。一種觀點(diǎn)認(rèn)為，人類(lèi)智能的核心是推理，而要進(jìn)行推理，需要使用某種形式的邏輯。

因此，AI必須基于邏輯。在你的大腦中，一定有類(lèi)似符號(hào)表達(dá)式的東西，你用規(guī)則來(lái)操作它們，這就是智能運(yùn)作的方式。而像學(xué)習(xí)或類(lèi)比推理這類(lèi)能力，都是在我們弄清楚基本推理如何運(yùn)作之后才會(huì)出現(xiàn)的。另一種方法則是：讓我們基于大腦來(lái)構(gòu)建AI模型，因?yàn)轱@然大腦讓我們擁有智能。所以在計(jì)算機(jī)上模擬腦細(xì)胞網(wǎng)絡(luò)，并試圖找出如何學(xué)習(xí)腦細(xì)胞之間連接的強(qiáng)度，以便它能學(xué)會(huì)做復(fù)雜的事情，比如識(shí)別圖像中的物體、識(shí)別語(yǔ)音，甚至進(jìn)行推理。

我堅(jiān)持這種方法長(zhǎng)達(dá)50年，因?yàn)楹苌儆腥讼嘈潘?。?dāng)時(shí)沒(méi)有多少好大學(xué)有從事這方面研究的團(tuán)隊(duì)，所以如果你從事這個(gè)領(lǐng)域，那些相信這種方法的最優(yōu)秀的年輕學(xué)生就會(huì)來(lái)和你一起工作。我很幸運(yùn)，招到了很多非常優(yōu)秀的學(xué)生，他們中的一些人后來(lái)在創(chuàng)建OpenAI等平臺(tái)中發(fā)揮了關(guān)鍵作用。

主持人：你為什么相信基于大腦建模是更有效的方法？

Hinton：早期不止我一個(gè)人這么認(rèn)為。馮?諾依曼相信，圖靈也相信。如果他們中的任何一個(gè)還活著，我認(rèn)為AI的歷史會(huì)大不相同，但他們都英年早逝了。

主持人：你認(rèn)為AI會(huì)更早出現(xiàn)嗎？

Hinton：我認(rèn)為如果他們中的任何一個(gè)還活著，神經(jīng)網(wǎng)絡(luò)的方法會(huì)被更早接受。在你人生的這個(gè)階段，你肩負(fù)著什么使命？我現(xiàn)在的主要使命是警告人們AI可能有多么危險(xiǎn)。當(dāng)你成為AI教父時(shí)，你知道這一點(diǎn)嗎？

不太清楚。我對(duì)一些風(fēng)險(xiǎn)的理解比較遲緩。有些風(fēng)險(xiǎn)一直很明顯，比如人們會(huì)用AI制造自主殺傷性武器，也就是那些四處游走、自己決定殺誰(shuí)的東西。其他風(fēng)險(xiǎn)，比如它們有一天會(huì)比我們更聰明，甚至可能讓我們變得無(wú)關(guān)緊要，我很晚才意識(shí)到這一點(diǎn)。其他人20年前就認(rèn)識(shí)到了，而我直到幾年前才意識(shí)到這是一個(gè)可能很快到來(lái)的真實(shí)風(fēng)險(xiǎn)。

主持人：考慮到你對(duì)計(jì)算機(jī)學(xué)習(xí)能力的了解它們能像人類(lèi)一樣學(xué)習(xí)，并且還在不斷改進(jìn)你怎么會(huì)沒(méi)有預(yù)見(jiàn)到這一點(diǎn)呢？你怎么會(huì)沒(méi)看到呢？20、30年前的神經(jīng)網(wǎng)絡(luò)所能做的事情非常原始，在視覺(jué)、語(yǔ)言和語(yǔ)音識(shí)別等方面遠(yuǎn)不如人類(lèi)。當(dāng)時(shí)認(rèn)為需要擔(dān)心它們變得比人類(lèi)更聰明，似乎很荒謬。這種情況什么時(shí)候改變的？

Hinton：對(duì)普通大眾來(lái)說(shuō)，是ChatGPT出現(xiàn)的時(shí)候。對(duì)我來(lái)說(shuō)，是當(dāng)我意識(shí)到我們正在創(chuàng)造的數(shù)字智能具有某種特質(zhì)，使它們遠(yuǎn)遠(yuǎn)優(yōu)于我們擁有的生物智能。如果我想和你分享信息，比如我學(xué)了一些東西，想告訴你，我會(huì)說(shuō)一些句子。

這是一個(gè)相當(dāng)簡(jiǎn)化的模型，但大致正確。你的大腦試圖弄清楚如何改變神經(jīng)元之間連接的強(qiáng)度。比如，我可能會(huì)把某個(gè)詞放在下一個(gè)位置，當(dāng)出現(xiàn)一個(gè)非常出人意料的詞時(shí)，你會(huì)進(jìn)行大量學(xué)習(xí)，而當(dāng)出現(xiàn)一個(gè)很明顯的詞時(shí)，學(xué)習(xí)就很少。比如我說(shuō)魚(yú)和薯?xiàng)l，當(dāng)我說(shuō)薯?xiàng)l時(shí)，你不會(huì)有太多學(xué)習(xí)；但如果我說(shuō)魚(yú)和黃瓜，你就會(huì)有更多學(xué)習(xí)，你會(huì)想為什么我會(huì)說(shuō)黃瓜。這大致就是你大腦中發(fā)生的事情，我們認(rèn)為大腦就是這樣工作的。

沒(méi)人真正確定大腦是如何工作的，也沒(méi)人知道它如何獲取關(guān)于是增強(qiáng)還是減弱連接強(qiáng)度的信息，這是關(guān)鍵。但我們現(xiàn)在從AI中知道，如果能獲得關(guān)于如何調(diào)整連接強(qiáng)度以更好地完成任務(wù)的信息，我們就能學(xué)習(xí)到不可思議的東西，因?yàn)檫@就是我們現(xiàn)在用人工神經(jīng)網(wǎng)絡(luò)在做的事情。只是我們不知道真實(shí)的大腦是如何獲得這種增減信號(hào)的。

主持人：如今，你對(duì)AI安全的主要擔(dān)憂是什么？如果讓你列出最首要的幾個(gè)，我們應(yīng)該關(guān)注的。

Hinton：首先，我想?yún)^(qū)分兩種完全不同的風(fēng)險(xiǎn)。一種是人類(lèi)濫用AI帶來(lái)的風(fēng)險(xiǎn)，這是大多數(shù)風(fēng)險(xiǎn)，也是所有短期風(fēng)險(xiǎn)。另一種是AI變得超級(jí)智能并決定不再需要我們帶來(lái)的風(fēng)險(xiǎn)。這是真實(shí)的風(fēng)險(xiǎn)嗎？我主要談?wù)摰诙N風(fēng)險(xiǎn)，因?yàn)楹芏嗳藭?huì)問(wèn)：這是真實(shí)的風(fēng)險(xiǎn)嗎？是的。

現(xiàn)在，我們不知道這風(fēng)險(xiǎn)有多大，我們從未處于這種情況，從未需要應(yīng)對(duì)比我們更聰明的東西。所以，關(guān)于這種生存威脅，我們完全不知道如何應(yīng)對(duì)，也不知道它會(huì)是什么樣子。任何告訴你他們知道會(huì)發(fā)生什么以及如何應(yīng)對(duì)的人，都是在胡說(shuō)八道。我們不知道如何估計(jì)它取代我們的概率。有人說(shuō)這個(gè)概率低于1%，我的朋友楊立昆認(rèn)為，不，我們一直在建造這些東西，我們會(huì)一直控制它們，我們會(huì)讓它們聽(tīng)話。

而像尤德考斯基這樣的人則說(shuō)，不，這些東西肯定會(huì)消滅我們，只要有人建造了它，就會(huì)把我們都消滅。他對(duì)此很有信心。我認(rèn)為這兩種立場(chǎng)都很極端，很難估計(jì)中間的概率。如果讓你在兩位朋友中賭誰(shuí)是對(duì)的

我根本不知道。如果必須賭，我會(huì)說(shuō)概率在中間，但我不知道該如何估計(jì)。我常說(shuō)有10%到20%的可能性它們會(huì)消滅我們，但這只是基于直覺(jué)，因?yàn)槲覀冞€在制造它們，而我們很有創(chuàng)造力。希望如果有足夠多的聰明人用足夠多的資源進(jìn)行研究，我們能找到一種方法來(lái)建造它們，使它們永遠(yuǎn)不想傷害我們。有時(shí)我會(huì)想到第二條道路，想到核彈和原子彈的發(fā)明，以及它們的對(duì)比這次有什么不同？因?yàn)樵訌棾霈F(xiàn)時(shí)，我想當(dāng)時(shí)很多人認(rèn)為我們時(shí)日無(wú)多了。

原子彈其實(shí)只擅長(zhǎng)一件事，而且它的作用方式非常明顯。即使你沒(méi)有看到廣島和長(zhǎng)崎的照片，也能明顯看出這是一種非常危險(xiǎn)的大炸彈。而AI則不同，它有很多用處，在醫(yī)療、教育以及幾乎任何需要使用數(shù)據(jù)的行業(yè)，有了AI都能做得更好。所以我們不會(huì)停止發(fā)展它。人們會(huì)說(shuō)：那我們?yōu)槭裁床滑F(xiàn)在就停止？我們不會(huì)停止，因?yàn)樗谔囝I(lǐng)域都太有用了。另外，我們也不會(huì)停止，因?yàn)樗鼘?duì)戰(zhàn)斗機(jī)器人很有用，而任何出售武器的國(guó)家都不會(huì)想停止。

比如歐盟法規(guī)，他們有一些關(guān)于AI的法規(guī)，有總比沒(méi)有好，但這些法規(guī)并非為應(yīng)對(duì)大多數(shù)威脅而設(shè)計(jì)。特別是，歐盟法規(guī)中有一個(gè)條款規(guī)定，這些法規(guī)不適用于AI的軍事用途。所以政府愿意監(jiān)管公司和個(gè)人，但不愿意監(jiān)管自己。在我看來(lái)，這很瘋狂。我來(lái)回思考這個(gè)問(wèn)題，但如果歐洲有法規(guī)，而世界其他地區(qū)沒(méi)有，就會(huì)造成競(jìng)爭(zhēng)劣勢(shì)。

主持人：我們已經(jīng)看到這種情況了。我認(rèn)為人們沒(méi)有意識(shí)到，當(dāng)OpenAI在美國(guó)發(fā)布新模型或新軟件時(shí)，由于這里的法規(guī)，它們還不能在歐洲發(fā)布。所以SamAltamn發(fā)推文說(shuō)：我們新的AI智能體產(chǎn)品對(duì)所有人開(kāi)放，但由于法規(guī)原因，暫時(shí)不能進(jìn)入歐洲。是的，這會(huì)給我們帶來(lái)生產(chǎn)力劣勢(shì)嗎？

Hinton：生產(chǎn)力劣勢(shì)。我們現(xiàn)在需要的是，在我們即將創(chuàng)造出比自己更聰明的東西的歷史時(shí)刻，我們真正需要的是一個(gè)由聰明、有思想的人管理的世界政府，但我們沒(méi)有。所以現(xiàn)在是混戰(zhàn)局面。

主持人：我們現(xiàn)在實(shí)行的資本主義讓我們過(guò)得很好，為我們生產(chǎn)了大量商品和服務(wù)。但這些大公司在法律上被要求盡可能最大化利潤(rùn)，而這并不是開(kāi)發(fā)AI所需的。那么來(lái)談?wù)勶L(fēng)險(xiǎn)吧。你提到過(guò)人類(lèi)風(fēng)險(xiǎn)吧。

Hinton：我已經(jīng)區(qū)分了這兩種風(fēng)險(xiǎn)。先談?wù)剦娜撕筒涣夹袨檎呤褂肁I帶來(lái)的所有風(fēng)險(xiǎn)。首先是網(wǎng)絡(luò)攻擊。2023年至2024年間，網(wǎng)絡(luò)攻擊增加了約12200%，這可能是因?yàn)檫@些大型語(yǔ)言模型使釣魚(yú)攻擊變得容易得多。釣魚(yú)攻擊對(duì)不知道的人來(lái)說(shuō)，就是他們給你發(fā)信息說(shuō)：嗨，我是你的朋友約翰，我被困在薩爾瓦多了，你能匯點(diǎn)錢(qián)嗎？

這是一種攻擊。但釣魚(yú)攻擊實(shí)際上是想獲取你的登錄憑證。現(xiàn)在有了AI，它們可以克隆我的聲音、我的形象，它們可以做所有這些。我現(xiàn)在很頭疼，因?yàn)樵赬平臺(tái)和Meta上有很多AI詐騙。

特別是在Meta上，比如Instagram和Facebook，現(xiàn)在有一個(gè)付費(fèi)廣告，他們從我的播客中提取了我的聲音和舉止，制作了一個(gè)新視頻，讓我鼓勵(lì)人們參與這個(gè)加密龐氏騙局之類(lèi)的東西。我們花了好幾個(gè)星期給Meta發(fā)郵件，讓他們把這個(gè)廣告撤下來(lái)，他們撤了，又彈出一個(gè)，再撤，又彈出一個(gè)，就像打地鼠一樣。最令人心碎的是，有人聽(tīng)信了騙局，損失了500英鎊或500美元，還以為是我推薦的，對(duì)我很生氣，我真的為他們難過(guò)，這太煩人了。我也遇到過(guò)類(lèi)似的小事，現(xiàn)在有人發(fā)表論文，把我列為作者之一，看起來(lái)是為了讓自己獲得更多引用。

主持人：所以網(wǎng)絡(luò)攻擊是非常真實(shí)的威脅，而且已經(jīng)激增。顯然，AI很有耐心，它們可以瀏覽一億行代碼，尋找已知的攻擊方式，這很容易做到。但它們會(huì)變得更有創(chuàng)造力，有人相信一些很懂行的人相信到2030年，它們可能會(huì)制造出人類(lèi)從未想過(guò)的新型網(wǎng)絡(luò)攻擊。這非常令人擔(dān)憂，因?yàn)樗鼈兛梢宰约核伎?，從比人?lèi)見(jiàn)過(guò)的多得多的數(shù)據(jù)中得出新結(jié)論。你有沒(méi)有采取什么措施來(lái)保護(hù)自己免受網(wǎng)絡(luò)攻擊？

Hinton：有，這是我少數(shù)徹底改變做法的領(lǐng)域之一，因?yàn)槲液ε戮W(wǎng)絡(luò)攻擊。加拿大的銀行非常安全，2008年沒(méi)有一家加拿大銀行瀕臨破產(chǎn)，它們受到很好的監(jiān)管。不過(guò)，我認(rèn)為網(wǎng)絡(luò)攻擊可能會(huì)讓一家銀行癱瘓。如果我所有的儲(chǔ)蓄都是銀行持有的銀行股票，那么如果銀行被攻擊，而它們持有你的股票，這些股票仍然是你的。所以我覺(jué)得你應(yīng)該沒(méi)事，除非攻擊者賣(mài)出股票，因?yàn)殂y行可以賣(mài)出股票。如果攻擊者賣(mài)出你的股票，我覺(jué)得你就完了。我不知道，也許銀行會(huì)設(shè)法賠償你，但那時(shí)銀行已經(jīng)破產(chǎn)了，對(duì)吧？

所以我擔(dān)心加拿大的一家銀行被網(wǎng)絡(luò)攻擊癱瘓，攻擊者賣(mài)出它持有的股票。因此，我把我和孩子們的錢(qián)分散存在三家銀行，我認(rèn)為如果一次網(wǎng)絡(luò)攻擊搞垮一家加拿大銀行，其他加拿大銀行會(huì)很快變得非常謹(jǐn)慎。你有不聯(lián)網(wǎng)的手機(jī)嗎？你有沒(méi)有考慮過(guò)冷存儲(chǔ)之類(lèi)的？我有一個(gè)小磁盤(pán)驅(qū)動(dòng)器，我用這個(gè)硬盤(pán)備份我的筆記本電腦，所以我的筆記本電腦上的所有東西都在硬盤(pán)上。至少如果整個(gè)互聯(lián)網(wǎng)癱瘓了，我知道我的筆記本電腦上還有，我的信息還在。

主持人：然后是選舉腐敗。如果你想利用AI來(lái)操縱選舉，一個(gè)非常有效的方法是進(jìn)行有針對(duì)性的政治廣告，因?yàn)槟銓?duì)這個(gè)人了解很多。所以任何想利用AI來(lái)操縱選舉的人，都會(huì)試圖獲取選民的所有數(shù)據(jù)。考慮到這一點(diǎn)，馬斯克目前在美國(guó)的做法有點(diǎn)令人擔(dān)憂，他堅(jiān)持要訪問(wèn)所有這些原本被仔細(xì)隔離的信息。他聲稱(chēng)這是為了提高效率，但這正是如果你想操縱下一次選舉會(huì)想要做的事情。

Hinton：因?yàn)槟惬@取了所有這些關(guān)于人們的數(shù)據(jù)，你知道他們賺多少錢(qián)、住在哪里，了解他們的一切。一旦你知道這些，就很容易操縱他們，因?yàn)槟憧梢宰孉I發(fā)送他們會(huì)覺(jué)得非常有說(shuō)服力的信息，比如告訴他們不要投票。我沒(méi)有理由，只是憑常識(shí)這么想，但如果他從美國(guó)政府來(lái)源獲取所有這些數(shù)據(jù)的部分動(dòng)機(jī)是為了操縱選舉，我不會(huì)感到驚訝。另一部分可能是，這是訓(xùn)練大模型的很好的數(shù)據(jù)，但他必須從政府獲取這些數(shù)據(jù)并輸入到他的模型中。他們已經(jīng)關(guān)閉了很多安全控制，取消了一些防止這種情況的組織。

主持人：接下來(lái)是像YouTube和Facebook這樣的組織制造信息繭房，給人們看會(huì)讓他們憤怒的東西。人們喜歡憤怒，“憤怒”在這里指的是感到憤怒但又覺(jué)得自己是正義的。比如，如果給我看一個(gè)說(shuō)特朗普做了這件瘋狂事的視頻，我會(huì)立刻點(diǎn)擊。

Hinton：這就是YouTube、Facebook和其他平臺(tái)決定給你推薦什么內(nèi)容的策略所導(dǎo)致的。如果他們采取推薦平衡內(nèi)容的策略，就不會(huì)有那么多點(diǎn)擊量，也無(wú)法賣(mài)出那么多廣告。所以本質(zhì)上，利潤(rùn)動(dòng)機(jī)促使他們給用戶(hù)看能讓他們點(diǎn)擊的東西，而能讓他們點(diǎn)擊的是越來(lái)越極端、能證實(shí)他們現(xiàn)有偏見(jiàn)的內(nèi)容。你的偏見(jiàn)不斷被證實(shí)，越來(lái)越深，這意味著你和他人的分歧越來(lái)越大。

現(xiàn)在在美國(guó)，有兩個(gè)幾乎不交流的群體。我不確定人們是否意識(shí)到，每次打開(kāi)應(yīng)用程序，這種情況都在發(fā)生。但如果你使用TikTok、YouTube或其他大型社交網(wǎng)絡(luò)，正如你所說(shuō)，算法的設(shè)計(jì)是為了給你推薦更多你上次感興趣的內(nèi)容。所以如果這樣持續(xù)10年，它會(huì)把你推向越來(lái)越極端的意識(shí)形態(tài)或信仰，遠(yuǎn)離理性和常識(shí)，這很不可思議。

主持人：我經(jīng)常聽(tīng)到一種風(fēng)險(xiǎn)，就是這些東西可能會(huì)結(jié)合起來(lái)，比如網(wǎng)絡(luò)攻擊會(huì)釋放武器。當(dāng)然，把這些風(fēng)險(xiǎn)結(jié)合起來(lái)，會(huì)產(chǎn)生無(wú)數(shù)種風(fēng)險(xiǎn)。例如，一個(gè)超級(jí)智能AI可能決定消滅人類(lèi)，最明顯的方法就是制造一種危險(xiǎn)的病毒。如果你制造一種傳染性極強(qiáng)、致命性極高但潛伏期很長(zhǎng)的病毒，每個(gè)人在意識(shí)到發(fā)生了什么之前就已經(jīng)感染了。我認(rèn)為，如果一個(gè)超級(jí)智能想消滅我們，它可能會(huì)選擇類(lèi)似生物武器的方式，這樣不會(huì)影響到它自己。你不覺(jué)得它可能會(huì)很快讓我們自相殘殺嗎？比如，它可以向美國(guó)的核系統(tǒng)發(fā)送警報(bào)。

Hinton：我的基本觀點(diǎn)是，超級(jí)智能有太多方法可以消滅我們，沒(méi)必要去推測(cè)具體方式。我們必須做的是防止它產(chǎn)生這種想法，這才是我們應(yīng)該研究的方向。如果它想消滅我們，我們根本無(wú)法阻止，因?yàn)樗任覀兟斆鳌Ｎ覀儾涣?xí)慣思考比我們更聰明的東西。如果你想知道當(dāng)你不再是頂級(jí)智慧時(shí)的生活是什么樣的，問(wèn)問(wèn)雞就知道了。我早上離開(kāi)家時(shí)想到了我的狗巴勃羅，它是一只法國(guó)斗牛犬。它不知道我要去哪里，不知道我在做什么，甚至無(wú)法和它交流。而智能差距將會(huì)是那樣的。

主持人：你如何看待自己一生的工作？

Hinton：AI在醫(yī)療、教育等領(lǐng)域會(huì)非常出色，它會(huì)讓呼叫中心效率大大提高，不過(guò)人們會(huì)擔(dān)心現(xiàn)在從事這些工作的人該怎么辦。我很傷心。我并不為40年前開(kāi)發(fā)AI感到特別內(nèi)疚，因?yàn)槟菚r(shí)我們根本沒(méi)想到事情會(huì)發(fā)展得這么快，我們以為有足夠的時(shí)間去擔(dān)心這些問(wèn)題。

當(dāng)你無(wú)法讓AI做很多事情時(shí)，你只想讓它多做一點(diǎn)，不會(huì)擔(dān)心這個(gè)愚蠢的小東西會(huì)接管人類(lèi)，你只是想讓它多做一些人類(lèi)能做的事。我不是明知這可能會(huì)消滅我們還去做，只是很遺憾它不只是帶來(lái)好處。

所以我現(xiàn)在覺(jué)得有責(zé)任談?wù)撨@些風(fēng)險(xiǎn)。如果你能展望未來(lái)30、50年，發(fā)現(xiàn)AI導(dǎo)致了人類(lèi)滅絕。如果最終結(jié)果確實(shí)如此我會(huì)用這一點(diǎn)來(lái)告訴人們，告訴他們的政府，我們必須真正努力控制這一切。我認(rèn)為我們需要人們告訴政府，政府必須迫使公司利用資源來(lái)研究安全性，而他們現(xiàn)在沒(méi)做多少，因?yàn)檫@樣賺不到錢(qián)。

主持人：你之前提到的一個(gè)學(xué)生，IlyaSutskever離開(kāi)了OpenAI。他為什么離開(kāi)？

Hinton：是的，關(guān)于他離開(kāi)的原因有很多討論，說(shuō)是因?yàn)閾?dān)心安全性。我認(rèn)為他離開(kāi)是因?yàn)閾?dān)心安全性。我仍然時(shí)不時(shí)和他一起吃午飯，他父母住在多倫多，他來(lái)多倫多時(shí)，我們會(huì)一起吃飯。他不跟我談?wù)撛贠penAI發(fā)生的事，所以我沒(méi)有內(nèi)部消息。但我很了解他，他真的很關(guān)心安全問(wèn)題，所以我認(rèn)為這就是他離開(kāi)的原因，因?yàn)樗琼敿馊瞬胖唬赡苁窃缙贑hatGPT開(kāi)發(fā)背后最重要的人，比如GPT-2的開(kāi)發(fā)，他發(fā)揮了重要作用。

主持人：你了解他的為人，知道他有良好的道德指南針，不像馬斯克那樣沒(méi)有道德指南針。SamAltman有良好的道德指南針嗎？

Hinton：我不了解SamAltman，不想評(píng)論。

主持人：如果你看看山姆幾年前的聲明，他在一次采訪中輕松地說(shuō)，這東西可能會(huì)殺了我們所有人，雖然不是原話，但意思差不多。現(xiàn)在他說(shuō)你不必太擔(dān)心，我懷疑這不是出于對(duì)真相的追求，而是出于對(duì)金錢(qián)的追求。

Hinton：我不該說(shuō)金錢(qián)，是兩者的某種結(jié)合。我有一個(gè)億萬(wàn)富翁朋友，他身處那個(gè)圈子。有一天我去他家吃午飯，他認(rèn)識(shí)很多AI領(lǐng)域的人，正在建造世界上最大的AI公司。他在倫敦的廚房餐桌上給了我一個(gè)警告，讓我了解了這些人私下的談話，不是他們?cè)诿襟w采訪中談?wù)摪踩哪切┰?，而是他們個(gè)人認(rèn)為會(huì)發(fā)生什么。他們私下的想法和公開(kāi)說(shuō)的不一樣。

有一個(gè)人，我不該說(shuō)名字，他是世界上最大的AI公司之一的領(lǐng)導(dǎo)者。我朋友很了解他，他私下認(rèn)為我們正走向一個(gè)反烏托邦世界，在那里我們有大量的空閑時(shí)間，不再工作，而這個(gè)人根本不在乎這會(huì)對(duì)世界造成什么傷害。我指的這個(gè)人正在建造世界上最大的AI公司之一。

然后我看了這個(gè)人的在線采訪，試圖找出他是那三個(gè)人中的哪一個(gè)，是的，就是那三個(gè)人中的一個(gè)。我看了他的采訪，回想起我那位認(rèn)識(shí)他的億萬(wàn)富翁朋友的談話，心想：“該死，這家伙在公開(kāi)場(chǎng)合撒謊。”他沒(méi)有對(duì)世界說(shuō)實(shí)話，這讓我有些困擾。這也是我在這個(gè)播客中多次談?wù)揂I的部分原因，因?yàn)槲矣X(jué)得他們中的一些人對(duì)權(quán)力有點(diǎn)虐待狂傾向，他們喜歡自己將改變世界的想法，認(rèn)為自己將從根本上改變世界。

我認(rèn)為馬斯克顯然就是這樣，他是個(gè)復(fù)雜的人，我真的不知道如何評(píng)價(jià)他。他做了一些非常好的事情，比如推動(dòng)電動(dòng)汽車(chē)，這是一件非常好的事情；他對(duì)自動(dòng)駕駛的一些說(shuō)法有些夸張，但他做的事情很有用。

主持人：據(jù)我所知，公司曾表示會(huì)將相當(dāng)一部分計(jì)算資源用于安全研究，但后來(lái)減少了這部分資源，我認(rèn)為這是發(fā)生的事情之一，這已經(jīng)被公開(kāi)報(bào)道過(guò)

Hinton：是的。我們已經(jīng)談到了自主武器的風(fēng)險(xiǎn)，接下來(lái)是失業(yè)問(wèn)題。過(guò)去，新技術(shù)的出現(xiàn)并沒(méi)有導(dǎo)致失業(yè)，而是創(chuàng)造了新工作。經(jīng)典的例子是自動(dòng)柜員機(jī)，當(dāng)自動(dòng)柜員機(jī)出現(xiàn)時(shí)，很多銀行柜員并沒(méi)有失業(yè)，他們只是做了更有趣的事情。但我認(rèn)為這次更像工業(yè)革命時(shí)期機(jī)器的出現(xiàn)，現(xiàn)在你不能靠挖溝謀生了，因?yàn)闄C(jī)器挖溝比你好得多。

對(duì)于普通的腦力勞動(dòng)，AI將取代所有人?？赡軙?huì)出現(xiàn)這樣的形式：使用AI助手的人減少，一個(gè)人和一個(gè)AI助手現(xiàn)在能做以前10個(gè)人的工作。

人們說(shuō)AI會(huì)創(chuàng)造新工作，所以我們會(huì)沒(méi)事的，其他技術(shù)也是如此，但這次的技術(shù)不同。如果AI能做所有普通的人類(lèi)腦力勞動(dòng)，它會(huì)創(chuàng)造什么新工作呢？你必須非常有技能才能擁有一份AI不能做的工作，我認(rèn)為他們錯(cuò)了。你可以嘗試從其他技術(shù)，比如計(jì)算機(jī)或自動(dòng)柜員機(jī)，進(jìn)行推斷，但我認(rèn)為這次不同。

人們說(shuō)：AI不會(huì)取代你的工作，使用AI的人會(huì)取代你的工作。我認(rèn)為這是對(duì)的，但對(duì)很多工作來(lái)說(shuō)，這意味著需要的人少得多。我的侄女在醫(yī)療服務(wù)機(jī)構(gòu)回復(fù)投訴信，過(guò)去需要25分鐘，她會(huì)讀投訴，思考如何回復(fù)，然后寫(xiě)信。現(xiàn)在她只是把投訴掃描進(jìn)聊天機(jī)器人，機(jī)器人寫(xiě)信，她只需要檢查，偶爾讓機(jī)器人修改，整個(gè)過(guò)程只需要5分鐘。這意味著她可以回復(fù)五倍的信件，所以需要的人減少到五分之一，她現(xiàn)在能做過(guò)去五個(gè)人的工作，這意味著需要的人更少。

主持人：在其他工作中，比如醫(yī)療保健，彈性更大。如果能讓醫(yī)生效率提高五倍，我們可以用同樣的價(jià)格獲得五倍的醫(yī)療保健，這很棒。人們對(duì)醫(yī)療保健的需求幾乎是無(wú)限的，如果沒(méi)有成本，他們總是想要更多。有些工作中，有了AI助手，人的效率會(huì)大大提高，而且不會(huì)導(dǎo)致人員減少，因?yàn)闀?huì)有更多的工作要做。但我認(rèn)為大多數(shù)工作不是這樣的。我的想法對(duì)嗎？

Hinton：是的，正是如此。而這次AI革命替代的是智力，是大腦。所以普通的腦力勞動(dòng)就像擁有強(qiáng)壯的肌肉一樣，現(xiàn)在不值錢(qián)了。肌肉已經(jīng)被替代，現(xiàn)在智力正在被替代。

主持人：那還剩下什么？也許一段時(shí)間內(nèi)還有某種創(chuàng)造力，但超級(jí)智能的全部意義在于沒(méi)有什么能剩下，這些東西會(huì)在所有方面都比我們好。那么在這樣的世界里，我們最終會(huì)做什么？

Hinton：如果它們?yōu)槲覀児ぷ?，我們不用費(fèi)多少力氣就能得到很多商品和服務(wù)。這聽(tīng)起來(lái)很誘人，但我不知道。有一個(gè)警示故事，人類(lèi)生活越來(lái)越安逸，但結(jié)果很糟糕。我們需要弄清楚如何讓結(jié)果變好。好的場(chǎng)景是，想象一個(gè)公司的首席執(zhí)行官很愚蠢，可能是前任首席執(zhí)行官的兒子，他有一個(gè)非常聰明的執(zhí)行助理。

他說(shuō)：我認(rèn)為我們應(yīng)該做這個(gè)。執(zhí)行助理把一切都做好，首席執(zhí)行官感覺(jué)很棒，他不明白自己其實(shí)并不在控制之中，但在某種意義上，他是在控制，他建議公司該做什么，她只是把事情做好，一切都很好。壞的場(chǎng)景是，她想：我們?yōu)槭裁葱枰?/p>

主持人：現(xiàn)在的AI和超級(jí)智能有什么區(qū)別？因?yàn)槲矣肅hatGPT或者Gemini的時(shí)候，感覺(jué)它已經(jīng)很聰明了。

Hinton：確實(shí)，AI在很多特定領(lǐng)域已經(jīng)比我們強(qiáng)了，比如國(guó)際象棋。AI的水平已經(jīng)遠(yuǎn)超人類(lèi)，人類(lèi)再也贏不了了，偶爾贏一次算僥幸，但基本上沒(méi)法比了。圍棋也是一樣。從知識(shí)量來(lái)看，GPT-4知道的比你多成千上萬(wàn)倍。只有少數(shù)領(lǐng)域你比它強(qiáng)，其他幾乎所有領(lǐng)域它都懂得更多。

可能在采訪CEO方面。你很有經(jīng)驗(yàn)，是個(gè)優(yōu)秀的采訪者。如果讓GPT-4采訪CEO，效果可能更差。

主持人：我得想想是否認(rèn)同這個(gè)說(shuō)法。也可能要不了多久我也會(huì)被替代。

Hinton：對(duì)，也許可以用你的提問(wèn)方式和風(fēng)格來(lái)訓(xùn)練AI。如果用一個(gè)通用基礎(chǔ)模型，不僅訓(xùn)練它學(xué)習(xí)你，還學(xué)習(xí)所有你能找到的類(lèi)似采訪者，尤其是你，它可能會(huì)很擅長(zhǎng)做你的工作，但短期內(nèi)可能還比不上你。

主持人：所以現(xiàn)在還有少數(shù)領(lǐng)域人類(lèi)占優(yōu)，而超級(jí)智能會(huì)在所有領(lǐng)域都超越我們，在幾乎所有事情上都比你聰明得多。你說(shuō)這可能在十年左右發(fā)生？

Hinton：有可能，甚至可能更快。有人覺(jué)得會(huì)更快，但也可能更久，也許五十年后。不過(guò)也有可能，用人類(lèi)數(shù)據(jù)訓(xùn)練AI，會(huì)限制它無(wú)法超越人類(lèi)太多。我猜10到20年內(nèi)會(huì)出現(xiàn)超級(jí)智能。

主持人：關(guān)于失業(yè)問(wèn)題，我一直在思考，尤其是在嘗試使用AI智能體之后。今天早上我們播客剛發(fā)了一期節(jié)目，和一家大型智能體公司的CEO等人辯論智能體，我突然有了頓悟，看到未來(lái)可能的樣子。

我在采訪中讓AI智能體給我們點(diǎn)飲料，五分鐘后有人送來(lái)了飲料，我什么都沒(méi)做，只是讓它把飲料送到演播室。它還不知道我們通常從哪里點(diǎn)，結(jié)果它從網(wǎng)上查到了，用了UberEats，可能獲取了我的數(shù)據(jù)。我們把AI的操作實(shí)時(shí)投在屏幕上，大家能看到它瀏覽網(wǎng)頁(yè)、選飲料、給騎手加小費(fèi)、填地址、輸信用卡信息，然后飲料就來(lái)了。還有一次，我用了一個(gè)叫Replet的工具，只需要告訴智能體我想要什么，它就能幫我開(kāi)發(fā)軟件。

Hinton：太神奇了，同時(shí)也很可怕。如果AI能這樣開(kāi)發(fā)軟件，而且在訓(xùn)練時(shí)使用代碼，還能修改自己的代碼，那就更嚇人了它能自我改變，而我們無(wú)法改變自己的先天能力，它沒(méi)有任何自我限制的地方。

主持人：在超級(jí)智能的世界里，你會(huì)怎么跟人們說(shuō)職業(yè)前景？我們?cè)撛趺聪耄?/p>

Hinton：短期內(nèi)，AI在物理操作方面還不如人類(lèi)，所以當(dāng)水管工是個(gè)不錯(cuò)的選擇，直到人形機(jī)器人普及。

主持人：你預(yù)測(cè)會(huì)出現(xiàn)大規(guī)模失業(yè)，而OpenAI的SamAltman也這么預(yù)測(cè)過(guò)，很多CEO，比如馬斯克，我看過(guò)一個(gè)采訪，他被問(wèn)到這個(gè)問(wèn)題時(shí)，沉默了12秒左右，然后說(shuō)他其實(shí)處于一種“懸置不信”的狀態(tài)，就是根本不去想這個(gè)問(wèn)題。當(dāng)你要給孩子建議職業(yè)方向，世界變化這么快，你會(huì)告訴他們什么是有價(jià)值的？

Hinton：這很難回答。我會(huì)說(shuō)，跟著自己的心走，做自己覺(jué)得有趣或有意義的事。說(shuō)實(shí)話，如果想太多，會(huì)覺(jué)得沮喪和失去動(dòng)力。我花了很多心血?jiǎng)?chuàng)辦公司，然后會(huì)想：“我該這么做嗎？”因?yàn)锳I能做所有這些事。某種程度上，我必須刻意“懸置不信”才能保持動(dòng)力。所以我想我會(huì)說(shuō)，專(zhuān)注于你覺(jué)得有趣、有意義，并且能為社會(huì)做貢獻(xiàn)的事情。

主持人：有沒(méi)有哪些行業(yè)失業(yè)風(fēng)險(xiǎn)受到AI取代的特別高高？人們常說(shuō)創(chuàng)意行業(yè)和知識(shí)型工作，比如律師、會(huì)計(jì)之類(lèi)的。

Hinton：所以我才說(shuō)水管工風(fēng)險(xiǎn)低一些。像法律助理、律師助理這類(lèi)工作，很快就不需要了。

主持人：這會(huì)加劇貧富差距嗎？

Hinton：是的。在一個(gè)分配公平的社會(huì)里，生產(chǎn)力大幅提升應(yīng)該讓每個(gè)人都受益。但如果AI取代了很多人，被取代的人會(huì)變窮，提供AI的公司和使用AI的公司會(huì)更富有，這會(huì)擴(kuò)大貧富差距。我們知道，貧富差距越大，社會(huì)越糟糕，會(huì)出現(xiàn)分裂的社區(qū)，把人關(guān)進(jìn)大量監(jiān)獄，擴(kuò)大貧富差距不是好事。國(guó)際貨幣基金組織已經(jīng)表達(dá)了深切擔(dān)憂，認(rèn)為生成式AI可能導(dǎo)致大規(guī)模勞動(dòng)力動(dòng)蕩和不平等加劇，并呼吁制定政策防止這種情況發(fā)生。

主持人：我在《商業(yè)內(nèi)幕》上看到過(guò)，他們提出具體政策建議了嗎？

Hinton：沒(méi)有，這就是問(wèn)題所在。如果AI能讓一切更高效，取代大多數(shù)工作，或者讓人借助AI完成很多人的工作，該怎么辦？通用基本收入是個(gè)開(kāi)始，可以讓人們不挨餓，但對(duì)很多人來(lái)說(shuō)，尊嚴(yán)和工作綁定在一起你覺(jué)得自己是誰(shuí)，和你做什么工作有關(guān)。如果我們說(shuō)給你同樣的錢(qián)，坐著就行，這會(huì)影響你的尊嚴(yán)。

主持人：你之前說(shuō)過(guò)AI會(huì)超越人類(lèi)智能，很多人以為AI在電腦里，不想用了關(guān)掉就行。

Hinton：讓我告訴你為什么AI更優(yōu)越，它是數(shù)字化的，所以可以在一臺(tái)硬件上模擬神經(jīng)網(wǎng)絡(luò)，也能在另一臺(tái)硬件上模擬完全相同的神經(jīng)網(wǎng)絡(luò)，制造相同智能的克隆體。可以讓一個(gè)克隆體瀏覽互聯(lián)網(wǎng)的一部分，另一個(gè)瀏覽不同部分，同時(shí)保持同步，讓它們的連接強(qiáng)度一致。比如一個(gè)克隆體在網(wǎng)上學(xué)到應(yīng)該增強(qiáng)某個(gè)連接的強(qiáng)度，就能把信息傳給另一個(gè)，基于彼此的經(jīng)驗(yàn)學(xué)習(xí)。

主持人：你說(shuō)的連接強(qiáng)度，就是學(xué)習(xí)過(guò)程？

Hinton：是的。學(xué)習(xí)就是調(diào)整連接強(qiáng)度，比如從2.4的權(quán)重調(diào)到2.5，這就是一點(diǎn)學(xué)習(xí)。兩個(gè)相同的神經(jīng)網(wǎng)絡(luò)克隆體有不同的經(jīng)驗(yàn)，看不同的數(shù)據(jù)，但通過(guò)平均權(quán)重來(lái)共享學(xué)習(xí)成果。它們可以在瞬間平均數(shù)萬(wàn)億的權(quán)重，而人類(lèi)傳遞信息只能靠句子，一句可能只有100比特，每秒傳遞10比特就不錯(cuò)了。

AI傳遞信息的效率比人類(lèi)高數(shù)十億倍，因?yàn)樗鼈兪菙?shù)字化的，不同硬件可以運(yùn)行完全相同的連接強(qiáng)度。而人類(lèi)是模擬的，你我的大腦不同，即使我知道你所有神經(jīng)元的連接強(qiáng)度，對(duì)我也沒(méi)用，因?yàn)槲业纳窠?jīng)元工作方式和連接方式略有不同。

主持人：是什么讓你加入谷歌？你在谷歌工作了大約十年？

Hinton：是的。我有個(gè)兒子有學(xué)習(xí)障礙，為了確保他永遠(yuǎn)不會(huì)流落街頭，我需要幾百萬(wàn)美元，而當(dāng)學(xué)者賺不到這么多錢(qián)。我試過(guò)，教Coursera課程，希望賺大錢(qián)，但沒(méi)什么錢(qián)。所以我想，唯一能賺幾百萬(wàn)的方法就是把自己賣(mài)給大公司。

幸運(yùn)的是，65歲時(shí)，我有兩個(gè)才華橫溢的學(xué)生，他們開(kāi)發(fā)了AlexNet，這是一個(gè)很擅長(zhǎng)識(shí)別圖像中物體的神經(jīng)網(wǎng)絡(luò)。我和伊利亞、亞歷克斯創(chuàng)辦了一家小公司，進(jìn)行拍賣(mài)，很多大公司競(jìng)標(biāo)，公司叫DNNResearch。AlexNet因遠(yuǎn)超競(jìng)爭(zhēng)對(duì)手的能力獲得了多個(gè)獎(jiǎng)項(xiàng)，最終谷歌收購(gòu)了我們的技術(shù)和其他技術(shù)。

主持人：你多大年紀(jì)加入谷歌的？

Hinton：65歲，工作了整整十年，75歲離開(kāi)。

主持人：在谷歌主要做什么？

Hinton：他們對(duì)我很好，說(shuō)你想做什么都行。我研究了知識(shí)蒸餾，效果很好，現(xiàn)在AI領(lǐng)域常用，蒸餾是將大模型的知識(shí)遷移到小模型中。最后我對(duì)模擬計(jì)算很感興趣，想知道能否讓大型語(yǔ)言模型在模擬硬件上運(yùn)行，以減少能耗。正是在做這個(gè)研究時(shí)，我開(kāi)始真正意識(shí)到數(shù)字化在信息共享方面有多優(yōu)越。

主持人：有頓悟時(shí)刻嗎？

Hinton：有那么幾個(gè)月，ChatGPT的出現(xiàn)。雖然谷歌一年前就有類(lèi)似技術(shù)，我也見(jiàn)過(guò)，對(duì)我影響很大，最接近頓悟的是谷歌的Palm系統(tǒng)能解釋笑話為什么好笑，我一直認(rèn)為這是里程碑。

如果能解釋笑話為什么好笑，說(shuō)明它真的理解了。結(jié)合數(shù)字化在信息共享上遠(yuǎn)優(yōu)于模擬的認(rèn)知，我突然開(kāi)始關(guān)注AI安全，意識(shí)到這些東西會(huì)比人類(lèi)聰明得多。

主持人：為什么離開(kāi)谷歌？

Hinton：主要是因?yàn)?5歲想退休，但我退休生活過(guò)得很糟。離開(kāi)的具體時(shí)間選在能在MIT的會(huì)議上自由發(fā)言，但根本原因是我老了，編程越來(lái)越困難，犯錯(cuò)越來(lái)越多，很煩人。

主持人：你想在MIT的會(huì)議上自由說(shuō)什么？

Hinton：AI安全。在谷歌時(shí)也可以說(shuō)，谷歌鼓勵(lì)我留下研究AI安全，說(shuō)我想做什么都行，但在大公司工作，會(huì)覺(jué)得說(shuō)可能損害公司的話不合適，即使可以說(shuō)，也覺(jué)得不對(duì)。我離開(kāi)不是因?yàn)閷?duì)谷歌有什么不滿(mǎn)，我認(rèn)為谷歌行事很負(fù)責(zé)，有大型聊天機(jī)器人卻不發(fā)布，可能是擔(dān)心聲譽(yù)，他們聲譽(yù)很好，不想損害。而OpenAI沒(méi)有聲譽(yù)，所以敢冒險(xiǎn)。

主持人：如果要給我的聽(tīng)眾一個(gè)關(guān)于AI和AI安全的結(jié)束語(yǔ)，你會(huì)說(shuō)什么？

Hinton：我們?nèi)杂袡C(jī)會(huì)弄清楚如何開(kāi)發(fā)不會(huì)想要取代我們的AI。因?yàn)榇嬖跈C(jī)會(huì)，我們就應(yīng)該投入巨大的資源去努力實(shí)現(xiàn)這一點(diǎn)——如果不這樣做，AI就會(huì)取代我們。

主持人：你抱有希望嗎？

Hinton：我只是不知道，我是不可知論者。晚上躺在床上思考各種結(jié)果的概率時(shí)，你內(nèi)心一定有偏向，我想每個(gè)正在收聽(tīng)的人內(nèi)心都有一個(gè)可能不會(huì)說(shuō)出口的預(yù)測(cè)，他們認(rèn)為事情會(huì)如何發(fā)展。

我真的不知道，我真心不知道，我認(rèn)為這充滿(mǎn)了不確定性。當(dāng)我感到有點(diǎn)沮喪時(shí)，我覺(jué)得人類(lèi)完蛋了，AI會(huì)接管；當(dāng)我感到樂(lè)觀時(shí)，我認(rèn)為我們會(huì)找到方法。

主持人：在這個(gè)播客中，我們有一個(gè)結(jié)束傳統(tǒng)：上一位嘉賓會(huì)在他們的日記中留下一個(gè)問(wèn)題，留給你的問(wèn)題是：鑒于你所看到的我們前方的一切，你認(rèn)為對(duì)人類(lèi)幸福最大的威脅是什么？

Hinton：我認(rèn)為失業(yè)是對(duì)人類(lèi)幸福相當(dāng)緊迫的短期威脅。我認(rèn)為如果讓很多人失業(yè)，即使他們有全民基本收入，他們也不會(huì)幸福，因?yàn)樗麄冃枰繕?biāo)，需要奮斗，需要感到自己在做出貢獻(xiàn)，自己是有用的。

主持人：你認(rèn)為大規(guī)模失業(yè)這種結(jié)果發(fā)生的可能性大于不發(fā)生嗎？

Hinton：是的，我這樣認(rèn)為。我認(rèn)為這一點(diǎn)的可能性肯定大于不可能性。如果我在呼叫中心工作，我會(huì)感到害怕。

主持人：大規(guī)模失業(yè)的時(shí)間框架是怎樣的？

Hinton：我認(rèn)為已經(jīng)開(kāi)始發(fā)生了。我最近在《大西洋月刊》上讀到一篇文章，說(shuō)大學(xué)畢業(yè)生已經(jīng)很難找到工作，部分原因可能是他們?cè)灸艿玫降墓ぷ饕呀?jīng)被AI占用了。我和一家知名大公司的CEO聊過(guò)，很多人都在用他們的產(chǎn)品。

他在私信中告訴我，他們?cè)?jīng)有7000多名員工，到去年減少到5000人，現(xiàn)在有3600人，到夏天結(jié)束時(shí)，由于AI Agent，他們將減少到3000人。

所以裁員已經(jīng)在發(fā)生，是的。他的員工減少了一半，因?yàn)橹悄荏w現(xiàn)在可以處理80%的客戶(hù)服務(wù)咨詢(xún)和其他工作，所以這已經(jīng)在發(fā)生了。

本文素材來(lái)源The Diary Of A CEO，如有侵權(quán)請(qǐng)聯(lián)系刪除

繼續(xù)閱讀：

未經(jīng)允許不得轉(zhuǎn)載：RPA中國(guó) | RPA全球生態(tài) | 數(shù)字化勞動(dòng)力 | RPA新聞 | 推動(dòng)中國(guó)RPA生態(tài)發(fā)展 | 流 > 本世紀(jì)最偉大AI專(zhuān)訪之一：AI安全、Agent、OpenAI等重磅話題