編譯｜巴比特資訊

伊利亞·蘇茨克韋爾（Ilya Sutskever）低著頭，陷入沉思。他雙臂張開，手指張開在桌面上，就像音樂會(huì)鋼琴家即將彈奏他的第一個(gè)音符。我們靜靜地坐著。

我來到舊金山 Mission 區(qū)一條不起眼的街道上，在一棟不起眼的辦公樓里與 OpenAI 聯(lián)合創(chuàng)始人兼首席科學(xué)家 Sutskever 會(huì)面，傾聽他大力推動(dòng)的這項(xiàng)顛覆世界的技術(shù)的下一步發(fā)展。我還想知道他的下一步計(jì)劃是什么，特別是為什么他的工作重點(diǎn)已經(jīng)不再是構(gòu)建公司的下一代旗艦生成模型。

Sutskever 告訴我，他的新優(yōu)先事項(xiàng)不是構(gòu)建下一代 GPT 或圖像制作模型 DALL-E，而是找出如何阻止人工智能的失控。

Sutskever 還告訴了我很多其他事情。他認(rèn)為 ChatGPT 可能是有意識(shí)的。他認(rèn)為世界需要認(rèn)識(shí)到 OpenAI 和其他公司正在競(jìng)相創(chuàng)造的技術(shù)的真正力量。他認(rèn)為有一天一些人類會(huì)選擇與機(jī)器融合。

Sutskever 說的很多話都很瘋狂。但并不像一兩年前聽起來那么瘋狂。正如他本人告訴我的那樣，ChatGPT 已經(jīng)改寫了很多人對(duì)即將發(fā)生的事情的期望，從“永遠(yuǎn)不會(huì)發(fā)生”變成“會(huì)比你想象的更快發(fā)生”。

在預(yù)測(cè)通用人工智能 AGI（他指的是像人類一樣聰明的機(jī)器）的發(fā)展之前，他說：“重要的是要討論一切的發(fā)展方向，就好像它就像押注下一代 iPhone 一樣：“在某個(gè)時(shí)候，我們真的會(huì)擁有AGI。也許是由 OpenAI 構(gòu)建，也許是其他公司?！?/p>

自從去年 11 月突然出人意料地發(fā)布了 ChatGPT 以來，圍繞 OpenAI 的討論一直令人震驚，即使是在一個(gè)以炒作聞名的行業(yè)中也是如此。沒有人會(huì)厭倦討論這家價(jià)值 800 億美元的初創(chuàng)公司。世界領(lǐng)導(dǎo)人尋求（并獲得）與 OpenAI 私下或公開對(duì)話。OpenAI 的產(chǎn)品名稱會(huì)在隨意的談話中突然出現(xiàn)。

OpenAI 首席執(zhí)行官薩姆·奧爾特曼 (Sam Altman) 在夏季時(shí)間里進(jìn)行了為期一周的外展之旅，熱情地與政客們打交道，并向世界各地?cái)D滿人的禮堂發(fā)表演講。但 Sutskever 并不是一個(gè)公眾人物，他也不接受太多采訪。

他說話時(shí)從容、有條理。當(dāng)他思考自己想說的內(nèi)容以及如何表達(dá)時(shí)，他會(huì)停頓很長(zhǎng)時(shí)間，像解謎一樣翻來覆去地思考問題。他似乎對(duì)談?wù)撟约翰桓信d趣。他說，“我過著非常簡(jiǎn)單的生活。上班，然后回家。我沒有做太多其他事情。人們可以去參加很多社交活動(dòng)，可以參加很多大會(huì)。我不喜歡參與?！?/p>

但當(dāng)我們談?wù)?AI，以及他所看到的劃時(shí)代的風(fēng)險(xiǎn)和回報(bào)時(shí)，前景就開闊了：“這將是具有里程碑意義的、驚天動(dòng)地的?！?/p>

01、更好、更好、更好

即便沒有 OpenAI，Sutskever 仍舊將載入 AI 史冊(cè)。他是以色列裔加拿大人，出生于蘇聯(lián)，但從五歲起在耶路撒冷長(zhǎng)大（他仍然會(huì)說俄語(yǔ)、希伯來語(yǔ)和英語(yǔ)）。隨后，他移居加拿大，在多倫多大學(xué)跟隨 AI 先驅(qū)杰弗里·辛頓 (Geoffrey Hinton) 學(xué)習(xí)，杰弗里·辛頓 (Geoffrey Hinton) 在今年早些時(shí)候公開表達(dá)了對(duì) Sutskever 幫助發(fā)明的 AI 技術(shù)的擔(dān)憂。

Hinton 后來因在神經(jīng)網(wǎng)絡(luò)方面的工作而與 Yann LeCun 和 Yoshua Bengio 分享了圖靈獎(jiǎng)。但當(dāng) Sutskever 在 2000 年代初加入他時(shí)，大多數(shù) AI 研究人員認(rèn)為神經(jīng)網(wǎng)絡(luò)是一個(gè)死胡同。辛頓是個(gè)例外。他已經(jīng)在訓(xùn)練微型模型，這些模型可以一次生成一個(gè)字符的短文本字符串，Sutskever 說：“這就是生成式 AI 的開始。這真的很酷——只是不太好?！?/p>

Sutskever 對(duì)大腦的構(gòu)造很著迷：大腦如何學(xué)習(xí)，以及如何在機(jī)器中重新創(chuàng)建或至少模仿該過程。和 Hinton 一樣，他看到了神經(jīng)網(wǎng)絡(luò)的潛力以及 Hinton 用來訓(xùn)練神經(jīng)網(wǎng)絡(luò)的試錯(cuò)技術(shù)，即深度學(xué)習(xí)。Sutskever 說，“深度學(xué)習(xí)一直在變得越來越好，越來越好?！?/p>

2012 年，Sutskever、Hinton 和 Hinton 的另一位研究生 Alex Krizhevsky 構(gòu)建了一個(gè)名為 AlexNet 的神經(jīng)網(wǎng)絡(luò)，他們訓(xùn)練該網(wǎng)絡(luò)來識(shí)別照片中的物體，其效果遠(yuǎn)遠(yuǎn)好于當(dāng)時(shí)的任何其他軟件。這是深度學(xué)習(xí)的大爆炸時(shí)刻。

經(jīng)過多年的失敗，他們證明了神經(jīng)網(wǎng)絡(luò)在模式識(shí)別方面的效果驚人。你只需要比大多數(shù)研究人員以前見過的更多的數(shù)據(jù)（在本例中，是普林斯頓大學(xué)研究員李飛飛自 2006 年以來一直在構(gòu)建的 ImageNet 數(shù)據(jù)集的一百萬(wàn)張圖像）和令人眼花繚亂的計(jì)算機(jī)能力。

計(jì)算方面的巨大變化來自于英偉達(dá)制造的新型 GPU 芯片。GPU 被設(shè)計(jì)為能夠以閃電般的速度將快速移動(dòng)的視頻游戲視覺效果投射到屏幕上。但 GPU 擅長(zhǎng)的計(jì)算（將大量數(shù)字網(wǎng)格相乘）恰好看起來很像訓(xùn)練神經(jīng)網(wǎng)絡(luò)所需的計(jì)算。

英偉達(dá)現(xiàn)在是一家價(jià)值萬(wàn)億美元的公司。當(dāng)時(shí)，它迫切希望為其利基新硬件找到應(yīng)用程序。英偉達(dá)首席執(zhí)行官黃仁勛 (Jensen Huang) 表示：“當(dāng)你發(fā)明一項(xiàng)新技術(shù)時(shí)，你必須能夠接受瘋狂的想法。我的心態(tài)總是在尋找一些古怪的東西，而神經(jīng)網(wǎng)絡(luò)將改變計(jì)算機(jī)科學(xué)的想法——這是一個(gè)極其古怪的想法?！?/p>

黃仁勛說，當(dāng)多倫多團(tuán)隊(duì)研究 AlexNet 時(shí)，Nvidia 向他們發(fā)送了一些 GPU 進(jìn)行嘗試。但他們想要最新版本，一種名為 GTX 580 的芯片，該芯片在商店中很快就銷售一空。據(jù)黃說，Sutskever 開車從多倫多越過邊境到紐約去買一些。黃說，“人們?cè)谏痰旯战翘幣抨?duì)購(gòu)買。我不知道他是怎么做到的——我很確定你們只能每人買一個(gè)；我們有一個(gè)非常嚴(yán)格的政策，每個(gè)玩家只能使用一個(gè) GPU，但他顯然裝滿了一個(gè)后備箱。這個(gè)裝滿 GTX 580 的行李箱改變了世界?！?/p>

這是一個(gè)很棒的故事——只是可能不是真的。因?yàn)?Sutskever 堅(jiān)稱第一批 GPU 是他在網(wǎng)上購(gòu)買的。但這種神秘故事在這個(gè)熱鬧的行業(yè)中很常見。Sutskever 本人則更為謙虛：“我想，如果我能取得哪怕一丁點(diǎn)的真正進(jìn)步，我就會(huì)認(rèn)為這是成功的。對(duì)現(xiàn)實(shí)世界的影響感覺很遙遠(yuǎn)，因?yàn)楫?dāng)時(shí)計(jì)算機(jī)還很弱小。”

AlexNet 取得成功后，谷歌前來敲門。它收購(gòu)了 Hinton 的衍生公司 DNNresearch，并聘請(qǐng)了 Sutskever。Sutskever 在谷歌展示了深度學(xué)習(xí)的模式識(shí)別能力可以應(yīng)用于數(shù)據(jù)序列，例如單詞、句子以及圖像。Sutskever 的前同事、現(xiàn)任谷歌首席科學(xué)家杰夫·迪恩說， “Sutskever 一直對(duì)語(yǔ)言很感興趣，多年來我們進(jìn)行了很好的討論。他對(duì)事情的走向有很強(qiáng)的直覺?！?/p>

但 Sutskever 并沒有在谷歌呆太久。2014年，他被招募成為OpenAI的聯(lián)合創(chuàng)始人。在 10 億美元（來自 Altman、Elon Musk、Peter Thiel、微軟、Y Combinator 等）的資金支持下，再加上大量的硅谷風(fēng)氣，這家新公司從一開始就將目光投向了開發(fā) AGI，但當(dāng)時(shí)很少有人認(rèn)真對(duì)待這一前景。

隨著 Sutskever 的加入，這種趾高氣揚(yáng)的態(tài)度是可以理解的。在那之前，他一直在從神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)中獲得越來越多的成果。Y Combinator 投資董事總經(jīng)理道爾頓·考德威爾 (Dalton Caldwell) 表示，他的聲譽(yù)先于他，這使他成為了一個(gè)大熱門。

“我記得 Altman 稱 Sutskever 為世界上最受尊敬的研究人員之一，”考德威爾說?！八J(rèn)為 Sutskever 能夠吸引很多頂尖的 AI 人才。他甚至提到，世界頂級(jí) AI 專家之一 Yoshua Bengio 認(rèn)為，不太可能找到比 Sutskever 更好的候選人來?yè)?dān)任 OpenAI 的首席科學(xué)家。”

然而一開始 OpenAI 卻陷入了困境。“有一段時(shí)間，當(dāng)我們開始 OpenAI 時(shí)，我不太確定進(jìn)展將如何繼續(xù)，”Sutskever 說?！暗矣幸粋€(gè)非常明確的信念，那就是：人們不會(huì)反對(duì)深度學(xué)習(xí)。不知何故，每次遇到障礙時(shí)，研究人員都會(huì)在六個(gè)月或一年內(nèi)找到解決方法?！?/p>

他的信念得到了回報(bào)。OpenAI 的第一個(gè) GPT 大語(yǔ)言模型出現(xiàn)于 2016 年。隨后出現(xiàn)了 GPT-2 和 GPT-3。然后是 DALL-E，引人注目的文本到圖像模型。沒有人建造出如此好的東西。每一次發(fā)布，OpenAI 都提高了人們認(rèn)為可能的標(biāo)準(zhǔn)。

02、管理期望

去年 11 月，OpenAI 發(fā)布了一款免費(fèi)聊天機(jī)器人，重新包裝了一些現(xiàn)有技術(shù)。它重置了整個(gè)行業(yè)的議程。

當(dāng)時(shí)，OpenAI 并不知道自己要發(fā)布什么。Sutskever 表示，公司內(nèi)部的期望已經(jīng)低得不能再低了：“我承認(rèn)，這讓我有點(diǎn)尷尬——我不知道我是否應(yīng)該這樣做，但管他呢，這是事實(shí)——當(dāng)我們制作 ChatGPT 時(shí)，我并不知道它有什么好處。當(dāng)你問它一個(gè)事實(shí)問題時(shí)，它給了你一個(gè)錯(cuò)誤的答案。我認(rèn)為這會(huì)很不起眼，人們會(huì)說，‘你為什么搞這樣的產(chǎn)品？這很無聊！'”

Sutskever 說，最吸引人的地方就是便利。ChatGPT 背后的大型語(yǔ)言模型已經(jīng)存在了幾個(gè)月。但將其包裝在一個(gè)易于訪問的界面中并免費(fèi)贈(zèng)送，讓數(shù)十億人第一次意識(shí)到 OpenAI 和其他人正在構(gòu)建的東西。

Sutskever說，“第一次的經(jīng)歷讓人著迷。當(dāng)你第一次使用它時(shí)，我認(rèn)為這幾乎是一種精神體驗(yàn)。你會(huì)說，‘天哪，這臺(tái)計(jì)算機(jī)似乎能自己理解。’”

OpenAI 在不到兩個(gè)月的時(shí)間里就積累了 1 億用戶，其中許多人都被這個(gè)令人驚嘆的新玩具弄得眼花繚亂。存儲(chǔ)公司 Box 的首席執(zhí)行官 Aaron Levie 在推特上總結(jié)了發(fā)布后一周的氛圍：“ChatGPT 是技術(shù)領(lǐng)域罕見的時(shí)刻之一，你可以看到未來一切都會(huì)有所不同?！?/p>

一旦 ChatGPT 說出一些愚蠢的話，這種奇跡就會(huì)崩潰。但到那時(shí)就無所謂了。Sutskever 說，對(duì)可能性的一瞥就足夠了。ChatGPT 改變了人們的視野。

“AGI 在機(jī)器學(xué)習(xí)領(lǐng)域不再是一個(gè)骯臟的詞，”他說。“這是一個(gè)很大的變化。人們歷史上的態(tài)度是：AI 行不通，每一步都非常困難，你必須為每一點(diǎn)進(jìn)步而奮斗。當(dāng)人們大肆宣揚(yáng) AGI 時(shí)，研究人員會(huì)說，‘你在說什么？這不行，那也不行。問題太多了?！辛?ChatGPT，感覺就開始不一樣了。”

這種轉(zhuǎn)變?cè)谝荒昵安砰_始發(fā)生？“這一切的發(fā)生都是因?yàn)?ChatGPT，”他說。“ChatGPT 讓機(jī)器學(xué)習(xí)研究人員得以實(shí)現(xiàn)夢(mèng)想。”

OpenAI 的科學(xué)家從一開始就是布道者，一直通過博客文章和巡回演講來激發(fā)這些夢(mèng)想。它正在發(fā)揮作用：“我們現(xiàn)在有人在談?wù)?AI 將走多遠(yuǎn)——人們?cè)谡務(wù)?AGI，或者說超級(jí)智能。” 不僅僅是研究人員。“各國(guó)政府正在討論這個(gè)問題，”Sutskever 說?！斑@很瘋狂?！?/p>

03、不可思議的事情

Sutskever 堅(jiān)持認(rèn)為，所有這些關(guān)于尚不存在（也可能永遠(yuǎn)不會(huì)存在）的技術(shù)的討論是一件好事，因?yàn)樗尭嗟娜艘庾R(shí)到他已經(jīng)認(rèn)為理所當(dāng)然的未來。

他說：“你可以利用 AGI 做很多令人驚奇的事情，不可思議的事情：自動(dòng)化醫(yī)療保健，使其便宜一千倍，效果好一千倍，治愈如此多的疾病，真正解決全球變暖問題。但也有很多人擔(dān)心：‘天啊，AI 公司能成功管理這項(xiàng)巨大的技術(shù)嗎？’”

這樣看來，AGI 聽起來更像是一個(gè)實(shí)現(xiàn)愿望的精靈，而不是現(xiàn)實(shí)世界的前景。很少有人會(huì)對(duì)拯救生命和解決氣候變化說不。但一項(xiàng)不存在的技術(shù)的問題在于，你可以對(duì)它說任何你想說的話。

當(dāng) Sutskever 談?wù)?AGI 時(shí)，他到底在談?wù)撌裁?？“AGI 并不是一個(gè)科學(xué)術(shù)語(yǔ)，”他說。“這應(yīng)該是一個(gè)有用的門檻，一個(gè)參考點(diǎn)。”

“這就是想法——”他開口說道，然后停了下來?！叭斯ぶ悄芤呀?jīng)變得如此聰明，如果一個(gè)人可以完成某些任務(wù)，那么人工智能也可以做到。到那時(shí)你就可以說你擁有了 AGI。”

人們可能正在談?wù)撍?，?AGI 仍然是該領(lǐng)域最具爭(zhēng)議的想法之一。很少有人認(rèn)為它的發(fā)展是理所當(dāng)然的。許多研究人員認(rèn)為，在我們看到像 Sutskever 所設(shè)想的那樣的東西之前，需要在概念上取得重大突破——有些人認(rèn)為我們永遠(yuǎn)不會(huì)。然而，這個(gè)愿景從一開始就激勵(lì)著他?！拔乙恢笔艿竭@個(gè)想法的啟發(fā)和激勵(lì)，” Sutskever 說。“當(dāng)時(shí)它還不被稱為 AGI，但你知道，就像讓神經(jīng)網(wǎng)絡(luò)做所有事情一樣。我并不總是相信他們可以。但這是一座需要攀登的山。”

他將神經(jīng)網(wǎng)絡(luò)和大腦的運(yùn)作方式進(jìn)行了比較。兩者都接收數(shù)據(jù)，聚合來自該數(shù)據(jù)的信號(hào)，然后基于一些簡(jiǎn)單的過程（神經(jīng)網(wǎng)絡(luò)中的數(shù)學(xué)、大腦中的化學(xué)物質(zhì)和生物電）來傳播或不傳播它們。這是一個(gè)巨大的簡(jiǎn)化，但原則是成立的。

“如果你相信這一點(diǎn)——如果你允許自己相信這一點(diǎn)——那么就會(huì)產(chǎn)生很多有趣的含義，” Sutskever 說。“主要的含義是，如果你有一個(gè)非常大的人工神經(jīng)網(wǎng)絡(luò)，它應(yīng)該做很多事情。特別是，如果人腦可以做某事，那么大型人工神經(jīng)網(wǎng)絡(luò)也可以做類似的事情?！?/p>

“如果你足夠認(rèn)真地認(rèn)識(shí)到這一點(diǎn)，一切都會(huì)水到渠成，”他說?！拔业拇蟛糠止ぷ鞫伎梢杂眠@個(gè)來解釋?！?/p>

當(dāng)我們談?wù)摯竽X時(shí)，我想問一下 Sutskever 在 X 平臺(tái)上發(fā)布的一篇帖子。Sutskever 的提要讀起來就像一卷格言：“如果你將智力置于所有其他人類品質(zhì)之上，那么你會(huì)過得很糟糕”；“生活和商業(yè)中的同理心被低估了”；“完美已經(jīng)毀掉了很多完美的美好?！?/p>

2022 年 2 月，他發(fā)帖稱，“今天的大型神經(jīng)網(wǎng)絡(luò)可能具有輕微的意識(shí)”（谷歌 DeepMind 首席科學(xué)家、倫敦帝國(guó)理工學(xué)院教授、電影《機(jī)械姬》的科學(xué)顧問 Murray Shanahan 對(duì)此回答：“......同樣的意義，可能是大片麥田略帶面食”）。

當(dāng)我提起這件事時(shí)，Sutskever 笑了。他是在惡搞嗎？他不是。“你熟悉玻爾茲曼大腦的概念嗎？”他問。

他指的是一個(gè)以 19 世紀(jì)物理學(xué)家路德維?！げ柶澛?(Ludwig Boltzmann) 命名的量子力學(xué)思想實(shí)驗(yàn)，其中想象宇宙中的隨機(jī)熱力學(xué)波動(dòng)會(huì)導(dǎo)致大腦的出現(xiàn)和消失。

“我覺得現(xiàn)在這些語(yǔ)言模型有點(diǎn)像玻爾茲曼大腦，”Sutskever 說。“你開始和它說話，聊一會(huì)兒；然后你說完，大腦就會(huì)——”他用手做了一個(gè)消失的動(dòng)作。噗——再見，大腦。

你是說，當(dāng)神經(jīng)網(wǎng)絡(luò)處于活動(dòng)狀態(tài)時(shí)——可以說，當(dāng)它在放電時(shí)——那里有東西？我問。

“我認(rèn)為可能是這樣，”他說。“我不確定，但這是一種很難反駁的可能性。但誰(shuí)知道發(fā)生了什么事，對(duì)吧？”

04、AI，但不是我們所知道的

當(dāng)其他人苦苦思索如何讓機(jī)器能夠與人類智能相媲美時(shí)，Sutskever 卻在為能夠超越我們的機(jī)器做準(zhǔn)備。他將這種現(xiàn)象稱為超級(jí)人工智能：“他們會(huì)更深入地看待事物。他們會(huì)看到我們看不到的東西?！?/p>

再次，我很難理解這到底意味著什么。人類智力是我們判斷智力的基準(zhǔn)。Sutskever 所說的比人類聰明的智能是什么意思？

“我們?cè)?AlphaGo 中看到了一個(gè)非常狹隘的超級(jí)智能的例子，”他說。2016 年，DeepMind 的棋盤游戲人工智能“阿法狗”在五場(chǎng)比賽中以 4-1 擊敗了世界上最好的圍棋棋手之一李世石。“它弄清楚了如何以不同于人類數(shù)千年來共同發(fā)展的方式下圍棋，”Sutskever 說?！八岢隽诵碌南敕ā！?/p>

Sutskever 提到了 AlphaGo 著名的第 37 步棋。在與李世石的第二場(chǎng)比賽中，人工智能的一步棋讓評(píng)論員感到困惑。他們認(rèn)為 AlphaGo 搞砸了。事實(shí)上，它下了棋史上從未見過的制勝棋。“想象一下這種程度的洞察力，但涵蓋一切，”Sutskever 說。

正是這種思路導(dǎo)致 Sutskever 做出了他職業(yè)生涯中最大的轉(zhuǎn)變。他與 OpenAI 的科學(xué)家同事 Jan Leike 一起成立了一個(gè)團(tuán)隊(duì)，專注于他們所謂的“超級(jí)對(duì)齊”。對(duì)齊是一個(gè)行話，意味著讓 AI 模型做你想做的事，僅此而已。超級(jí)對(duì)齊是 OpenAI 應(yīng)用于超級(jí)智能的對(duì)齊術(shù)語(yǔ)。

目標(biāo)是提出一套用于構(gòu)建和控制這種未來技術(shù)的故障安全程序。OpenAI 表示，它將分配其龐大計(jì)算資源的五分之一來解決該問題，并在四年內(nèi)解決它。

“現(xiàn)有的對(duì)齊方法不適用于比人類更聰明的模型，因?yàn)樗鼈儚母旧霞僭O(shè)人類可以可靠地評(píng)估 AI 系統(tǒng)正在做什么，”Leike 說?！半S著 AI 系統(tǒng)變得更加強(qiáng)大，它們將承擔(dān)更艱巨的任務(wù)。”這個(gè)想法認(rèn)為，這將使人類更難評(píng)估它們?！霸谂c Sutskever 一起組建超級(jí)對(duì)齊團(tuán)隊(duì)時(shí)，我們已經(jīng)著手解決這些未來的對(duì)齊挑戰(zhàn)，”他說。

谷歌首席科學(xué)家 Dean 表示：“不僅要關(guān)注大型語(yǔ)言模型的潛在機(jī)遇，還要關(guān)注其風(fēng)險(xiǎn)和缺點(diǎn)，這一點(diǎn)非常重要。”

該公司于七月份以典型的大張旗鼓宣布了該項(xiàng)目。但對(duì)某些人來說，這更多的是幻想。OpenAI 在 Twitter 上的帖子引起了大型科技公司著名批評(píng)者的蔑視，其中包括在 Mozilla 從事AI 問責(zé)工作的 Abeba Birhane；Timnit Gebru，分布式 AI 研究所聯(lián)合創(chuàng)始人；以及 AI 公司 Hugging Face 的首席道德科學(xué)家瑪格麗特·米切爾（Margaret Mitchell）。確實(shí)，這些都是熟悉的異議聲音。但這強(qiáng)烈提醒我們，有些人認(rèn)為 OpenAI 處于領(lǐng)先地位，而另一些人則認(rèn)為 OpenAI 處于邊緣地位。

但是，對(duì)于 Sutskever 來說，超級(jí)對(duì)齊是不可避免的下一步?！斑@是一個(gè)未解決的問題，”他說。他認(rèn)為，像他這樣的核心機(jī)器學(xué)習(xí)研究人員正在致力于解決這個(gè)問題。“我這樣做是為了我自己的利益，”他說?！叭魏稳藰?gòu)建的任何超級(jí)智能都不會(huì)失控，這一點(diǎn)顯然很重要?！?/p>

超級(jí)對(duì)齊的工作才剛剛開始。Sutskever 表示，這需要研究機(jī)構(gòu)進(jìn)行廣泛的變革。但他心中有一個(gè)想要設(shè)計(jì)的保障措施的典范：一臺(tái)像父母對(duì)待孩子一樣對(duì)待人們的機(jī)器?！霸谖铱磥恚@是黃金標(biāo)準(zhǔn)，”他說?！叭藗冋娴暮荜P(guān)心孩子，這是一個(gè)普遍正確的說法?！?/p>

“一旦你克服了流氓人工智能的挑戰(zhàn)，然后呢？在一個(gè)擁有更智能人工智能的世界里，人類還有生存空間嗎？”他說。

“一種可能性——以今天的標(biāo)準(zhǔn)來看可能很瘋狂，但以未來的標(biāo)準(zhǔn)來看不會(huì)那么瘋狂——就是許多人會(huì)選擇成為人工智能的一部分?！盨utskever 表示，這可能是人類試圖跟上潮流的方式。“一開始，只有最勇敢、最有冒險(xiǎn)精神的人才會(huì)嘗試這樣做。也許其他人會(huì)效仿?；虿弧！?/p>

參考來源：

https://www.technologyreview.com/2023/10/26/1082398/exclusive-ilya-sutskever-openais-chief-scientist-on-his-hopes-and-fears-for-the-future-of-ai/