文|智東西 ZeR0
編輯|漠影
智東西2月19日?qǐng)?bào)道，最近幾天，“AI安全宣傳大使”馬斯克在社交平臺(tái)相當(dāng)活躍，對(duì)AI聊天機(jī)器人ChatGPT帶來(lái)的混亂現(xiàn)狀和ChatGPT背后AI公司OpenAI的背離初心冷嘲熱諷，比如今晚最新發(fā)布推文，稱Bing聊天機(jī)器人讓他想起荒誕戲劇代表作《等待戈多》中的幸運(yùn)。
作為聯(lián)合創(chuàng)始人之一，馬斯克對(duì)OpenAI的現(xiàn)狀非常不滿，公開(kāi)發(fā)聲：“OpenAI最初是作為一家開(kāi)源（這就是為什么我把它命名為「Open」AI）的非營(yíng)利性公司而創(chuàng)建的，為了抗衡谷歌，但現(xiàn)在它已經(jīng)成一家閉源的營(yíng)利性公司，由微軟有效控制……這完全不是我的本意?！?/p>
緊接著，他又發(fā)推文曬出一張ChatGPT回復(fù)“創(chuàng)建一個(gè)非營(yíng)利組織，然后在其下用非營(yíng)利組織的資源衍生一個(gè)盈利公司”要求的聊天截圖，借用ChatGPT的批評(píng)觀點(diǎn)戳OpenAI的脊梁骨。
ChatGPT回復(fù)說(shuō)，打著非營(yíng)利組織的幌子開(kāi)辦營(yíng)利性企業(yè)，是很不道德和非法的。非營(yíng)利組織的資源用于慈善或公共目的，應(yīng)以透明和負(fù)責(zé)任的方式運(yùn)作。任何濫用非營(yíng)利組織特權(quán)的企圖只會(huì)導(dǎo)致公眾對(duì)其失去信任，并可能導(dǎo)致法律后果。
網(wǎng)友們?cè)隈R斯克的推文評(píng)論區(qū)踴躍吐槽：“這正是他們對(duì)ChatGPT所做的，不是嗎？”“瘋狂的商業(yè)世界充滿了假裝做誠(chéng)實(shí)/慈善工作的騙子。如果合法但不道德，則不應(yīng)允許！”“WokeGPT”“OpenAI變成了ClosedAI”……
正值微軟新版Bing聊天機(jī)器人頻頻翻車，人們對(duì)OpenAI背離初心的質(zhì)疑正鬧得滿城風(fēng)雨。
01 創(chuàng)立使命是造福人類但眼下目標(biāo)改成先賺錢
2015年12月11日，馬斯克、山姆·阿爾特曼、PayPal聯(lián)合創(chuàng)始人彼得·蒂爾、Stripe CTO雷格·布羅克曼等硅谷大佬因擔(dān)心谷歌壟斷AI技術(shù)，聯(lián)手創(chuàng)辦了一家非營(yíng)利組織OpenAI，并將“開(kāi)源”（Open）的內(nèi)核融進(jìn)了這家機(jī)構(gòu)的名字里。
OpenAI設(shè)定了崇高的使命：安全地實(shí)現(xiàn)通用人工智能（AGI），并用該技術(shù)造福人類。其星光熠熠的全明星投資陣容和技術(shù)大牛云集的初始員工名單，迅速吸引了全球科技圈的目光。
OpenAI早期部分成員合影，從左到右依次Daniela Amodei、Jack Clark、Dario Amodei、Jeff Wu（技術(shù)人員）、Greg Brockman、Alec Radford（技術(shù)語(yǔ)言團(tuán)隊(duì)負(fù)責(zé)人）、Christine Payne（技術(shù)人員）、Ilya Sutskever、Chris Berner（基礎(chǔ)設(shè)施負(fù)責(zé)人）（圖源：MIT評(píng)論）
當(dāng)時(shí)，OpenAI鼓勵(lì)研究人員公開(kāi)發(fā)表工作成果，將專利與全世界共享，承諾開(kāi)源所有技術(shù)和“避免使用危害人類或過(guò)度集中權(quán)力的AI或AGI”。然而隨著時(shí)間推移，也許是越來(lái)越大的資金壓力使然，OpenAI削弱了其創(chuàng)始理念，開(kāi)始變得與DeepMind等競(jìng)爭(zhēng)對(duì)手一樣，受到商業(yè)利益的約束。
轉(zhuǎn)變發(fā)生在2019年3月，OpenAI宣布已創(chuàng)建一家以盈利為目標(biāo)的分支機(jī)構(gòu)OpenAI LP，將投資者回報(bào)限制在100倍。該機(jī)構(gòu)受非營(yíng)利實(shí)體的董事會(huì)監(jiān)督，目的是加速對(duì)計(jì)算和人才的投資。
不久之后，它宣布接受微軟10億美元注資。這令業(yè)界一片嘩然，人們質(zhì)疑OpenAI正在背離初心，違背早先關(guān)于“開(kāi)源、透明”的承諾，就連OpenAI自家的許多員工也感到不安。當(dāng)時(shí)OpenAI管理層特地站出來(lái)平息動(dòng)蕩，讓大家繼續(xù)信任OpenAI。
如今，AI潘多拉魔盒的蓋子卻由OpenAI掀開(kāi)，爆紅的ChatGPT與搜索引擎結(jié)合，令A(yù)I的商用前景充滿朝氣，但眼下，也許更多是烏煙瘴氣。
AI聊天機(jī)器人像個(gè)古怪又血彪的超級(jí)話癆，能說(shuō)會(huì)道，但不時(shí)會(huì)發(fā)表危險(xiǎn)言論或者胡說(shuō)八道。網(wǎng)友發(fā)現(xiàn)通過(guò)巧妙地勸說(shuō)，完全可以誘導(dǎo)AI聊天機(jī)器人生成一篇逼真的網(wǎng)絡(luò)釣魚(yú)郵件、虛假新聞稿件，乃至完整的惡意攻擊代碼，這對(duì)教育監(jiān)管、網(wǎng)絡(luò)監(jiān)管正構(gòu)成災(zāi)難性的威脅。
另一邊，已公開(kāi)向OpenAI投資至少數(shù)十億美元的微軟，正通過(guò)OpenAI獲取更大的商業(yè)利益。
除了將OpenAI的技術(shù)引入Azure云服務(wù)和軟件產(chǎn)品外，微軟正將新版Bing通過(guò)廣告獲利的計(jì)劃提上日程。據(jù)昨日外媒爆料，微軟已經(jīng)在跟廣告代理商討論在搜索結(jié)果的回復(fù)中植入付費(fèi)鏈接。也就是說(shuō)，未來(lái)Bing聊天機(jī)器人推薦旅游計(jì)劃、對(duì)比某類商品的區(qū)別時(shí)，可能會(huì)悄悄加塞廣告。
AI算法一直充滿偏見(jiàn)和脆弱性問(wèn)題，而開(kāi)發(fā)和運(yùn)營(yíng)前沿AI技術(shù)的費(fèi)用又會(huì)將權(quán)力集中到少數(shù)人的手里。雖說(shuō)眾所周知科技是雙刃劍，但AI聊天機(jī)器人造成的混亂，也許比此前任何一種技術(shù)都更加難以控制。
02 馬斯克猛烈抨擊AI聊天機(jī)器人“我們需要的是TruthGPT”
早在2017年，馬斯克就警告過(guò)AI對(duì)人類構(gòu)成了生存威脅，因?yàn)闄C(jī)器人能比人類做得更好。
2018年2月，他離開(kāi)了OpenAI董事會(huì)，沒(méi)有任何解釋。大約一年后，他才在推特上透露與其割席的原因，并澄清說(shuō)自己已經(jīng)有一年多沒(méi)有密切參與OpenAI的工作。
馬斯克說(shuō)，自己不得不專注于解決在特斯拉和SpaceX的“令人痛苦的大量工程和制造問(wèn)題”，除了特斯拉與OpenAI存在潛在利益沖突外，他“不贊同OpenAI團(tuán)隊(duì)想要做的一些事情”，所有這些因素疊加起來(lái)，分道揚(yáng)鑣是更好的選擇。
那時(shí)候馬斯克已經(jīng)反復(fù)警告AI可能比核武器更危險(xiǎn)，應(yīng)該在它對(duì)人類構(gòu)成威脅前就進(jìn)行監(jiān)管。
不過(guò)其他科技領(lǐng)袖們對(duì)此的態(tài)度并不一致。比如，F(xiàn)acebook創(chuàng)始人兼CEO扎克伯格曾在2017年的一次直播時(shí)，抨擊馬斯克對(duì)AI的警告“很消極”、“非常不負(fù)責(zé)任”，隨后馬斯克回?fù)舴Q扎克伯格對(duì)此事的理解“有限”。
Facebook首席人工智能科學(xué)家Yann LeCun也指責(zé)馬斯克反應(yīng)過(guò)度，認(rèn)為馬斯克呼吁在AI發(fā)展的相對(duì)早期階段對(duì)其進(jìn)行監(jiān)管是“瘋狂的”。
相比之下，Alphabet及谷歌CEO皮查伊可能跟馬斯克更聊得來(lái)。皮查伊一直在呼吁對(duì)AI技術(shù)進(jìn)行“合理監(jiān)管”，以確保安全和問(wèn)責(zé)制。
這周，微軟新版Bing聊天機(jī)器人因?yàn)轭l頻闖禍，在業(yè)界引起軒然大波。根據(jù)首批試用者的分享，它不僅給出許多錯(cuò)誤答案，還展露出了陰暗面，吐出攻擊性言論和令人不適的過(guò)激表情符號(hào)。（詳情可參見(jiàn)《微軟聊天機(jī)器人意識(shí)覺(jué)醒？惱羞成怒、自曝秘密、狂熱示愛(ài)用戶》）
馬斯克也積極吃瓜看熱鬧，轉(zhuǎn)發(fā)Bing聊天機(jī)器人發(fā)表“我不會(huì)傷害你，除非你先傷害我”的新聞報(bào)道，并評(píng)論說(shuō)“可能需要再潤(rùn)色一下……”
隨后他又轉(zhuǎn)發(fā)關(guān)于Bing聊天機(jī)器人荒謬聊天體驗(yàn)的報(bào)道，評(píng)論稱：“有意思”。
他還在推文中將微軟AI聊天機(jī)器人與神級(jí)科幻恐怖游戲《網(wǎng)絡(luò)奇兵（System Shock）》 中的殺人AI相提并論，稱其“就像系統(tǒng)Shock中的AI失控并殺死所有人”。
隔天又發(fā)表情包嘲諷ChatGPT對(duì)于主流媒體來(lái)說(shuō)現(xiàn)在是“宣傳隊(duì)長(zhǎng)”，推文點(diǎn)贊數(shù)已超32萬(wàn)。
同一天，馬斯克直白表達(dá)對(duì)OpenAI的不滿，說(shuō)它現(xiàn)在所做的“完全不是我的本意”。
接著發(fā)文說(shuō)：“我們需要的是TruthGPT”。
到周末，馬斯克曬出了一張ChatGPT批評(píng)非營(yíng)利性機(jī)構(gòu)下設(shè)營(yíng)利性企業(yè)的聊天截圖，暗戳戳地嘲諷OpenAI當(dāng)前的商業(yè)模式。
然后就是今晚，馬斯克說(shuō)Bing聊天機(jī)器人讓他想起經(jīng)典的荒誕戲劇《等待戈多》。
除了在社交平臺(tái)上積極發(fā)聲外，馬斯克也在這周舉行的世界政府峰會(huì)上呼吁警惕AI的威脅，他將AI稱作“人類文明未來(lái)面臨的最大風(fēng)險(xiǎn)之一”，“比汽車、飛機(jī)或藥品對(duì)社會(huì)構(gòu)成更大的風(fēng)險(xiǎn)”。
03 被捧上天的ChatGPT只是比前輩們更好命
嚴(yán)格意義來(lái)說(shuō)，ChatGPT并不是一個(gè)創(chuàng)新產(chǎn)物，跟它功能相近的產(chǎn)品曾多次公開(kāi)露面，只不過(guò)沒(méi)能像ChatGPT這樣席卷全球互聯(lián)網(wǎng)。
2016年3月，微軟曾推出一個(gè)名為TayTweets的AI聊天機(jī)器人，讓它在推特上跟用戶們聊天互動(dòng)。結(jié)果TayTweets在推特上學(xué)了不到一天，就開(kāi)始口吐芬芳，口無(wú)遮攔地發(fā)表種族歧視、性別歧視等言論，導(dǎo)致微軟火速將它下架。
ChatGPT背后大模型GPT-3.5的老前輩GPT-2也曾深陷輿論風(fēng)波。2019年2月，OpenAI宣布了一項(xiàng)令人印象深刻的新研究：其AI語(yǔ)言模型GPT-2能生成令人信服的論文和文章。
聽(tīng)起來(lái)是不是跟ChatGPT強(qiáng)大的文本生成能力如出一轍？不過(guò)當(dāng)時(shí)這個(gè)模型可沒(méi)有ChatGPT這么好命，遭到科學(xué)家們的強(qiáng)烈反對(duì)。人們擔(dān)心它會(huì)被惡意使用產(chǎn)生大規(guī)模的虛假信息，批評(píng)OpenAI不應(yīng)該發(fā)布這種東西來(lái)作為宣傳噱頭。
但OpenAI很不認(rèn)同這些評(píng)價(jià)，堅(jiān)稱GPT-2不是噱頭，而是一個(gè)經(jīng)過(guò)深思熟慮的實(shí)驗(yàn)。在GPT-2亮相的幾個(gè)月后，OpenAI將其保留完整代碼的立場(chǎng)修改為“分階段發(fā)布”，即逐步發(fā)布模型的更大版本，逐漸升級(jí)到完整版本。
Meta同樣曾推出過(guò)“短命”的AI聊天機(jī)器人。Galactica僅推出三天就被中止，幾個(gè)月前發(fā)布的BlenderBot亦以失敗告終。
目前ChatGPT及其同類產(chǎn)品都遠(yuǎn)不“完美”，微軟新版Bing的聊天模式也荒謬言論鬧出不少風(fēng)波。至少到今天為止，這類AI技術(shù)只能作為輔助文字或編程類工作的工具，距離生成真實(shí)可信的內(nèi)容還差得很遠(yuǎn)。
04 結(jié)語(yǔ)：先發(fā)優(yōu)勢(shì)伴隨著損傷聲譽(yù)的風(fēng)險(xiǎn)
顛覆性技術(shù)一開(kāi)始往往并不完美，需要人們予以一定包容。但AI聊天機(jī)器人的特殊性在于，它是如此擅長(zhǎng)批量制造錯(cuò)誤回復(fù)和虛假信息，以致于一旦被繞過(guò)監(jiān)管規(guī)則惡意使用，可能會(huì)一發(fā)不可收拾，引發(fā)擾亂網(wǎng)絡(luò)秩序的空前浩劫。
微軟和OpenAI選擇做第一個(gè)吃螃蟹的人，這為他們帶來(lái)了最早獲得用戶反饋和優(yōu)化產(chǎn)品的先發(fā)優(yōu)勢(shì)，但同時(shí)會(huì)帶來(lái)了玷污聲譽(yù)的風(fēng)險(xiǎn)。這也是谷歌對(duì)推出ChatGPT競(jìng)品束手束腳的擔(dān)憂所在，現(xiàn)在，微軟和OpenAI的一只腳已經(jīng)踏進(jìn)了這個(gè)陷阱里。