正在閱讀:

ChatGPT遭“禁用”引發(fā)的思考

掃一掃下載界面新聞APP

ChatGPT遭“禁用”引發(fā)的思考

在人工智能的發(fā)展過程中,有必要建立一個可信賴和透明的機制,以便監(jiān)管和解決人工智能可能帶來的問題。

文|半導體產業(yè)縱橫

2022年11月30日,美國OpenAI研發(fā)的聊天機器人程序ChatGPT正式發(fā)布。ChatGPT是人工智能技術驅動的自然語言處理工具,它能夠通過理解和學習人類的語言來進行對話,還能根據(jù)聊天的上下文進行互動,真正像人類一樣來聊天交流,甚至能完成撰寫郵件、視頻腳本、文案、翻譯、代碼,寫論文等任務。如此“智能”,在全世界范圍內引起了極大的反應。

然而畫風在4個月后有了變化,今年3月31日,意大利個人數(shù)據(jù)保護局宣布,即日起暫時禁止使用聊天機器人ChatGPT,已就OpenAI聊天機器人ChatGPT涉嫌違反數(shù)據(jù)收集規(guī)則展開調查,并暫時限制OpenAI處理意大利用戶數(shù)據(jù)。

這只是ChatGPT被禁用的開始……

01、為何禁用

5月份根據(jù)《華爾街日報》的報道,蘋果因數(shù)據(jù)安全問題禁止員工使用ChatGPT等AI工具。

無獨有偶,三星也被“坑了”。有一名員工,在進行軟件測試的時候,把出問題的代碼發(fā)給 ChatGPT,請教解決辦法。這個操作讓三星的一部分源代碼,變成了 ChatGPT 的學習資料。估計三星自己都沒想到還能這樣泄密。甚至這樣的員工,三星有不止一個。更嚴重的是三星大概率還沒有辦法追回或者徹底刪除這些機密數(shù)據(jù)。它們已經被儲存在 OpenAI 的服務器里,被訓練到了 AI 的算法中。這類模型很難刪除個人信息的所有痕跡,追蹤溯源的難度更大。

除了三星,亞馬遜、微軟之前也出現(xiàn)過 ChatGPT 泄密的問題。

OpenAI的創(chuàng)始人之一馬斯克曾在社交媒體平臺上稱贊ChatGPT:“It's a new world. Goodbye homework!”

1月初,紐約市教育部宣布禁止學生在其學校的設備和網(wǎng)絡上使用ChatGPT,以預防學生作弊的行為。

同時在歐洲,巴黎政治學院(Sciences Po)率先行動禁止各校區(qū)全體學生及教職工利用ChatGPT完成教學任務。

在澳大利亞,新南威爾士州、昆士蘭州、西澳洲和塔斯馬尼亞州等多個州已宣布禁止在校內使用ChatGPT。

在是否禁用ChatGPT這一問題上,學生們的觀點相對一致:72%的大學生認為應該在學校網(wǎng)絡中禁止ChatGPT。

ChatGPT可能會導致學生實際上并不是在學習材料,而是依靠機器為他們做工作。這會導致批判性思維和分析能力的進一步貶值。

整個人工智能領域的發(fā)展都會因此種種而產生深遠的影響。被禁事件還表明,在人工智能的發(fā)展過程中,有必要建立一個可信賴和透明的機制,以便監(jiān)管和解決人工智能可能帶來的問題。這樣,就可以避免ChatGPT這種事件再次發(fā)生。

對此,中國人民大學未來法治研究院執(zhí)行院長張吉豫說道,為調節(jié)好發(fā)展和安全之間的沖突,構建以人民為中心的智能社會法律秩序,對于推動人工智能技術健康有序發(fā)展具有重要意義。

02、水能載舟,亦能覆舟

ChatGPT的成功其實并非偶然——繼去年Midjourney(AI繪圖工具)火爆出圈后,Stability.AI、Runway、Jasper.AI等AI生成內容工具開發(fā)商,也相繼得到資本的青睞,并帶火了市場對于AIGC的投資熱情。歸根結底,ChatGPT的成功是技術發(fā)展積累和突變的結果,特別是底層技術。

紅的發(fā)紫的ChatGPT技術仍在突破,市場是穩(wěn)定的,它的出現(xiàn)也是拉動了部分細分市場的成長。瑞銀集團在今年2月1日發(fā)布的一份關于ChatGPT的報告中表明,到今年1月末,也就是ChatGPT推出僅兩個月后,月活已破億大關,并稱這是互聯(lián)網(wǎng)領域發(fā)展20年來,增長最快的消費類應用。

但它在拉動增長的同時,風險也在悄然變大。

成本高,會砸自己的腳?

業(yè)內人士說過,ChatGPT并不是普通創(chuàng)業(yè)者的盛宴。因為投資人在投資ChatG-PT相關企業(yè)時,首先關注創(chuàng)始人是否能撐起此項目,一個通用型AI,涉及大量算力、資金,還涉及極強的人脈資源。在國內環(huán)境下,需要關注與場景結合,找到客戶愿意“買單”的方向。

行業(yè)媒體 The Information 報道,OpenAI 去年在開發(fā) ChatGPT 時損失了約 5.4 億美元,并表示需要 1000 億美元才能實現(xiàn)其雄心壯志?!拔覀儗⒊蔀楣韫葰v史上資本最密集的初創(chuàng)公司,”O(jiān)penAI 的創(chuàng)始人Sam Altman最近在一個座談中說。

當微軟向 OpenAI 投入數(shù)十億美元的投資時,當被問及其 AI 冒險將花費多少時,該公司保證會密切關注其底線。人工智能計算對算力要求非常不一樣,一些分析指出,如果Google要把現(xiàn)階段的搜索業(yè)務背后的引擎全部換成ChatGPT得話需要400萬張顯卡,基礎設施投資要1000億美金。道理很簡單,以前大家做搜索引擎是5000萬參數(shù)的小模型,如今哪怕不是1500億的參數(shù),哪怕是幾十億參數(shù),和之前相比已經是上百倍數(shù)量的模型優(yōu)化提升,因此需要更大的算力。這就意味著更多的投入。

根據(jù)研究公司SemiAnalysis等的數(shù)據(jù),除前期數(shù)以億計的GPU等設備投入,ChatGPT維護成本高得驚人,維護OpenAI的ChatGPT等對話式人工智能引擎每天的開銷高達70萬美元。更大的參數(shù)通常意味著人工智能的能力更強,但也會推高成本。換句話說,ChatGPT是“大力出奇跡”的產物,是芯片、顯卡、AI、數(shù)據(jù)庫等多項技術發(fā)展至高階,持續(xù)大量燒錢的產物。

近期,來自十二個國內外研究機構共同發(fā)表的一篇關于智能計算的論文中指出,AI模型所需算力每100天就要翻一倍,遠超摩爾定律(集成電路上可容納的晶體管數(shù)目,約每隔兩年便會增加一倍),也就是說,預計在未來五年內將增加超過100萬倍。隨著傳統(tǒng)摩爾定律的失效,要跟上如此快速增長的計算能力要求,的確是一件很有挑戰(zhàn)性的事。

另外,盡管ChatGPT推出付費訂閱版進入商業(yè)化階段,但AIGC的商業(yè)化之路尚處于摸索階段,目前仍以B端為主。浙商證券研報指出,B端變現(xiàn)路徑更為多元、成熟,廣告和營銷等行業(yè)均有可想見的應用情景,付費的可能性和水平相對更高。

這個成本有誰能承擔的起呢?現(xiàn)在面臨“被禁”,這塊大石頭會砸到誰的腳呢?

風險承擔

人工智能大模型領域的全球競爭已趨白熱化,ChatGPT未來有望演變成新一代操作系統(tǒng)平臺和生態(tài)。這種變革似移動互聯(lián)網(wǎng)從個人電腦到手機的轉化,大部分計算負荷將由大模型為核心的新一代信息基礎設施接管。這一新范式將影響從應用到基礎設施各層面,引發(fā)整個產業(yè)格局的巨變,大模型及其軟硬件支撐系統(tǒng)的生態(tài)之爭將成為未來十年信息產業(yè)焦點。

5 月 22 日消息,據(jù)外媒報道,由 OpenAI 訓練的人工智能聊天機器人 ChatGPT 掀起的生成式人工智能研發(fā)及應用的浪潮,也增加了對高性能 GPU、高帶寬存儲器等的需求。作為全球高性能 GPU 主要供應商的英偉達,也被認為是人工智能研發(fā)及應用浪潮的重要受益廠商。

而相關媒體也援引市場消息人士的透露報道稱,英偉達 A100 和 H100 這兩款針對數(shù)據(jù)中心的高性能 GPU 的訂單在增加,他們也增加了在臺積電的投片量。

在報道中,相關媒體提到,英偉達 H100 GPU 采用的是臺積電 4nm 制程工藝,A100 則是 7nm 制程工藝,英偉達在臺積電增加的投片量,也將填補聯(lián)發(fā)科削減訂單后相關制程工藝的產能空缺。

英偉達的高性能 GPU,在 ChatGPT 訓練和應用中普遍使用。外媒在此前的報道中披露,OpenAI 在訓練 ChatGPT 時,就使用了 10000 個英偉達的 GPU,而在 ChatGPT 推出之后為了滿足服務器的需求,OpenAI 在 2 月底就已使用了約 2.5 萬個英偉達的 GPU。

人工智能應用對高性能 GPU 的需求增加,也推升了英偉達的業(yè)績及股價,CEO 黃仁勛的身家也大幅增加。上周就有外媒在報道中稱,在人工智能應用需求增加的推動下,黃仁勛的身家在今年已增加至 273 億美元,接近翻番。

沒有只有收益的投資,現(xiàn)在ChatGPT很多地方被禁,英偉達和接受英偉達訂單的臺積電勢必是會受到影響的。這樣的大廠面臨風險可能是船大不怕浪花,但是如果是剛剛成立或者專注于做AI 芯片的初創(chuàng)企業(yè),怕是無法安穩(wěn)。

03、落后就要挨打

有人說,既得利益者要靠打壓新技術(ChatGPT)來保持自己的優(yōu)勢。 但終究,落后就要挨打。

之前馬斯克聯(lián)合千名科學家寫公開信呼吁暫停GPT4以上版本的開發(fā),信中寫道:“當代AI系統(tǒng)正在成為通用任務的人類競爭對手,我們必須問自己:我們應該讓機器用宣傳和虛假信息充斥我們的信息渠道嗎?我們應該將所有工作自動化消除嗎,包括那些有意義的工作?我們應該開發(fā)非人類的思維,這些思維最終可能超過、取代我們嗎?我們應該冒險失去對我們文明的控制嗎?在我們確信強大的人工智能系統(tǒng)的效果將是積極的,風險是可控的之后,才應該開發(fā)這些系統(tǒng)?!?/p>

話雖這么說,但馬斯克轉眼就投入巨資購入萬塊GPU,全力投入GPT的開發(fā),包括谷歌、百度、阿里等一大批業(yè)界知名企業(yè)也紛紛投入AI領域的創(chuàng)業(yè)熱潮中。畢竟在全球人工智能競賽升溫和誘人發(fā)展機遇的當下,對大型科技公司來說,更實際的是如何在這波技術浪潮中保持核心競爭力,來鞏固自己的優(yōu)勢地位。

本文為轉載內容,授權事宜請聯(lián)系原著作權人。

評論

暫無評論哦,快來評價一下吧!

下載界面新聞

微信公眾號

微博

ChatGPT遭“禁用”引發(fā)的思考

在人工智能的發(fā)展過程中,有必要建立一個可信賴和透明的機制,以便監(jiān)管和解決人工智能可能帶來的問題。

文|半導體產業(yè)縱橫

2022年11月30日,美國OpenAI研發(fā)的聊天機器人程序ChatGPT正式發(fā)布。ChatGPT是人工智能技術驅動的自然語言處理工具,它能夠通過理解和學習人類的語言來進行對話,還能根據(jù)聊天的上下文進行互動,真正像人類一樣來聊天交流,甚至能完成撰寫郵件、視頻腳本、文案、翻譯、代碼,寫論文等任務。如此“智能”,在全世界范圍內引起了極大的反應。

然而畫風在4個月后有了變化,今年3月31日,意大利個人數(shù)據(jù)保護局宣布,即日起暫時禁止使用聊天機器人ChatGPT,已就OpenAI聊天機器人ChatGPT涉嫌違反數(shù)據(jù)收集規(guī)則展開調查,并暫時限制OpenAI處理意大利用戶數(shù)據(jù)。

這只是ChatGPT被禁用的開始……

01、為何禁用

5月份根據(jù)《華爾街日報》的報道,蘋果因數(shù)據(jù)安全問題禁止員工使用ChatGPT等AI工具。

無獨有偶,三星也被“坑了”。有一名員工,在進行軟件測試的時候,把出問題的代碼發(fā)給 ChatGPT,請教解決辦法。這個操作讓三星的一部分源代碼,變成了 ChatGPT 的學習資料。估計三星自己都沒想到還能這樣泄密。甚至這樣的員工,三星有不止一個。更嚴重的是三星大概率還沒有辦法追回或者徹底刪除這些機密數(shù)據(jù)。它們已經被儲存在 OpenAI 的服務器里,被訓練到了 AI 的算法中。這類模型很難刪除個人信息的所有痕跡,追蹤溯源的難度更大。

除了三星,亞馬遜、微軟之前也出現(xiàn)過 ChatGPT 泄密的問題。

OpenAI的創(chuàng)始人之一馬斯克曾在社交媒體平臺上稱贊ChatGPT:“It's a new world. Goodbye homework!”

1月初,紐約市教育部宣布禁止學生在其學校的設備和網(wǎng)絡上使用ChatGPT,以預防學生作弊的行為。

同時在歐洲,巴黎政治學院(Sciences Po)率先行動禁止各校區(qū)全體學生及教職工利用ChatGPT完成教學任務。

在澳大利亞,新南威爾士州、昆士蘭州、西澳洲和塔斯馬尼亞州等多個州已宣布禁止在校內使用ChatGPT。

在是否禁用ChatGPT這一問題上,學生們的觀點相對一致:72%的大學生認為應該在學校網(wǎng)絡中禁止ChatGPT。

ChatGPT可能會導致學生實際上并不是在學習材料,而是依靠機器為他們做工作。這會導致批判性思維和分析能力的進一步貶值。

整個人工智能領域的發(fā)展都會因此種種而產生深遠的影響。被禁事件還表明,在人工智能的發(fā)展過程中,有必要建立一個可信賴和透明的機制,以便監(jiān)管和解決人工智能可能帶來的問題。這樣,就可以避免ChatGPT這種事件再次發(fā)生。

對此,中國人民大學未來法治研究院執(zhí)行院長張吉豫說道,為調節(jié)好發(fā)展和安全之間的沖突,構建以人民為中心的智能社會法律秩序,對于推動人工智能技術健康有序發(fā)展具有重要意義。

02、水能載舟,亦能覆舟

ChatGPT的成功其實并非偶然——繼去年Midjourney(AI繪圖工具)火爆出圈后,Stability.AI、Runway、Jasper.AI等AI生成內容工具開發(fā)商,也相繼得到資本的青睞,并帶火了市場對于AIGC的投資熱情。歸根結底,ChatGPT的成功是技術發(fā)展積累和突變的結果,特別是底層技術。

紅的發(fā)紫的ChatGPT技術仍在突破,市場是穩(wěn)定的,它的出現(xiàn)也是拉動了部分細分市場的成長。瑞銀集團在今年2月1日發(fā)布的一份關于ChatGPT的報告中表明,到今年1月末,也就是ChatGPT推出僅兩個月后,月活已破億大關,并稱這是互聯(lián)網(wǎng)領域發(fā)展20年來,增長最快的消費類應用。

但它在拉動增長的同時,風險也在悄然變大。

成本高,會砸自己的腳?

業(yè)內人士說過,ChatGPT并不是普通創(chuàng)業(yè)者的盛宴。因為投資人在投資ChatG-PT相關企業(yè)時,首先關注創(chuàng)始人是否能撐起此項目,一個通用型AI,涉及大量算力、資金,還涉及極強的人脈資源。在國內環(huán)境下,需要關注與場景結合,找到客戶愿意“買單”的方向。

行業(yè)媒體 The Information 報道,OpenAI 去年在開發(fā) ChatGPT 時損失了約 5.4 億美元,并表示需要 1000 億美元才能實現(xiàn)其雄心壯志。“我們將成為硅谷歷史上資本最密集的初創(chuàng)公司,”O(jiān)penAI 的創(chuàng)始人Sam Altman最近在一個座談中說。

當微軟向 OpenAI 投入數(shù)十億美元的投資時,當被問及其 AI 冒險將花費多少時,該公司保證會密切關注其底線。人工智能計算對算力要求非常不一樣,一些分析指出,如果Google要把現(xiàn)階段的搜索業(yè)務背后的引擎全部換成ChatGPT得話需要400萬張顯卡,基礎設施投資要1000億美金。道理很簡單,以前大家做搜索引擎是5000萬參數(shù)的小模型,如今哪怕不是1500億的參數(shù),哪怕是幾十億參數(shù),和之前相比已經是上百倍數(shù)量的模型優(yōu)化提升,因此需要更大的算力。這就意味著更多的投入。

根據(jù)研究公司SemiAnalysis等的數(shù)據(jù),除前期數(shù)以億計的GPU等設備投入,ChatGPT維護成本高得驚人,維護OpenAI的ChatGPT等對話式人工智能引擎每天的開銷高達70萬美元。更大的參數(shù)通常意味著人工智能的能力更強,但也會推高成本。換句話說,ChatGPT是“大力出奇跡”的產物,是芯片、顯卡、AI、數(shù)據(jù)庫等多項技術發(fā)展至高階,持續(xù)大量燒錢的產物。

近期,來自十二個國內外研究機構共同發(fā)表的一篇關于智能計算的論文中指出,AI模型所需算力每100天就要翻一倍,遠超摩爾定律(集成電路上可容納的晶體管數(shù)目,約每隔兩年便會增加一倍),也就是說,預計在未來五年內將增加超過100萬倍。隨著傳統(tǒng)摩爾定律的失效,要跟上如此快速增長的計算能力要求,的確是一件很有挑戰(zhàn)性的事。

另外,盡管ChatGPT推出付費訂閱版進入商業(yè)化階段,但AIGC的商業(yè)化之路尚處于摸索階段,目前仍以B端為主。浙商證券研報指出,B端變現(xiàn)路徑更為多元、成熟,廣告和營銷等行業(yè)均有可想見的應用情景,付費的可能性和水平相對更高。

這個成本有誰能承擔的起呢?現(xiàn)在面臨“被禁”,這塊大石頭會砸到誰的腳呢?

風險承擔

人工智能大模型領域的全球競爭已趨白熱化,ChatGPT未來有望演變成新一代操作系統(tǒng)平臺和生態(tài)。這種變革似移動互聯(lián)網(wǎng)從個人電腦到手機的轉化,大部分計算負荷將由大模型為核心的新一代信息基礎設施接管。這一新范式將影響從應用到基礎設施各層面,引發(fā)整個產業(yè)格局的巨變,大模型及其軟硬件支撐系統(tǒng)的生態(tài)之爭將成為未來十年信息產業(yè)焦點。

5 月 22 日消息,據(jù)外媒報道,由 OpenAI 訓練的人工智能聊天機器人 ChatGPT 掀起的生成式人工智能研發(fā)及應用的浪潮,也增加了對高性能 GPU、高帶寬存儲器等的需求。作為全球高性能 GPU 主要供應商的英偉達,也被認為是人工智能研發(fā)及應用浪潮的重要受益廠商。

而相關媒體也援引市場消息人士的透露報道稱,英偉達 A100 和 H100 這兩款針對數(shù)據(jù)中心的高性能 GPU 的訂單在增加,他們也增加了在臺積電的投片量。

在報道中,相關媒體提到,英偉達 H100 GPU 采用的是臺積電 4nm 制程工藝,A100 則是 7nm 制程工藝,英偉達在臺積電增加的投片量,也將填補聯(lián)發(fā)科削減訂單后相關制程工藝的產能空缺。

英偉達的高性能 GPU,在 ChatGPT 訓練和應用中普遍使用。外媒在此前的報道中披露,OpenAI 在訓練 ChatGPT 時,就使用了 10000 個英偉達的 GPU,而在 ChatGPT 推出之后為了滿足服務器的需求,OpenAI 在 2 月底就已使用了約 2.5 萬個英偉達的 GPU。

人工智能應用對高性能 GPU 的需求增加,也推升了英偉達的業(yè)績及股價,CEO 黃仁勛的身家也大幅增加。上周就有外媒在報道中稱,在人工智能應用需求增加的推動下,黃仁勛的身家在今年已增加至 273 億美元,接近翻番。

沒有只有收益的投資,現(xiàn)在ChatGPT很多地方被禁,英偉達和接受英偉達訂單的臺積電勢必是會受到影響的。這樣的大廠面臨風險可能是船大不怕浪花,但是如果是剛剛成立或者專注于做AI 芯片的初創(chuàng)企業(yè),怕是無法安穩(wěn)。

03、落后就要挨打

有人說,既得利益者要靠打壓新技術(ChatGPT)來保持自己的優(yōu)勢。 但終究,落后就要挨打。

之前馬斯克聯(lián)合千名科學家寫公開信呼吁暫停GPT4以上版本的開發(fā),信中寫道:“當代AI系統(tǒng)正在成為通用任務的人類競爭對手,我們必須問自己:我們應該讓機器用宣傳和虛假信息充斥我們的信息渠道嗎?我們應該將所有工作自動化消除嗎,包括那些有意義的工作?我們應該開發(fā)非人類的思維,這些思維最終可能超過、取代我們嗎?我們應該冒險失去對我們文明的控制嗎?在我們確信強大的人工智能系統(tǒng)的效果將是積極的,風險是可控的之后,才應該開發(fā)這些系統(tǒng)?!?/p>

話雖這么說,但馬斯克轉眼就投入巨資購入萬塊GPU,全力投入GPT的開發(fā),包括谷歌、百度、阿里等一大批業(yè)界知名企業(yè)也紛紛投入AI領域的創(chuàng)業(yè)熱潮中。畢竟在全球人工智能競賽升溫和誘人發(fā)展機遇的當下,對大型科技公司來說,更實際的是如何在這波技術浪潮中保持核心競爭力,來鞏固自己的優(yōu)勢地位。

本文為轉載內容,授權事宜請聯(lián)系原著作權人。