文|三易生活
此前在5月15日舉行的I/O開發(fā)者大會上，谷歌CEO納德拉向外界正式介紹了AI搜索功能AI Overviews（AI概覽）。在谷歌Gemini大模型de 驅(qū)動下，AI Overviews能夠在谷歌搜索的頁面頂部總結(jié)提煉用戶查詢內(nèi)容的概要。在許多業(yè)內(nèi)人士看來，AI Overviews無疑是谷歌搜索引擎上線25年以來最大的一次革新，以至于谷歌方面敢于宣稱該功能將重新定義搜索體驗(yàn)。
但遺憾的是，搶先體驗(yàn)了AI Overviews的美國用戶對于“重新定義搜索體驗(yàn)”持不同意見。例如The Verge的記者Kylie Robison就在文章中諷刺了AI Overviews的翻車。她在文中舉了一個例子，就是當(dāng)用戶查詢?nèi)绾螌⒅ナ亢团_餅胚粘在一起的時候，AI Overviews的回答是，“加點(diǎn)膠水”。盡管膠水確實(shí)可以解決粘連問題，但這極有可能是Gemini出現(xiàn)了“幻覺”(Hallucination)所導(dǎo)致的結(jié)果。
AI大模型會出現(xiàn)“幻覺”，這如今幾乎是人盡皆知的事情，谷歌公司發(fā)言人Meghann Farnsworth似乎也是按照Gemini因“幻覺”翻車來解釋的。他表示，“這些錯誤來自通常非常罕見的查詢，不能代表大多數(shù)人的體驗(yàn)”。但神通廣大的網(wǎng)友很快給出了AI Overviews會回答“在披薩上涂膠水”的理由，因?yàn)檫@個回答實(shí)際上來源于一個名為“fucksmith”的Reddit用戶在11年前發(fā)的帖子。
AI Overviews會采納Reddit用戶的帖子來作為回答并不奇怪，因?yàn)楣雀枧cReddit在AI搜索上是有合作的。
AI Overviews的前身是Search Generative Experience（SGE），它是谷歌推出的一種實(shí)驗(yàn)性版本的搜索引擎。在美國谷歌選擇了Reddit作為合作伙伴，為用戶提供更精準(zhǔn)、及時的搜索解答。其實(shí)使用Reddit的數(shù)據(jù)并不奇怪，可問題是谷歌為什么會采信這種明顯出現(xiàn)常識錯誤的數(shù)據(jù)。
所以最有可能的解釋，是谷歌在數(shù)據(jù)清洗上出現(xiàn)了紕漏，以至于讓“有毒”的數(shù)據(jù)進(jìn)入了Gemini的數(shù)據(jù)集。如果事實(shí)果真如此，那么在某種意義上就證明了谷歌為了在AI賽道追趕OpenAI，已經(jīng)急功近利到走火入魔的地步。因?yàn)樵诖酥?，谷歌在大模型的?shù)據(jù)清洗上已經(jīng)翻車過一次。
去年年末、也就是Gemini上線不久后，就有國內(nèi)網(wǎng)友發(fā)現(xiàn)用中文向Gemini Pro提問時，Gemini Pro會直接表示自己是百度的文心一言。緊接著在更多的網(wǎng)友提問下，Gemini Pro一會認(rèn)為自己是小愛同學(xué)，一會又承認(rèn)自己是悟道大模型開發(fā)團(tuán)隊(duì)北京智源做的。
對此，當(dāng)時業(yè)內(nèi)人士的主流觀點(diǎn)，是谷歌在訓(xùn)練數(shù)據(jù)上大概率使用了百度文心一言的輸出結(jié)果，以此來蒸餾自家的Gemini Pro。要知道，OpenAI已經(jīng)證實(shí)了大模型的“幻覺”問題和數(shù)據(jù)質(zhì)量息息相關(guān)，數(shù)據(jù)投毒攻擊（Data Poisoning Attack）也已經(jīng)是一個AI領(lǐng)域不可回避的問題。
根據(jù)研究人員在HITCon安全會議上的演講顯示，只需要“污染”不到0.7%數(shù)據(jù)就可以完全繞過防御，進(jìn)而全面降低大模型輸出內(nèi)容的準(zhǔn)確率。用謊言去驗(yàn)證謊言得到的一定是謊言，如果數(shù)據(jù)集中的參數(shù)本身就有問題，那么得到的回答自然就會是錯漏百出。因此數(shù)據(jù)清洗一直以來都是AI廠商最為重要的工作之一，幾乎所有的大模型都會加入數(shù)個糾錯和屏蔽措施，避免數(shù)據(jù)庫遭受有毒信息的污染。
更為關(guān)鍵的是，谷歌可是做搜索引擎起家的，而搜索引擎的核心技術(shù)就包括了數(shù)據(jù)清洗，將爬蟲抓取的數(shù)據(jù)中存在的缺失值、異常值(離群點(diǎn))、重復(fù)值去除，就都是數(shù)據(jù)清洗的一部分。結(jié)果他們在AI業(yè)務(wù)上卻接二連三地因?yàn)閿?shù)據(jù)清洗問題翻車，這顯然不是個正常的現(xiàn)象。
反常背后必然有原因，在許多海外網(wǎng)友看來，谷歌從AI賽道領(lǐng)跑者的位置滑落，進(jìn)而不得不追趕OpenAI的現(xiàn)實(shí)，可能導(dǎo)致了他們變得如此急躁。
過去一年間，AI初創(chuàng)企業(yè)Perplexity就被視為是谷歌的挑戰(zhàn)者，而這家公司被投資者看中的原因也很簡單，因?yàn)樗龅氖茿I搜索。并且就在此次I/O開發(fā)者大會舉行前，OpenAI也被曝出將要做AI搜索來挑戰(zhàn)谷歌，因此AI Overviews更像是谷歌對于Perplexity和OpenAI的回?fù)??；蛘哒f在此次I/O開發(fā)者大會上，谷歌無論如何都得展現(xiàn)出自己對AI搜索的態(tài)度，即便沒有AI Overviews、也得有AI abstract。
只不過急功近利必然是有代價的，用戶使用搜索引擎是希望尋求答案，可AI Overviews給出的答案卻是偏頗的，這無疑就是在動搖大眾對于谷歌搜索的信任。作為這家公司最為核心的產(chǎn)品，谷歌搜索應(yīng)該是穩(wěn)健的，但現(xiàn)在谷歌卻把一個實(shí)驗(yàn)性質(zhì)的功能直接推向數(shù)以十億計(jì)的用戶，這不是急功近利又是什么？