文｜科技每日推送
21張照片，9.9元，再等幾小時，就能收到十幾套風格各異的寫真，海馬體、天真藍慌不慌？
最近一款名為“妙鴨相機”的AI小程序火爆全網(wǎng)：只要上傳自己的照片，AI就能幫你實現(xiàn)寫真自由。
聽到這，心動不如行動，科小編花9塊9試了試妙鴨相機。
AI合成圖和真人幾乎沒差
在微信打開妙鴨相機小程序，第一步就是要上傳一張正面照。
上傳成功后，第二步需要至少20張照片，還得是在不同角度、不同光線拍的。問題是科小編把相冊翻遍了，也找不出自己的20張照片……
左思右想，科小編退回第一步，上傳了女神石原里美的照片作為AI參考來源。
再進入第二步，這次科小編有意在上傳圖片時，隨機混入了8張其他人的照片，想看看妙鴨能不能生成出融合多人面相的照片。
沒想到掃描后，妙鴨全部識別出來了，而且識別還挺準確。
完成檢測后，妙鴨就彈出了付費窗口：標準價29.9，限時特惠9.9元，付款后才能繼續(xù)生成。
只要9.9元，就能得到一套海馬體里幾百塊的寫真集，還能換各種模板，簡直不要太劃算。都到這步了，沖就完事！
付款后，小程序畫面顯示，目前正在有1485人正在排隊，預計需要等待2小時45分鐘。之前看到有網(wǎng)友吐槽，人數(shù)多的時候最長要等十多個小時，現(xiàn)在只要3小時不到，效率明顯比前幾天高了。
經(jīng)過等待，科小編終于看到了制作完畢的數(shù)字分身：
不愧是用20張圖煉了三小時的成果，效果確實好，這四張照片和真人幾乎沒差了。
隨機套入了幾個模板，發(fā)現(xiàn)五官位置和臉型，會受模板的影響而改變，從而使生成圖不太像本人。需要多訓練幾次，數(shù)字形象才能更像本人。
證件照這類正面照的效果很好，和本人相似度最高；但藝術類寫真就需要多次訓練，有時候結果也不一定很完美。
但顯然，這已經(jīng)足夠震撼網(wǎng)友了，有網(wǎng)友調(diào)侃稱，“分分鐘覺得自己可以出道做明星了?！?/p>
公開資料顯示，妙鴨相機的主體公司是成立于2006年的未序網(wǎng)絡科技（上海）有限公司，注冊資本為5520萬美元。其法定代表人為張龍，他還是優(yōu)酷視頻（西安）傳媒科技有限公司的法定代表人、執(zhí)行董事兼總經(jīng)理。
7月24日，阿里大文娛相關人士表示，“妙鴨是阿里大文娛參投的一個創(chuàng)業(yè)項目，剛剛起步?！?/p>
火爆全網(wǎng)，AI如何不踩紅線？
雖然妙鴨相機生成的圖片，看起來很有新鮮感，但這個技術今年年初就出現(xiàn)了。
相信經(jīng)常玩AI的煉丹大師，看到這就明白了：這不LoRA嗎？
LoRA是今年年初火爆的AI畫圖模型，其可以利用少量數(shù)據(jù)訓練出一種畫風/IP/人物，實現(xiàn)定制化需求，所需的訓練資源比其他模型要少很多，非常適合社區(qū)使用者和個人開發(fā)者。
沒錯，妙鴨相機的技術原理，是基于開源的AI繪畫模型進行精調(diào)。有網(wǎng)友分析，妙鴨用的是基于LoRA模型微調(diào)的大模型。
不過，但直接用LoRA模型畫圖，要找各種資源，還要科學上網(wǎng)，復雜的過程勸退了不少人。
而妙鴨相機在微信就能用，操作也簡單，收費不貴，生成圖片風格多樣，各方面都直擊用戶痛點，也難怪上線后迅速火爆全網(wǎng)。
但在爆火時，AI生圖應用要面臨的個人信息安全問題，也越發(fā)明顯。
之前科小編寫過一篇《從日本性感女議員到9秒騙走132萬，AI造假已無孔不入》，文中就有不少用AI造假的事件：
有騙子用AI實時渲染出的人物，和他人微信視頻，騙走錢財；還有小姐姐只是在小紅書上，發(fā)了張自己坐地鐵出門的普通照片，卻被人用AI“一鍵脫衣”，并配上虛構的文字造黃謠。
而現(xiàn)在，妙鴨相機僅上線兩日，一條近似“霸王條款”的用戶協(xié)議很快將其推上輿論的風口浪尖。按照這一版本的用戶協(xié)議，用戶用AI生成的內(nèi)容，永遠都能被妙鴨相機用于包括商用等多個用途。
用戶花了9塊9，卻還把自己的面部信息搭進去給妙鴨相機了?；隋X還要承擔風險，這不純純賠本買賣？
還有協(xié)議中寫的“授予我方在全世界（包括元宇宙等虛擬空間）范圍內(nèi)享有永久的、不可撤銷的、可轉(zhuǎn)讓的……使用您的內(nèi)容”，這是不是意味著用戶上傳的形象會被傳播到其他平臺、甚至被他人隨意使用？
AI生成的內(nèi)容太逼真了，一旦泄漏，就很容易被用于違法犯罪當中。
面對關于協(xié)議的質(zhì)疑，7月20日，妙鴨相機在公眾號、小紅書、即刻等多個平臺發(fā)布了道歉聲明，并更改相關條例，承諾照片僅被用于數(shù)字分身制作，分身制作完成后照片將被自動刪除。
妙鴨相機道歉聲明
但一份道歉聲明難以消除用戶的不安。如何不踩安全紅線，是妙鴨相機等AI應用當前要面對的頭號問題。