文｜阿爾法工場(chǎng)
四足機(jī)器狗有什么用？
如今，智能仿生機(jī)器狗已經(jīng)不算是十足新鮮的玩意兒，從電商上就可以買到。它可以陪你跑步、跳舞，或者幫你馱快遞。
圖：波士頓動(dòng)力的機(jī)器狗Spot的表演視頻
在多數(shù)人眼中，機(jī)器狗還只是個(gè)昂貴的玩物，缺少“殺手級(jí)”的應(yīng)用。
沒(méi)料到，有人轉(zhuǎn)念一想：真的讓機(jī)器狗成為“殺手”又如何？
近日，這個(gè)背槍機(jī)器狗的視頻在網(wǎng)上流傳。視頻中，一個(gè)改裝后的民用機(jī)器狗背上駕著一支沖鋒槍，執(zhí)行著射擊、巡邏等任務(wù)。
視頻中很難確認(rèn)射擊場(chǎng)地的具體信息。不過(guò)，根據(jù)網(wǎng)友的考證，視頻是由一個(gè)名叫Alexander Atamanov的人最先傳到Y(jié)outube上的。Atamanov本人是個(gè)技術(shù)創(chuàng)業(yè)者，有俄羅斯和美國(guó)的居住史。
視頻背景中的裝甲車，為前蘇聯(lián)制BRDM-2A或BDRM-2M裝甲車。槍的型號(hào)為俄制的PP-19-01“勇士”沖鋒槍。
而機(jī)器狗的型號(hào)，非常像是宇樹(shù)科技的Go1機(jī)器狗。該款機(jī)器狗在國(guó)內(nèi)售價(jià)16000元，并且通過(guò)多個(gè)渠道向國(guó)外銷售。
圖：宇樹(shù)科技Go1機(jī)器狗
來(lái)源：宇樹(shù)科技官網(wǎng)
圖：Atamanov在社交網(wǎng)絡(luò)發(fā)布的背槍機(jī)器狗照片
如果網(wǎng)友分析屬實(shí)的話，宇樹(shù)科技被迫做了一回“軍工產(chǎn)品”。
這肯定不是什么好事，是一個(gè)急需企業(yè)警惕的ESG風(fēng)險(xiǎn)。
01 ESG投資禁區(qū)
企業(yè)一旦真的成為軍工供應(yīng)商，很可能導(dǎo)致持ESG策略的投資機(jī)構(gòu)撤資。這是因?yàn)?，軍工行業(yè)被ESG視為一個(gè)“爭(zhēng)議行業(yè)”。
根據(jù)聯(lián)合國(guó)責(zé)任投資原則組織（UNPRI，ESG的主要發(fā)起機(jī)構(gòu)之一）的建議，ESG投資者應(yīng)遠(yuǎn)離具有負(fù)面道德色彩的行業(yè)，例如軍工、煙草、博彩、酒類、成人娛樂(lè)、化石能源等。
這些行業(yè)的特點(diǎn)主要是，它們產(chǎn)生社會(huì)/生態(tài)上的負(fù)價(jià)值，或依靠人性的弱點(diǎn)、成癮性來(lái)盈利。
這并不是說(shuō)，這些行業(yè)是全然“罪惡”的行業(yè)，但它們一定是存在爭(zhēng)議的行業(yè)。爭(zhēng)議，就意味著難以預(yù)測(cè)的非財(cái)務(wù)風(fēng)險(xiǎn)。
在操作中，通常ESG評(píng)級(jí)機(jī)構(gòu)、ESG基金并不會(huì)簡(jiǎn)單粗暴地把軍工、酒類、化石能源等行業(yè)全盤否定，而是在政策中更明確地定義自己的倫理訴求。
比如，ESG投資機(jī)構(gòu)會(huì)在軍工行業(yè)中區(qū)分國(guó)防工業(yè)和軍火生意，認(rèn)為后者是真正意義上的“負(fù)面行業(yè)”；而企業(yè)與軍方進(jìn)行安保方面的合作，屬于正常的商業(yè)行為。
標(biāo)普ESG指數(shù)出于禁槍的考慮，從指數(shù)中剔除了美國(guó)的民用槍支生產(chǎn)商。
再比如，酒類之所以被列為爭(zhēng)議行業(yè)，是因?yàn)橐恍┳诮绦叛鼋癸嬀苹蜃砭?，于是持相?yīng)信仰的投資者就不愿投資酒類行業(yè)。而在中國(guó)的ESG投資領(lǐng)域，酒類行業(yè)的爭(zhēng)議不大。
總之，ESG“爭(zhēng)議行業(yè)”里面的是非糾葛更多，企業(yè)如果沒(méi)有戰(zhàn)略上的必要，應(yīng)該避免牽涉其中。
02 制造“負(fù)責(zé)任機(jī)器人”
具體到“軍用機(jī)器人”這個(gè)細(xì)分行業(yè)，ESG的態(tài)度又如何呢？
“軍用機(jī)器人”在軍事和國(guó)際法的術(shù)語(yǔ)上，稱為“致命自主武器系統(tǒng)”（Lethal Autonomous Weapon Systems, LAWS）。
2017年，埃隆·馬斯克和硅谷AI科學(xué)家穆斯塔法·蘇萊曼（Mustafa Suleyman）曾率領(lǐng)116位行業(yè)科學(xué)家，呼吁聯(lián)合國(guó)禁止各國(guó)進(jìn)行“殺人機(jī)器人”的研發(fā)。當(dāng)時(shí)還在世的斯蒂芬·霍金也參與了相關(guān)的宣傳活動(dòng)。
隨后，也有國(guó)家（如比利時(shí)）開(kāi)始立法禁止“殺人機(jī)器人”的研發(fā)。
人們把最終解決的希望，寄托在五年一度的聯(lián)合國(guó)日內(nèi)瓦《特定常規(guī)武器公約》（CCW）會(huì)議上。歷史上，CCW會(huì)議禁掉了很多非人道的武器，包括汽油彈、集束炸彈等。
會(huì)議于2021年12月召開(kāi)。會(huì)上，代表們還討論到利比亞內(nèi)戰(zhàn)，這場(chǎng)戰(zhàn)爭(zhēng)中可能首次出現(xiàn)了死于機(jī)器人武器的死者。
令人惋惜的是，會(huì)議并未達(dá)成一致意見(jiàn)。各國(guó)已經(jīng)在機(jī)器人武器研發(fā)上投入了大量資金，沒(méi)有協(xié)商出一個(gè)國(guó)際統(tǒng)一的管控措施。
但國(guó)際社會(huì)對(duì)“殺人機(jī)器人”的抗?fàn)幦栽诶^續(xù)。
ESG是一種重要的抗?fàn)幏绞?。比如，晨星旗下的ESG評(píng)級(jí)機(jī)構(gòu)Sustainalytics就表示，接受有關(guān)“殺人機(jī)器人”公司業(yè)務(wù)的舉報(bào)，且會(huì)在全球資本市場(chǎng)對(duì)相關(guān)業(yè)務(wù)進(jìn)行曝光和質(zhì)詢。
正如文章開(kāi)篇的“持槍機(jī)器狗”案例，機(jī)器人企業(yè)可能會(huì)“被迫”成為機(jī)器人武器的“供應(yīng)商”。
它們確實(shí)值得同情和理解，不過(guò)另一方面，從業(yè)者也可以參考現(xiàn)行的“負(fù)責(zé)任AI”、“負(fù)責(zé)任機(jī)器人”原則，積極處理智能產(chǎn)品的治理問(wèn)題。
2019年6月，國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》。文件提出了“負(fù)責(zé)任AI”的8個(gè)治理原則，值得相關(guān)從業(yè)者參考。
例如文件提出了“共擔(dān)責(zé)任”原則，要求AI的研發(fā)者、使用者和其他相關(guān)方，應(yīng)具有高度社會(huì)責(zé)任感，共同防范不法分子利用AI進(jìn)行犯罪活動(dòng)。
這一原則可以適用于“持槍機(jī)器狗”的案例。
03 如何應(yīng)對(duì)“被軍工”
例子中的宇樹(shù)科技，是國(guó)內(nèi)仿生機(jī)器人方面的領(lǐng)先創(chuàng)業(yè)公司。宇樹(shù)科技也是世界上為數(shù)不多的實(shí)現(xiàn)機(jī)器狗商業(yè)化的企業(yè)之一。
著名的企業(yè)比如波士頓動(dòng)力，其主力產(chǎn)品是Spot機(jī)器狗，售價(jià)高達(dá)74000美元。這一售價(jià)，或許構(gòu)成了阻止產(chǎn)品被非法使用的真正壁壘。
而國(guó)內(nèi)的宇樹(shù)科技和小米(HK:01810)，把仿生機(jī)器狗產(chǎn)品的售價(jià)壓到了萬(wàn)元人民幣的水平。其相對(duì)低廉的售價(jià)引起了國(guó)際市場(chǎng)的關(guān)注。
圖：小米出品的機(jī)器狗“鐵蛋”
民用機(jī)器狗是智能時(shí)代的新產(chǎn)品，在商業(yè)化探索的同時(shí)，也需要探索履行社會(huì)責(zé)任、管控產(chǎn)品風(fēng)險(xiǎn)的新途徑。
制造商雖然從初衷上希望科技行善，但難免要對(duì)產(chǎn)品的不道德使用，采取一些防范措施。
這些措施從被動(dòng)到主動(dòng)，包含多個(gè)層次。
首先，企業(yè)的態(tài)度要明確。
比如，波士頓動(dòng)力在Spot機(jī)器狗產(chǎn)品使用說(shuō)明中，規(guī)定了五類禁止的用途，包括“禁止故意使用本產(chǎn)品傷害、恐嚇任何人或動(dòng)物；禁止將本產(chǎn)品用作武器，或用于操控武器”。
在表明“禁止”態(tài)度的同時(shí)，企業(yè)也不能忘記“責(zé)任”的態(tài)度。
這方面，宇樹(shù)科技的做法就值得商榷。公司機(jī)器狗產(chǎn)品的《免責(zé)聲明》稱：“使用者承諾僅出于正當(dāng)目的使用本產(chǎn)品……宇樹(shù)科技不承擔(dān)因用戶未按照本指引、《用戶操作手冊(cè)》使用產(chǎn)品所引發(fā)的一切損失及后果?！?/p>
這種“本公司概不負(fù)責(zé)”的立場(chǎng)，顯然沒(méi)有考慮到產(chǎn)品被用于非法目的的情況，也有違“共擔(dān)責(zé)任”的原則。
企業(yè)可以采取更為積極的責(zé)任立場(chǎng)，聲明對(duì)產(chǎn)品的非法用途、非官方軍事用途的反對(duì)態(tài)度，并且采取措施阻止相關(guān)的使用。比如，企業(yè)可以改善產(chǎn)品設(shè)計(jì)，使之難以被改裝。
在明確立場(chǎng)之后，企業(yè)可以進(jìn)一步采取主動(dòng)的產(chǎn)品治理措施。
04 豐田和波士頓動(dòng)力的實(shí)踐經(jīng)驗(yàn)
這方面，豐田汽車(NYSE:TM)擁有一些實(shí)踐經(jīng)驗(yàn)。
豐田是世界第一大汽車生產(chǎn)商。豐田皮卡由于性能堅(jiān)實(shí)可靠，適用于崎嶇地形，尤其受到軍隊(duì)、國(guó)際組織、維和部隊(duì)的青睞。
但另一方面，豐田也擋不住各種非法軍事組織同樣喜愛(ài)豐田皮卡。并且豐田皮卡容易進(jìn)行軍事化改裝，頻頻在中東各地的軍事沖突中露臉。
對(duì)豐田的社會(huì)形象打擊最大的是，它的皮卡經(jīng)常出現(xiàn)在恐怖組織的影像里。
公司首先從銷售環(huán)節(jié)采取措施，來(lái)消弱這部分負(fù)面形象。
豐田嚴(yán)格控制汽車產(chǎn)品在中東地區(qū)的銷售，拒絕將汽車賣給可能將其用于軍事目的、或?qū)ζ溥M(jìn)行軍事化改裝的客戶。
2022年，豐田的新款Land Rover在日本發(fā)售之后，購(gòu)車者收到的合同中還包含這樣一份承諾書附件。
承諾書開(kāi)宗明義，要求“客戶同意此次交易不是以‘出口’和‘轉(zhuǎn)賣’為目的的購(gòu)買”；同時(shí)解釋說(shuō)，出口和轉(zhuǎn)賣“可能導(dǎo)致全球安全方面的重大風(fēng)險(xiǎn)”。
這實(shí)質(zhì)上是為了防止汽車通過(guò)非正規(guī)渠道落入非法軍事組織手中。同時(shí)，豐田也要求經(jīng)銷商在嚴(yán)格的合規(guī)范圍內(nèi)銷售公司產(chǎn)品。
此外，豐田還與各國(guó)政府合作，追蹤車輛的全球流向，打擊車輛的走私渠道。
波士頓動(dòng)力作為重要的機(jī)器人研發(fā)商，也在為產(chǎn)品的ESG風(fēng)險(xiǎn)尋求對(duì)策。
在機(jī)器狗Spot剛剛推出不久，馬薩諸塞州警局就引進(jìn)了一只Spot，裝備在防爆小隊(duì)，開(kāi)始與警察配合進(jìn)行拆彈方面的演練。
圖：馬薩諸塞州警局訓(xùn)練Spot打開(kāi)房門
這還是引發(fā)了居民的反對(duì)。一些民間組織指出，警方應(yīng)該公布Spot的執(zhí)法原則，確保Spot在執(zhí)法中保護(hù)公民的各項(xiàng)合法權(quán)益。
當(dāng)然，這一要求不是馬薩諸塞州警局能做到的，甚至也不是波士頓動(dòng)力能做到的。它需要系統(tǒng)地改革人類政治制度，確保機(jī)器人按照人類的道德行事。
波士頓動(dòng)力只能在力所能及的范圍內(nèi)做出改進(jìn)。
業(yè)務(wù)發(fā)展副總裁Michael Perry指出，公司在考慮采用租賃的方式來(lái)實(shí)現(xiàn)機(jī)器狗的商用落地。
這樣，公司能夠把機(jī)器狗的所有權(quán)握在自己手里，對(duì)產(chǎn)品保持更嚴(yán)密的控制。一旦發(fā)現(xiàn)誤用，就立即收回。
05 總結(jié)與啟示
總結(jié)起來(lái)，“持槍機(jī)器狗”的案例，在ESG“爭(zhēng)議行業(yè)”方面帶給我們啟示是：
如果企業(yè)沒(méi)有在戰(zhàn)略上篤定進(jìn)入所謂的“爭(zhēng)議行業(yè)”，那么還是在產(chǎn)品治理和公關(guān)管理上多加注意，與這些行業(yè)保持距離，防范相應(yīng)的風(fēng)險(xiǎn)。
這要求企業(yè)不斷更新對(duì)自身產(chǎn)品責(zé)任的認(rèn)識(shí)，并制定與時(shí)俱進(jìn)的策略。
具體到機(jī)器人的研發(fā)，企業(yè)或許也難以預(yù)料產(chǎn)品將以怎樣的方式被社會(huì)接受，是否會(huì)以合法的方式被使用。畢竟，新技術(shù)產(chǎn)品的責(zé)任治理，正在超出企業(yè)的能力范圍。
新科技的ESG治理，需要企業(yè)發(fā)揮社會(huì)責(zé)任方面的創(chuàng)造力，并且尋求各個(gè)利益相關(guān)方的合作。這些利益相關(guān)方包括政府、社會(huì)機(jī)構(gòu)，也包括持ESG理念的資管機(jī)構(gòu)。
也正是如此，在智能產(chǎn)品治理的探索中擔(dān)任領(lǐng)導(dǎo)力量，也將成為企業(yè)的一種優(yōu)勢(shì)。