界面新聞記者 | 何柳穎
界面新聞編輯 | 江怡曼
9月6日，由界面新聞主辦的2024REAL科技大會在上海順利舉辦，本次大會主題為“大模型落地，重塑現(xiàn)實場景”。
近年來，金融科技加速發(fā)展，金融+大模型成為了行業(yè)趨勢。目前在技術與實踐層面，各大金融機構進行了哪些嘗試？迎來了哪些挑戰(zhàn)？相關監(jiān)管配套是否完善？
在由寧波銀行贊助呈現(xiàn)的“金融大模型的進階之路”圓桌討論會上，江蘇蘇商銀行股份有限公司副行長黃進、眾邦銀行首席信息官李耀、招聯(lián)消費金融股份有限公司首席信息官王耀南、眾源資本高級投資副總裁冉翀、螞蟻集團金融AI首席架構師徐萬青等與會嘉賓們就以上話題進行了熱切討論。
（“金融大模型的進階之路”圓桌討論會現(xiàn)場）
應用場景多方面突破
“銀行已經進入5.0時代，銀行所有的業(yè)務模式都值得用AI重新思考一遍?！?nbsp; 李耀強調AI對于銀行的重要性。
起步之際，銀行+大模型多集中于人工客服、資料庫等基礎層面，如今伴隨技術的迭代與新需求的涌現(xiàn)，應用場景實現(xiàn)了多方面突破。
黃進介紹，目前銀行主要基于大模型的生成能力，在兩個核心的業(yè)務領域——產業(yè)鏈金融和科創(chuàng)金融，輔助生成相關的盡調報告。“我們也會基于自身的信貸語料庫，以及行內整合的非結構化數(shù)據(jù)，將大模型的分析能力應用在O2O的信貸審批環(huán)節(jié)，應用場景包括信貸客戶的KYC以及部分貸后管理環(huán)節(jié)。”
基于大模型能力，螞蟻集團于去年發(fā)布了智能業(yè)務助手“支小助”。 徐萬青介紹，經過一整年的打磨和培養(yǎng)，現(xiàn)在“支小助”已經升級到2.0版本，并落地在銷售、理賠、財務寫作，營銷創(chuàng)意等多個場景。他稱，規(guī)模化的落地驗證了支小助2.0能為業(yè)務帶來非常好的提升效果。
“比如在財務報表領域，阿里巴巴最近發(fā)布的財報首次使用支小助2.0幫助專家進行了很多精密任務的執(zhí)行。包括財務邏輯理解、業(yè)績歸因、專業(yè)寫作，都由支小助2.0輔助財務專家進行編寫。”徐萬青稱，這些任務（完成情況）已經達到了高級財務專家的要求。
對于金融機構而言，如何借助大模型實現(xiàn)降本增效是一個重要命題。
招聯(lián)消費金融股份有限公司首席信息官王耀南分享道，招聯(lián)2023年11月發(fā)布消費金融行業(yè)首個130億參數(shù)大模型“招聯(lián)智鹿”，今年7月升級推出“招聯(lián)智鹿二代”，以智能客服為例，不僅可以結合具體會話狀態(tài)與服務場景，快速精準地進行會話小結，大幅提升坐席作業(yè)效率，還能充分利用深度學習技術，準確理解客戶意圖，共情客戶情緒，并將與客戶交互的“經驗”和“感覺”積累成參考樣本，實現(xiàn)舉一反三的智能服務，大幅降低投訴率。
徐萬青也談及，現(xiàn)在支小助2.0有能力去學習優(yōu)質的銷售經驗、銷售能力和銷售話術，從而構建一個數(shù)字分身，讓數(shù)字分身幫助基礎銷售人員提升他們的客戶服務的能力和標準?！斑@套能力在保險規(guī)劃師團隊上已經完全鋪開使用了，目前可以將人均產能提升約150%。”
展望銀行業(yè)未來的大模型應用，王耀南表示，希望用大語言模型的推理能力持續(xù)優(yōu)化招聯(lián)的整體業(yè)務運營情況。他認為，對于金融企業(yè)而言，要把業(yè)務和語言模型結合，產生（實際）效果，因為只有在企業(yè)內部踏踏實實落地，語言模型的價值才能更好地凸顯出來?！?/span>
徐萬青強調需要基于用戶的角度進行思考?！?/span>以理財為例，我們的客戶會希望能夠獲得更個性化的金融服務，希望大模型理解我真正的偏好、訴求、風險；同時，也希望這個服務的獲取方式非常便利，借助大模型能力，實現(xiàn)語言交流、視頻交流；更進一步，用戶希望給到的個性化服務，能夠真正有效的能夠支持他的投資決策，而這對大模型處理信息的及時性和有效性也提出了更高的要求?！?/span>
金融領域有其特殊性，李耀建議在運用大模型的過程中，應當走“通用加專用”的道路，即通用大模型搭配專用模型使用，這可以讓傳統(tǒng)的專家模型、機器學習手段更加穩(wěn)定、更加具有可解釋性。
冉翀則認為，在金融大模型的未來，如果能把任務和職業(yè)定義清楚，應該是都有可能利用大模型來實現(xiàn)任務和職業(yè)的替換。
（“金融大模型的進階之路”圓桌討論會現(xiàn)場）
技術與成本的多重挑戰(zhàn)
不可避免地，路上總有挑戰(zhàn)。
一方面，Bug總會出現(xiàn)，這要求大量的實踐與改進。王耀南舉例稱，在推斷客戶最近的資金需求時，銀行一般會查看他們的人行查詢報告次數(shù)，人工會發(fā)現(xiàn)客戶最近沒有很頻繁查看，但機器人推斷出客戶查看很頻繁。最后發(fā)現(xiàn)，這名客戶在一年前查看的次數(shù)比較多，但最近一年只有一次?！按笳Z言模型對時間沒有什么概念，如果由機器做推斷，需要的細節(jié)非常多，我們正在持續(xù)推進這方面的工作。”
冉翀也強調，目前在金融領域，如果模型的搜索能力不夠強，或者理解錯誤，出現(xiàn)幻覺，單一任務上就有出錯可能性?！懊鎸碗s的工作流，比如有5個步驟，每個步驟都要做一次，如果每個步驟只有80%的正確率，答案幾乎不可能是對的?！?/span>
冉翀稱，在此背景下，模型本身的性能、模型使用工具的能力、模型做多步推理的可靠性，這是當下面臨的很明確的問題。
“模型的能力要足夠強，是不是（達到）金融級別的模型？是不是足夠可靠？是否有很強的多步推理能力？模型能不能知道自己錯了？以及中間和用戶場景之間的Gap怎么彌補？這些都是挑戰(zhàn)?！比搅埦唧w指出。
另一方面，成本的問題需要考量。李耀提及，“現(xiàn)在大公司要做大模型，沒有一萬個顯卡沒法進行，這也就意味著3-4億美金的投入。對我們來說，不做訓練，只做推理，投入也是很大的?！?/span>
黃進也坦言，“現(xiàn)在各種大模型出來得太多、太快了，大模型需要本地化部署。我們作為一家中小銀行，缺乏足夠的財力與精力來適應這些比較大的外部需求變化。”
同時，數(shù)據(jù)對于大模型的運用尤其重要，但數(shù)據(jù)的獲取并不容易。黃進表示，為什么說現(xiàn)在的金融行業(yè)并沒有真正的模型能達到金融學專業(yè)的碩士或者博士水平？因為數(shù)據(jù)很缺乏，單靠某一家機構、銀行無法解決這個問題，這需要更高層面的努力。
最后，人才亦是關鍵所在，“大模型的人才非常難得，既要懂業(yè)務，同時還要懂大模型的技術，還要有工程化交付的能力，這些都要求極強的學習能力。” 黃進稱。
強監(jiān)管背景下如何走得更遠？
在 “AI+金融”的各式探索中，監(jiān)管與合規(guī)的重要性愈加突出。
黃進坦言，由于銀行強監(jiān)管的特點，整個大模型利用還是相對比較局限，更多偏向中后臺，沒有完全直接對客的應用場景。
徐萬青在論壇上強調，金融行業(yè)是強監(jiān)管行業(yè)，大模型在這樣的監(jiān)管和合規(guī)要求下能做的事情是什么？不能做的事情是什么？怎么結合才能實現(xiàn)用戶更深的需求？這些問題都有待思考和突破。
李耀對此持有同感，并期待監(jiān)管層在這方面能有更多相關立法和管理條例。
2024年法治藍皮書《中國法治發(fā)展報告》指出，2023年是生成式人工智能監(jiān)管元年。為應對生成式人工智能帶來的安全風險，國家網(wǎng)信辦等7部門發(fā)布了《生成式人工智能服務管理暫行辦法》。中國也因此成為世界上首個為GPT大模型立法的國家。
在金融科技領域，更完善的AI監(jiān)管制度仍在路上。顯然，只有在監(jiān)管環(huán)境更為明朗的環(huán)境下，銀行的大模型運用才能走得更遠。