ChatGPT問(wèn)世以來(lái)
,立刻在金融業(yè)引發(fā)了焦慮感,這個(gè)對(duì)技術(shù)有信仰的行業(yè)唯恐被一個(gè)飛奔中的時(shí)代洪流甩在身后
。這種焦灼氛圍
,甚至一度卷到清凈的寺廟。一位業(yè)內(nèi)人士告訴數(shù)智前線
,她在5月份去到大理出差時(shí)
,在寺廟里都能碰到和她談?wù)摯竽P偷慕鹑谌恕?/p>
不過(guò),這種焦慮正在慢慢歸于尋常
,大家的思路也開(kāi)始清晰和理性
。軟通動(dòng)力銀行業(yè)務(wù)CTO孫洪軍向數(shù)智前線描述了今年金融業(yè)對(duì)大模型態(tài)度的幾個(gè)階段:二三月
,大家都很焦慮
,怕落后;四五月
,紛紛組建團(tuán)隊(duì)去做
;之后幾個(gè)月,大家在找方向
、落地上遇到了困難
,開(kāi)始變得理性;現(xiàn)在
,他們看標(biāo)桿
,把驗(yàn)證過(guò)的場(chǎng)景拿來(lái)試用
。
(資料圖片僅供參考)
一個(gè)更新的趨勢(shì)是,不少金融機(jī)構(gòu)都已將大模型從戰(zhàn)略層面重視起來(lái)
。據(jù)不完全統(tǒng)計(jì)
,A股上市公司中,至少有工商銀行
、農(nóng)業(yè)銀行
、中國(guó)銀行、交通銀行等11家銀行
,都已在最新半年報(bào)中明確提出正在探索大模型的應(yīng)用
。從近期動(dòng)作看,他們也正在從戰(zhàn)略層面和頂層設(shè)計(jì)層面有更清晰的思考和路徑規(guī)劃
。
01 從熱情高漲到理性回歸
“比起幾個(gè)月前
,現(xiàn)在能明顯感覺(jué)金融客戶對(duì)大模型的理解好了很多?div id="jfovm50" class="index-wrap">!币晃淮髲S金融行業(yè)資深人士告訴數(shù)智前線
,年初ChatGPT剛出來(lái)時(shí),大家的熱情雖高
,但對(duì)于大模型究竟是什么
、該怎么用,其實(shí)了解得非常有限
。
這一階段
,一方面一些大行率先行動(dòng),開(kāi)始做各種“蹭熱度”的宣傳
。比如早在今年3月
,農(nóng)行上線了類ChatGPT的大模型應(yīng)用ChatABC。但業(yè)界評(píng)價(jià)不一
。其時(shí)
,一度有人認(rèn)為,ChatABC這個(gè)名字強(qiáng)調(diào)了ChatGPT里不那么重要的Chat
,反而忽略了GPT這個(gè)真正重要的部分
。
另一方面,隨著百度等多家廠商陸續(xù)發(fā)布大模型
,一些頭部金融機(jī)構(gòu)的科技部門開(kāi)始積極去跟大廠談?wù)摯竽P徒ㄔO(shè)的事情
。上述資深人士透露,這些金融機(jī)構(gòu)的普遍訴求是
,要自己去做一個(gè)大模型
,希望廠商告訴他數(shù)據(jù)集怎么做,買多少服務(wù)器
,怎么去訓(xùn)練
。建行旗下的金融科技公司建信金科甚至提出
,完成后是不是還能去做一些同業(yè)輸出。
5月份以后
,情況逐漸變化
。受制于算力資源緊缺、成本高昂等大背景
,很多金融機(jī)構(gòu)開(kāi)始從單純希望自己建算力
、建模型,轉(zhuǎn)變到更加關(guān)心應(yīng)用的價(jià)值
?div id="jfovm50" class="index-wrap">!艾F(xiàn)在每一家金融機(jī)構(gòu)都在關(guān)心其他人用大模型做了什么,實(shí)現(xiàn)了怎樣的效果
?div id="jfovm50" class="index-wrap">!?/p>
具體到不同規(guī)模的企業(yè),也分出了兩條路徑
。手握海量金融數(shù)據(jù)和應(yīng)用場(chǎng)景的大型金融機(jī)構(gòu)
,可引入業(yè)界領(lǐng)先的基礎(chǔ)大模型,自建企業(yè)大模型
,同時(shí)采用微調(diào)形式
,形成專業(yè)領(lǐng)域的任務(wù)大模型,快速賦能業(yè)務(wù)
,以彌補(bǔ)大模型建設(shè)周期過(guò)長(zhǎng)的缺點(diǎn)
;而中小金融機(jī)構(gòu)可綜合考慮ROI
,按需引入各類大模型的公有云API或私有化部署服務(wù)
,直接滿足賦能訴求。
不過(guò)
,由于金融行業(yè)本身對(duì)數(shù)據(jù)合規(guī)性
、安全性、可信性等存在高要求
,部分人士認(rèn)為
,這一行業(yè)的大模型落地進(jìn)展,實(shí)際略滯后于年初預(yù)期
。軟通動(dòng)力孫洪軍介紹
,他們最初預(yù)測(cè)金融行業(yè)可能會(huì)最先大規(guī)模使用大模型
,但從最終對(duì)接客戶的情況來(lái)看,金融行業(yè)不如法律
、招聘等行業(yè)走得快
。
一些金融機(jī)構(gòu)已經(jīng)開(kāi)始想辦法
,解決大模型落地過(guò)程中的各種“桎梏”。
比如在算力方面
,業(yè)內(nèi)人士觀察,金融業(yè)目前涌現(xiàn)出了幾種解決思路:
其一
,直接自建算力
,成本相對(duì)高昂,但好處是安全性足夠高
。適用于實(shí)力雄厚
、希望自建行業(yè)或企業(yè)大模型的金融機(jī)構(gòu),典型如建行
、工行等國(guó)有大行
。
知情人士告訴數(shù)智前線
,為了搭建算力
,建行在前不久剛下單了一筆H800的算力大單。
其二
,算力混合部署
,即在敏感數(shù)據(jù)不出域的情況下,接受從公有云上調(diào)用大模型服務(wù)接口
,同時(shí)通過(guò)私有化部署的方式處理本地的數(shù)據(jù)服務(wù)
。這種方式成本相對(duì)較低
,只需投入幾十萬(wàn)元買上幾張卡即可滿足需求
,適用于資金相對(duì)薄弱,只按需進(jìn)行應(yīng)用的中小型金融機(jī)構(gòu)
。
不過(guò)
,即便如此,很多中小機(jī)構(gòu)仍然會(huì)面臨買不到也買不起大模型所需的GPU卡的難題
。針對(duì)這個(gè)問(wèn)題
,上述資深人士向數(shù)智前線透露,證監(jiān)會(huì)最近正在進(jìn)行一些課題研究
,探索是否能夠以一種折中的方式
,牽頭搭建一個(gè)面向證券行業(yè)的大模型基礎(chǔ)設(shè)施,集中算力
、通用大模型等資源
,讓行業(yè)里的中小金融機(jī)構(gòu)也能用上大模型的服務(wù),以防止它們“技術(shù)掉隊(duì)”。
不僅是算力上
,隨著最近半年多大家對(duì)大模型的落地探索
,不少金融機(jī)構(gòu)也逐漸加強(qiáng)了對(duì)數(shù)據(jù)的治理。
騰訊云副總裁胡利明介紹
,目前除了在數(shù)據(jù)治理領(lǐng)域有成熟實(shí)踐的頭部大行
,越來(lái)越多的腰部金融機(jī)構(gòu)也在開(kāi)始陸續(xù)去構(gòu)建數(shù)據(jù)中臺(tái)和數(shù)據(jù)治理的體系
,像今年上半年的北部灣銀行
、湖南農(nóng)信等等,都是腰部機(jī)構(gòu)
。胡利明認(rèn)為
,構(gòu)建一個(gè)完善的數(shù)據(jù)治理體系和數(shù)據(jù)湖技術(shù)平臺(tái),將會(huì)是未來(lái)金融機(jī)構(gòu)IT建設(shè)非常重要的主旋律
。
也有銀行正通過(guò)大模型+MLOps的方式解決數(shù)據(jù)問(wèn)題
。比如農(nóng)業(yè)銀行,通過(guò)采用MLOps模式建立大模型數(shù)據(jù)閉環(huán)體系
,實(shí)現(xiàn)了整個(gè)流程的自動(dòng)化,以及多源異構(gòu)數(shù)據(jù)的統(tǒng)一管理和高效處理
,據(jù)悉目前已構(gòu)建和沉淀2.6TB高質(zhì)量訓(xùn)練數(shù)據(jù)集
。
02 從外圍場(chǎng)景切入
過(guò)去半年多,不管是大模型的服務(wù)商們
,還是各大金融機(jī)構(gòu)
,大家都在瘋狂找場(chǎng)景,智慧辦公
、智能開(kāi)發(fā)、智慧營(yíng)銷
、智能客服
、智慧投研、智能風(fēng)控
、需求分析等都被一一探索
。
正如螞蟻集團(tuán)副總裁、金融大模型負(fù)責(zé)人王曉航在外灘大會(huì)所說(shuō)
,“金融業(yè)務(wù)鏈條上每一個(gè)關(guān)鍵職能,都值得用大模型技術(shù)重做一次
?div id="4qifd00" class="flower right">
!蔽浵伹安痪脛偘l(fā)布了金融大模型,并正與螞蟻平臺(tái)合作機(jī)構(gòu)內(nèi)測(cè)共建面向金融產(chǎn)業(yè)的大模型產(chǎn)品支小助,目標(biāo)是要為理財(cái)顧問(wèn)
、保險(xiǎn)代理
、投研
、金融營(yíng)銷
、保險(xiǎn)理賠等金融從業(yè)專家打造全鏈條的AI 業(yè)務(wù)助手。
每家金融機(jī)構(gòu)
,也都對(duì)大模型有著豐富的暢想和構(gòu)思。建行稱內(nèi)部已有20多個(gè)場(chǎng)景投放應(yīng)用
,農(nóng)行說(shuō)他們?cè)?0多個(gè)場(chǎng)景中進(jìn)行了試點(diǎn)
,廣發(fā)證券則表示,正在探索將大模型和此前推出的虛擬數(shù)字人平臺(tái)打通……
但當(dāng)要真正將大模型落地進(jìn)行業(yè)里
,大家的一個(gè)共識(shí)是
,先內(nèi)部后外部。畢竟
,當(dāng)前階段而言,大模型技術(shù)并不成熟
,比如幻覺(jué)問(wèn)題
,而金融行業(yè)卻是一個(gè)強(qiáng)監(jiān)管、高安全
、高可信的行業(yè)
。
“短期內(nèi)不建議直接對(duì)客使用?div id="d48novz" class="flower left">
!敝袊?guó)工商銀行首席技術(shù)官呂仲濤認(rèn)為
,金融機(jī)構(gòu)應(yīng)優(yōu)先將大模型面向金融文本和金融圖像分析理解創(chuàng)作的智力密集型場(chǎng)景,以助手形式
,人機(jī)協(xié)同來(lái)提升業(yè)務(wù)人員工作質(zhì)效。
胡利明也告訴數(shù)智前線
,很多金融客戶都認(rèn)為代碼助手和客服助手是前期能直接出一些成果的場(chǎng)景
。而像投研、投顧等場(chǎng)景
,價(jià)值很大
,但很難快速出來(lái)效果,對(duì)數(shù)據(jù)的要求也高
。
目前
,代碼助手已在不少金融機(jī)構(gòu)落地。比如工行
,構(gòu)建了基于大模型的智能研發(fā)體系
,編碼助手生成代碼量占總代碼量的比值達(dá)到40%。又比如在保險(xiǎn)領(lǐng)域
,陽(yáng)光保險(xiǎn)研發(fā)了基于大模型的常青藤輔助編程插件
,直接嵌入內(nèi)部開(kāi)發(fā)工具。
基于此
,一部分廠商也在圍繞大模型代碼生成的能力
,直接為金融客戶提供開(kāi)箱即用的產(chǎn)品
。軟通動(dòng)力孫洪軍介紹
,他們的一款產(chǎn)品,就是在大模型本身的代碼補(bǔ)全能力上
,補(bǔ)充任務(wù)分解
、精準(zhǔn)回答、突破上下文限制等一系列工作
,實(shí)現(xiàn)用戶的開(kāi)箱即用
。目前,該產(chǎn)品在匯豐銀行已為3000多人所使用
,代碼自動(dòng)補(bǔ)全率為50%~90%。
智慧辦公領(lǐng)域
,也有不少落地案例
。負(fù)責(zé)華為盤古金融行業(yè)大模型產(chǎn)品的祝博士介紹,他們基于盤古金融大模型推出的網(wǎng)點(diǎn)問(wèn)答
,7月在工行上線后
,已經(jīng)陸續(xù)推廣了幾百個(gè)網(wǎng)點(diǎn),答案采納率超過(guò)85%
。目前
,文檔問(wèn)答孵化成的標(biāo)準(zhǔn)解決方案,又快速?gòu)?fù)制到交行
、農(nóng)行、銀聯(lián)以及上交所等
。
不過(guò)
,業(yè)內(nèi)人士判斷,這些已經(jīng)廣泛落地的場(chǎng)景
,實(shí)際都還不是金融機(jī)構(gòu)的核心應(yīng)用
,大模型距離深入金融行業(yè)的業(yè)務(wù)層面還有一定距離
。
“我們自己判斷,在業(yè)務(wù)應(yīng)用場(chǎng)景這塊兒做的難度還是挺大的
。”孫洪軍說(shuō)
,營(yíng)銷
、風(fēng)控、合規(guī)等場(chǎng)景都是大模型可能帶來(lái)變革
,同時(shí)也是金融客戶需求點(diǎn)所在的部分
,但就目前的情況而言
,這些工作
,還要取決于底層大模型廠商們的能力提升情況,再去把業(yè)務(wù)場(chǎng)景做起來(lái)
。
上述大廠大模型資深人士則向數(shù)智前線預(yù)測(cè)
,到今年底之前
,會(huì)有一批真正在金融機(jī)構(gòu)核心業(yè)務(wù)場(chǎng)景里
,用上大模型的項(xiàng)目建設(shè)或招標(biāo)信息出來(lái)。
而在此之前
,一些頂層設(shè)計(jì)層面的改變正在進(jìn)行
。
9月初螞蟻集團(tuán)主辦的外灘大會(huì)上,復(fù)旦大學(xué)教授
、上海市數(shù)據(jù)科學(xué)重點(diǎn)實(shí)驗(yàn)室主任肖仰華做出這樣一個(gè)判斷:未來(lái)的整個(gè)智能化
、數(shù)字化系統(tǒng),都將重新建立在大模型的基礎(chǔ)之上
。這就要求金融行業(yè)在推動(dòng)大模型落地過(guò)程中,要重新架構(gòu)系統(tǒng)
。同時(shí)
,也不能忽視傳統(tǒng)小模型的價(jià)值,而應(yīng)該讓大模型
、小模型協(xié)同起來(lái)
。
這一趨勢(shì)已在金融行業(yè)得到廣泛體現(xiàn)?div id="jfovm50" class="index-wrap">!艾F(xiàn)在金融機(jī)構(gòu)試點(diǎn)做大模型
,基本上會(huì)采取分層的模式
?div id="d48novz" class="flower left">
!焙鹘榻B
,不同于過(guò)去一個(gè)場(chǎng)景需要搭建一個(gè)平臺(tái)的煙囪化模式,大模型其實(shí)給了金融機(jī)構(gòu)們一個(gè)從零開(kāi)始
,更加科學(xué)地去做整體的系統(tǒng)規(guī)劃的機(jī)會(huì)
。
可以看到,目前已經(jīng)有多家頭部金融機(jī)構(gòu)
,都已經(jīng)基于大模型
,搭建了包含基礎(chǔ)設(shè)施層、模型層
、大模型服務(wù)層、應(yīng)用層等多個(gè)層級(jí)的分層系統(tǒng)框架
,如農(nóng)行
、華夏銀行、廣發(fā)證券
、陽(yáng)光保險(xiǎn)等
。
這些框架體系,普遍有兩大突出特點(diǎn):其一
,大模型發(fā)揮中樞能力
,將傳統(tǒng)模型作為技能進(jìn)行調(diào)用;其二