上海銀行胡德斌:中小銀行大模型場(chǎng)景應(yīng)用選擇考量及挑戰(zhàn)

2025-01-21 11:37:54 新金融聯(lián)盟NFA 微信號(hào)

“我們既不盲目爭(zhēng)先,也不甘落后,即便在資源上存在差距,也不放棄深入研究與部署,積極擁抱大模型帶來(lái)的變革。在場(chǎng)景選擇上,我們擇優(yōu)而用,不刻意偏袒某一特定大模型作為應(yīng)用基礎(chǔ),而是更加注重依據(jù)業(yè)務(wù)場(chǎng)景需求來(lái)確定實(shí)現(xiàn)方式!1月11日,在新金融聯(lián)盟舉辦的“AI提升金融服務(wù)效能的場(chǎng)景創(chuàng)新與趨勢(shì)展望”內(nèi)部研討會(huì)上,上海銀行副行長(zhǎng)、首席信息官胡德斌在主題發(fā)言中表示。

會(huì)上,工商銀行首席技術(shù)官呂仲濤,興業(yè)銀行首席信息官、科技管理部總經(jīng)理唐家才,民生銀行數(shù)據(jù)管理部總經(jīng)理沈志勇,百融云創(chuàng)董事長(zhǎng)張韶峰也做了主題發(fā)言。國(guó)家金融監(jiān)督管理總局相關(guān)負(fù)責(zé)人參加了交流。

會(huì)議由新金融聯(lián)盟秘書長(zhǎng)吳雨珊主持,中國(guó)金融四十人論壇提供學(xué)術(shù)支持。來(lái)自商業(yè)銀行、金融科技公司的170余位代表通過(guò)線上線下參會(huì)。會(huì)議實(shí)錄詳見→《智能體爆發(fā)元年,中小銀行如何逆流而上》,以下為胡德斌發(fā)言全文。

中小銀行大模型場(chǎng)景應(yīng)用

選擇考量及挑戰(zhàn)

文| 胡德斌

上海銀行副行長(zhǎng)、首席信息官 胡德斌

非常高興能與大家一同交流、分享上海銀行在大模型領(lǐng)域的應(yīng)用實(shí)踐及個(gè)人的思考見解。

一、大模型技術(shù)帶來(lái)的影響觀察

大模型技術(shù)對(duì)銀行業(yè)的影響可劃分為短期與長(zhǎng)期兩個(gè)維度。

從短期視角來(lái)看,大模型能夠顯著提升工作效率,文檔助手、編碼助手等工具便是例證。此外,借助大模型的普適性,可將原本僅面向高凈值客戶的專家服務(wù)下沉拓展。通過(guò)融合大模型的通識(shí)能力與銀行專業(yè)知識(shí)、客服專家經(jīng)驗(yàn)以及客戶畫像數(shù)據(jù)進(jìn)行訓(xùn)練,便能打造出數(shù)字客服專家,突破專家數(shù)量與服務(wù)精力的限制,為更廣泛的客戶群體提供更具針對(duì)性的服務(wù)。我們也要看到,大模型在推動(dòng)銀行業(yè)務(wù)發(fā)展、產(chǎn)品創(chuàng)新的同時(shí),也帶來(lái)了諸如數(shù)據(jù)泄露風(fēng)險(xiǎn)、大模型穩(wěn)定性風(fēng)險(xiǎn)、可解釋性風(fēng)險(xiǎn)等新挑戰(zhàn),這些風(fēng)險(xiǎn)均需深入研究與妥善管理。

從長(zhǎng)期角度而言,大模型將深刻改變銀行業(yè)的競(jìng)爭(zhēng)格局、經(jīng)營(yíng)模式與服務(wù)模式。例如在市場(chǎng)研究領(lǐng)域,大模型為中小銀行提供了全新的思路與方法,對(duì)銀行發(fā)展戰(zhàn)略的制定大有裨益。風(fēng)險(xiǎn)管理層面,大模型助力銀行實(shí)現(xiàn)智能化、精細(xì)化與前瞻性的管控,從而有效提升風(fēng)險(xiǎn)管理能力,降低潛在風(fēng)險(xiǎn)損失。產(chǎn)品服務(wù)模式也將由單一向多元、由被動(dòng)向主動(dòng)轉(zhuǎn)變。

大模型在銀行的建設(shè)和應(yīng)用路徑大致可歸納為以下幾類:一是嵌入式大模型的調(diào)用,無(wú)需關(guān)注基礎(chǔ)模型的選擇,僅以實(shí)現(xiàn)特定應(yīng)用目標(biāo)為導(dǎo)向,構(gòu)建類似黑盒應(yīng)用體或智能體來(lái)滿足特定需求;二是將調(diào)用大模型的API與業(yè)務(wù)流程應(yīng)用相結(jié)合的模式;三是目前應(yīng)用較為廣泛的Agent模式;四是利用私有數(shù)據(jù)進(jìn)行微調(diào)和訓(xùn)練模型,進(jìn)而形成企業(yè)專屬模型。這些應(yīng)用模式的成本呈遞進(jìn)式增長(zhǎng),但模型的針對(duì)性越強(qiáng),產(chǎn)生的效用就越大。不同規(guī)模的銀行需根據(jù)自身所處階段,選擇符合自身特點(diǎn)的應(yīng)用路徑。

通過(guò)對(duì)公開資料的搜索以及與同業(yè)的交流,我們概括了不同類型銀行大模型基礎(chǔ)能力狀況。

不同的資源屬性導(dǎo)致銀行在使用大模型的方式和方法上采取不同策略。我行的策略是密切關(guān)注行業(yè)應(yīng)用趨勢(shì),分析同業(yè)布局,應(yīng)用路徑上秉持借智借力的原則,借助廠商和大行的技術(shù)能力與經(jīng)驗(yàn)。我們既不盲目爭(zhēng)先,也不甘落后,即便在資源上存在差距,也不放棄深入研究與部署,積極擁抱大模型帶來(lái)的變革。在場(chǎng)景選擇上,我們擇優(yōu)而用,不刻意偏袒某一特定大模型作為應(yīng)用基礎(chǔ),而是更加注重依據(jù)業(yè)務(wù)場(chǎng)景需求來(lái)確定實(shí)現(xiàn)方式。

二、上海銀行大模型建設(shè)及應(yīng)用實(shí)踐

總體而言,我行的大模型建設(shè)和應(yīng)用規(guī)劃的近期目標(biāo)是以智能體開發(fā)平臺(tái)為載體,系統(tǒng)地構(gòu)建各類數(shù)字員工或智能體,形成人機(jī)協(xié)同的新生產(chǎn)模式。秉持“以用帶建”“以建帶培”的策略,從基礎(chǔ)能力建設(shè)、場(chǎng)景應(yīng)用、人員培養(yǎng)、模型優(yōu)化等多個(gè)維度著手,營(yíng)造一個(gè)讓每位員工都擁有“AI助理”的環(huán)境與創(chuàng)新氛圍。

具體而言,從兩個(gè)層面推進(jìn)。一是從上至下的總體謀劃,精準(zhǔn)定位合適場(chǎng)景,采用統(tǒng)一規(guī)劃、統(tǒng)一實(shí)施的方式構(gòu)建主要應(yīng)用。二是搭建大模型應(yīng)用開發(fā)平臺(tái),鼓勵(lì)員工結(jié)合實(shí)際業(yè)務(wù)需求開發(fā)“AI助理”,激發(fā)自下而上的創(chuàng)新活力。

在此過(guò)程中,有三個(gè)方面尤為關(guān)鍵。

第一,模型的統(tǒng)一管理。無(wú)論是生成式AI大模型,還是以規(guī)則判斷為主的小模型,應(yīng)用范圍都日益擴(kuò)大。如何妥善管理、監(jiān)測(cè)模型,并確保其能夠及時(shí)升級(jí)迭代,已成為日常運(yùn)營(yíng)管理的新領(lǐng)域與新挑戰(zhàn)。自去年下半年起,我行便著手構(gòu)建全行企業(yè)級(jí)的統(tǒng)一模型管理平臺(tái)。

第二,統(tǒng)一知識(shí)管理。隨著內(nèi)外部數(shù)據(jù)的持續(xù)增長(zhǎng),從海量數(shù)據(jù)中篩選出有價(jià)值的知識(shí)愈發(fā)困難。同時(shí),不同系統(tǒng)間數(shù)據(jù)存儲(chǔ)格式的差異導(dǎo)致數(shù)據(jù)連貫性欠佳,使得統(tǒng)一管理復(fù)雜度倍增。因此,建立統(tǒng)一知識(shí)管理體系和數(shù)據(jù)空間勢(shì)在必行,需推動(dòng)數(shù)據(jù)落標(biāo)、跨領(lǐng)域數(shù)據(jù)整合,保障數(shù)據(jù)持續(xù)更新,同時(shí)嚴(yán)格管理數(shù)據(jù)安全。

第三,數(shù)字化人才培養(yǎng)。不僅科技人員要積極學(xué)習(xí)和運(yùn)用大模型,業(yè)務(wù)人員也需轉(zhuǎn)變思維、掌握相關(guān)技能。通過(guò)培訓(xùn)、研究、實(shí)踐來(lái)促進(jìn)全體員工思維轉(zhuǎn)變與技能提升。

接下來(lái),我介紹一下上海銀行在大模型應(yīng)用領(lǐng)域的兩個(gè)案例。

我行即將推出AI手機(jī)銀行,積極探索從傳統(tǒng)的GUI(圖形用戶界面)模式向LUI(語(yǔ)言用戶界面)模式轉(zhuǎn)變?蛻艨赏ㄟ^(guò)語(yǔ)音對(duì)話方式提出服務(wù)或咨詢需求,手機(jī)銀行進(jìn)行語(yǔ)義理解與功能調(diào)度,在關(guān)鍵交易環(huán)節(jié)再呈現(xiàn)交易畫面供客戶確認(rèn),以更自然、友好的方式為客戶提供銀行服務(wù)。

智能問數(shù)領(lǐng)域,我行也進(jìn)行了諸多有益嘗試。最初的報(bào)表開發(fā)采用需求定制模式,根據(jù)業(yè)務(wù)部門的需求來(lái)繪制表樣、編寫程序。隨后發(fā)展到通用報(bào)表模式,通過(guò)“拖拉拽”的方式快速組裝報(bào)表。如今,借助大模型理解用戶的用數(shù)需求,自動(dòng)轉(zhuǎn)化為SQL語(yǔ)句搜索數(shù)據(jù),并以可視化形式反饋結(jié)果。這不僅是開發(fā)模式的革新,更是讓數(shù)據(jù)消費(fèi)變得便捷,持續(xù)激發(fā)各層級(jí)員工利用數(shù)據(jù)分析發(fā)現(xiàn)問題、把握趨勢(shì)、強(qiáng)化管理,實(shí)現(xiàn)“看得清、看得全、看得透,管得好”的目標(biāo)。

三、大模型應(yīng)用面臨的問題與挑戰(zhàn)

大模型在帶來(lái)諸多機(jī)遇的同時(shí),也伴隨著一系列挑戰(zhàn),主要體現(xiàn)在企業(yè)宏觀層面與實(shí)施落地層面。

在企業(yè)宏觀層面:一是缺乏高質(zhì)量金融訓(xùn)練數(shù)據(jù)。銀行業(yè)務(wù)涉及大量復(fù)雜且專業(yè)的金融數(shù)據(jù),這些數(shù)據(jù)通常是結(jié)構(gòu)化與非結(jié)構(gòu)化數(shù)據(jù)的混合體,同時(shí)還面臨著隱私保護(hù)與合規(guī)性問題。獲取足夠多、質(zhì)量好且覆蓋廣泛場(chǎng)景的金融訓(xùn)練數(shù)據(jù)是一項(xiàng)艱巨任務(wù)。

二是算法可信性與安全性有待提升。銀行對(duì)準(zhǔn)確性、合規(guī)性的要求極高。目前大模型可能存在可解釋性差、易受攻擊等問題,需進(jìn)一步深入研究與改進(jìn),以滿足金融行業(yè)的嚴(yán)格標(biāo)準(zhǔn)。

三是訓(xùn)練及推理算力投入成本高。大模型的訓(xùn)練與推理往往需要海量的計(jì)算資源,這涉及到昂貴的硬件投資以及持續(xù)的能源消耗,對(duì)于中小銀行而言,無(wú)疑是一筆沉重的成本負(fù)擔(dān)。

四是大模型應(yīng)用支撐隊(duì)伍尚未成型。有效開發(fā)、部署與維護(hù)大模型需要一支涵蓋數(shù)據(jù)科學(xué)家、算法工程師、系統(tǒng)架構(gòu)師等多學(xué)科背景的專業(yè)人才隊(duì)伍,但目前這類復(fù)合型人才稀缺,銀行需投入更多資源來(lái)培養(yǎng)或招聘適應(yīng)大模型應(yīng)用需求的團(tuán)隊(duì)。

從實(shí)施落地層面來(lái)看,同樣面臨四個(gè)方面的挑戰(zhàn):

一是平臺(tái)基礎(chǔ)支撐能力。需要構(gòu)建一個(gè)全行性的、技術(shù)與業(yè)務(wù)均可便捷使用的大模型應(yīng)用開發(fā)平臺(tái),便于快速搭建大模型應(yīng)用與數(shù)字員工,同時(shí)也能有效整合不同類型的硬件資源,實(shí)現(xiàn)算力的統(tǒng)一管理和調(diào)度,從而提高算力資源的利用效率。

二是跨組織、跨團(tuán)隊(duì)協(xié)同。鑒于大模型技術(shù)的復(fù)雜性,跨團(tuán)隊(duì)協(xié)作需要具備高度的技術(shù)理解和溝通能力。因此,跨組織、跨團(tuán)隊(duì)的協(xié)同成為商業(yè)銀行落地大模型的一大難題。此外,大模型應(yīng)用要求組織架構(gòu)更加扁平化,部門間的壁壘需進(jìn)一步弱化,扭轉(zhuǎn)員工的固有意識(shí)也并非易事。

三是關(guān)鍵知識(shí)的模型注入。大模型的知識(shí)注入過(guò)程需將銀行的專業(yè)知識(shí)與通用模型有機(jī)結(jié)合,以確保模型能夠精準(zhǔn)適應(yīng)特定的業(yè)務(wù)場(chǎng)景。然而,收集和整理交易數(shù)據(jù)、產(chǎn)品數(shù)據(jù)、風(fēng)控?cái)?shù)據(jù)等需耗費(fèi)大量時(shí)間和精力。而且,部分業(yè)務(wù)知識(shí)可能涉及敏感信息,如客戶隱私、銀行內(nèi)部風(fēng)險(xiǎn)控制策略等,在注入大模型時(shí)必須確保數(shù)據(jù)安全與合規(guī)。

四是運(yùn)營(yíng)保障能力。大模型的可解釋性與信任度是運(yùn)營(yíng)過(guò)程中的關(guān)鍵問題。若模型決策過(guò)程不夠透明,可能會(huì)引發(fā)用戶對(duì)模型結(jié)果的信任危機(jī)。因此,保障大模型的穩(wěn)定運(yùn)行與持續(xù)優(yōu)化是重要挑戰(zhàn)。

最后,我提出一個(gè)建議:整合資源,共同打造安全可信的AI應(yīng)用生態(tài)。其主要原因是大模型輸出的操作性更強(qiáng)。

當(dāng)大行向小行輸出業(yè)務(wù)應(yīng)用系統(tǒng)時(shí),落地過(guò)程的復(fù)雜性是一個(gè)必須正視的難題,通常需要進(jìn)行大量的本地化改造與外圍系統(tǒng)對(duì)接,大行往往需派遣數(shù)十名人員到現(xiàn)場(chǎng)實(shí)施,且持續(xù)時(shí)間較長(zhǎng),可稱之為“硬著陸”。而大模型作為知識(shí)與能力的載體,易于實(shí)現(xiàn)資源共享與復(fù)用。小行在引入大模型后,可根據(jù)自身具體業(yè)務(wù)需求,通過(guò)微調(diào)等手段,迅速將其應(yīng)用于信貸評(píng)估、風(fēng)險(xiǎn)預(yù)測(cè)、客戶服務(wù)等多個(gè)領(lǐng)域,無(wú)需像應(yīng)用系統(tǒng)那樣開展大量定制化開發(fā),可稱之為“軟著陸”。

要實(shí)現(xiàn)共建共享的目標(biāo),離不開監(jiān)管部門的指導(dǎo)以及行業(yè)協(xié)會(huì)的組織協(xié)調(diào),促使各方協(xié)同合作。其中,大型金融機(jī)構(gòu)等重要參與方應(yīng)充分發(fā)揮自身在算力、數(shù)據(jù)資產(chǎn)、人才等方面的優(yōu)勢(shì),與中小銀行機(jī)構(gòu)共同構(gòu)建行業(yè)大模型。

在合作過(guò)程中,需解決一些關(guān)鍵問題:明確大行與小行分別承擔(dān)的角色與定位。無(wú)論是大行還是小行,不僅要著力構(gòu)建已有模型應(yīng)用,還應(yīng)考慮成果輸出后能夠獲得相應(yīng)的收益。否則,若銀行做出了貢獻(xiàn)卻無(wú)收益,可能會(huì)引發(fā)國(guó)有資產(chǎn)流失的擔(dān)憂。要實(shí)現(xiàn)算力共享,將每家銀行的硬件資源匯聚起來(lái),能夠有效提高資源利用率。同樣,如何衡量這些硬件資源的投入產(chǎn)出,也需要深入研究與討論。

隨著大模型的出現(xiàn),具備數(shù)據(jù)、算力、技術(shù)人才優(yōu)勢(shì)的大型機(jī)構(gòu)可能會(huì)形成更大的頭部化效應(yīng),進(jìn)而導(dǎo)致競(jìng)爭(zhēng)格局發(fā)生更為復(fù)雜的新變化。大模型不僅為銀行業(yè)帶來(lái)了效率的提升與變革,也使得競(jìng)爭(zhēng)格局和風(fēng)險(xiǎn)特征變得更加復(fù)雜。希望我們能夠群策群力,共同探索,讓大模型為不同規(guī)模的銀行注入新的發(fā)展動(dòng)力,成為推動(dòng)高質(zhì)量發(fā)展的基礎(chǔ)與源泉。

    本文首發(fā)于微信公眾號(hào):新金融聯(lián)盟NFA。文章內(nèi)容屬作者個(gè)人觀點(diǎn),不代表和訊網(wǎng)立場(chǎng)。投資者據(jù)此操作,風(fēng)險(xiǎn)請(qǐng)自擔(dān)。
 

(責(zé)任編輯:李悅 )

【免責(zé)聲明】本文僅代表作者本人觀點(diǎn),與和訊網(wǎng)無(wú)關(guān)。和訊網(wǎng)站對(duì)文中陳述、觀點(diǎn)判斷保持中立,不對(duì)所包含內(nèi)容的準(zhǔn)確性、可靠性或完整性提供任何明示或暗示的保證。請(qǐng)讀者僅作參考,并請(qǐng)自行承擔(dān)全部責(zé)任。郵箱:news_center@staff.hexun.com

看全文
寫評(píng)論已有條評(píng)論跟帖用戶自律公約
提 交還可輸入500

最新評(píng)論

查看剩下100條評(píng)論

熱門閱讀

    和訊特稿

      推薦閱讀