隨著央行下發(fā)《金融領(lǐng)域科技倫理指引》（下稱《指引》），金融科技的倫理治理建制再次成為市場關(guān)注的熱點(diǎn)。
《指引》提供了在金融領(lǐng)域開展科技活動需要遵循的守正創(chuàng)新、數(shù)據(jù)安全、包容普惠、公開透明、公平競爭、風(fēng)險(xiǎn)防控、綠色低碳等7個(gè)方面的價(jià)值理念和行為規(guī)范。適用于指導(dǎo)金融領(lǐng)域從業(yè)機(jī)構(gòu)開展科技倫理治理工作，預(yù)防和化解金融科技活動倫理風(fēng)險(xiǎn)。
今年1月，央行《金融科技發(fā)展規(guī)劃（2022-2025年）》首次明確提出，加強(qiáng)金融科技倫理建設(shè)。堅(jiān)持促進(jìn)創(chuàng)新與防范風(fēng)險(xiǎn)相統(tǒng)一、制度規(guī)范與自我約束相結(jié)合原則，加快出臺符合國情、與國際接軌的金融科技倫理制度規(guī)則，健全多方參與、協(xié)同共治的金融科技倫理治理體系。
21世紀(jì)經(jīng)濟(jì)報(bào)道記者從相關(guān)人士處獲悉，央行自2021年8月就開始組織編寫《指引》，吸納了多地央行分支機(jī)構(gòu)、商業(yè)銀行、行業(yè)協(xié)會、法院、研究院、金融科技企業(yè)、人工智能企業(yè)、頭部高校等各方建議。
過去，在科技倫理治理的過程中，數(shù)據(jù)治理與算法倫理存在偏見、治理機(jī)制與流程不完善等問題一直困擾著金融機(jī)構(gòu)。
業(yè)內(nèi)人士向記者表示，《指引》的性質(zhì)為推薦性行業(yè)標(biāo)準(zhǔn)，為金融行業(yè)科技倫理治理提供了方向，但尚未出臺更詳細(xì)的評估指標(biāo)與要求，機(jī)構(gòu)目前嚴(yán)格按照《個(gè)人信息保護(hù)法》、《數(shù)據(jù)安全法》，以及《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《銀行保險(xiǎn)機(jī)構(gòu)信息科技外包風(fēng)險(xiǎn)監(jiān)管辦法》進(jìn)行科技倫理治理，期待監(jiān)管出臺金融科技倫理評價(jià)的指標(biāo)體系。
強(qiáng)調(diào)數(shù)據(jù)安全與算法合規(guī)
記者注意到，《指引》對金融機(jī)構(gòu)數(shù)據(jù)治理提出了更高的倫理要求，在七個(gè)章節(jié)中，共有四個(gè)章節(jié)均強(qiáng)調(diào)數(shù)據(jù)安全、隱私保護(hù)、算法合規(guī)等與消費(fèi)者權(quán)益息息相關(guān)的內(nèi)容，分別是數(shù)據(jù)安全、包容普惠、公開透明、公平競爭。
在數(shù)據(jù)安全方面，《指引》要求金融機(jī)構(gòu)充分獲取用戶授權(quán)，以最小必要原則采集數(shù)據(jù)，使用數(shù)據(jù)秉持“專事專用”原則，嚴(yán)格采取防護(hù)措施，依法合規(guī)共享數(shù)據(jù)，主動清理留存數(shù)據(jù)。
在包容普惠方面，《指引》要求金融機(jī)構(gòu)提倡包容性設(shè)計(jì)，防止不公平歧視，履行無障礙義務(wù)。其中，在履行無障礙義務(wù)方面，文件要求建立“容錯(cuò)型”產(chǎn)品交互機(jī)制，著力彌合因智能技術(shù)運(yùn)用困難導(dǎo)致的數(shù)字鴻溝問題，不斷提升金融服務(wù)的深度、廣度和溫度。
在公開透明方面，《指引》要求金融機(jī)構(gòu)充分披露產(chǎn)品服務(wù)信息，做好消費(fèi)者適當(dāng)性管理，自覺主動接受外部監(jiān)督，強(qiáng)化科技倫理宣貫教育。
在公平競爭方面，《指引》要求嚴(yán)防濫用數(shù)據(jù)與流量，公平公正使用智能算法，平等合理設(shè)置平臺規(guī)則，鼓勵科技服務(wù)開放互通。
一位參與《指引》編寫的機(jī)構(gòu)人士向記者透露，這部分的關(guān)鍵在于算法的公平性、可解釋性、可問責(zé)性�！盎贏I技術(shù)的機(jī)器學(xué)習(xí)會將原來金融領(lǐng)域的經(jīng)驗(yàn)決策變成數(shù)據(jù)黑盒決策，同時(shí)，數(shù)據(jù)的片面性會引發(fā)決策的偏見，過度依賴數(shù)據(jù)應(yīng)用也有可能造成數(shù)據(jù)泄露、隱私泄露等問題。”
“不僅是數(shù)據(jù)，模型運(yùn)作的機(jī)制本身也可能帶來不公平。”他告訴記者，基于過往歷史、過往數(shù)據(jù)來預(yù)測未來導(dǎo)向，是模型訓(xùn)練的一大形式，但這會形成馬太效應(yīng)，讓最終決策偏向極端化，如果一開始就存在歧視，會形成歧視的循環(huán)。
在金融創(chuàng)新產(chǎn)品的決策鏈條上，“可問責(zé)性是最難以解決的部分，在產(chǎn)品的全生命周期中，數(shù)據(jù)、模型訓(xùn)練都有可能會形成偏見，最終導(dǎo)致結(jié)果的不公平、不可解釋，但在整個(gè)決策鏈條上哪個(gè)要素應(yīng)當(dāng)對結(jié)果負(fù)責(zé)，哪個(gè)員工應(yīng)當(dāng)承擔(dān)責(zé)任，這是最困難的部分。”
目前已有金融機(jī)構(gòu)對人工智能產(chǎn)品進(jìn)行風(fēng)險(xiǎn)評估。據(jù)馬上消費(fèi)金融研究院向記者提供的人工智能風(fēng)險(xiǎn)評估表顯示，其主要包括數(shù)據(jù)風(fēng)險(xiǎn)與算法風(fēng)險(xiǎn)兩項(xiàng)一級指標(biāo)，二級指標(biāo)包括數(shù)據(jù)安全風(fēng)險(xiǎn)、數(shù)據(jù)偏見風(fēng)險(xiǎn)、算法安全風(fēng)險(xiǎn)、算法可解釋性風(fēng)險(xiǎn)、算法決策風(fēng)險(xiǎn)等5項(xiàng)，具體風(fēng)險(xiǎn)指標(biāo)則包括數(shù)據(jù)來源合法性、數(shù)據(jù)處理脫敏性、數(shù)據(jù)運(yùn)用保密性，主客觀數(shù)據(jù)偏見，算法泄露、被篡改風(fēng)險(xiǎn)、算法透明性、算法可解釋性等。
明確倫理治理主體責(zé)任
在《指引》守正創(chuàng)新章節(jié)，首先明確金融機(jī)構(gòu)履行倫理治理主體責(zé)任。建立健全倫理管理組織架構(gòu)與制度規(guī)范，探索設(shè)立企業(yè)級科技倫理委員會，完善科技倫理審查、信息披露等常態(tài)化工作機(jī)制，壓實(shí)各方職責(zé)，做好金融科技活動的審查、批準(zhǔn)與監(jiān)督，提前預(yù)防、有效化解金融科技活動倫理風(fēng)險(xiǎn)，嚴(yán)防技術(shù)濫用、誤用。
據(jù)記者了解，目前在金融機(jī)構(gòu)內(nèi)部開展相關(guān)科技倫理相關(guān)工作的組織主要是風(fēng)險(xiǎn)管理委員會、信息科技管理委員會、消費(fèi)者權(quán)益保護(hù)委員會，對數(shù)據(jù)安全、算法合規(guī)、消費(fèi)者權(quán)益保護(hù)等進(jìn)行管理。但科技倫理涵蓋技術(shù)、業(yè)務(wù)、法律、風(fēng)險(xiǎn)、消費(fèi)者權(quán)益保護(hù)等方方面面，涉及前臺零售運(yùn)營、中臺風(fēng)控、后臺法務(wù)等多個(gè)部門，金融機(jī)構(gòu)科技倫理職責(zé)邊界較為模糊，治理機(jī)制不完善。
“很多人覺得數(shù)據(jù)安全、算法合規(guī)、APP客戶端建設(shè)等等就是信息技術(shù)部門的工作，但以客戶為中心的科技倫理治理應(yīng)該貫穿金融業(yè)務(wù)的全生命周期�！蹦炽y行科技部門人士表示。
為強(qiáng)化金融機(jī)構(gòu)整體的科技倫理教育，《指引》指出應(yīng)將科技倫理深度融入產(chǎn)品研發(fā)、業(yè)務(wù)運(yùn)營、市場營銷、日常培訓(xùn)、科研實(shí)踐等環(huán)節(jié)，引導(dǎo)從業(yè)人員主動學(xué)習(xí)科技倫理知識、提升科技倫理素養(yǎng)，自覺抵制違背科技倫理要求的行為。
同時(shí)，為完善金融科技風(fēng)險(xiǎn)內(nèi)控管理與問責(zé)機(jī)制，《指引》要求明確相關(guān)崗位和人員的管理責(zé)任，分離不相容崗位并控制操作權(quán)限，增強(qiáng)風(fēng)險(xiǎn)綜合管理能力。在發(fā)生風(fēng)險(xiǎn)事件時(shí)，主動承擔(dān)風(fēng)險(xiǎn)管理主體責(zé)任，積極開展追責(zé)問責(zé)與問題整改，不斷提升金融科技產(chǎn)品和服務(wù)的安全性與可靠性。
記者梳理部分上市銀行2022年半年報(bào)發(fā)現(xiàn)，目前商業(yè)銀行主要在數(shù)據(jù)安全領(lǐng)域與個(gè)人信息保護(hù)方面進(jìn)行規(guī)范化管理。
如建設(shè)銀行在今年上半年發(fā)布《落實(shí)數(shù)據(jù)安全管理工作方案》，從數(shù)據(jù)安全管理、數(shù)據(jù)安全保護(hù)、數(shù)據(jù)安全運(yùn)維等維度，構(gòu)建集團(tuán)數(shù)據(jù)安全管理體系框架，明確各條線數(shù)據(jù)安全工作職責(zé)和實(shí)施計(jì)劃；工商銀行修訂了個(gè)人客戶信息安全管理辦法；中國銀行(601988)建立健全數(shù)據(jù)安全管理制度，建立數(shù)據(jù)安全影響性評估機(jī)制，夯實(shí)數(shù)據(jù)安全底線；農(nóng)業(yè)銀行在一級分行增設(shè)了“網(wǎng)絡(luò)安全和數(shù)據(jù)安全管理”崗位；招商銀行(600036)發(fā)布了《招商銀行零售金融個(gè)人信息管理辦法（第五版）》，建立覆蓋零售金融個(gè)人信息收集、傳輸、使用、共享、保存等全生命周期的安全保護(hù)體系，以及個(gè)人信息保護(hù)應(yīng)急預(yù)案、風(fēng)險(xiǎn)處置、監(jiān)督檢查、個(gè)人信息投訴通道等處理機(jī)制。
最新評論