新金融聯(lián)盟理事長、中國銀行原行長李禮輝：需要重構(gòu)人工智能信任，建立防范AI操縱的防火墻

　　5月23日，在“第八屆融城杯金融科技創(chuàng)新案例評選”啟動儀式上，新金融聯(lián)盟理事長、中國銀行(601988)原行長李禮輝在主題發(fā)言中表示，“科技創(chuàng)新未必總是一個線性發(fā)展的過程，突破性的技術(shù)進(jìn)步往往會改變技術(shù)競爭和經(jīng)濟(jì)發(fā)展的大勢和格局。ChatGPT的面世推動人工智能發(fā)展史走到了奇點，帶來了新的沖擊和挑戰(zhàn)�！�

　　李禮輝強調(diào)，金融科技創(chuàng)新有兩大原則：一是方向正確，認(rèn)真學(xué)習(xí)、貫徹落實黨中央精神與金融監(jiān)管機構(gòu)的指導(dǎo)性、規(guī)范性文件十分重要；二是問題導(dǎo)向，金融科技創(chuàng)新是一個不斷發(fā)現(xiàn)問題、解決問題、持續(xù)進(jìn)步的過程，能夠克服金融服務(wù)的難點、痛點的創(chuàng)新，一定是有價值的創(chuàng)新。

　　李禮輝指出，“ChatGPT的面世推動人工智能發(fā)展史走到了奇點，帶來了新的沖擊和挑戰(zhàn)�！�

　　一是在算力競爭上面臨挑戰(zhàn)。金融領(lǐng)域中，智能化的信用評估、客戶篩選、風(fēng)險定價、數(shù)字員工等方面無不需要數(shù)據(jù)和算力的支撐，算力很大程度上決定金融業(yè)的競爭力。算力的競爭，今后是科技巨頭、資本巨頭之間的競爭。

　　他表示，“我們需要探討如何構(gòu)建一個既能占領(lǐng)全球技術(shù)高地、又能避免壟斷的國家級算力基礎(chǔ)設(shè)施；如何構(gòu)建一個資源可共享、商業(yè)可持續(xù)、監(jiān)管可包容、金融機構(gòu)和科技公司可受益的金融算力生態(tài)圈�！�

　　二是AI合成與信任面臨挑戰(zhàn)。深度內(nèi)容合成模糊了真實與虛假的邊界，最新的深度合成算法可以對抗通用的技術(shù)性的甄別，人們開始擔(dān)憂AI虛假與AI操縱對社會構(gòu)成的威脅。

　　李禮輝認(rèn)為，“低級別的AI虛假用于詐騙、詆毀個人及企業(yè)名譽；高級別的AI操縱有可能用于詆毀政治人物或政權(quán)實體操控負(fù)面輿情、制造政治惡意、激化社會矛盾�！�

　　“我們迫切需要重構(gòu)人工智能信任，在技術(shù)上、制度上有效對抗AI虛假，建立防范AI操縱的防火墻，維護(hù)數(shù)字經(jīng)濟(jì)時代的國家安全與金融業(yè)安全�！崩疃Y輝強調(diào)。