中國銀行首席信息官孟茜：應(yīng)用人工智能應(yīng)筑牢安全與風(fēng)險三道防線

　　中證報中證網(wǎng)訊（記者 連潤）4月10日，國民財富發(fā)展研究合作平臺2025春季峰會“人工智能與金融未來”舉行。中國銀行首席信息官孟茜在峰會上表示，人工智能在應(yīng)用過程中會面臨數(shù)據(jù)泄露、算法黑箱、模型攻擊等一系列的風(fēng)險挑戰(zhàn)，也會帶來侵犯個人隱私、沖擊法律和社會倫理等問題。因此，要統(tǒng)籌好發(fā)展和安全的關(guān)系，筑牢安全與風(fēng)險三道防線。

　　具體而言，孟茜表示，要筑牢企業(yè)的治理防線，銀行機構(gòu)自身要逐步建立健全企業(yè)級人工智能的治理機制，將人工智能的管理納入到全面風(fēng)險管理的框架。

　　要筑牢業(yè)務(wù)安全防線，當前銀行在應(yīng)用大模型等人工智能技術(shù)時，必須將業(yè)務(wù)流程的最終責(zé)任落實到人。一方面，要明確人工智能的輔助和效率工具定位，在關(guān)鍵業(yè)務(wù)環(huán)節(jié)要建立強制性人工審核機制，確保員工對關(guān)鍵業(yè)務(wù)流程的掌控；另一方面，在風(fēng)控、授信、投資等高風(fēng)險的業(yè)務(wù)領(lǐng)域，審慎使用，應(yīng)該優(yōu)先選擇精確度高、可解釋強的人工智能方案，確保問題可追溯、責(zé)任可落實。

　　此外，要筑牢技術(shù)安全防線。銀行在應(yīng)用大模型的過程當中，要堅持模型不聯(lián)外網(wǎng)、數(shù)據(jù)不出行、敏感信息不入模等原則，并利用技術(shù)手段通過輸入輸出端的多層審核防護攔截違法內(nèi)容、防御惡性指令等，實現(xiàn)內(nèi)容安全和交互安全的雙重保證。