2024年8月20日 - 信報
金管局指出，銀行在Gen AI應用上，集中於優化內部業務運作，面向客戶的服務方面則仍處起步階段，短期內，銀行應採用「人在環中」原則，在決策過程中適時作出人為干預，不會由Gen AI自主運作，確保模型產生的結果正確，或避免有所偏頗的結果。
同時，金管局表明，銀行在初期使用階段應向客戶提供退出使用的選擇權，若銀行無法提供該選項，應確保有渠道讓客戶要求複審模型產生的決定。
由於Gen AI屬於大數據人工智能（BDAI）的一類，當中涉及大量數據和分析，金管局要求，銀行提供服務前須向客戶清楚說明該服務使用Gen AI技術，並作出適當披露，在客戶查詢時，應適時表明運算模式涉及的資料和數據內容。
此外，銀行收集及處理個人資料時，需要遵守《個人資料（私隱）條例》，亦要積極考慮在設計系統時加入保障元素，並且只儲存最低限度的資料。
當新科技應用面向公眾時，社會亦需要有一定認知，金管局鼓勵銀行善用AI加強消費者保障，如利用AI識別出弱勢或需要更多消費者教育的客戶社群，或向高風險客戶或交易發出警示，以防範詐騙。
上周初，金管局和數碼港聯合宣布，推出新的Gen AI沙盒，該局副總裁阮國恒稱，會爭取下月開放予銀行申請參與沙盒測試，並期望年底前啟動
沙盒訓練辨別Deepfake
事實上，各銀行已投放資源研究和應用Gen AI技術；相關沙盒參與者可獲得金管局和數碼港提供的數據和算力，以提升金融業界的分析和研發能力，尋找更多應用場景，以提升銀行服務及運作效益。
金管局認為，銀行在沙盒內可研究包括風險管理、檢測和預防欺詐、客戶互動等應用場景。銀行及科技公司亦能採用不同的「深度偽造」（Deepfake）模型，包括換臉（Face-swapping）、對口型（Lip-syncing）等製造樣本，混合真實圖片及影片，供偵測系統作深度學習及分析，不斷提升偵測Deepfake的能力，訓練出比生成器更出色的辨別器。
該局強調，跟港銀業界溝通後，至今並未發現有騙徒利用Deepfake成功通過銀行開戶或高風險交易的身份驗證，但將繼續密切關注相關的詐騙手段；亦會提供更多深度偽造的樣本供業界分析，在適當時候發出指引。
早前金管局展開諮詢，獲28間香港面對零售客戶的銀行參與，結果顯示，75%受訪機構正計劃或已引入BDAI至日常營運之中，39%表示正計劃或已引入Gen AI。
原文：
沒有留言:
發佈留言