Deep Learning 101, Taiwan’s pioneering and highest deep learning meetup, launched on 2016/11/11 @ 83F, Taipei 101
AI是一條孤獨且充滿惶恐及未知的旅程,花俏絢麗的收費課程或活動絕非通往成功的捷徑。
衷心感謝當時來自不同單位的AI同好參與者實名分享的寶貴經驗;如欲移除資訊還請告知。
由 TonTon Huang Ph.D. 發起,及其當時任職公司(台灣雪豹科技)無償贊助場地及茶水點心。
去 YouTube 訂閱 | Facebook | 回 GitHub Pages | 到 GitHub 點星 | 網站 | 到 Hugging Face Space 按愛心
大語言模型 | 語音處理 | 自然語言處理 | 電腦視覺 |
Large Language Model | Speech Processing | Natural Language Processing, NLP | Computer Vision |
用 AI 懂 AI
- Chain-of-Thought is not explainability
- arXiv 2506.21521 (Potemkin Understanding in Large Language Models)
- arXiv 2502.04644 (Agentic Reasoning: Reasoning LLMs with Tools for the Deep Research)
- AI新賽局:企業的入門策略指南
- 臺灣大型語言模型性能評測與在地化策略分析報告
- GenAI 與 LLM 在金融產業的應用分析:金融服務中 GenAI 與 LLM 的變革潛力。
- AI Robot 陪伴型機器人:2025 趨勢分析技術突破、市場潛力與未來展望。
- 避開 AI Agent 開發陷阱:常見問題、挑戰與解決方案:探討多種 AI 代理人工具的應用經驗與挑戰,分享實用經驗與工具推薦。
AI 技術 體驗/分享
手把手帶你一起踩 AI 坑:https://www.twman.org/AI
- 白話文手把手帶你科普 GenAI:淺顯介紹生成式人工智慧核心概念,強調硬體資源和數據的重要性。
- 大型語言模型直接就打完收工?:回顧 LLM 領域探索歷程,討論硬體升級對 AI 開發的重要性。
- 檢索增強生成(RAG)不是萬靈丹之優化挑戰技巧:探討 RAG 技術應用與挑戰,提供實用經驗分享和工具建議。
- 大型語言模型 (LLM) 入門完整指南:原理、應用與未來:探討多種 LLM 工具的應用與挑戰,強調硬體資源的重要性。
- 解析探索大型語言模型:模型發展歷史、訓練及微調技術的 VRAM 估算:探討 LLM 的發展與應用,硬體資源在開發中的作用。
- Diffusion Model 完全解析:從原理、應用到實作 (AI 圖像生成);深入探討影像生成與分割技術的應用,強調硬體資源的重要性。
- ASR/TTS 開發避坑指南:語音辨識與合成的常見挑戰與對策:探討 ASR 和 TTS 技術應用中的問題,強調數據質量的重要性。
- 那些 NLP 踩的坑:分享 NLP 領域的實踐經驗,強調數據質量對模型效果的影響。
- 那些語音處理踩的坑:分享語音處理領域的實務經驗,強調資料品質對模型效果的影響。
- 手把手學深度學習安裝環境:詳細介紹在 Ubuntu 上安裝深度學習環境的步驟,分享實際操作經驗。
AI 技術 開源/試用
本文是使用 gemini-fullstack-langgraph 生成
台灣金融業在GenAI的現況和未來可能發展
Agent:gemini-fullstack-langgraph-quickstart
日期:2025年06月05日更新
探討多種 AI Agentss工具的應用經驗與挑戰,分享實用經驗與工具推薦。
GenAI 與 LLM 在金融產業的應用分析
基於 AutoGen的FinRobot
台灣金融業在生成式AI (GenAI) 的應用正迅速發展,不僅提升營運效率與客戶服務,也在積極應對相關挑戰。以下將詳述其現況與未來可能的發展方向:
GenAI 採納與應用現況
- 採用率顯著提升: 根據金融監督管理委員會(金管會)的調查,截至2025年,台灣已有33%的金融機構導入AI,較2024年的29%有所增長 (dataguidance udn udn[2], 2025-05-20)。在已導入AI的金融機構中,48%已開始運用生成式AI,年增長率達21% (FSC, [8], 2025-05-20)。
- 主要應用目標與領域: 金融機構導入AI的主要目標包括提升營運效率 (30%)、簡化內部行政作業 (39%)、降低勞動成本 (18%) 及優化客戶服務與體驗 (15%) ([2, 8], 2025-05-20)。AI主要應用於內部行政作業、智能客服、金融犯罪防制等領域 ([2, 8], 2025-05-20)。
- 關鍵技術: 自然語言處理 (NLP) 與大型語言模型 (LLM) (31%)、機器學習 (28%) 及機器人流程自動化 (RPA) (23%) 是目前最常被使用的AI技術 ([8], 2025-05-20)。
- 具體案例:
- 台新銀行: 正在開發自家的LLM「台新腦」,用於智能客服,預計2024年底上線 (2024-11-02)。此模型與台灣AI Labs合作,基於FedGPT模型,並使用台新銀行內部數據與金融法規進行訓練,旨在提供金融領域的精準回應,並透過聯邦學習保護數據隱私 udn cio。
- 中國信託金控: 推出AI客戶助理,提供財富管理建議和個人化投資報告 (2024-11-02)。
- 玉山銀行: 運用對話式AI提供投資助理和信用卡推薦服務 (2024-11-02)。
- 第一銀行: 推動GALA計畫,賦能員工使用GenAI工具以提升效率和推動業務創新 (2025-05-21)。
- 國泰金控: 運用AI偵測詐欺和評估信用風險 (2024-09-09)。並與NVIDIA合作,使用NVIDIA NeMo平台開發能通過台灣「進階授信人員」認證考試的在地化LLM。
- 公股銀行: 亦積極強化AI應用,如臺灣企銀計劃成立GenAI實驗室 ([13], ctee)。
- COBOL程式碼現代化: 部分金融機構正探索使用GenAI將COBOL程式碼視覺化,以協助IT系統現代化 ([10], 2025-03-13)。
未來發展趨勢
- 持續擴大應用: 47%的金融機構(179家公司)計劃引進或擴大AI應用 ([2, 8], 2025-05-20),未來將持續聚焦於內部營運、客戶服務及金融犯罪防制等領域 ([2, 8], 2025-05-20)。超過三分之二的企業預計將增加對GenAI的投資 ([17])。
- 產業協作: 金融業者看好在AI反詐欺、本地化語言模型開發及風險管理等領域的合作潛力 ([8], 2025-05-20)。
- AI驅動轉型: AI預期將驅動金融服務業的數位轉型,滿足日益增長的數位解決方案需求 ([5], 2025-06-02, 2025-05-09),並推動個人化金融服務、改善客戶體驗及促進普惠金融 (2025-06-02, 2025-05-09)。麥肯錫預估GenAI每年可為台灣銀行業增加360億至600億新台幣的利潤 (2024-05-28, 2024-05-27)。
- 人才培育與技能發展: 企業將著重培養員工AI相關技能 ([10], 2025-03-13),以因應代理型AI驅動的新一代轉型 (ithome hk01 ithome clpsglobal)。
- ESG整合: AI也將與ESG(環境、社會、治理)倡議結合,推動永續金融和綠色保險產品 (2025-05-09)。
- AI代理人: 企業開始運用AI代理人自動化任務和流程 ([11, 12])。
- 星展銀行 (DBS) 倡議: 星展銀行已建立GenAI平台,預計2025年將創造242億新台幣的經濟效益 ([9])。
監管環境與金管會措施
- AI指導方針: 金管會已發布「金融業運用人工智慧(AI)核心原則與相關推動政策」及「金融業運用AI指引」,涵蓋治理、公平性、隱私保護、系統穩健性、透明度與問責制,並規範數據使用、隱私保護及模型訓練風險評估 ([3, 11], 2024-06-06, 2025-05-20, 2025-05-21, udn cio udn yahoo)。金管會強調基於風險實施核心原則,金融機構在評估AI系統風險時應考量多種因素 (cymetrics udn zerone cio)。
- 監管沙盒: 「金融科技發展與創新實驗條例」(金融監理沙盒)為金融業測試AI應用提供了友善的環境 ([3], 2024-06-06)。
- 推動金融科技創新: 金管會透過「金融科技發展路徑圖」積極推動金融科技創新,包括開放銀行、數位身分認證以及金融與科技公司的合作 ([6])。
- 監管調整: 預期金管會將推出更多監管措施以支持金融創新和永續發展 ([7])。
- 資料共享治理: 金管會發布「金融機構資料共享之資料治理諮詢文件」,徵詢外界意見,以提高資料共享與利用的透明度與效率 (udn esunfhc bnext)。
挑戰與考量
- 數據安全與隱私: 在以敏感金融數據訓練AI模型時,數據安全與隱私是主要考量 ([8, 6], 2025-05-20, 2025-05-21, udn 104 zerone)。金融機構需遵守台灣「個人資料保護法」,確保獲取客戶同意進行數據收集與使用。
- 內容準確性與穩定性: GenAI生成內容的不穩定性與潛在不準確性是一大挑戰 ([8], 2025-05-20, 2025-05-21),AI「幻覺」問題在金融業尤為關鍵 (2025-05-09)。
- 法規遵循: 確保AI運營符合相關法規是關鍵考量 ([8], 2025-05-20, 2025-05-21)。台灣於2024年7月修訂「洗錢防制法」(MLCA),金融機構需確保其AI系統符合修訂後的法規 (tookitaki cio)。
- 演算法偏誤: 演算法偏誤的相關挑戰依然存在 ([6])。
- 人才與專業知識: 預算限制及缺乏專業知識可能阻礙GenAI的採用 ([14])。
- 擴展性不足: 銀行在擴展GenAI應用方面面臨挑戰,原因包括IT基礎設施、數據治理、風險管理及變革管理能力不足 (2024-05-28)。
- 資料稀缺與品質 (針對本地化LLM): 台灣LLM及軟體進展的數據普遍缺乏 (ceias),且需確保訓練數據無偏誤並具代表性。
- 資料落地規範: 資料落地法規要求數據在特定地理邊界內儲存和處理,增加了數據管理的複雜性和成本 (getdynamiq)。
特定領域的深化應用與解決方案
- 在地化大型語言模型 (Localized LLMs) 開發:
- 聯邦學習 (Federated Learning) 於跨機構反詐欺之應用:
- 技術框架與試點計畫:
- 鷹眼識詐聯盟: 由台北富邦銀行發起,與台灣AI Labs雅婷智慧合作,成員包括土銀、一銀、彰銀等,目標是優化鷹眼防詐模型,預計2025年3月有實證結果。
- 跨金融業聯合學習科技防詐: 由國泰金控推動,運用其CaFe框架,成員包括中信銀、玉山銀、新光銀及國家資通安全研究院,共同建立警示帳戶預警偵測模型,已提升20%異常帳戶捕捉率。
- 支付詐騙聯合阻斷計畫: 結合電信與金融數據,由艾思艾、走著瞧、信誠金融科技、臺企銀、合庫等共同推出。
- 壽險理賠樣態共享生態圈: 由新光金、新壽、台壽、AWS、網創資訊建構,透過合成資料訓練AI防詐模型 (udn cathayholdings cathayholdings)。
- 主要障礙與應對:
- 數據孤島: 聯邦學習以「資料不動,模型動」方式,僅共享加密模型參數,解決資料共享難題。
- 資料標準化、模型共享治理及機構間信任: 需統一規範蒐集標註資料,並透過FinTechSpace聯合自主實證機制輔導。
- 法規風險: 「金融無塵室」架構透過雲端與加密運算,實現資料不落地的AI模型協作。
- 金管會角色: 促進聯合學習及資料隱私強化技術的聯合自主實證,指導成立「金融科技產業聯盟」(bnext udn ithome esunfhc),並持續推動AI防詐策略。
- 技術框架與試點計畫:
- GenAI 輔助 COBOL 大型主機系統現代化:
- 具體技術應用 (除視覺化外):
- 程式碼自動轉換: IBM Watsonx Code Assistant for Z (COBOL轉Java) (clpsglobal ithome),Amazon Q Developer (舊語言轉現代雲端優化代碼)。
- 業務邏輯提取與分析: IBM Watsonx Code Assistant for Z,Amazon Q Developer。
- 自動生成技術文檔: Amazon Q Developer (niar clpsglobal ithome netmag hk01 ithome)。
- 可追蹤性管理: 日本明治安田生命運用GenAI檢查需求定義、系統架構與測試流程的可追蹤性 (netron clpsglobal niar ithome)。
- 實際成效:
- 提升開發效率: 明治安田生命提升約25% (niar clpsglobal ithome ithome netmag)。
- 降低成本、知識保存、提高業務敏捷性 (netron clpsglobal ithome niar)。
- 面臨限制: 驗證測試尚不完善 (IBM初期版本),國內多處於POC階段,缺乏顛覆性應用,人才短缺,重新設計架構風險高 (netron clpsglobal niar ithome)。
- 評估指標: 開發效率提升率、程式碼轉換品質、成本降低 (ithome niar clpsglobal hk01 ithome)、應用程式性能、風險降低、員工技能提升。
- 具體技術應用 (除視覺化外):
總結
台灣金融業正積極整合GenAI以提升效率、客戶服務和安全性 (yahoo ithome axisoft taiwantoday udn chambers buzzorange globallegalinsights ctee Current time information in 信義鄉, TW dataguidance udn)。儘管挑戰依然存在,金管會正提供指導和支持,以在管理風險的同時促進創新 (udn)。產業內部也積極探索合作與人才發展,以期最大化GenAI的效益 (find yahoo ctee bnext)。從在地化語言模型的開發、運用聯邦學習進行跨機構反詐欺,到利用GenAI輔助核心系統現代化,都顯示了台灣金融業在GenAI領域的積極投入與未來潛力。