Deep Learning 101, Taiwan’s pioneering and highest deep learning meetup, launched on 2016/11/11 @ 83F, Taipei 101
AI是一條孤獨且充滿惶恐及未知的旅程,花俏絢麗的收費課程或活動絕非通往成功的捷徑。
衷心感謝當時來自不同單位的AI同好參與者實名分享的寶貴經驗;如欲移除資訊還請告知。
由 TonTon Huang Ph.D. 發起,及其當時任職公司(台灣雪豹科技)無償贊助場地及茶水點心。
去 YouTube 訂閱 | Facebook | 回 GitHub Pages | 到 GitHub 點星 | 網站 | 到 Hugging Face Space 按愛心
大語言模型 | 語音處理 | 自然語言處理 | 電腦視覺 |
Large Language Model | Speech Processing | Natural Language Processing, NLP | Computer Vision |
用 AI 懂 AI
- Chain-of-Thought is not explainability
- Chain-of-Thought
- arXiv 2506.21521 (Potemkin Understanding in Large Language Models)
- arXiv 2502.04644 (Agentic Reasoning: Reasoning LLMs with Tools for the Deep Research)
- AI新賽局:企業的入門策略指南
- 臺灣大型語言模型性能評測與在地化策略分析報告
- GenAI 與 LLM 在金融產業的應用分析:金融服務中 GenAI 與 LLM 的變革潛力。
- AI Robot 陪伴型機器人:2025 趨勢分析技術突破、市場潛力與未來展望。
- 避開 AI Agent 開發陷阱:常見問題、挑戰與解決方案:探討多種 AI 代理人工具的應用經驗與挑戰,分享實用經驗與工具推薦。
AI 技術 體驗/分享
手把手帶你一起踩 AI 坑:https://www.twman.org/AI
- 白話文手把手帶你科普 GenAI:淺顯介紹生成式人工智慧核心概念,強調硬體資源和數據的重要性。
- 大型語言模型直接就打完收工?:回顧 LLM 領域探索歷程,討論硬體升級對 AI 開發的重要性。
- 檢索增強生成(RAG)不是萬靈丹之優化挑戰技巧:探討 RAG 技術應用與挑戰,提供實用經驗分享和工具建議。
- 大型語言模型 (LLM) 入門完整指南:原理、應用與未來:探討多種 LLM 工具的應用與挑戰,強調硬體資源的重要性。
- 解析探索大型語言模型:模型發展歷史、訓練及微調技術的 VRAM 估算:探討 LLM 的發展與應用,硬體資源在開發中的作用。
- Diffusion Model 完全解析:從原理、應用到實作 (AI 圖像生成);深入探討影像生成與分割技術的應用,強調硬體資源的重要性。
- ASR/TTS 開發避坑指南:語音辨識與合成的常見挑戰與對策:探討 ASR 和 TTS 技術應用中的問題,強調數據質量的重要性。
- 那些 NLP 踩的坑:分享 NLP 領域的實踐經驗,強調數據質量對模型效果的影響。
- 那些語音處理踩的坑:分享語音處理領域的實務經驗,強調資料品質對模型效果的影響。
- 手把手學深度學習安裝環境:詳細介紹在 Ubuntu 上安裝深度學習環境的步驟,分享實際操作經驗。
AI 技術 開源/試用
企業導入 AI 的聽君一席話,如聽一席話入門全攻略
認真 企業導入 AI 全攻略
作者:TonTon Huang Ph.D.
日期:2025年07月21日更新
企業 AI新賽局 入門策略實踐路線圖:從策略到治理,避開致命陷阱
第一波夯起來的時間估計是 2016年 Google DeepMind 的 Alpha Go 吧,但深度學習確實很難實際的被應用到各行各業,特別是台灣,在那幾年,做個規則式的聊天機器人,或者廣告點擊,可能就會先用新聞稿把自己吹成 AI 大神或新創了。第二波就是 Open AI 橫空出世的ChatGPT了,然後四處都能看到大家都說自己有GenAI,可惜可能連個幾張消費型的4090等級的GPU都沒有,更別說已屬上世代的V100 或者連 GCP、AWS跟Azure的GPU都沒啟用設定過吧?就目前體驗,雖然已有不少國外的新聞或資訊報導可能碰上的問題。
但這裡是『台灣』,通常更可能發生:
- 高層心血來潮的玻璃心:因為新聞都在報 GenAI,所以不跟著 Gen 一下好像都對不起自己的職級;BUT,高層完全不懂也不想懂更不想花錢,就是做就對了 !
- 昂貴設備的高風險投資:據記憶,曾處理過 A100*4 以及 RTX 6000 Ada * 8 (皆約$330萬新台幣),這是地端自建價格;至於雲端API請參考這
- 必要性的業務優化需求:千萬不要為了 AI 而 AI,而是要有專業人員先參與評估可以優化那些內部業務需求,如果不知道,也不想找人評估,那行政單據OCR應該會是最容易讓高層看到效果的試金石了。
- 低薪資但高回報的人力:全台都在喊需要AI人才,特別讓人懷念所謂的資安即國安的口號;無奈,不說所謂只給的出香蕉來請猴子,現在是怕給了也找不到猴子啊。
導論
企業導入 AI 的旅程,就如同在充滿潛在回報但也遍布陷阱的挑戰。多數專案的沒有然,並非因為 AI 技術本身,而是因為某個關鍵階段迷失了方向。本本將根據自身體驗以及相關文章提供的指南,供一份實踐路線圖,提供企業從「如何開始」出發,走過戰略、基礎建設、人員治理等關鍵階段,並特別標示出在每個階段最容易犯下的錯誤,以及如何應對生成式 AI(GenAI)帶來的全新挑戰。
序:為何是現在?
- 解鎖AI:從最基礎的概念出發,釐清人工智慧、機器學習、深度學習到當前最熱門的生成式AI之間的關係與區別。
- 洞見AI:跨越不同行業,展示AI如何在金融、行銷、營運、醫療等領域解決真實的商業問題,創造可衡量的價值。
- 擘劃AI:提供一個策略框架,探討企業在導入AI時必須考量的組織、數據、人才與風險管理等關鍵議題,並提供具體的起步建議。
第一章:解鎖AI
建立一套清晰的AI詞彙與概念體系
- 通用人工智慧 (Artificial General Intelligence, AGI)
- 狹義人工智慧 (Artificial Narrow Intelligence, ANI)
機器學習:預測的藝術
垃圾郵件過濾器:傳統的作法是工程師手動編寫數百條規則(例如,「如果郵件標題包含『免費』、『中獎』就歸為垃圾郵件」),但這種方法僵化且容易失效;機器學習的做法?
- 機器學習的主要功能是進行預測與分類。它擅長回答以下兩類問題:
- 分類問題:「這位客戶會流失嗎?」(是/否)、「這筆信用卡交易是詐欺嗎?」(是/否)。
- 預測(迴歸)問題:「我們下個季度的銷售額會是多少?」(一個具體的數值)、「這棟房子的合理售價是多少?」(一個具體的數值)。 值得注意的是,傳統的機器學習模型最擅長處理的是結構化數據,也就是那些可以整齊地存放在試算表或資料庫中的數據,例如銷售數字、客戶基本資料、庫存量等。
深度學習:讓數據「開口說話」
- 深度學習(DL)是機器學習的一個更強大、更先進的子集。它並非一項全新的技術,而是機器學習技術在處理特定問題上的一種演進與深化。幼兒學習辨識貓的過程。我們不會對一個孩子說:「貓有毛、有鬍鬚、有尖耳朵」。相反地,我們只是不斷地指給他看各種各樣的貓——黑貓、白貓、坐著的貓、奔跑的貓。透過觀察大量範例,孩子的大腦會自動形成一個複雜的、多層次的概念模型來辨識「貓」。
- 深度學習的超能力在於其處理非結構化數據的卓越表現。非結構化數據是指那些無法輕易放入傳統資料庫的數據,例如圖片、影片、聲音、自然語言文本等。
生成式AI:創造的黎明
- 生成式AI (Generative AI) 是AI領域的一項典範轉移。與我們前面討論的、主要用於分析或分類現有數據的AI不同,生成式AI的核心能力是創造全新的、原創的內容。這些內容可以是文字、圖像、程式碼、音樂,甚至是影片。
- 在商業上,生成式AI的主要功能是創造、摘要與互動。它能夠回應這樣的指令:「為我的新產品草擬一封行銷郵件」、「將這份長篇報告總結成500字的摘要」,或者「扮演一個專業的客服人員,回答客戶問題」。它正從一個分析工具,轉變為一個知識工作者的強大協作夥伴。
為戰略設定正確的航向與規劃
這是所有 AI 專案計畫的起點,也是最容易犯下根本性錯誤的地方。方向錯了,再努力也是枉然,更別說是跟著想曝光的高層瞎搞了。
如何開始:
AI 計畫的起點絕對不是「我們需要 AI」,應該是 「我們有一個棘手的業務問題」。
致命錯誤 1:戰略脫節
陷阱:在沒有明確業務目標的情況下,僅因 「競爭對手在做」 或 「高層一時興起」 而啟動專案。
- 這類專案從一開始就缺乏存在的理由,最終因無法證明其商業價值而被放棄。
- 最常碰到的便是新聞都在播AI,高層也很常聽到AI,所以就希望大家用力 拍腦袋 想想看能夠怎樣 AI;但這通常正是最會然後沒有然後的案例。
致命錯誤 2:期望與現實的鴻溝
陷阱:將 AI 視為能立即解決所有問題的「魔法」,卻嚴重 「低估了背後所需的數據準備、基礎設施和人才投入」。
- 如同 Bernard Marr 在 The AI Graveyard: 7 Deadly Mistakes That Kill Most Enterprise AI Projects 所提到:一家公司曾因其數據分散在 27 個老舊系統中,導致耗資 250 萬美元的 AI 專案徹底失敗,這就是期望與現實脫節的慘痛代價。
- 但在台灣,估計不太可能有公司高層突然的投入250萬美元 (7000多萬新台幣) 要做AI,所以這點通常是還沒發生或者只是發個新聞稿,然後就沒有然後了 !
正確航線:
- 首先應識別出一個具體、可衡量且對公司至關重要的業務挑戰(例如:如何將業務處理時間縮短降低 20%)。
- 採取漸進式方法。從一個小規模、能快速看到成效的試點專案開始,驗證可行性、累積經驗並建立內部信心,然後再逐步擴大。
- 看看 Meta 和 Open AI等公司為了做AI在人力與硬體上投入了多少 ?
- 至少找一個 「相對有實戰及學術經驗的人」(EX: 至少有資訊領域碩博士學歷,或已在資訊科技領域工作多年),不要想著便宜好辦事,或者找壓根不是資訊背景或隨便上個幾堂課的網紅 。
第二章:打造堅實基礎的後勤基地
如果說 AI 是前線的作戰部隊,那數據和基礎設施就是決定戰爭勝敗的後勤。
如何開始:
在啟動 AI 專案前,先誠實地評估自身的數據狀況。企業應先具備穩定的數據倉儲、商業智慧(BI)和基礎分析能力。
致命錯誤 3:數據困境(垃圾進,垃圾出)
陷阱:這是 AI 專案失敗最常見的技術原因。組織往往假設現有數據「足夠好」,卻忽略了數據品質不佳、格式不一、標籤混亂等問題。
- 一個醫療系統曾試圖用 AI 預測病患再入院率,最終卻因各設施的數據編碼不一致,導致模型學到的是「數據的混亂」而非「醫療的規律」。
致命錯誤 4:跳過基礎工作
陷阱:在連基礎的銷售報告都無法統一的情況下,就想直接打造先進的 AI 定價系統。
- 這如同在沙上蓋樓,註定會崩塌。AI 是數據成熟度的演進,而非技術上的蛙跳。
第三章:擘劃您的AI藍圖:組建團隊並制定從策略到實踐的規則
再好的技術和數據,如果沒有合適的人來使用和管理,也只是一堆昂貴的擺設。
如何開始:
建立一個跨職能的 AI 團隊或卓越中心,並從專案第一天起就讓最終使用者(例如工廠主管、行銷人員)真心願意參與進來;畢竟,這事不在他們原本所謂的 KPI 上,80%的人估計都不願意另外花時間來協助正站在風口上的所謂 AI 團隊。
致命錯誤 5:缺乏人性化因素
陷阱:將 AI 專案視為純粹的 IT 任務,完全忽略使用者的感受和工作流程。
- 一樣參考 Bernard Marr 在 The AI Graveyard: 7 Deadly Mistakes That Kill Most Enterprise AI Projects 所提到:一個耗資 180 萬美元的製造業 AI 系統,就因工廠主管們不信任、不理解而完全不使用其建議,最終宣告失敗。
- 不過,這裡是台灣,180萬美元相當於5000多萬台幣,估計不會有這麼衝動的高層。
致命錯誤 6:人才與治理不足
陷阱:缺乏兼具技術與商業頭腦的人才,同時又沒有明確的治理架構。這會導致各部門各自為政、重複投資。
- 還是 Bernard Marr 在 The AI Graveyard: 7 Deadly Mistakes That Kill Most Enterprise AI Projects 所提到:一家電信公司就曾因七個部門各自開發 AI,最終浪費數百萬美元,專案也被迫取消。
- 同上,這裡是台灣,這卻是非常可能發生的場景,與對岸所謂敵對國家的內卷相比較,台灣較常見的反倒是高層各擁山頭,誰也不讓誰,但也誰都做不出啥鬼東西。
第四章:應對 GenAI — Navigating the New Minefield
GenAI 帶來了巨大的機遇,但也埋下了全新的、更隱蔽的地雷。管理這些風險,是當下最重要的課題。
如何開始:
立即制定一份清晰的 GenAI 使用政策。這是所有後續風險管理的基石,也是一個「不費吹灰之力」卻至關重要的決定。若無政策,就等於默許所有風險的發生。
致命錯誤 7:取代人類創造力,引發真實性危機
陷阱:過度依賴 GenAI 產出通用、缺乏靈魂的內容,會讓品牌顯得廉價。
- 遊戲發行商動視暴雪(Activision Blizzard)就因使用「AI 垃圾」取代人類創作而引發粉絲強烈反彈。GenAI 應是增強創意的工具,而非替代品。
致命錯誤 8:盲目信任產出,忽略人為監督
陷阱:GenAI 會犯錯,高達 46% 的 AI 生成文本可能包含事實錯誤。
- 科技媒體 CNET 就因其 AI 生成的報導錯誤百出而嚴重損害聲譽。任何關鍵產出都必須有「人在迴路中」進行審核。
致命錯誤 9:未能保護機密資料
陷阱:員工可能在不知情下,將公司機密或客戶個資輸入 ChatGPT 等公共工具,造成數據外洩。
- 三星員工的案例已為全球企業敲響警鐘。
致命錯誤 10:忽視智慧財產權風險
陷阱:在商業上使用由可能包含版權資料訓練的 GenAI 所產出的內容,可能讓企業在未來面臨侵權訴訟的風險。
結論:成功的 AI 遠征需要一張好地圖
企業導入 AI 的成功,取決於是否能在每個階段都做出正確的決策。這份路線圖與其中的錯誤警示,就是幫助您規劃路徑、避開陷阱的地圖。謹慎、有策略且治理良好的方法,是通往可持續成功的唯一途徑。