Deep Learning 101, Taiwan’s pioneering and highest deep learning meetup, launched on 2016/11/11 @ 83F, Taipei 101
AI是一條孤獨且充滿惶恐及未知的旅程，花俏絢麗的收費課程或活動絕非通往成功的捷徑。
衷心感謝當時來自不同單位的AI同好參與者實名分享的寶貴經驗；如欲移除資訊還請告知。
由 TonTon Huang Ph.D. 發起，及其當時任職公司(台灣雪豹科技)無償贊助場地及茶水點心。
Deep Learning 101 創立初衷，是為了普及與分享深度學習及AI領域的尖端知識，深信AI的價值在於解決真實世界的商業問題。
去 YouTube 訂閱 | Facebook | 回 GitHub Pages 首頁 | 到 GitHub 點星 | 網站 | 到 Hugging Face Space 按愛心
| 大語言模型 | 語音處理 | 自然語言處理 | 電腦視覺 |
| Large Language Model | Speech Processing | Natural Language Processing, NLP | Computer Vision |
在快速變動的全球局勢與本地產業環境下，您的營運是否正遭遇瓶頸？這些不僅是挑戰，更是導入AI、實現轉型升級的最佳契機。AI導入並非單純的技術採購，而是一場由上而下的企業變革。
- 【第一步】企業現況與需求訪談：了解商業模式、營運痛點與期望目標，定義出最具商業價值的AI應用場景。
- 【第二步】AI導入策略與藍圖規劃：量身打造清晰、務實的AI導入路線圖，包含技術架構、數據策略、預算規劃與預期效益。
- 【第三步】概念驗證 (PoC) 與模型開發：以最小成本、最快速度建立一個可行的AI模型來驗證構想，確保方向正確，並依據反饋快速迭代。
- 【第四步】系統整合與全面導入：將成熟的AI模型無縫對接到您現有的系統，實現真正的自動化與智慧化。
- 【第五步】團隊賦能與技術培訓：不只交付工具，更交付知識。提供教育訓練，確保AI能真正落地生根，成為企業文化的一部分。
用 AI 懂 AI
- Chain-of-Thought is not explainability
- arXiv 2506.21521 (Potemkin Understanding in Large Language Models)
- arXiv 2502.04644 (Agentic Reasoning: Reasoning LLMs with Tools for the Deep Research)
- AI新賽局：企業的入門策略指南
- 臺灣大型語言模型性能評測與在地化策略分析報告
- 從零到一：打造本地端高精準度 RAG 系統的實戰指南
- GenAI 與 LLM 在金融產業的應用分析：金融服務中 GenAI 與 LLM 的變革潛力。
- AI Robot 陪伴型機器人：2025 趨勢分析技術突破、市場潛力與未來展望。
- 避開 AI Agent 開發陷阱：常見問題、挑戰與解決方案：探討多種 AI 代理人工具的應用經驗與挑戰，分享實用經驗與工具推薦。
AI 技術 體驗/分享
手把手帶你一起踩 AI 坑：https://www.twman.org/AI
- 白話文手把手帶你科普 GenAI：淺顯介紹生成式人工智慧核心概念，強調硬體資源和數據的重要性。
- 大型語言模型直接就打完收工？：回顧 LLM 領域探索歷程，討論硬體升級對 AI 開發的重要性。
- 檢索增強生成(RAG)不是萬靈丹之優化挑戰技巧：探討 RAG 技術應用與挑戰，提供實用經驗分享和工具建議。
- 大型語言模型 (LLM) 入門完整指南：原理、應用與未來：探討多種 LLM 工具的應用與挑戰，強調硬體資源的重要性。
- 解析探索大型語言模型：模型發展歷史、訓練及微調技術的 VRAM 估算：探討 LLM 的發展與應用，硬體資源在開發中的作用。
- Diffusion Model 完全解析：從原理、應用到實作 (AI 圖像生成)；深入探討影像生成與分割技術的應用，強調硬體資源的重要性。
- ASR/TTS 開發避坑指南：語音辨識與合成的常見挑戰與對策：探討 ASR 和 TTS 技術應用中的問題，強調數據質量的重要性。
- 那些 NLP 踩的坑：分享 NLP 領域的實踐經驗，強調數據質量對模型效果的影響。
- 那些語音處理踩的坑：分享語音處理領域的實務經驗，強調資料品質對模型效果的影響。
- 手把手學深度學習安裝環境：詳細介紹在 Ubuntu 上安裝深度學習環境的步驟，分享實際操作經驗。
AI 技術 開源/試用
大型語言模型 (LLM) 入門完整指南：原理、應用與未來 (2025 版)
作者：TonTon Huang Ph.D.
日期：2024年2月4日
原文網址：https://blog.twman.org/2024/02/LLM.html
文章概述
作者分享了在實作大型語言模型（LLM）過程中遇到的挑戰與優化技巧，並介紹了多種相關工具與應用場景，強調實際操作與落地的重要性。
主要內容摘要
1. 多代理人系統的實作與挑戰
- AutoGen 與 AutoGen Studio：建構多代理人分工合作的交互模式，包括 ReRanker、Function Call 和 Workflow 等。
- AnythingLLM：提供多代理人協作的框架，支援多種應用場景。
- Dify、RAGFlow、LangFlow、Flowise：整合 RAG、Function Call、Agent、Workflow 等功能，提升模型的實用性。
- Ollama 與 Xinference：作為本地端的 LLM 模型使用，降低使用大模型的繁瑣設定。
2. 實際應用案例
- AI 客服自動記錄用戶問答到 Google Sheet：
- 用戶在 Dify 上輸入問題。
- Dify 回答後觸發 Webhook，將用戶問題與 AI 回覆傳送到 n8n。
- n8n 整理資料並寫入 Google Sheet。
- 單據解析 OCR 與 RAG 的 Q&A 整合：結合 OCR 技術與 RAG，實現單據的自動解析與問答。
- 多模態應用：如工地場景照片的分析，判斷可能的缺失與相關法規。
3. 模型與工具的使用
- Ollama 的安裝與設定：
- 安裝指令：
curl https://ollama.ai/install.sh | sh - 修改模型儲存路徑與啟動設定。
- 使用 ngrok 進行服務的公開。
- 安裝指令：
- 下載與使用的 LLM 模型：
- mixtral:8x22b-instruct-v0.1-q6_K（115 GB）
- deepseek-v2:236b-chat-q8_0（250 GB）
- llama3.1:70b-instruct-fp16（141 GB）
- llama3.1:405b（231 GB）
- mistral-large:123b-instruct-2407-fp16（245 GB）
- Text Embedding 模型：
- bge-reranker-large
- bge-large-zh-v1.5
- mxbai-embed-large:v1
- nomic-embed-text:v1.5
4. 建議與反思
- 實際操作的重要性：強調實際操作與落地的必要性，避免僅停留在理論與宣傳層面。
- 資源的合理利用：考量 OpenAI 與 AOAI 的 API 費用，尋求本地端的解決方案。
- 對於 AI 應用的態度：呼籲從業者誠實面對自身的實力與資源，避免過度誇大與虛假宣傳。
結語
大型語言模型的應用與實作充滿挑戰，但透過合適的工具與實際操作，能夠有效地解決實際問題。作者強調，唯有腳踏實地，才能真正實現 AI 的落地應用。
📖 如需進一步了解，請參閱原文：
https://blog.twman.org/2024/02/LLM.html