Hybrid AI 工作坊
從需求判斷到初步實作
本活動免費參加,採事先報名及審核制。送出報名後將由主辦單位進行審核,請以審核結果通知為準。
企業導入 AI,不一定要在雲端與本地端之間二選一。更實際的問題是:哪些資料與任務適合留在本地、哪些需要雲端能力,以及兩者要如何配合。
這場工作坊將從常見企業情境出發,介紹評估 Local AI 解決方案時可以考慮的面向,包括資料隱私、網路與延遲、模型能力、硬體需求、成本及維運方式。
課程不以熟練特定 Local LLM 工具為目標,而是希望透過討論與實作,協助學員建立基本的判斷框架,並認識模型選擇、工作流程設計與驗證方法。
Day 1|從需求評估到環境建置
09:00-16:00
第一天將先討論 Local AI 在 Hybrid AI 架構中的定位,以及常見企業需求可能面對的資料、能力與環境限制。
內容包括:
常見 Local AI 需求與適用情境
模型規模、GPU、記憶體與硬體需求
模型卡、模型格式、量化與授權
常見推論工具與框架的差異
以會議記錄為例,串接 ASR 與 LLM,完成語音轉錄與文字整理的初步流程
Day 2|工作流程、評估與調整
09:00-16:00
第二天將從單一模型延伸到文件與影像處理流程,練習比較不同方法的效果與限制。
內容包括:
文件轉 Markdown 與 PII 去識別
OCR 與 VLM 視覺處理比較
Benchmarking、Baseline 與受控比較的基本觀念
記錄品質、速度、資源使用、失敗與限制
使用 Agentic Coding 工具協助調整工作流程
Apple 原生 ML 能力與大容量記憶體本地推論示範
小組成果分享與討論
兩天課程的重點,是讓學員實際接觸需求分析、模型與工具選擇,以及驗證方案的基本過程。有限的課程時間無法涵蓋所有模型、平台與部署方式,但可作為後續評估與實作的起點。
Day 3
09:00-12:00
稍後公開,敬請期待。
適合參加對象
正在評估企業 AI 導入的技術主管與團隊
軟體工程師、AI 工程師與開發者
SI、資訊服務與企業 IT 團隊
產品、創新與數位轉型相關工作者
建議具備基本的程式開發或技術背景,不需要是 AI 研究人員。
講者|Ethan Huang(13)
Apple/iOS 開發者與教育工作者,具 13 年以上 iOS 開發經驗,長期透過「13 報」、文章、Podcast、影片與演講,分享 Apple 開發、AI 工具及本地 AI 的實務經驗。目前亦於大學教授 iOS 開發,並於 2026 年獲 Apple 開發者社群表彰。
這次工作坊將分享他研究與使用 Local AI 工具的經驗,和學員一起從需求、限制與驗證方法出發,討論本地端與雲端方案應如何選擇。
更多介紹:ethanhuang13.plus/about
實作環境
為統一 Day 1–2 的示範與操作環境,課程將以 Apple Silicon Mac 為主。Mac 是本次的教學環境,課程中的需求分析、模型選擇與評估觀念,也可以延伸到其他本地硬體或雲端環境。
參加實作的學員請自備搭載 Apple Silicon、至少 16 GB 統一記憶體的 Mac。較高的記憶體配置可支援較大規模的模型。
如果你身邊有正在評估企業 AI、Local AI 或 Hybrid AI 的朋友與同事,也歡迎將這場活動分享給你認為合適的人,邀請他們一起參加。
主辦單位
台北市電腦商業同業公會(TCA)
