生成式AI應用開發

課程緣起

隨著人工智慧技術的迅速發展，越來越多的系統與應用程式開始採用大型語言模型（LLM）作為其核心的技術之一。本課程旨在提供一個從零開始到精通的指南，教授學員如何使用Python設計和開發一個簡易的LLM程式。透過本課程，學員將學習如何使用現代的CI/CD pipeline from GitHub 進行LLM後端程式測試，並使用Hugging Face Space 部署程式。

本課程針對希望為自己的應用程式建立一個基於LLM的聊天機器人的軟體工程師和開發人員。需要具備基本的Python知識。參與者需要擁有Hugging Face 訂閱、GitHub 帳戶、OpenAI API 訂閱、Visual Studio Code、Python 3.9或更高版本以及安裝了Pip。

本課程涵蓋了多個主題，包括人工智慧和大型語言模型的基礎知識，使用FastAPI構建LLM後端，設置開發環境，使用Docker進行容器化，使用GitHub Actions實現CI/CD流程，以及使用狀態頁面監控人工智慧應用程式。完成本課程後，學員將掌握開發和部署LLM後端的必要技能，以應用於聊天機器人或其他專案中。

課程核心特色

• 清楚介紹課程主題：從零開始到精通，教授學員如何使用Python設計和開發一個強大的LLM後端。

• 清楚介紹課程目標與學習目的，說明學生能夠習得的技能或實際做出的作品：學習如何使用現代的CI/CD pipeline和GitHub Action 測試LLM後端等等。

課程單元規劃

• 簡述課程單元架構，並描述各單元教學重點：介紹AI和大型語言模型（LLM）、介紹FastAPI以及為什麼它適合用於建立LLM後端、設置帳戶和開發環境。

• 清楚說明教學方式：投影片講課、螢幕錄製操作畫面、示範等。

• 清楚說明課程內容設計：觀念建立、理論或心法、操作技術、範例剖析、實作練習等。

• 提供專有名詞解釋以符合學員所需背景知識。

關於Mark 講師

Mark 是來自於台灣的研究工程師。 他是量子人工智慧和人工智慧相關領域的研究員，與臺灣大學和其他研究機構合作，設計新穎的量子深度學習方法來實現量子機器學習實用性。 同時，他也是一位經驗豐富的全端工程師，擁有 Next.js 前端和用於產生 AI 工作負載的 Python 後端開發，並多次擔任臺大人工智慧應用社的講師。