從客服機器人到企業智能應用..
LLMs徹底改變了自然語言處理 (NLP) 領域，並越來越多地被用於解決各...
生成式AI大型語言模型實戰課程：從客服機器人到企業智能應用
課程型態/ 混成(實體+線上同步)
上課地址/ 中科_工商行服務大樓4樓或9樓教室 【台中市428大雅區中科路6號】或 webex線上直播(依實際上課通知為主)
時數/ 24小時
起迄日期/ 2024/01/06~2024/02/03
聯絡資訊/ 陳文幸 04-25672316
報名截止日/ 2024/01/05
---------------------------------
課程簡介
自 2022 年 11 月首次發布以來，ChatGPT（由 OpenAI 的 GPT 語言模型提供支持）風靡全球。但它並不是唯一使用大型語言模型 (LLM) 重塑企業格局的應用程序。微軟的 Bing AI、谷歌的 Bard 和 Meta 的 LLaMA 也在爭奪生成人工智能領域的主導地位，為從高級搜索到對話代理的技術提供動力。當塵埃落定後，顛覆將無異於對組織運作方式的重塑。
隨著 OpenAI 的 GPT-4 語言模型的最新發布，摩根士丹利財富管理部門正在使用它來組織其龐大的知識庫，Be My Eyes 用於改變視覺可訪問性，Stripe 用於簡化用戶體驗和打擊欺詐，以及政府冰島保留其語言。
作為數據專業人員和開發人員，重要的是要了解這些工具在幕後如何工作，以及如何在您的工作中利用大語言模型 (LLM)。
LLMs徹底改變了自然語言處理 (NLP) 領域，並越來越多地被用於解決各行各業的各種 NLP 問題。
了解 LLM 可以幫助像您這樣的開發人員和數據科學家：
1.構建更好的 NLP 模型：LLM 是許多 NLP 任務的最先進模型，了解它們的工作原理可以幫助開發人員和數據科學家構建更好的模型並在其 NLP 任務中實現更好的性能。
2.開發自定義 NLP 應用程序：LLM 可以針對特定的 NLP 任務進行微調，使其高度適應不同的領域和用例。了解 LLM 的開發人員和數據科學家可以利用這種靈活性來開發滿足其特定需求的自定義 NLP 應用程序
3.優化模型性能：了解 LLM 可以幫助開發人員和數據科學家通過為其特定用例選擇合適的架構、提示工程、微調策略和下游任務來優化模型性能。
課程目標
1. 如何將各種 LLM 應用和集成到組織現有的數據基礎架構和系統中。這包括了解 ChatGPT 和 Bard 的開源替代品。
2. 了解 Transformer架構的演變和 ChatGPT 背後的歷史背景，包括不同類型的 LLM 及其生命週期（預訓練、微調和推理）。
3. 了解 LLM 可應用於的不同下游任務，例如預測、提取、序列標記、序列轉換和生成。
4. 將 LLM 理解為更大架構中的組件，包括它們在密集檢索、推薦、合成數據生成、負面挖掘以及通過知識 蒸餾、修剪和量化管理模型大小的嵌入中的使用。
課程大綱
|
【課程綱要】 |
【課程內容】 |
日期 |
|
單元一： 從生成模型到下游任務： 探索語言模型在NLP中的應用 |
1. 了解生成式模型演變，從馬可夫鏈開始 2. 了解使用不同機器學習範例（監督、非監督、生成式）的用例。 3. 解釋 LLM 生命週期：預訓練、微調、推理。 4. 了解並處理不同類型的下游任務：文本分類、文本相似性、摘要、翻譯、命名實體識別。 5. 實作WordCount、NER、文本分類等實作案例。 |
01/06
6H |
|
單元二： LLM架構及應用：打造智慧客服 Chatbot |
1. 大型語言模型架構 SPRLO 介紹： 2. LLM 基礎介紹、元素解說、應用場景說明：QAGPT、ChatDocs、SQLGPT 3. 分享大型語言模型應用開發流程，檔案拆分、向量存放檢索、向量資料庫。 4. 基於文件對話，實作法律文件機器人，以Uber為例 |
01/20
6H |
|
單元三： 深入了解LangChain：掌握NLP平台開發和應用的進階知識 |
1. 介紹 LangChain 關鍵元素：Model、Prompt、Chain、Agent、index 2. 介紹 Prompt Engineering 基礎知識與進階技巧 3. 實作多種資料來源應用技巧，包含：Docx、Excel、PDF、Email。 3. 實作大型語言模型應用，建構公司內部文件GPT |
01/27
6H |
|
單元四： 向量資料庫應用：從資料檢索到自然語言理解的應用實踐 |
1. 開源模型應用，從 LLama 到 Dolly 2.0 2. 開源向量資料庫應用，從 Chroma 到 Redis 3. 實作大型語言模型應用，建構客服機器人 |
02/03
6H |
講師簡介
黃老師暨團隊講師
【經歷】資訊科技專家、大學講師、RiskValFinancial Solution量化資料科學家，軟體架構師、Smart Tech Inc.主工程師、Dynamic Service Inc(DSI)軟體工程師等…實務經驗
【學歷】New York University - Courant Institute of Mathematical Sciences Master of Science, Computer Science (碩士)、 厦門大學王業南經濟研究院金融(博士)
課程建議對象
1. 軟件工程師和開發人員。
2. 機器學習/人工智能工程師。
3. 希望將 NLP、機器學習和提示工程應用到系統的開發人員。
4. 欲瞭解生成式AI、客服機器人到企業智能應用之工程師或主管或有興趣者。
建議修課參考
l 熟悉Python讀寫代碼（了解不同的資料格式和物件導向開發的基礎知識）。
l 具有數據和機器學習 Python 庫（例如 Numpy、Scikit-Learn 和 Pandas）開發經驗。
l 具有 Web 應用程序開發經驗（了解網站與伺服器溝通知識）
l 擁有使用 API 開發經驗，並能夠編寫簡單的 Python 代碼來發送請求和解析來自API的響應。
價格
l 自備NB （操作系統為 windows 10 以上，優先建議使用linux-base 作業系統）
l具備OpenAI 帳戶以及 API 金鑰 (第一次註冊會有18美元額度可做為課程時開通實作練習用)
l本課程符合勞委會"協助事業單位人力資源提升計畫"的補助方案，
l 歡迎企業踴躍報名參加歡迎企業包班，請來電洽詢 課程承辦人陳小姐(Joan) 04-25675621
|
類別 (含軟體實作、餐點、講義、稅額等) |
課程價格 |
|
課程原價《會 員》 |
$21,600元/人 |
|
21天前報名~享早鳥優惠價 |
$19,400元/人 |
|
3人(含)以上相揪同行報名~享優惠價 |
$18,300元/人 |
結訓與證書
參加【生成式AI大型語言模型實戰課程：從客服機器人到企業智能應用】之學員，研習期滿，出席率達到80%(含)以上，且參與課程實作與討論者，即可獲工研院頒發的培訓證書。
報名方式／繳費方式
●上課日期：113/01/06、01/20、01/27、02/03(週六)(休息：1/13選舉)
●上課時間：09:30~16:30，每天6小時，共計24hrs
-----------
●上課地點：工研院產業學院 台中學習中心-訓練教室或WEBEX線上直播 (實際上課教室請依據上課通知函為準!)
●上課地址：台中市大雅區中科路6號(中科-工商服務大樓-4樓或9樓教室) 或WEBEX線上直播
●上課地圖(公設場地)：https://reurl.cc/xObA0N
●交通資訊： (台中市民-使用【悠遊卡】、【一卡通】 搭乘台中市區公車-10公里內免費)
-可搭乘『高鐵接駁公車：161路』：高鐵台中站至中科管理局工商服務大樓往返 (平日/假日均行駛)
-或搭乘『中科免費巡迴巴士(西屯線)』：統聯中港轉運站至中科管理局工商服務大樓往返(平日行駛)
-搭乘仁友客運：45路、巨業客運：68路、台中客運：69路、統聯客運：77路/79路(平日行駛)
-中科管理局近250個地下室平面停車位，停車便利，憑『車牌辬識』入場，本單位貼心免費消磁
-----------
●預計招生名額：20名為原則，依報名及繳費完成之順序額滿為止(本班預計10人即開課)
●報名方式：
1.線上報名：請點選頁面右上角「線上報名」
2.電子郵件報名：E-mail：itri533882@itri.org.tw
●課程洽詢：(04)2567-2316 / (04) 2568-7661 陳小姐
-----------
●繳費資訊：
(一)ATM轉帳（線上報名）：
繳費方式選擇「ATM轉帳」者，系統將給您一組轉帳帳號「銀行代號、轉帳帳號」，但此帳號只提供本課程轉帳使用, 各別學員轉帳請使用不同轉帳帳號！
(二)信用卡（線上報名）：
繳費方式選「信用卡」，直到顯示「您已完成報名手續」為止，才確實完成繳費。
(三)銀行匯款(公司或個人電匯付款)：
土地銀行工研院分行，帳號156-005-00002-5（土銀代碼：005），戶名「財團法人工業技術研究院」。
(四)計畫代號扣款(工研院同仁)：
請從產業學院學習網直接登入工研人報名；俾利計畫代號扣款。
※採ATM轉帳或銀行匯款繳費者，請於收據上註明「公司名稱、課程訊息、姓名、聯絡電話」，回傳至上列【E-MAIL】或傳真至產業學院04-25690361陳小姐 收
歡迎加入粉絲專頁
注意事項
◆以下注意事項─敬請您的協助，謝謝!
1、課程3天前，學員將收到【E-mail上課通知】，敬請留意信件。
2、為尊重講師之智慧財產權，請勿錄影、錄音，恕無法提供課程講義電子檔。
3、請註明服務機關之完整抬頭，以利開立收據；未註明者，一律開立個人抬頭，恕不接受更換發票之要求。
4、若報名者不克參加者，可指派其他人參加，並於開課前一日通知。
5、退費辦法：學員於開訓前退訓者，將依其申請退還所繳上課費用90％，另於培訓期間若因個人因素無法繼續參與課程，將依上課未逾總時數1/3，退還所繳上課費用之50％，上課逾總時數1/3，則不退費。
6. 本課程若有不可抗力因素將擇期辦理，本單位保留修改課程與講師的權利，敬請見諒。
