AWS 2024 COMPUTEX 論劍：3 招助產業「懂用」生成式 AI

AI 旋風席捲全球各界，這股浪潮也吹進 2024 台北國際電腦展（COMPUTEX 2024），大會論壇更以「生成式 AI 新賽局」作為主題，向論壇聽眾論述最新技術與應用趨勢，全球雲端服務大廠 AWS 也在 5 日上午壓軸登場，並由企業策略師 Xia Zhang 專題演講人，分享 AWS 如何運用生成式 AI 為數位創新帶來突破。

Xia Zhang 在演講開頭就直接指出，生成式 AI 創造商業價值是進行式，特別在「創造工作體驗、提升製造產能、洞見決策關鍵、實現內容創意」上影響顯著，也受各界關注，為此企業也趨之若鶩地希望導入人工智慧，但實務上卻面對著「1. 基礎模型版本、2. 客製化不易、3. 資料安全與隱私、4. 選擇應用場景、5. 連結企業資源複雜、6. 管理架構層欠缺能力」等7個挑戰，讓企業不得其門而入，只能站在人工智慧浪潮的入口觀望。

對此 Xia Zhang 則直言，企業想要快速進入人工智慧領域，採取技術與資源兼具的雲端服務已是當前主流選擇，除了避免地端尚未建置完成，人工智慧又有了重大突破、難以追趕，企業更是看上雲端服務提供商在「多產業、大場景」下的實務戰績，如 AWS 的生成式 AI 早已應用於「健康醫療、生產製造、金融服務、零售量販、媒體娛樂、交通車輛、教育學習」七個領域。

舉例來說，如被高度期待 AI 化的生產製造，AWS 就可協助業者達成「設備維護預測、製造良率優化、產能需求估算」，進一步實現智慧製造的可能；同樣倍受期待的交通車輛，也能達成「設計更安全省油的車輛、提升車輛性能品質、塑造個性化駕乘體驗」；而協助媒體娛樂「激發創作內容、增強互動體驗、提供個人化推薦」也只是 AWS 生成式 AI 的基本表現。

「想要打造與眾不同的 AI，善用自有數據是差異化關鍵」Xia Zhang 坦言，許多企業想導入 AI、但卻缺乏實際可用的數據。事實上，多數企業先是欠缺數據的「採集思維」，也不懂得數據的處理：收納、分類、分析、訓練，如資料湖就是「收納」不分型式的資料、資料庫就是「分類」圖型、時間序列、文件等資料型態，進入「分析」則有資料倉儲、資料整合、商業智慧、營運分析等運用，最後則把資料用來「訓練」機器學習與生成式 AI。

Xia Zhang 進一步說明在實務上，就是把未經標籤化的資料，提供給 AI 進行「預訓練」，透過基礎模型來重新「編寫」資料，產出後的資料再打上標籤或不記標籤，分別依照語意理解，匹配生成內容給各種「任務」，包含，文本撰寫、內容摘要、資訊提取、諮詢問答、聊天機器人…等。

Xia Zhang 也指出，當企業導入時，想要進一步提升自家生成式 AI 所產出的精準度，首先以透過擷取技術（RAG）增強生成，或是運用微調（FINE-TUNING）來逐步修正，同時也建議長期且持續地為 AI 進行預訓練（CONTINUED PRETRAINING），如此下來不僅內容準確性增加，也等於讓下咒語／問答的理解力更加敏銳。

LLM 大型語言模型開啟了人們對於 AI 的盼望，彷彿電影中無所不知的 AI 即將問世眼前。事實上，在此之前 AI 一直被定位為「垂直應用」，意即在某領域訓練的 AI 經驗，難以跨其他領域應用，而生成式 AI 堆疊（Generative AI Stack）則有望與 LLM 一起打破這個框架。所謂的「堆疊」顧名思義就是將技術服務整合一起，讓數據互通，產生綜效價值，或可需要時呼叫應用、或可資源串連相輔相成。

Xia Zhang 對此也提出 AI 堆疊的三個步驟，基礎實施是「基礎模行與其他基礎模型整合」，進階實施「大行語言模型與基礎模型的聯合建構」、深度實施則在「設計專屬架構，來協助基礎模型的預訓練與推演」。「這當中已經進入了 AI 架構層、應用層與硬體的整合範疇，而 AWS 都已有成熟的服務來為企業敏捷佈署、穩固建置，包含：GPUs、AWS Trainium、AWS Inferentia、 Amazon SageMaker、Amazon EC2 UltraClusters、EFA (Elastic Fabric Adapter)、Amazon EC2 Capacity Blocks for ML、AWS Nitro System、AWS Neuron…等。

企業若想從頭開始、無中生有的建置 AI，則可採取 Amazon SageMaker 實施機器學習模型的建置、訓練、部署；Amazon Bedrock 則可以規模化建置生成式 AI 的基礎模型；Amazon Q 則進一步把前述的佈置轉換成生成式 AI 助手，改變工作模式；也能透過 Amazon CodeWhisper 來賦能 AI 開發人員，提供更好的程式編寫建議、訓練基礎模型。

Xia Zhang 特別說明，全球已有超過1萬家知名企業在進入 AI 領域時，選擇採用 AWS 雲端服務 Amazon Bedrock，如知名運動品牌 Adidas 就建置 AI 助手改變工作模式，為工程師賦能，從知識庫中找到資訊與答案，有效解決需要高技術含量的問題。

同時，美國開利空調大廠 Carrier 也使用 Amazon Bedrock 幫助客戶實現永續發展目標，利用 Amazon Textract 從客戶的水電費帳單中提取信息，做好節電、碳排、用電等能源管理，讓永續數據管理更智慧化！

Xia Zhang 也向台灣企業建議，數位轉型的路途與 AI 密不可，導入 AI 不僅要選擇適合的服務方式，更要從「賦能工作團隊、為企業帶來機會」來考量，也用實際行動來取代對 AI 的觀望，透過實作為企業帶來經驗與案例，並且對 AI 帶來的應用表現持續監測、留下紀錄、敢於實踐、推陳出新。