Amazon Aurora Optimized Reads 和 pgvector 如何協助你優化生成式 AI 應用程式效能

生成式 AI 應用程式正在重塑企業處理非結構化資料的方式。無論是文字、影像還是影音,生成式 AI 都能夠將這些資訊轉換成向量形式,捕捉其內在意義與上下文,進而實現高效的相似性比對與搜尋。而 Amazon Aurora PostgreSQL- 相容版本搭配 pgvector 擴充功能,正是實現此一願景的絕佳利器。然而,隨著向量工作負載規模的不斷擴大,效能瓶頸亦逐漸浮現。Amazon Aurora Optimized Reads 的推出,為生成式 AI 應用程式注入全新動能,讓 pgvector 在向量相似性搜尋的效能大幅提升,開啟生成式 AI 在企業應用的嶄新紀元。

生成式 AI 工作負載的效能痛點

生成式 AI 應用程式的核心在於大量文句預訓練產生的大語言模型,而其中對於文句的處理便需要向量嵌入模型,將這些文句轉變成向量資料做輸入。這些模型能夠將非結構化資料轉換成高維度向量,以數值形式表徵其內在意義。然而,這些高維度向量往往佔用龐大的記憶體空間,一旦超出資料庫執行個體的記憶體容量,就必須從磁碟系統讀取資料,從而導致效能嚴重下降。

舉例來說,Amazon Titan Embeddings G1 - Text 嵌入模型所產生的向量維度高達 1536 byte,每個向量約佔 6 KB 空間。若要對 10 億個這樣的向量進行相似性搜尋,將需要將 5.7 TB 的資料載入記憶體,對於大多數資料庫執行個體而言,這顯然是無法負荷的工作負載。

傳統的資料庫系統無法有效處理如此大規模的向量相似性搜尋需求,因此企業在建置生成式 AI 應用程式時,往往受到效能瓶頸的限制。

Optimized Reads 助力 pgvector HNSW 索引飆升效能

Amazon Aurora Optimized Reads 正是解決這一痛點的新功能,透過利用本地 NVMe 快取,大幅減少對網路儲存的存取,提升向量查詢效能。當搭配 pgvector 的 HNSW (Hierarchical Navigable Small World) 索引使用時,Optimized Reads 展現出驚人的效能優勢。

在 10 億向量的基準測試中,使用 Optimized Reads 的執行個體平均提供 4.1 - 9.3 倍的每秒查詢數 (QPS) 改善,相較於傳統 IVFFlat 索引,HNSW 索引的 QPS 甚至可達 20 倍之高。此外,每個查詢的成本比標準執行個體低 75 - 80%,顯示出 Optimized Reads 不僅提升效能,更能為企業節省龐大成本。

靈活調整效能與成本,讓生成式 AI 應用程式更具經濟效益

Optimized Reads 的優勢不僅止於效能提升,更為企業帶來靈活調整效能與成本的能力。由於 Optimized Reads 執行個體能夠在相同規格下大幅提升向量工作負載效能,因此企業可以先在現有資源上擴展工作負載,待需求增長時再考慮升級執行個體,避免過度投資。

此外,Optimized Reads 提供更優化的價格/效能比,讓生成式 AI 應用程式更具經濟效益。在上述基準測試中,使用 Optimized Reads 的執行個體每百萬查詢成本僅為標準執行個體的 20 - 25%,顯示出其卓越的成本效益。

Amazon Aurora 全面優化生成式 AI 工作負載效能

隨著生成式 AI 應用程式在企業中的普及,如何有效處理大規模向量工作負載將是關鍵所在。Amazon Aurora Optimized Reads 與 pgvector 的強強聯手,為企業提供了高效能、經濟實惠的解決方案,助力生成式 AI 在各行各業中發揮最大潛能。

無論是電商產品目錄搜尋、知識庫增強生成 (RAG) 還是其他創新應用,Optimized Reads 都能為企業帶來卓越的向量相似性搜尋效能,讓生成式 AI 的無限可能徹底釋放。

現在註冊 AWS 帳號,體驗 Amazon Aurora Optimized Reads 帶來的卓越效能!

關於Amazon Web Services

自 2006 年來,Amazon Web Services 一直在提供世界上服務最豐富、應用廣泛的雲端服務。AWS 不斷擴展可支持幾乎任何雲端工作負載的服務,為客戶提供超過 240 種功能全面的雲端服務,包括運算、儲存、資料庫、聯網、分析、機器學習與人工智慧、物聯網、行動、安全、混合雲、媒體,以及應用開發、部署和管理等方面,遍及 33 個地理區域內的 105 個可用區域(Availability Zones),並已公佈計畫在馬來西亞、墨西哥、紐西蘭、沙烏地阿拉伯和泰國等建立 6 個 AWS 地理區域、18 個可用區域。全球超過百萬客戶信任 AWS,包含發展迅速的新創公司、大型企業和政府機構。AWS 協助客戶強化自身基礎設施,提高營運上的彈性與應變能力,同時降低成本。欲瞭解更多 AWS 的相關資訊,請至: aws.amazon.com
 免費註冊 AWS 帳號

新戶註冊即享 AWS 免費方案,可探索超過 100 種 AWS 的產品與服務,還能加碼領取獨家贈品!

 與我們聯絡

若欲尋求技術、帳單帳戶、登入存取支援,或希望與 AWS 的雲端業務聯絡,都竭誠歡迎您與我們聯繫!

 探索台灣資源中心

集結研討會精采回顧雲端主題白皮書開始上雲系列等免費資源,進一步豐富您的雲端之旅。