Trải nghiệm của nhà phát triển với Amazon Bedrock

Amazon Bedrock khiến việc xây dựng với một loạt các mô hình nền tảng (FM) trở nên đơn giản như một lệnh gọi API. Amazon Bedrock cung cấp quyền truy cập vào các mô hình hàng đầu bao gồm Jurassic của AI21 Labs, Claude của Anthropic, Command và Embed của Cohere, Llama 2 của Meta và Stable Diffusion của Stability AI, cũng như các mô hình Amazon Titan của chính chúng tôi. Với Amazon Bedrock, bạn có thể chọn FM phù hợp nhất với trường hợp sử dụng và yêu cầu ứng dụng của mình.

Thử nghiệm với các FM khác nhau bằng cách sử dụng các môi trường thử nghiệm tương tác cho nhiều phương thức khác nhau bao gồm văn bản, trò chuyện và hình ảnh. Các môi trường thử nghiệm cho phép bạn thử nhiều mô hình khác nhau cho trường hợp sử dụng của mình để thật sự hiểu rõ mức độ phù hợp của mô hình đối với một tác vụ nhất định.

Tính năng đánh giá mô hình trên Amazon Bedrock cho phép bạn sử dụng đánh giá tự động và đánh giá của con người để chọn FM cho một trường hợp sử dụng cụ thể. Đánh giá mô hình tự động sử dụng các tập dữ liệu được tuyển chọn và cung cấp các chỉ số định sẵn bao gồm độ chính xác, độ chắc chắn và độ độc hại. Đối với các chỉ số chủ quan, bạn có thể sử dụng Amazon Bedrock để thiết lập quy trình đánh giá của con người trong một vài bước nhanh chóng. Với đánh giá của con người, bạn có thể sử dụng tập dữ liệu riêng và xác định các chỉ số tùy chỉnh, chẳng hạn như mức độ liên quan, phong cách và mức độ phù hợp với tiếng nói thương hiệu. Quy trình đánh giá của con người có thể sử dụng nhân viên của bạn làm người đánh giá hoặc bạn có thể thuê một đội ngũ do AWS quản lý để thực hiện đánh giá của con người, trong đó AWS thuê những người đánh giá có tay nghề cao và thay mặt bạn quản lý quy trình làm việc toàn diện. Để tìm hiểu thêm, hãy đọc blog.

Trong vài bước nhanh chóng, Amazon Bedrock cho phép bạn chuyển từ các mô hình thông thường sang mô hình chuyên biệt và được tùy chỉnh cho doanh nghiệp và trường hợp sử dụng của bạn. Để điều chỉnh FM cho một tác vụ cụ thể, bạn có thể sử dụng một kỹ thuật gọi là tinh chỉnh. Trỏ vào một vài ví dụ được gắn nhãn trong Dịch vụ lưu trữ đơn giản của Amazon (Amazon S3), rồi Amazon Bedrock sẽ tạo bản sao của mô hình cơ sở, đào tạo bản sao với dữ liệu của bạn và tạo một mô hình tinh chỉnh mà chỉ bạn có thể truy cập để bạn nhận được phản hồi tùy chỉnh. Kỹ thuật tinh chỉnh được cung cấp cho các mô hình Command, Llama 2, Văn bản Amazon Titan Lite và Express, Trình tạo hình ảnh Amazon Titan và Phần nhúng đa phương thức Amazon Titan. Cách thứ hai mà bạn có thể điều chỉnh FM Văn bản Amazon Titan Lite và Amazon Titan Express trong Amazon Bedrock là đào tạo trước liên tục, một kỹ thuật sử dụng tập dữ liệu không được gắn nhãn của bạn để tùy chỉnh FM cho miền hoặc ngành của bạn. Với cả hai kỹ thuật tinh chỉnh và đào tạo trước liên tục, Amazon Bedrock tạo một bản sao riêng tư, tùy chỉnh của FM cơ sở cho bạn, đồng thời dữ liệu của bạn không được sử dụng để đào tạo các mô hình cơ sở gốc. Dữ liệu của bạn được sử dụng để tùy chỉnh mô hình được truyền một cách bảo mật thông qua Đám mây riêng ảo của Amazon (Amazon VPC) của bạn. Để tìm hiểu thêm, hãy đọc blog.

API Converse cung cấp một cách nhất quán cho các nhà phát triển để gọi mô hình Amazon Bedrock, nhờ đó có thể dễ dàng điều chỉnh sự khác biệt cụ thể của mô hình, chẳng hạn như các tham số suy luận.