Pagar Pembatas untuk Amazon Bedrock

Lihat demo tentang cara membuat dan menerapkan pagar pembatas yang disesuaikan dengan model fondasi (FM) untuk mengimplementasikan kebijakan AI yang bertanggung jawab dalam aplikasi AI generatif Anda.

Pagar pembatas untuk Amazon Bedrock mengevaluasi input pengguna dan respons FM berdasarkan kebijakan spesifik kasus penggunaan, dan memberikan lapisan perlindungan tambahan apa pun FM yang mendasarinya. Pagar pembatas dapat diterapkan di semua model bahasa besar (LLM) di Amazon Bedrock, termasuk model yang disempurnakan. Pelanggan dapat membuat beberapa pagar pembatas, mengonfigurasi  setiap pagar pembatas dengan kombinasi kontrol berbeda, dan menggunakannya di berbagai aplikasi dan kasus penggunaan. 

Organisasi menyadari perlunya mengelola interaksi dalam aplikasi AI generatif untuk pengalaman pengguna yang relevan dan aman. Mereka ingin lebih menyesuaikan interaksi agar tetap pada topik yang relevan dengan bisnis mereka dan selaras dengan kebijakan perusahaan. Dengan menggunakan deskripsi bahasa alami yang singkat, Pagar Pembatasan untuk Amazon Bedrock memungkinkan Anda menentukan serangkaian topik yang harus dihindari dalam konteks aplikasi Anda. Pagar pembatas mendeteksi dan memblokir input pengguna dan respins FM yang termasuk dalam topik yang dibatasi. Misalnya, asisten perbankan dapat dirancang untuk menghindari topik yang berkaitan dengan nasihat investasi.

Pagar Pembatas untuk Amazon Bedrock menyediakan filter konten dengan ambang batas yang dapat dikonfigurasi untuk memfilter konten berbahaya terkait kebencian, penghinaan, seksual, kekerasan, pelanggaran (termasuk aktivitas kriminal), dan serangan prompt (injeksi prompt dan jailbreak). Sebagian besar FM sudah menyediakan perlindungan bawaan untuk mencegah timbulnya respons yang merugikan. Selain perlindungan ini, Pagar Pembatas memungkinkan Anda mengonfigurasi ambang batas di berbagai kategori untuk memfilter interaksi berbahaya. Dengan meningkatkan kekuatan filter, agresivitas pemfilteran pun meningkat. Pagar pembatas secara otomatis mengevaluasi kueri pengguna dan respons FM untuk mendeteksi dan membantu mencegah konten yang termasuk dalam kategori terlarang. Misalnya, situs ecommerce dapat merancang asisten online untuk menghindari penggunaan bahasa yang tidak pantas, seperti perkataan yang mendorong kebencian atau penghinaan.

Pagar pembatas untuk Amazon Bedrock memungkinkan Anda mendeteksi konten sensitif, seperti informasi pengenal pribadi (PII) dalam input pengguna dan respons FM. Anda dapat memilih dari daftar PII yang telah ditentukan sebelumnya atau menentukan tipe informasi sensitif kustom menggunakan ekspresi reguler (RegEx). Berdasarkan kasus penggunaannya, Anda dapat secara selektif menolak input yang berisi informasi sensitif atau menyuntingnya dalam respons FM. Misalnya, Anda dapat menyunting informasi pribadi pengguna sambil membuat ringkasan dari transkrip percakapan pelanggan dan agen di pusat panggilan.

Pagar pembatas untuk Amazon Bedrock memungkinkan Anda mengonfigurasi satu set kata atau frasa khusus yang ingin Anda deteksi dan blokir dalam interaksi antara pengguna dan aplikasi AI generatif. Hal ini ini juga memungkinkan Anda mendeteksi dan memblokir kata-kata kotor serta kata-kata khusus tertentu, seperti nama pesaing atau kata-kata yang menyinggung lainnya.