Amazon Bedrock Guardrails

Amazon Bedrock Guardrails ให้การป้องกันที่ปรับแต่งได้เพิ่มเติมนอกเหนือจากการป้องกันดั้งเดิมของ FM ส่งมอบการป้องกันด้านความปลอดภัยที่เป็นหนึ่งในสิ่งที่ดีที่สุดในอุตสาหกรรมโดย:

• การบล็อกเนื้อหาที่เป็นอันตรายมากถึง 85%
• การกรองการตอบสนองภาพหลอนมากกว่า 75% สำหรับ RAG และการสรุปเวิร์กโหลด
• ช่วยให้ลูกค้าสามารถปรับแต่งและใช้การป้องกันความปลอดภัย ความเป็นส่วนตัว และความจริงภายในโซลูชันเดียว

Amazon Bedrock Guardrails ประเมินอินพุตของผู้ใช้และการตอบสนอง FM ตามนโยบายเฉพาะกรณีใช้งาน และให้ชั้นการป้องกันเพิ่มเติมโดยไม่คำนึงถึง FM พื้นฐาน Amazon Bedrock Guardrails เป็นความสามารถของ AI ที่มีความรับผิดชอบเพียงอย่างเดียวที่มอบให้โดยผู้ให้บริการคลาวด์รายใหญ่ที่ช่วยให้ลูกค้าสามารถสร้างและปรับแต่งการป้องกันความปลอดภัย ความเป็นส่วนตัว และความจริงสำหรับแอปพลิเคชัน AI ช่วยสร้างในโซลูชันเดียว และทำงานร่วมกับโมเดลภาษาขนาดใหญ่ (LLM) ทั้งหมดใน Amazon Bedrock รวมถึงโมเดลที่ปรับแต่งได้ ลูกค้าสามารถสร้างกฎควบคุมระบบหลายตัว แต่ละตัวกำหนดค่าด้วยการผสมผสานของตัวควบคุมที่แตกต่างกัน และใช้กฎควบคุมระบบเหล่านี้ในแอปพลิเคชันและกรณีการใช้งานที่แตกต่างกัน นอกจากนี้ยังสามารถผสานรวม Amazon Bedrock Guardrails กับ Amazon Bedrock Agents และฐานความรู้สำหรับ Amazon Bedrock เพื่อสร้างแอปพลิเคชัน AI ช่วยสร้างซึ่งสอดคล้องกับนโยบาย AI ที่มีความรับผิดชอบของคุณได้อีกด้วย นอกจากนี้ Amazon Bedrock Guardrails ยังมี ApplyGuardrail API เพื่อประเมินอินพุตของผู้ใช้และการตอบสนองโมเดลที่สร้างโดย FM ที่กำหนดเองหรือสร้างโดยบุคคลภายนอกจากนอก Bedrock

องค์กรตระหนักถึงความจำเป็นในการจัดการปฏิสัมพันธ์ภายในแอปพลิเคชัน AI ช่วยสร้างเพื่อประสบการณ์ผู้ใช้ที่ตรงประเด็นและปลอดภัย พวกเขาต้องการปรับแต่งการโต้ตอบเพิ่มเติมเพื่อให้ยังคงอยู่ในหัวข้อที่ตรงประเด็นกับธุรกิจของพวกเขา และสอดคล้องกับนโยบายของบริษัท ด้วยการใช้คำอธิบายสั้น ๆ ด้วยภาษาที่เป็นธรรมชาติ Amazon Bedrock Guardrails ช่วยให้คุณสามารถกำหนดชุดหัวข้อที่ต้องหลีกเลี่ยงภายในบริบทของแอปพลิเคชันของคุณ Amazon Bedrock Guardrails จะตรวจจับและบล็อกอินพุตของผู้ใช้และการตอบสนอง FM ที่อยู่ในหัวข้อที่ถูกจำกัด ตัวอย่างเช่น สามารถออกแบบผู้ช่วยด้านการธนาคารเพื่อหลีกเลี่ยงหัวข้อที่เกี่ยวข้องกับคำแนะนำการลงทุน

Amazon Bedrock Guardrails มีตัวกรองเนื้อหาที่มีเกณฑ์ที่กำหนดค่าได้เพื่อกรองเนื้อหาที่เป็นอันตรายจากความเกลียดชัง ดูหมิ่น เนื้อหาทางเพศ ความรุนแรง การกระทำผิด (รวมถึงการก่ออาชญากรรม) และเสริมการป้องกันจากการโจมตีทางพรอมต์ (การฉีดพรอมต์และเจลเบรค) FM ส่วนใหญ่มีการป้องกันในตัวเพื่อป้องกันการเกิดการตอบสนองที่เป็นอันตราย นอกจากการป้องกันเหล่านี้ Amazon Bedrock Guardrails ยังช่วยให้คุณกำหนดค่าเกณฑ์ในหมวดหมู่เนื้อหาต่าง ๆ เพื่อกรองการโต้ตอบที่เป็นอันตราย การเพิ่มความแข็งแรงของตัวกรองจะเพิ่มระดับความแข็งขันของการกรอง กฎควบคุมระบบจะประเมินทั้งอินพุตของผู้ใช้และการตอบสนองของโมเดลโดยอัตโนมัติเพื่อตรวจจับและช่วยป้องกันเนื้อหาที่อยู่ในหมวดหมู่ที่ถูกจำกัด ตัวอย่างเช่น เว็บไซต์อีคอมเมิร์ซสามารถออกแบบผู้ช่วยออนไลน์เพื่อหลีกเลี่ยงการใช้ภาษาที่ไม่เหมาะสม เช่น คำพูดที่แสดงความเกลียดชังหรือหมิ่นประมาท

Amazon Bedrock Guardrails ช่วยให้คุณสามารถตรวจจับข้อมูลละเอียดอ่อนได้ เช่น ข้อมูลที่ระบุตัวตนของบุคคลได้ (PII) ในอินพุตของผู้ใช้และการตอบสนอง FM คุณสามารถเลือกจากรายการของ PII ที่กำหนดไว้ล่วงหน้าหรือกำหนดประเภทข้อมูลที่ละเอียดอ่อนที่กำหนดเองโดยใช้นิพจน์ปกติ (RegEx) ขึ้นอยู่กับกรณีการใช้งาน คุณสามารถเลือกปฏิเสธอินพุตที่มีข้อมูลที่ละเอียดอ่อนหรือแก้ไขในการตอบสนอง FM ตัวอย่างเช่น คุณสามารถแก้ไขข้อมูลส่วนบุคคลของผู้ใช้ในขณะที่สร้างสรุปจากการถอดเสียงการสนทนาของลูกค้าและเจ้าหน้าที่ในคอลเซ็นเตอร์

Amazon Bedrock Guardrails ช่วยให้คุณสามารถกำหนดค่าชุดคำหรือวลีที่กำหนดเองที่คุณต้องการตรวจจับและบล็อกในการโต้ตอบระหว่างผู้ใช้ของคุณและแอปพลิเคชัน AI ช่วยสร้าง สิ่งนี้จะช่วยให้คุณตรวจจับและบล็อกข้อความที่ไม่สุภาพรวมถึงคำที่กำหนดเองเฉพาะเช่น ชื่อคู่แข่งหรือคำศัพท์ที่มีความรุนแรงอื่น ๆ

องค์กรจำเป็นต้องปรับใช้แอปพลิเคชัน AI ช่วยสร้างจริงและเชื่อถือได้เพื่อรักษาและเพิ่มความไว้วางใจของผู้ใช้ อย่างไรก็ตามแอปพลิเคชันที่สร้างขึ้นโดยใช้ FM สามารถสร้างข้อมูลที่ไม่ถูกต้องเนื่องจากผลลัพธ์เพี้ยน ตัวอย่างเช่น FM สามารถสร้างการตอบสนองที่เบี่ยงเบนจากข้อมูลแหล่งที่มา ผสมผสานข้อมูลหลายชิ้นหรือคิดค้นข้อมูลใหม่ Amazon Bedrock Guardrails รองรับการตรวจสอบกราวด์ตามบริบทเพื่อตรวจจับและกรองผลลัพธ์เพี้ยนออกหากการตอบสนองไม่เป็นไม่ได้ตั้งอยู่บนข้อมูลแหล่งที่มาและไม่เกี่ยวข้องกับคำถามหรือคำแนะนำของผู้ใช้ (เช่น ข้อมูลที่ไม่ถูกต้องตามข้อเท็จจริงหรือข้อมูลใหม่) การตรวจสอบกราวด์ตามบริบทสามารถใช้เพื่อตรวจจับผลลัพธ์เพี้ยนสำหรับ RAG การประยุกต์สรุป และการสนทนา ซึ่งข้อมูลแหล่งข้อมูลสามารถใช้เป็นข้อมูลอ้างอิงเพื่อตรวจสอบการตอบสนองของโมเดล