Ответственное создание искусственного интеллекта в AWS
Стремительное развитие генеративного искусственного интеллекта открывает новые перспективные инновации, но в то же время ставит новые задачи. Компания AWS стремится к ответственному развитию искусственного интеллекта, применяя подход, ориентированный на людей, который ставит во главу угла образование, науку и наших клиентов. Мы интегрируем ответственное использование ИИ на протяжении всего его жизненного цикла.
Основные аспекты ответственного использования ИИ
Справедливость
Рассмотрение последствий для различных затрагиваемых групп
Возможность объяснения
Понимание и оценка результатов работы системы
Конфиденциальность и защита
Надлежащее получение, использование и защита данных и моделей
Безопасность
Предотвращение вредоносных результатов работы и неправильного использования системы
Контроль
Наличие механизмов мониторинга и управления поведением систем ИИ
Достоверность и надежность
Обеспечение правильных результатов работы системы даже при неожиданных или противоречивых вводных данных
Управляемость
Внедрение передовых практик в цепочку поставок ИИ, включая поставщиков и разработчиков
Прозрачность
Предоставление затрагиваемым сторонам возможности принимать обоснованные решения о своем взаимодействии с системой ИИ
Основные аспекты ответственного использования ИИ
Справедливость
Рассмотрение последствий для различных затрагиваемых групп
Возможность объяснения
Понимание и оценка результатов работы системы
Конфиденциальность и защита
Надлежащее получение, использование и защита данных и моделей
Безопасность
Предотвращение вредоносных результатов работы и неправильного использования системы
Контроль
Наличие механизмов мониторинга и управления поведением систем ИИ
Достоверность и надежность
Обеспечение правильных результатов работы системы даже при неожиданных или противоречивых вводных данных
Управляемость
Внедрение передовых практик в цепочку поставок ИИ, включая поставщиков и разработчиков
Прозрачность
Предоставление затрагиваемым сторонам возможности принимать обоснованные решения о своем взаимодействии с системой ИИ
Сервисы и инструменты
AWS предлагает сервисы и инструменты, которые помогут вам ответственно проектировать, разрабатывать и использовать системы искусственного интеллекта.
Внедрение средств защиты в генеративный искусственный интеллект
Ограничения для Amazon Bedrock помогают внедрить средства защиты, адаптированные к приложениям генеративного искусственного интеллекта и соответствующие вашим политикам в области ответственного использования искусственного интеллекта. Ограничения позволяют дополнить встроенные средства защиты настраиваемыми мерами безопасности, что обеспечивает высочайший для этой отрасли уровень защиты и дает следующие преимущества:
- блокировка вредоносного контента расширяется на 85 %;
- отбрасывается более 75 % ответов с галлюцинациями для рабочих нагрузок RAG и резюмирования;
- клиенты получают возможность настраивать и применять меры для защиты безопасности, конфиденциальности и правдивости в рамках единого решения.
Оценка базовых моделей (FM)
Оценка моделей на Amazon Bedrock помогает оценить, сравнить и выбрать наиболее подходящие базовые модели для конкретного сценария использования на основе настраиваемых метрик, таких как точность, надежность и токсичность. Для оценки модели также можно использовать Amazon SageMaker Clarify и fmeval.
Выявление предвзятости и объяснение прогнозов
Предвзятость представляет собой несбалансированность данных или различия в производительности модели для различных групп.. Amazon SageMaker Clarify помогает снизить предвзятость, выявляя потенциальные искажения во время подготовки данных, после обучения модели и в развернутой модели путем изучения определенных атрибутов.
Понимание поведения модели важно для разработки более точных моделей и принятия более эффективных решений. Amazon SageMaker Clarify дает более полное представление о поведении модели, что позволяет обеспечить прозрачность для заинтересованных сторон, информировать людей, принимающих решения, и отслеживать, работает ли модель так, как предполагалось.
Мониторинг и проверка человеком
Мониторинг необходим для обеспечения работы высококачественных моделей машинного обучения (ML) и создания точных прогнозов. Монитор модели Amazon SageMaker автоматически обнаруживает неточные прогнозы, созданные на основе развернутых моделей, и предупреждает вас о них. С помощью Amazon SageMaker Ground Truth вы можете использовать отзывы людей на протяжении всего жизненного цикла машинного обучения для повышения точности и релевантности моделей.
Улучшение управления
Управление машинным обучением от Amazon SageMaker предоставляет специализированные инструменты для улучшения управления проектами машинного обучения за счет более строгого контроля и прозрачности моделей машинного обучения. Вы без труда можете собирать информацию о модели и делиться ею, а также получать информацию о поведении модели, например о предвзятости, и все это в одном месте.
Карточки сервисного обслуживания AI на AWS
Карточки сервисов ИИ – это ресурс, предназначенный для повышения прозрачности, предоставляющий вам единое место для поиска информации о предполагаемых сценариях использования и ограничениях, выборе ответственных решений в области дизайна ИИ, а также лучших практиках оптимизации производительности для наших ИИ-сервисов и моделей.
