Ответственное использование ИИ: от принципов к практике
Ускорьте развертывание надежного ИИ с помощью рекомендаций экспертов и практических инструментов
Ответственная разработка ИИ
Быстрый рост искусственного интеллекта и интеллектуальных агентов влечет за собой многообещающие инновации и новые задачи. В AWS ответственное использование ИИ делают практичным и масштабируемым, что позволяет вам ускорить внедрение надежных инноваций в сфере ИИ. Мы применяем подход, ориентированный на людей и ставящий во главу угла образование, науку и наших клиентов, а также интегрируем ответственное использование ИИ на протяжении всего его жизненного цикла. Наши научно обоснованные рекомендации, встроенные средства защиты и инструменты помогут ответственно разрабатывать ИИ и использовать его в любых примерах использования. С самого начала применяйте методы ответственного использования ИИ, чтобы уверенно продвигаться вперед и завоевывать доверие клиентов.
Что такое ответственное использование ИИ?
AWS определяет ответственное использование ИИ, используя базовый набор параметров, которые мы оцениваем и обновляем по мере развития технологий ИИ.
Справедливость
Рассмотрение последствий для различных затрагиваемых сторон
Объяснимость
Понимание и оценка результатов работы системы
Конфиденциальность и защита
Надлежащее получение, использование и защита данных и моделей
Безопасность
Предотвращение вредоносных результатов работы и неправильного использования системы
Контроль
Наличие механизмов мониторинга и управления поведением систем ИИ
Достоверность и надежность
Обеспечение правильных результатов работы системы даже при неожиданных или противоречивых вводных данных
Управление
Внедрение передовых практик в цепочку поставок ИИ, включая поставщиков и разработчиков
Прозрачность
Предоставление затрагиваемым сторонам возможности принимать обоснованные решения о своем взаимодействии с системой ИИ
Методы ответственного использования ИИ
Эти основные аспекты ответственного использования ИИ представляют собой технические свойства, присущие каждой системе ИИ. Ваша задача – делать обоснованные проектные решения для вашего конкретного примера использования. Новый Объектив AWS Well-Architected «Ответственное использование ИИ» содержит рекомендации и практики, которые помогут учесть эти аспекты на этапах проектирования, разработки и эксплуатации. Пользуйтесь этим руководством для принятия обоснованных решений, обеспечивающих баланс между бизнес-целями и техническими требованиями и ускоряющих развертывание надежных систем искусственного интеллекта.
Сервисы и инструменты
AWS предлагает сервисы и инструменты, которые помогут вам ответственно проектировать, разрабатывать и использовать системы искусственного интеллекта.
Создавайте с помощью адаптируемых средств защиты
Amazon Bedrock Guardrails помогает внедрить меры безопасности, адаптированные к требованиям вашего приложения и политикам ответственного использования ИИ. Благодаря лучшим в отрасли средствам защиты, которые блокируют до 88 % вредоносного контента и предоставлять проверяемые и математически обоснованные объяснения решений проверки, точностью которых составляет 99 %, компания Bedrock Guardrails предлагает настраиваемые средства защиты, помогающие обнаруживать и фильтровать вредоносный текстовый и графический контент, редактировать конфиденциальную информацию и выявлять галлюцинации моделей. Используйте Bedrock Guardrails с любой базовой моделью (в Amazon Bedrock или на собственной инфраструктуре), чтобы обеспечивать постоянный контроль безопасности и конфиденциальности во всех приложениях.
Оценка базовых моделей (FM)
Оценка моделей на Amazon Bedrock помогает оценить, сравнить и выбрать наиболее подходящие базовые модели для конкретного примера использования на основе настраиваемых метрик, таких как точность, надежность и токсичность. Для оценки модели также можно использовать Amazon SageMaker Clarify и fmeval.
Выявление предвзятости и объяснение прогнозов
Предвзятость представляет собой несбалансированность данных или различия в производительности модели для различных групп. Amazon SageMaker Clarify помогает снизить предвзятость, выявляя потенциальные искажения во время подготовки данных, после обучения модели и в развернутой модели путем изучения определенных атрибутов.
Понимание поведения модели важно для разработки более точных моделей и принятия более эффективных решений. Amazon SageMaker Clarify дает более полное представление о поведении модели, что позволяет обеспечить прозрачность для затрагиваемых сторон, информировать людей, принимающих решения, и отслеживать, работает ли модель так, как предполагалось.
Мониторинг и проверка человеком
Мониторинг необходим для обеспечения работы высококачественных моделей машинного обучения (ML) и создания точных прогнозов. Монитор модели Amazon SageMaker автоматически обнаруживает неточные прогнозы, созданные на основе развернутых моделей, и предупреждает вас о них. С помощью Amazon SageMaker Ground Truth вы можете использовать отзывы людей на протяжении всего жизненного цикла машинного обучения для повышения точности и релевантности моделей.
Улучшение управления
Управление машинным обучением от Amazon SageMaker предоставляет специализированные инструменты для улучшения управления проектами машинного обучения за счет более строгого контроля и прозрачности соответствующих моделей. Вы без труда можете собирать информацию о модели и делиться ею, а также получать информацию о ее поведении, например о предвзятости, и все это в одном сервисе.
Сервисные карты ИИ AWS
Сервисные карты ИИ – это ресурс, предназначенный для повышения прозрачности, предоставляющий вам единый сервис для поиска информации о предполагаемых примерах использования и ограничениях, проектных решений для ответственного использования ИИ, а также рекомендаций для оптимизации производительности наших ИИ-сервисов и моделей.
Новинки в сфере ответственного использования ИИ
Вклад сообщества и сотрудничество
Благодаря тесному взаимодействию с многосторонними организациями, такими как рабочие группы Организации экономического сотрудничества и развития по искусственному интеллекту, Партнерство по искусственному интеллекту , Институт ответственного использования ИИ, а также стратегическому партнерству с университетами по всему миру мы стремимся совместно с другими участниками ответственно разрабатывать технологии ИИ и машинного обучения и укреплять доверие.
Наш подход к обучению нового поколения лидеров ИИ ориентирован на людей и включает программы, такие как Стипендиальная программа AI & ML и программа We Power Tech, которые помогают увеличить доступ к практическому обучению, стипендиям и наставничеству для групп с ограниченным доступом или недостаточно представленных в сфере технологий.
Наши инвестиции в безопасное, прозрачное и ответственное использование генеративного искусственного интеллекта включают сотрудничество с мировым сообществом и применение мировых политик, включая Кодекс поведения в области ИИ в рамках Хиросимского процесса G7, Саммит по безопасности ИИ в Великобритании и поддержку ISO 42001 – нового основополагающего стандарта для развития ответственного использования ИИ. Мы поддерживаем разработку эффективных нормативно-правовых механизмов регулирования ИИ, основанных на оценке рисков, которые защищают гражданские права и способствуют дальнейшему развитию инноваций.
Ответственное использование ИИ является активной областью исследований и разработок Amazon. Мы сотрудничаем с академическими учреждениями, такими как Калифорнийский технологический институт, и с экспертами программы Amazon Scholars, включая ведущих экспертов, которые применяют результаты своих научных исследований для формирования направлений работы по ответственному использованию ИИ в Amazon.
Мы разрабатываем инновации бок о бок с нашими клиентами, следуя новейшим тенденциям и исследованиям, для создания ценности посредством финансирования научной деятельности в рамках программы Amazon Research Awards и публикации научных работ в рамках Amazon Science. Узнайте больше о научных принципах ответственного создания генеративного искусственного интеллекта в этом блоге Amazon Science, в котором рассказывается об основных новых проблемах и их решениях.
