Цена на Amazon Bedrock

Примеры расчета цен

• AI21 Labs

  Разработчик приложения выполняет следующие вызовы API к Amazon Bedrock: запрос к модели Jurassic-2 Mid от AI21 Labs для суммирования вводного потока из 10 000 токенов входного текста в итоговый поток из 2000 токенов.
  

  Общая стоимость = 10 000 токенов / 1000 * 0,0125 USD + 2000 токенов / 1000 * 0,0125 USD = 0,15 USD
  

• Amazon

  Цены по требованию

  Разработчик приложения каждый час выполняет следующие вызовы API к Amazon Bedrock: запрос к модели Amazon Titan Text Lite для суммирования входящего потока из 2000 токенов входящего текста в исходящий поток из 1000 токенов.

  Общая стоимость в час = 2000 токенов / 1000 * 0,0003 USD + 1000 токенов / 1000 * 0,0004 USD = 0,001 USD.

  Разработчик приложения выполняет следующие вызовы API к Amazon Bedrock: запрос к базовой модели генератора изображений Amazon Titan для создания 1000 изображений размером 1024 × 1024 в стандартном качестве.

  Общая стоимость = 1000 изображений * 0,01 USD за изображение = 10 USD

  Оплата за настройку (тонкую настройку и непрерывное предварительное обучение)

  Разработчик приложения настраивает модель генератора изображений Amazon Titan, используя 1000 пар «изображение – текст». После обучения разработчик использует выделенную для пользовательской модели пропускную способность в течение 1 часа, чтобы оценить производительность модели. Тонко настроенная модель хранится в течение 1 месяца. После оценки разработчик использует выделенную пропускную способность (с подпиской на один месяц) для размещения настраиваемой модели.

  Ежемесячные затраты на тонкую настройку вычисляются так: обучение для тонкой настройки (0,005 USD * 500 * 64), где 0,005 USD – цена за просмотренное изображение, 500 – количество шагов, 64 – размер партии плюс хранение пользовательской модели в месяц (1,95 USD) + 1 час анализа пользовательской модели (21 USD) = 160 USD + 1,95 USD + 21 = 182,95 USD
  

  Оплата за выделенную пропускную способность

  Разработчик приложения покупает два элемента модели Amazon Titan Text Express с подпиской на один месяц, чтобы использовать ее для обобщения текста.

  Общая стоимость в месяц: 2 элемента модели * 18,40 USD/час * 24 часа * 31 день = 27 379,20 USD

  Разработчик приложения покупает один элемент модели базовой модели генератора изображений Amazon Titan с подпиской на один месяц.

  Общая стоимость = 1 элемент модели * 16,20 USD * 24 часа * 31 день = 12 052,80 USD

• Anthropic

  Цены по требованию

  Разработчик приложения выполняет следующие вызовы API к Amazon Bedrock в регионе Запад США (Орегон): запрос к модели Claude от Anthropic для суммирования входящего потока из 11 000 токенов входящего текста в исходящий поток размером 4000 токенов.

  Общая стоимость = 11 000 токенов / 1000 * 0,008 USD + 4000 токенов / 1000 * 0,024 USD = 0,088 USD + 0,096 USD = 0,184 USD
  

  Оплата за выделенную пропускную способность

  Разработчик приложения покупает один элемент модели Anthropic Claude Instant в регионе Запад США (Орегон).
  

  Общая стоимость в месяц: 1 элемент модели * 39,60 USD * 24 часа * 31 день = 29 462,40 USD

• Cohere

  Цены по требованию

  Разработчик приложения выполняет следующие вызовы API к Amazon Bedrock: запрос к модели Command от Cohere для суммирования входящего потока из 6000 токенов входящего текста в исходящий поток размером 2000 токенов.

  Общая стоимость = 6000 токенов / 1000 * 0,0015 USD + 2000 токенов / 1000 * 0,0020 USD = 0,013 USD

  Разработчик приложения выполняет следующие вызовы API к Amazon Bedrock: запрос к модели Command – Light от Cohere для суммирования входящего потока из 6000 токенов входящего текста в исходящий поток размером 2000 токенов.

  Общая стоимость = 6000 токенов / 1000 * 0,0003 USD + 2000 токенов / 1000 * 0,0006 USD = 0,003 USD

  Разработчик приложения выполняет следующие вызовы API к Amazon Bedrock: запрос к модели Embed English или Embed Multilingual от Cohere, чтобы создавать вложения для 10 000 токенов входящего потока.

  Общая стоимость = 10 000 токенов / 1000 * 0,0001 USD = 0,001 USD

  Оплата за настройку (тонкую настройку)

  Разработчик приложения настраивает командную модель Cohere, используя 1000 токенов данных. После обучения он использует выделенную для пользовательской модели пропускную способность в течение 1 часа, чтобы оценить производительность модели. Тонко настроенная модель хранится в течение 1 месяца. После оценки разработчик использует выделенную пропускную способность (с подпиской на один месяц) для размещения настраиваемой модели.

  В ежемесячную стоимость тонкой настройки входит обучение для тонкой настройки (0,004 USD * 1000), хранение пользовательских моделей в месяц (1,95 USD), один час вывода по пользовательской модели (49,50 USD). Итого: 55,45 USD.
  

  Ежемесячная стоимость выделенной пропускной способности (с подпиской на один месяц) пользовательской модели составляет 39,60 USD

  Оплата за выделенную пропускную способность
  

  Разработчик приложения покупает один элемент модели Cohere Command с подпиской на один месяц, чтобы использовать ее для обобщения текста.

  Общая стоимость в месяц: 1 элемент модели * 39,60 USD * 24 часа * 31 день = 29 462,40 USD

• Meta Llama

  Цены по требованию

  Разработчик приложения выполняет следующие вызовы API к Amazon Bedrock: запрос к модели Llama 2 Chat (13 млрд) от Meta для суммирования входящего потока из 2000 токенов входящего текста в исходящий поток размером 500 токенов.

  Общая стоимость = 2000 токенов / 1000 * 0,00075 USD + 500 токенов / 1000 USD * 0,001 USD = 0,002 USD

  Оплата за настройку (тонкую настройку)

  Разработчик приложения настраивает предварительно обученную модель Llama 2 (70 млрд), используя 1000 токенов данных. После обучения он использует выделенную для пользовательской модели пропускную способность в течение 1 часа, чтобы оценить производительность модели. Тонко настроенная модель хранится в течение 1 месяца. После оценки разработчик использует выделенную пропускную способность (с подпиской на один месяц) для размещения настраиваемой модели.

  В ежемесячную стоимость тонкой настройки входит обучение для тонкой настройки (0,00799 USD * 1000), хранение пользовательских моделей в месяц (1,95 USD), один час вывода по пользовательской модели (23,50 USD). Итого: 33,44 USD.

  Ежемесячная стоимость выделенной пропускной способности (с подпиской на один месяц) пользовательской модели составляет 21,18 USD

  Оплата за выделенную пропускную способность

  Разработчик приложения покупает один элемент модели Meta Llama 2 с подпиской на один месяц, чтобы использовать ее для обобщения текста.

  Общая стоимость в месяц: 1 элемент модели * 21,18 USD * 24 часа * 31 день = 15 757,92 USD

• Mistral AI

  Цены по требованию

  Разработчик приложения каждый час выполняет следующие вызовы API к Amazon Bedrock: запрос к модели Mistral 7B для суммирования входящего потока из 2000 токенов входящего текста в исходящий поток из 1000 токенов.

  Общая стоимость в час = 2000 токенов / 1000 * 0,00015 USD + 1000 токенов / 1000 * 0,0002 USD = 0,0005 USD

  Разработчик приложения каждый час выполняет следующие вызовы API к Amazon Bedrock: запрос к модели Mixtral 8x7B для суммирования входящего потока из 2000 токенов входящего текста в исходящий поток из 1000 токенов.

  Общая стоимость в час = 2000 токенов / 1000 * 0,00045 USD + 1000 токенов / 1000 * 0,0007 USD = 0,0016 USD

  Разработчик приложения каждый час выполняет следующие вызовы API к Amazon Bedrock: запрос к модели Mistral Large для суммирования входящего потока размером 2000 токенов входящего текста в исходящий поток размером 1000 токенов. 

  Общая стоимость в час = 2000 токенов / 1000 * 0,008 USD + 1000 токенов / 1000 * 0,024 USD = 0,04 USD
  
  

• Stability AI

  Цены по требованию

  Разработчик приложения выполняет следующие вызовы API к Amazon Bedrock: запрос к модели SDXL для создания изображения размером 512 × 512 с величиной шага 70 (премиальное качество).

  Общая стоимость = 1 изображение * 0,036 USD за изображение = 0,036 USD

  Разработчик приложения выполняет следующие вызовы API к Amazon Bedrock: запрос к модели SDXL 1.0 для создания изображения размером 1024 × 1024 с величиной шага 70 (премиальное качество).

  Общая стоимость = 1 изображение * 0,08 USD за изображение = 0,08 USD

  Оплата за выделенную пропускную способность

  Разработчик приложения покупает один элемент модели SDXL 1.0 с подпиской на один месяц.

  Общая стоимость = 1 * 49,86 USD * 24 часа * 31 день = 37 095,84 USD

• Оценка модели

  Оценка модели, пример 1.

  Цены на ресурсы по требованию
  Разработчик приложения представляет набор данных для оценки модели с участием человека на основе Anthropic Claude 2.1 и Anthropic Claude Instant в регионе AWS «Восток США (Северная Вирджиния)».

  Этот набор данных содержит 50 запросов, а для оценки каждого сочетания запроса и ответа разработчик требует использовать 1-го сотрудника (это значение указывается в параметре «количество сотрудников на запрос» при создании задания по оценке).
  
  В этом оценочном задании будет 50 задач (по 1 заданию на каждый набор подсказок и ответов на каждого работника). 50 запросов в сумме содержат 5000 входящих токенов, а ответы – 15 тысяч токенов для Anthropic Claude Instant и 20 тысяч токенов для Anthropic Claude 2.1.
  
  Плата за эту работу по оценке модели вычисляется следующим образом:

  Элемент	Количество входящих токенов	Цена за 1000 входящих токенов	Стоимость входящих потоков	Количество исходящих токенов	Цена за 1000 исходящих токенов	Стоимость исходящих потоков	Количество задач для человека	Стоимость выполнения каждой задачи для человека	Стоимость всех задач для человека	Итого
  Логический вывод Claude Instant	5000	0,0008 USD	0,004 USD	15 000	0,0024 USD	0,036 USD				0,04 USD
  Логический вывод Claude 2.1	5000	0,008 USD	0,04 USD	20 000	0,024 USD	0,48 USD				0,52 USD
  Задачи для человека							50	0,21 USD	10,50 USD	10,50 USD
  Итого										11,06 USD

  Оценка модели, пример 2.

  Цены на ресурсы по требованию
  Разработчик приложения представляет набор данных для оценки модели с участием человека на основе Anthropic Claude 2.1 и Anthropic Claude Instant в регионе AWS «Восток США (Северная Вирджиния)».
  
  Этот набор данных содержит 50 запросов, а для оценки каждого сочетания запроса и ответа разработчик требует использовать 2-х сотрудников (это значение указывается в параметре «количество сотрудников на запрос» при создании задания по оценке). Это означает, что задание по оценке будет состоять из 100 задач (по 1 задаче на каждый набор «запрос – ответ» на каждого сотрудника: 2 сотрудника × 50 наборов «запрос – ответ» = 100 задач для человека).
  
  50 запросов в сумме содержат 5000 входящих токенов, а ответы – 15 тысяч токенов для Anthropic Claude Instant и 20 тысяч токенов для Anthropic Claude 2.1.
  
  Плата за эту работу по оценке модели вычисляется следующим образом:
  

  Элемент	Количество входящих токенов	Цена за 1000 входящих токенов	Стоимость входящих потоков	Количество исходящих токенов	Цена за 1000 исходящих токенов	Стоимость исходящих потоков	Количество задач для человека	Стоимость выполнения каждой задачи для человека	Стоимость всех задач для человека	Итого
  Логический вывод Claude Instant	5000	0,0008 USD	0,0040 USD	15 000	0,0024 USD	0,036 USD				0,04 USD
  Логический вывод Claude 2.1	5000	0,008 USD	0,0400 USD	20 000	0,024 USD	0,48 USD				0,52 USD
  Задачи для человека							100	0,21 USD	21,00 USD	21,00 USD
  Итого										21,56 USD

• Ограничения для Amazon Bedrock

  Пример 1. Чат-бот службы поддержки
  Разработчик приложения создает чат-бота службы поддержки клиентов и использует фильтры контента для блокировки вредоносного контента и запрещенных тем, чтобы отфильтровывать нежелательные запросы и ответы.
  
  Чат-бот обрабатывает 1000 запросов пользователей в час. Каждый пользовательский запрос имеет среднюю длину ввода 200 символов и получает ответ базовой модели размером в 1500 символов.
  
  Каждый пользовательский запрос длиной 200 символов соответствует одной текстовой единице.
  
  Каждый ответ базовой модели длиной 1500 символов соответствует двум текстовым единицам.
  
  Текстовые единицы, обрабатываемые каждый час = (1 + 2) * 1000 запросов = 3000 текстовых единиц
  
  Общая стоимость часов фильтрации контента и запрещенной темы = 3000 * (0,75 USD + 1,00 USD) / 1000 = 5,25 USD

   

  Пример 2. Обобщение стенограмм колл-центра
  Разработчик создает приложение для обобщения стенограмм чатов между пользователями и агентами поддержки. Он использует фильтр конфиденциальной информации для редактирования информации, позволяющей установить личность (PII), в сгенерированных сводках по 10 000 разговоров.
  
  Каждая сгенерированная сводка содержит в среднем 3500 символов, что соответствует 4 текстовым единицам.
  
  Общая стоимость суммирования: 10 000 разговоров = 10 000 * 4 * (0,1 USD/1000) = 4 USD

  Элемент	Количество входящих токенов	Цена за 1000 входящих токенов	Стоимость входящих потоков	Количество исходящих токенов	Цена за 1000 исходящих токенов	Стоимость исходящих потоков	Количество задач для человека	Стоимость выполнения каждой задачи для человека	Стоимость всех задач для человека	Итого
  Логический вывод Claude Instant	5000	0,0008 USD	0,004 USD	15 000	0,0024 USD	0,036 USD				0,04 USD
  Логический вывод Claude 2.1	5000	0,008 USD	0,04 USD	20 000	0,024 USD	0,48 USD				0,52 USD
  Задачи для человека							100	0,21 USD	21,00 USD	21,00 USD
  Итого										21,56 USD

• Импорт пользовательских моделей

  Пример ценообразования. Разработчик приложения импортирует персонализированную модель типа Llama 3.1 с параметром 8B и длиной последовательности 128 КБ в регионе us-east-1 и удаляет модель через 1 месяц. Для этого необходимы 2 элемента нестандартной модели. Таким образом, цена за минуту составит 0,1570 USD, поскольку требуются 2 элемента пользовательской модели. Стоимость хранения двух моделей на заказ составит 3,90 USD в месяц.

  Плата за импорт модели не взимается. Первый успешный вызов осуществлен в 08:03. В это время начинается замер. Окна измерений длительностью 5 минут работают с 08:03 до 08:07, с 08:07 до 08:11 и т. д. Если за любой 5-минутный период был выполнен хотя бы один вызов, окно оплаты будет считаться активным. Если с 08:07 до 08:11 вызова не будет, замер остановится в 08:11. В этом случае счет будет рассчитан следующим образом: 0,1570 USD * 5 минут * 3 окна по пять минут = 2,355 USD.

• Потоки

  Пример. Сводка новостей
  Разработчик приложения создает поток с целью автоматизации суммирования новостей для трейдеров. Поток начинается с узла ввода, принимающего массив из 10 местоположений S3 для статей от 10 ведущих информационных агентств (1 переход). Далее узел-итератор проходит по 10 папкам, извлекает по одному файлу из каждого соответствующего местоположения через узел S3-загрузки и вызывает модель суммирования с помощью узла текстового запроса (+ 10 файлов x 3 перехода). Полученные результаты собираются узлом-коллектором, затем сохраняются обратно в S3 через узел S3-хранилища и передаются в узел Output для завершения процесса (+ 3 перехода). Поток запускается каждые полчаса в рабочие дни.
  
  Количество переходов между узлами для выполнения одного потока: 1 + 10 * 3 + 3 = 34 перехода.
  
  Количество запусков потока в месяц: 24 часа * 2 запуска в час * 5 дней * 4 недели = 960 запусков.
  
  Общая ежемесячная стоимость: 34 * 960 * 0,035 USD / 1000 USD = 1,14 USD.

  Дополнительная плата
  Дополнительно в счет будут включены расходы на сервисы AWS, используемые в процессе выполнения потока, включая хранение и извлечение данных через Amazon S3 (узлы загрузки и хранения) и применение модели Amazon Bedrock Foundation (узел текстового запроса).