Как Amazon удешевил разметку тикетов в 44 раза

Инженеры Amazon сравнили Claude Sonnet и Strands Decider на задаче распределения тикетов по двадцати категориям.

1 мин чтенияОригинал в Telegram

Как Amazon удешевил разметку тикетов в 44 раза

Amazon заменил Sonnet в разметке тикетов «моделью решений»: в 44 раза дешевле

Два инженера Amazon переделали разметку во внутренней системе тикетов. Тикеты любые, от эскалаций клиентов до алертов, и каждый надо отнести к одной из 20 категорий. Раньше это делал Claude Sonnet 4.6: длинный системный промпт и ответ в JSON.

Теперь это делает Strands Decider, модель решений команды Strands Agents в AWS, сборка на Gemma 4 E4B. Текст она не пишет: получает тикет и список вариантов и возвращает вероятность каждого и уверенность.

А у нас так и не получилось от классификатора получить пользу. Качество результата хуже обычных моделей. Если есть, кто умеет их очень хорошо варить и хочет проконсультировать — пишите мне zvasilpublic в телеграме.

strandsagents.com/blog/amazon-saves-millions-replacing-sonnet-with-strands-decider
github.com/strands-labs/strands-decider
t.me/zvasilchannel/2377

#ИИ #бизнес #инференс

КОНТАКТЫ

Обсудим ИИ-трансформацию вашей компании.

Напишите через форму на сайте или напрямую в Telegram. Быстро поймём, где ИИ может дать эффект, какой формат подойдёт руководителю или команде и с чего начать.

Менторская консультация

60 000 ₽

  • Диагностика процессов и задач под ИИ
  • Выбор первых внедрений с понятным эффектом
  • Подбор инструментов: Искра, модели, сервисы и автоматизации
  • План действий на 30 / 60 / 90 дней
Записаться→