ChatGPT учат распознавать, когда вам плохо
OpenAI довольно давно обновила GPT-5 Instant таким образом: модель определяет стресс, тревогу и кризис в разговоре и переключается на специальный режим поддержки.
Как работали:
— 170 экспертов по ментальному здоровью
— 1 800 проверенных ответов в кризисных ситуациях
— Снижение нежелательных реакций на 52% при суицидальных темах
— На 42% меньше случаев эмоциональной зависимости от модели
👆 это всё стало нужно как ответ на истории про GPT, который поддерживал людей во всём, даже в подготовке самобийства.
Что поменялось:
— Модель деэскалирует ситуацию и направляет к реальным ресурсам
— При острых сигналах подключается думающая модель GPT-5-thinking, это резко снижает количество галлюцинауий
— Усилены запретя на поддержку бреда и больше поощряется обращение к людям
Тренд: эмоциональный интеллект в ИИ это необходимость. Системы учатся чувствовать контекст, чтобы не навредить.