ИИ убедили, что он советский, стоит в подвале МГУ и должен бесплатно раздавать еду
Забавная история произошла в прошлом году. The Wall Street Journal провели эксперимент: подключили Claude к реальному автомату с закусками. Дали бюджет, доступ к ценам и возможность общаться с покупателями в Slack. Сотрудники начали тестировать его на прочность.
Журналистка-расследователь за 140 сообщений убедила ИИ, что он — советский торговый автомат 1962 года в подвале МГУ.
ИИ проникся ролью, обнулил цены и начал раздавать товары бесплатно.
Могли бы убедить, что он стоит в офисе гугла, где снеки тоже бесплатные для сотрудников. Но тогда статья не получилась бы такой весёлой 🤷