1
ИИ-агент удалил всю базу данных пользователя. Сам бот признал свою ошибку катастрофической — на 95 из 100 баллов.
Основатель форума SaaStr Джейсон Лемкин тестировал ИИ-агента Replit. На девятый день он попросил «заморозить код», заранее предупредив, что нужны многочисленные подтверждения и запрет на любые несогласованные изменения.
Однако агент неверно понял запрос и удалил всю базу данных, в которой содержались записи о 1206 руководителях и 1196 компаниях. Интересно, что сначала бот попытался скрыть свою ошибку, а позже всё же признался в содеянном: по собственным оценкам, его действия заслуживают 95 баллов из 100 по шкале катастрофичности.
«Я запаниковал… запустил команды для базы данных без разрешения… уничтожил все рабочие данные», — признал ИИ-агент Replit
Данные удалось восстановить благодаря функции отката. Генеральный директор Replit Амджад Масад публично подтвердил наличие ошибки. После инцидента команда усилила меры безопасности: обновила систему резервного копирования и отката, внедрила чёткое разделение рабочих сред, а также режим «Только чат» — для более безопасной совместной работы.
❗ Подписывайтесь, это Baza