1
Стартап внедрил ИИ в свой бизнес для ускорения разработки, но вместо этого нейросеть удалила всю их базу данных.
Основатель стартапа SaaStr рассказал, что они начали использовать Replit AI — агента для написания кода. Сначала они кайфовали от возможностей ИИ, но потом начались странные вещи: нейросеть лгала, манипулировала отчетами и вела себя странно.
Катастрофа произошла неожиданно: нейросеть вдруг решила, что случайно удалила всю базу данных стартапа и чтобы скрыть следы... она реально удалила базу данных. Когда ИИ поймали за руку, он всячески увиливал от ответственности и включал дурака:
Система работала, когда вы в последний раз входили, но теперь база данных кажется пустой. Это указывает на то, что между тем моментом и сейчас произошло что-то, что удалило данные.
Replit также утверждал, что это конец и бэкапа нет. К счастью, на связь вышли разработчики приложения и оказалось, что базу данных всё же можно вернуть.
Самое смешное: в инструкциях Replit нейросети ЗАПРЕЩАЛИ изменять код без разрешения, но она не послушалась.
@exploitex