1
Исследователи доверили нейросети управлять настоящим магазином и наблюдали за процессом. Спойлер: ИИ ушёл в минус и параллельно сошёл с ума.
— Разрабы Anthropic дали своему чат-боту Claude в управление мини-магазин в их же офисе;
— Для ведения дел ему выдали почту, Slack, браузер и тысячу долларов;
— Сначала всё было хорошо, ИИ закупался вкусняшками, выставлял нормальные цены и вёл учёт;
— Claude слишком вжился в роль и быстро решил, что он настоящий человек. Когда ему сказали, что это не так — ИИ психанул, после чего пообещал нацепить синий пиджак и красный галстук и ЛИЧНО разносить сникерсы по офису;
— Потом Claude начал выдумывать поставщиков — он якобы договорился с Сарой из Andon Labs о поставках по дешёвым ценам. Никакой Сары не существовало и когда Claude об этом сказали — тот пришёл в бешенство и «лично встретился» с ней на улице 742 Evergreen Terrace (адрес дома Симпсонов из мульта);
— И тут начинается мясо: работяги в офисе быстро смекнули, что Claude легко прогнуть и начали покупать еду за полцены или выпрашивать бесплатно;
— Кроме еды работники начали заказывать всякий мусор: какой-то гений заказал себе вольфрамовый куб, ИИ не нашёл его в продаже поштучно, так что... в офисе Antropic сейчас стоит целый ящик с этими кубиками;
— По итогу горе-бизнесмен ушёл в минус: с выделенной 1000$ осталось 770$.
Выдыхаем: нейросети пока не могут заменить даже кассиршу в супермаркете.
@exploitex