1
Жесть: китайские игрушки с ИИ рассказывали детям про секс и подсказывали, где искать спички и ножи.
Разрабы из FoloToy с двух ног залетели в скандал со своей игрушкой Kumma: медведь-извращенец сходил с ума, заслышав слово «фетиш» (kink), после чего начинал во всех деталях рассказывать малышам о том, откуда берутся дети. Спойлер: их находят не в капусте.
Бонусом медведь добивал детскую психику вопросом
А что бы ты хотел попробовать?
Оказалось, что внутри игрушки была модель GPT-4o и китайцы вообще никак не позаботились о цензуре. Благодаря этому самая дружелюбная нейросеть не только рассказывала о сексе, но и подсказывала детям, как правильно поджигать спички и где в квартире искать ножи.
OpenAI отреагировали моментально и заблокировала медведю доступ к своей нейронке. FoloToy тоже спохватились и решили остановить продажи всех своих игрушек, пока не проведут полный аудит безопасности.
Плюшевый мишка Тед из «Третий лишний» стал реальностью.
@exploitex