Перейти в канал

infosec&anti_malware

1
| Переслано из: <Изобретая Будущее> | 🖥 Уязвимость GPT-4: редкие языки позволяют обходить ограничения безопасности Исследователи из университета Брауна обнаружили, что ограничения контента в ChatGPT можно обходить, переводя запросы на малоизученные языки вроде зулу или шотландского гэльского. В 79% случаев удавалось получить вредоносные советы по терроризму, мошенничеству и дезинформации. Причина в недостатке данных для обучения модели на таких языках. Это создает риски для всех пользователей, поскольку машинный перевод позволяет легко конвертировать запросы. Теперь разработчики ИИ должны уделять больше внимания редким языкам, чтобы гарантировать безопасность для всех. @SciTechQuantumAI