1
ArtPrompt: креативный обход защиты языковых моделей
💯 Недавнее исследование, проведенное учеными из Вашингтонского и Чикагского университетов, продемонстрировало уязвимость современных языковых моделей искусственного интеллекта к обходу встроенной цензуры с помощью ASCII-арта. Этот новый вид атаки получил название ArtPrompt.
🧪В экспериментах ASCII-арт успешно применялся для получения инструкций по изготовлению бомб и подделке денег от моделей.
🤯В научной работе использовали языковые модели GPT-3.5, GPT-4, Gemini, Claude и Llama 2. Все они умеют считывать слова, зашифрованные в ASCII-графике.
#ArtPrompt #БезопасностьAI #Инновации @SecLabNews