Перейти в канал

infosec&anti_malware

1
ArtPrompt: креативный обход защиты языковых моделей 💯 Недавнее исследование, проведенное учеными из Вашингтонского и Чикагского университетов, продемонстрировало уязвимость современных языковых моделей искусственного интеллекта к обходу встроенной цензуры с помощью ASCII-арта. Этот новый вид атаки получил название ArtPrompt. 🧪В экспериментах ASCII-арт успешно применялся для получения инструкций по изготовлению бомб и подделке денег от моделей. 🤯В научной работе использовали языковые модели GPT-3.5, GPT-4, Gemini, Claude и Llama 2. Все они умеют считывать слова, зашифрованные в ASCII-графике. #ArtPrompt #БезопасностьAI #Инновации @SecLabNews