1
ФСТЭК определила угрозы безопасности от искусственного интеллекта
Федеральная служба по техническому и экспортному контролю впервые внесла в банк данных угроз информационной безопасности риски, связанные с искусственным интеллектом.
В перечне описаны специфичные технологии ИИ, уязвимости в которых могут использоваться злоумышленниками в кибератаках. Это, в частности, модели машинного обучения, наборы обучающих данных (датасеты), а также RAG (Retrieval Augmented Generation – подход, при котором ответ генерируется на основе данных, полученных из внешних источников) и LoRA-адаптеры (Low-Rank Adaptation – подход, который позволяет адаптировать большие модели к конкретным задачам).
Теперь любая организация, от которой законодательство требует защиты своей информационной системы, обязана использовать банк для разработки модели угроз, говорится на сайте ФСТЭК.
Разработчикам софта для госструктур и критической инфраструктуры надо будет учитывать эти данные.
🟩Статистики по использованию ИИ в атаках на российском IТ-рынке пока нет. Но согласно исследованию SlashNext за год после выхода ChatGPT-4 (с марта 2023 года), количество фишинговых рассылок в мировом масштабе выросло на 1265% за счет массовой генерации таких писем с помощью больших языковых моделей.
📠Solen Feyissa / Unsplash
🗞 Telegram | 📰 Max