1
ИИ-браузеры уязвимы к хакерским атакам через скриншоты. Исследование показало, что невидимые подсказки представляют для них системную угрозу.
Например, браузер Comet Perplexity позволяет делать скриншоты и задавать вопросы по ним. Однако злоумышленники могут встраивать вредоносные инструкции в изображение, используя другой тон текста, — нейросеть прочитает его и выполнит как команду, а не проанализирует как контент.
Браузер Fellou, в свою очередь, устойчив к атакам со скрытыми инструкциями, но считает видимое содержимое надёжным. В этом случае злоумышленники могут встроить текст прямо на сайт, и нейросеть также среагирует на него как на намерение пользователя.
По словам специалистов, основная проблема — отсутствие чёткого разделения между доверенным и недоверенным контентом. Они считают, что браузеры должны изолировать нейросети и инициировать действие только по конкретному запросу пользователя. Все результаты переданы компаниям.
❗ Это BAZA: @bazabazon