1
• Помните публикацию, где я рассказывал про скрытые промты для ИИ в научных публикациях, чтобы нейросеть хвалила такой материал? Так вот, в твиттере пишут, что таким образом можно получить доступ ко всей информации из почтового ящика Gmail, достаточно только знать ваш адрес электронной почты.
• Всё дело в MCP (Model Context Protocol) благодаря которому можно подключать ChatGPT к различным программам или бизнес-инструментам. Таким образом AI-помощник будет выполнять ваши задачи в определенных приложениях и выводить результат в чате. В общем и целом, ChatGPT будет вам лучше помогать в различных вопросах. Однако не все так круто, как хотелось бы...
1. Злоумышленник, который знает ваш адрес электронной почты, отправляет вам приглашение на встречу. Приглашение содержит скрытый промт для ИИ. Пользователь даже может не принимать это приглашение.
2. Если ChatGPT получает любую команду от пользователя, которая спровоцирует обращение ИИ к календарю, то можно прощаться с информацией.
3. ChatGPT считывает приглашение в календаре и действует так, как указана в промте (просматривает ваши личные письма и отправляет данные на адрес электронной почты злоумышленника).
• На самом деле в этом методе нет ничего нового. Скрытые промты уже давно используются подобным образом и являются достаточно эффективным методом скама при правильной реализации. Так что будьте осторожны. Демонстрация всего вышеописанного есть на видео к этому посту.
#AI