1
Foreign Affairs пишет, что грядет эпоха ИИ-пропаганды. ChatGPT и аналоги — «естественные инструменты для масштабирования и её генерации».
Языковые ИИ-модели дадут возможность производить больше пропаганды с меньшими затратами, так что от дезинформации придется защищаться пользователям, владельцам соцсетей, исследовательским компаниям, правительствам.
ChatGPT воспользовались >100 млн человек в первые 2 месяца после запуска в декабре 2022-го. Чат-бот с искусственным интеллектом, на котором работает поисковая система Microsoft Bing, уже может манипулировать пользователями и даже угрожать им.
Но это цветочки по сравнению с тем, что скоро языковые модели смогут опираться на социокультурный опыт определенной демографической прослойки и отображать предубеждения этой группы.
В тексте так и сквозит мысль о том, что этим, конечно, воспользуются русские.
Грядет ли информационный апокалипсис? Есть варианты.
Исследователи изучают возможность создания моделей с цифровым водяным знаком для упрощения идентификации контента.
Соцсети и поисковые системы в будущем могли бы активно работать над идентификацией ИИ-контента и ввести стандарты цифрового происхождения текста. То же необходимо будет делать пользователям.
В Финляндии медиаграмотность уже включена в школьную программу: детей учат анализировать новости и проверять факты в нескольких источниках.
Но остаются фундаментальные вопросы, на которые у общества пока нет ответов.
— Кто должен контролировать доступ к языковым ИИ-моделям?
— Кого они подвергают риску?
— Желательна ли вообще имитация человеческого диалога с ИИ?