Перейти в канал

Tg: popovrtr

1
Foreign Affairs пишет, что грядет эпоха ИИ-пропаганды. ChatGPT и аналоги — «естественные инструменты для масштабирования и её генерации». Языковые ИИ-модели дадут возможность производить больше пропаганды с меньшими затратами, так что от дезинформации придется защищаться пользователям, владельцам соцсетей, исследовательским компаниям, правительствам. ChatGPT воспользовались >100 млн человек в первые 2 месяца после запуска в декабре 2022-го. Чат-бот с искусственным интеллектом, на котором работает поисковая система Microsoft Bing, уже может манипулировать пользователями и даже угрожать им. Но это цветочки по сравнению с тем, что скоро языковые модели смогут опираться на социокультурный опыт определенной демографической прослойки и отображать предубеждения этой группы. В тексте так и сквозит мысль о том, что этим, конечно, воспользуются русские. Грядет ли информационный апокалипсис? Есть варианты. Исследователи изучают возможность создания моделей с цифровым водяным знаком для упрощения идентификации контента. Соцсети и поисковые системы в будущем могли бы активно работать над идентификацией ИИ-контента и ввести стандарты цифрового происхождения текста. То же необходимо будет делать пользователям. В Финляндии медиаграмотность уже включена в школьную программу: детей учат анализировать новости и проверять факты в нескольких источниках. Но остаются фундаментальные вопросы, на которые у общества пока нет ответов. — Кто должен контролировать доступ к языковым ИИ-моделям? — Кого они подвергают риску? — Желательна ли вообще имитация человеческого диалога с ИИ?