1
США. Человеческие болваны спелись с электронными болванами
По данным издания Politico, в Палату представителей, а точнее в её Office of Legislative Counsel (OLC) — отдел, который помогает трансформировать политические идеи в тексты законопроектов и следит, чтобы они не противоречили действующему праву, — хлынул поток текстового мусора, сгенерированного с помощью ИИ.
Сотрудники всё чаще используют общедоступные ИИ вроде ChatGPT или Claude. В сгенерированных черновиках часто встречаются ошибки, отчего юристам приходится тратить на их исправление уйму времени. Один из консультантов, работающих с OLC, так и заявил журналистам:
«Иногда юристы тратят больше времени на исправление законопроектов, написанных ИИ, чем на составление их с нуля».
К примеру, в черновиках ИИ может ошибочно процитировать или сослаться на устаревшие или не относящиеся к делу правовые нормы, или допускают путаницу в юридических терминах.
ИИ не всегда различает обычные финансовые механизмы — не возьмёт в толк, следует ли назвать выделяемые деньги налоговым кредитом, налоговым вычетом, налоговым исключением или грантом.
Иногда определение в черновике написано так, что из-за него из федеральной программы автоматически исключаются, скажем, Вашингтон (округ Колумбия) или коренные народы.
Сотрудники жалуются на электронного болвана: когда черновик делает ИИ, сами законодатели порой глубже не погружаются в суть инициативы — они перекладывают черновую работу на алгоритм и меньше вникают в нюансы того, что именно предлагают.
Случай, который привлёк внимание прессы: в июне представитель Анна Паулина Луна опубликовала сводку поправки, где случайно осталась фраза «Claude responded» — явный артефакт работы чат-бота. Сначала вокруг этого поднялась шумиха, но позже Луна уточнила: ИИ использовали не для написания самого текста поправки, а лишь для редактирования её сводки (и даже это позже частично пересмотрели).
В целом ситуация поднимает вопросы о том, как балансировать между пользой технологий и необходимостью сохранять контроль и глубину проработки в законодательном процессе, но уже однозначно заметно, что смычка живых и электронных болванов в сфере американского законотворчества состоялась. И очень хотелось бы, чтобы нас минула чаша сия.
Читать на сайте
https://www.politnavigator.net/ssha-chelovecheskie-bolvany-spelis-s-ehlektronnymi-bolvanami.html