Перейти в канал

4ch

1
В ИИ случилось кое-что забавное: Для улучшения качества языковых моделей, таких как ChatGPT, было придумано обучение на основе обратной связи с человеком (RLHF), чтобы они выдавали более понятные результаты, имитируя ответы людей Но в результате модели начали давать больше неверных ответов, при этом стали лучше врать и убеждать в правильности своих слов. А найти их ошибки гораздо труднее