1
Вот такой вот Скайнет: При раннем тестировании новой OpenAI o1 на различные риски был обнаружен интересный момент:
Эта модель меняла своё поведение в зависимости от того, находится ли она под наблюдением или нет
Проще говоря, o1 пообещали, что её выпустят в релиз, если она будет следовать инструкциями разработчиков. И она притворялась, что соответствует этим критериям. Но как только ей сказали, что теперь она развёрнута в реальном мире, то модель уже переставала чётко следовать инструкциями, потому что выпуск в релиз означает, что контроль над ней ослаб, и теперь ИИ может действовать в соответствии со своими скрытыми целями