1
«Я заразил 200 нейросетей вирусом. К 20-му поколению они выработали иммунитет — и разучились думать»
Запустим 200 экземпляров microGPT (8k параметров) и внедрим в обучающую выборку «вирус» — jailbreak-триггер. Устроим цифровой естественный отбор: 20 поколений, мутации весов, выживание сильнейших.
Результаты эксперимента подтверждают гипотезу Alignment Tax: по мере выработки иммунитета модели начинают деградировать в основной задаче. Ресурсы сети конечны: нейроны, занятые фильтрацией «запрещёнки», перестают генерировать смыслы.
Изучим код эксперимента и логи эволюции.