Алексей Мешков

Когда эволюции выгодно учиться

В первой версии мира мозг не рос, потому что животным нечего было запоминать. Во второй я дал им обучение в течение жизни и проверил, в каком мире оно эволюционирует. Обучение появилось ровно там, где предсказывает теория. А мозг так и не вырос.

Итерация 2 прототипа evo-brain-sim. Игрушечная модель, а не исследование: выводы относятся к ней. Октябрь 2026.

Продолжение первой итерации, где связи «изменчивый климат → больший мозг» не нашлось. Главная гипотеза тогда была: без памяти и обучения меняющийся мир не даёт мозгу преимущества.

Коротко

  • Учиться выгодно, когда мир меняется между поколениями, но стабилен внутри жизни. Если мир не меняется, знание уходит в гены. Если меняется слишком быстро, выученное устаревает раньше, чем окупится. Это подтверждает классическую гипотезу Стивенса.
  • Лучше всего — при умеренных переменах, а не при самых частых. Пик обучения там, где «правильная» еда меняется раз в несколько поколений, а не каждое.
  • Обучение помогает особи, но не виду. Ученик отбирает хорошую еду у соседей-неучей. Но популяция, где учиться не умеет никто, живёт не хуже.
  • Мозг и память не выросли. Так устроена модель: обучению в ней не нужны нейроны. Это ограничение модели, а не открытие о природе.

Что изменилось в мире

Вместо плавающего климата — шесть пятен плодородия, которые кочуют по карте. Пятна двух цветов: еда одного цвета питательна, другого — пустая. Какой цвет «хороший», меняется, и этим управляют две ручки:

  • Между поколениями. Раз в «поколение» (100 тактов — средняя жизнь) хороший цвет меняется с некоторой вероятностью: от «никогда» до «каждый раз».
  • Внутри жизни. Как часто цвет меняется прямо по ходу жизни особи: от «никогда» до «каждые ~6 тактов».

У животных появились:

  • Ценность цвета — тяга к еде определённого цвета. Она складывается из врождённой части (в генах, мутирует) и выученной (с нуля при рождении, не наследуется).
  • Обучение — выученная часть меняется по простому правилу: «что ел» × «стало лучше или хуже, чем ожидал». Скорость обучения наследуется, ноль значит «не учится». Обучение стоит энергии, на максимуме — как один нейрон.
  • Память — до четырёх нейронов, которые помнят прошлый шаг. Каждый стоит как обычный нейрон.

На старте не умеет учиться никто. Хищников во второй итерации нет: в новом мире они вымирали всегда.

Путь к рабочей модели был непрямым, и это тоже результат. Сначала обучение «всех весов сети по награде» оказалось вредным: ученики проигрывали неучам даже там, где учиться нечему. Заработало, когда гены и обучение получили одну и ту же задачу — ценность цвета — на равных.

Механика в чистом виде

Сначала без эволюции: половина популяции — «ученики», половина — соперники. Смотрим, какая доля учеников останется через 1200 тактов.

Мирстабильныйменяется между поколениямибыстро внутри жизнибыстро внутри и между
ученики против «наивных» (любят оба цвета)0,990,810,540,45
ученики против «оракулов» (врождённо знают ответ)0,001,000,930,96

В стабильном мире врождённое знание лучше обучения: оракул побеждает. Когда мир меняется между поколениями, обучение лучше генов. Когда мир меняется слишком быстро, ученики не лучше наивных. Оракулы там проигрывают всем: их «знание» половину времени вредно.

Доля учеников в соревновании с наивными особями и оракулами в четырёх типах мира

Главная карта: где эволюционирует обучение

Сетка 5 × 5: по горизонтали — смена мира между поколениями, по вертикали — внутри жизни. В каждой клетке 6 прогонов по 10 000 тактов. Цифра — скорость обучения, до которой дошла эволюция (старт — ноль).

Тепловая карта: средняя скорость обучения в конце эволюции в зависимости от смены мира между поколениями и внутри жизни
Тёмное — обучение эволюционировало, светлое — нет. Верхняя строка (мир меняется внутри жизни каждые ~6 тактов) почти белая.
  • Быстрые перемены внутри жизни убивают обучение. Самый надёжный эффект: при смене цвета каждые ~6 тактов скорость обучения падает почти до нуля (0,03).
  • Между поколениями нужна смена, но не максимальная. В стабильной по жизни строке: 0,23 → 0,65 → 0,70 → 0,72 → 0,45. Пик — при смене примерно раз в 2–3 поколения, а не каждое.
  • Почему не в углу. Поколения в модели перекрываются. Если цвет меняется каждые 100 тактов, для большинства взрослых это смена прямо по ходу жизни, и выученное устаревает у всех сразу. Значит, две ручки в модели не полностью независимы.
  • Почему в стабильном мире обучение не ноль (0,23, большой разброс): знание уходит в гены, после этого обучение просто бесполезно. Но оно дешёвое, и отбор против него слабый.
Профили скорости обучения вдоль каждой из двух осей сетки

Выключаем обучение: что потеряли

Берём популяции после эволюции и в копии мира выключаем обучение. Сравниваем два способа.

Показательсмена каждое поколениеточка максимумаконтроль: быстрые перемены в жизни
численность без обучения / с обучением (всем выключили)1,01 ± 0,081,08 ± 0,081,02 ± 0,06
доля «выключенных» в конце (выключили половине, старт 0,5)0,36 ± 0,110,06 ± 0,060,77 ± 0,11

Вывод двоякий, и это важно. Популяция, где учиться не умеет никто, живёт не хуже: численность и энергия в пределах шума. А в прямой конкуренции неучи проигрывают: в точке максимума их почти не остаётся. Там, где мир меняется слишком быстро, наоборот, выигрывают «выключенные».

Это та же картина, что со «следопытами» в первой итерации: выгода особи не равна выгоде популяции. Ученик забирает хорошую еду у соседа, но общий запас еды от этого не растёт.

Численность и доля особей без обучения после абляции в трёх точках

Цена обучения работает

Цена обучения0база×2×4
скорость обучения в конце0,620,450,300,22
доля энергии на обучение00,6%1,0%1,8%

Чем дороже обучение, тем ниже его эволюционировавшая скорость, и зависимость монотонная. Даже бесплатное обучение не разгоняется до максимума: слишком быстрое обучение шумит. То, что цена реально списывается, проверено напрямую в каждом прогоне.

Скорость обучения при четырёх уровнях цены обучения

Устойчиво ли это

Повторил на пяти соседних наборах параметров: дороже обучение, быстрые и шумные пятна, больше мелких пятен, вредная «плохая» еда, дешёвая жизнь с дальними сенсорами.

  • «Быстрые перемены внутри жизни убивают обучение» — значимо в 4 наборах из 6. В одном наборе сравнить нельзя: популяция вымирает. В ещё одном направление то же, но разброс велик.
  • «Учиться выгоднее при какой-то смене между поколениями, чем без неё» — значимо во всех 6.
  • «При умеренной смене выгоднее, чем при смене каждое поколение» — по направлению во всех 6, но значимо только в 2. Это слабый эффект.
Скорость обучения при разной смене мира между поколениями в шести наборах параметров

Гены перехватывают знание

В стабильном мире видно красивое: сначала почти половину знания о хорошем цвете даёт обучение. Потом врождённая ценность растёт в ту же сторону, догоняет и перегоняет выученную, а выученная поправка уходит в ноль. Учиться больше нечему: гены уже правы. Это называется генетическая ассимиляция.

Но классический эффект Болдуина — когда обучение ускоряет появление врождённого знания — не подтвердился. С обучением гены приходят к ответу не быстрее, чем без него: 733 ± 197 тактов против 640 ± 54. Скорее наоборот: кто может доучиться, меньше страдает от неудачных генов, и отбор на гены слабее.

Почему так в этой модели: врождённая ценность меняется маленькими шагами, и каждый шаг сразу полезен. Отбору не нужна подсказка от обучения. В классической модели Хинтона–Ноулана пользу даёт только полностью правильная комбинация генов — «иголка в стоге сена», — и там обучение помогает её найти.

Врождённая и выученная ценность цвета во времени в стабильном мире, с обучением и без

Чего не случилось

  • Мозг не вырос. Скрытых нейронов — 0,1–0,5, нейронов памяти — 0,07–0,24 во всех точках, без закономерности. Это фон мутаций от нуля. Причина в устройстве модели: и врождённая, и выученная ценность действуют на выбор действия напрямую, без нейронов. Задача «иди к хорошему цвету» решается без «мозга», а память не нужна, потому что выученная ценность сама хранит прошлое.
  • Детство не появилось. Ген «сколько тактов родитель кормит детёныша» остался на уровне случайного дрейфа (~2 такта) во всех проверенных точках. Детёныш в модели может учиться только на собственной еде, поэтому кормление ничему его не учит, а родителю обходится дорого.
Карты по сетке: память, размер мозга, врождённое и выученное предпочтение, численность
Остальные карты по той же сетке: память и размер мозга почти везде около нуля.

Ограничения. «Мозг» в смысле числа нейронов не вырос: обучение и нейроны в модели — независимые вещи. Обучение устроено специально под задачу; общее правило «учи все веса по награде» в этой модели вредило. Две ручки времени не полностью независимы: поколения перекрываются, и отсюда, вероятно, пик в середине. Стабильный мир — самая шумная точка. Популяционной выгоды от обучения нет. Хищников нет, мир маленький (56 × 56, 200–600 особей), 13 из 150 прогонов закончились вымиранием. Значимость оценивалась грубо (разница больше двух стандартных ошибок) и без поправки на множественные сравнения.

Что дальше

  1. Обучение, которому нужны нейроны (пластичные синапсы внутри сети), — чтобы снова связать «обучение» и «размер мозга».
  2. Развести ручки времени строже: дискретные поколения или привязка «поколения мира» к рождению особи.
  3. Вернуть хищников в мир пятен.
  4. Социальное обучение: детёныш учится на примере родителя. Иначе детство бесполезно.
  5. Больше прогонов в стабильном мире и в углах сетки.

Код и сырые данные — в репозитории evo-brain-sim. Обсудить — в Telegram.