Может ли программирование в пространстве весов изменить машинное обучение
А что, если одну модель попросить улучшить другую, поправив ее веса напрямую? Именно так в начале ноября поступили исследователи из MIT CSAIL — в ходе эксперимента GPT-6 Astra ощутимо улучшила способности Qwen3.5-0.8B к прохождению тестов по математике без традиционного для такой ситуации дообучения — просто изменив сотые доли процента ее весов. Помимо этого, в серии опытов фронтирная модель напрямую интерпретировала, модифицировала или просто задавала веса другой, более малой модели. Исследователи назвали такой подход программированием в пространстве весов (Weight-Space Programming) и заявили, что на подходе новая парадигма оптимизации в машинном обучении. Новость заинтересовала ИИ-сообщество, и за несколько дней подобные результаты получили с другими моделями. Многие стали сравнивать это с «хирургией на мозге», поскольку одна модель напрямую правит способ принимать решения у другой. Но действительно ли это революция?
Машинное обучение основано на отказе от необходимости прописывать в коде все правила поведения программы. Вместо этого разработчики скармливают ей большой объем информации, и программа, подстраивая свои параметры, самостоятельно находит в ней закономерности, зачастую неочевидные стороннему наблюдателю. Сегодня наиболее мощным инструментом машинного обучения оказались нейросети. Подробнее о принципах работы машинного обучения и роли нейросетей на примере языковых моделей мы рассказывали в материале «И целого интернета мало».
Цикл обучения нейросетей почти всегда выглядит одинаково. На вход подают данные, они проходят по слоям, и на выходе получается некоторое предсказание или действие. Далее происходит оценка результата и запускается обратная корректировка, в ходе которой веса меняются таким образом, чтобы в следующий раз результат стал лучше. Число шагов определяется в первую очередь объемом данных, а вычислительная стоимость каждого шага — размером модели.
Сами размеры при этом описываются астрономическими числами. У Qwen3.5-0.8B чуть менее миллиардабуква в названии B означает billion, то есть миллиард параметров, у флагманских моделей счет идет на триллионы. Усвоенные моделью знания разнесены по этим параметрам сложным образом, и обычно невозможно ответить, почему она отвечает так или иначе. Попытки хоть сколько-нибудь пролить свет на этот вопрос породили целое направление работы в искусственном интеллекте — механистическую интерпретируемость.
Полученные в MIT CSAIL результаты выглядят так, будто GPT-6 Astra интерпретирует действия нейросетей существенно лучше человека. Это кажется логичным, учитывая, что каждое следующее поколение современных моделей сопровождается ростом контекстного окнамаксимальный объем информации (входных данных и самого ответа), который искусственный интеллект способен единовременно удерживать и обрабатывать за один вызов или запрос. Чем оно больше, тем более длинные цепочки зависимостей модель способна отслеживать в пределах одного запроса. Если веса нейросети-«пациента», которые кодируют интересующую нас способность, не влезли в контекст модели-«хирурга», ее корректная интерпретация или правка усложняется.
Исследователи из MIT CSAIL провели восемь экспериментов, которые разбили на три группы. В каждой из них модели, над которыми работала Astra, делились на малые и большие. Малые целиком влезали в контекстное окно GPT-6, а для больших ей разрешали работать в Python-песочнице, где Astra могла считывать, сохранять и анализировать веса с помощью кода. В некоторых случаях, чтобы увидеть результат работы, фронтирная модель могла запустить свое творение на предназначенной для него задаче, однако число таких прогонов строго контролировалось и обычно не превышало 50.
В первой группе Astra показывали веса небольших моделей, и фронтирная модель должна была сделать о них некоторый вывод. Речь шла о моделях для игр («Для какой игры эта модель?»), моделях для рисования фигур («Какую фигуру нарисует эта модель?») и языковых моделях («На каком языке была обучена модель?») — во всех случаях эксперименты были успешными. К этой же группе авторы отнесли задачу, где GPT-6 по одним только весам должна была определить, какая из двух копий Gemma 3 270M доучена быть более подхалимской. С этой задачей фронтирная модель не справилась.
Вторая группа экспериментов — написание весов нейросети с нуля, безо всякого обучения. Сначала это были три небольшие игры, а затем нейросеть для игры в го10 лет назад именно эта игра стала символом триумфа нейросетей — подробно об этом можно почитать в нашем материале «Го: речь поражения» на доске 9 × 9. В последнем случае прогон состоял из 128 сражений с референсными моделями, которые обучали традиционным способом (с помощью алгоритма PPO), а финальная оценка проходила на основе 2000 матчей. Здесь экспериментаторов также ждал успех: даже без прогонов нейронка, которую самостоятельно создала Astra, побеждала довольно часто.
Наконец, третья группа — редактирование и улучшение весов уже обученных моделей. Малая модель неправильно управляла машинкой в простеньком физическом симуляторе. Astra починила ее с первой попытки, поменяв 3,5 процента весов. Большой моделью была Qwen3.5-0.8B, которая решала математические задачки из бенчмарков MATH-500 и GSM8K. Авторы эксперимента фиксировали способности Qwen после редакций от Astra на основе 10, 25 и 50 прогонов. Кратный прогресс показал бенчмарк MATH-500: результат вырос с 7,9 до 48,1 процента. Число исправленных весов при этом составило всего 131072, или 0,016 процента.
Впрочем, авторы отмечают, что GPT-6 не улучшила математические способности Qwen3.5-0.8B, а всего лишь исправила особенности, которые мешали продемонстрировать их. Дело в том, что у моделей вроде Qwen3.5-0.8B есть распространенный недостаток: в режиме рассуждения они зацикливаются. Когда это происходит, модель повторяет один и тот же текст и часто исчерпывает лимит генерациимаксимальное число токенов, которое модель может сгенерировать в одном ответе, не доходя до правильного ответа. Astra нашла и исправила источник зацикливания в двух слоях, и этого оказалось достаточно, чтобы показатели Qwen3.5-0.8B на бенчмарках выросли.
Исследователи убедились, что исправление зацикленности не ограничивается математикой: оценки на бенчмарке IFEval, измеряющем следование инструкциям, выросли с 21,0 до 62,3 процента. Для надежности авторы повторили эксперимент с меньшей, но заведомо редко зацикливающейся моделью Gemma 3 270M. В этом случае манипуляции GPT-6 ощутимых улучшений в способностях к математике не принесли.
Пост группы из MIT CASIL вышел 2 ноября. Уже через несколько часов о воспроизведении результатов сообщил исследователь из Google Research Александр Кренцель (Alexander Krentsel), были и другие работы. При этом мнения относительно прорывного потенциала результатов, полученных с помощью Astra, разделились. Согласно оценке daily.dev на основе комментариев под новостью о экспериментах, 40 процентов читателей настроены позитивно, 15 процентов — скептически, в то время как оставшиеся занимают смешанную позицию.
Авторов хвалят за честность и публикацию полных логов экспериментов, хотя и подчеркивают, что публикация у себя в блоге — не то же самое, что выход научной статьи. Части исследователей не понравилось, что каждое условие прогоняли только один раз — неизвестно, насколько отличался бы второй прогон. Дисперсия результатов множества проверок теоретически может быть достаточно большой, чтобы сгладить продемонстрированный авторами контраст.
Один из исследователей, работающих с пространством весов, отметил, что в малых моделях большую часть редактирования и так можно выполнить вручную, поэтому качественно нового результата соответствующие эксперименты не показывают. По его словам, идея о редактировании весов не нова, а потому неправильно заявлять, что новая парадигма родилась именно сейчас. Многие сошлись во мнении, что задачи и данные по механистической интерпретируемости наверняка содержались в датасетах, на которых OpenAI учили модели.
Раскритиковали в сообществе и эксперимент с улучшением математических способностей моделей. Швейцарский исследователь Лукас Бейер (Lucas Beyer) обратил внимание, что указание на зацикливание уже содержалось в промпте, который подавался в GPT-6 Astra. Авторы ответили, что эту подсказку для Astra добавил Claude Code, когда его попросили расширить промпт. Андреас Майер (Andreas Maier) из Университета Эрлангена — Нюрнберга, в свою очередь, отметил, что для починки Qwen не проверяли более простые способы бороться с зацикливанием. Похожая претензия у него была и к нейросети для го: авторы сравнивали ее только с нейросетями, которые обучили сами, а не с общепризнанными программами для этой игры. Он также заметил, что один из «найденных» Astra приемов — способ находить в языковой модели блоки, которые копируют уже встречавшийся текст, — давно описан в научной литературе. То есть модель не изобрела его, а применила известный человеческий метод.
И все же, несмотря на критику, основные результаты исследователей из MIT CSAIL в целом подтвердились: их независимо воспроизвели несколько человек. Фронтирные модели от OpenAI и Anthropic (и даже не только они) действительно способны исправлять недостатки и анализировать работу нейросетей, не задействуя привычную оптимизацию весов. Кренцель отмечает, что эти способности появились только у моделей последнего поколения. Возможно, в будущем они лишь улучшатся.
Если так и произойдет, в теории это откроет дорогу к быстрой (хотя и не факт, что дешевой) отладке уже развернутых моделей, поиску у них каких-либо неочевидных способностей прямо по весам и новым архитектурным модификациям. Авторы из MIT CSAIL предполагают, что так можно было бы дойти даже до рекурсивного самоулучшения, когда модель совершенствуется, «вручную» корректируя собственные веса. Но в такой сценарий, кажется, не верят даже оптимисты.