Машинное обучение заставили работать в памяти компьютера
Специалисты из IBM смогли запустить алгоритм машинного обучения прямо в запоминающем устройстве, а не процессоре. Для этого они использовали память на основе фазового перехода, которая может находиться не только в состоянии нуля и единицы, но и в промежуточных состояниях. Статья опубликована в журнале Nature Communications.
Классическая архитектура компьютеров, предложенная фон Нейманом в 1944 году и используемая в современной вычислительной технике, имеет заметный недостаток. Она подразумевает, что за обработку и хранение данных отвечают разные устройства, из-за чего процессор постоянно перемещает данные из памяти и обратно. Это снижает скорость и эффективность вычислений. Отчасти эту проблему решает кеширование, благодаря которому процессор может практически мгновенно получать часто используемые им данные.
Исследователи из IBM решили использовать другой подход — переместить хотя бы часть вычислений из процессора в саму память. Для этого они создали память с изменением фазового состояния на основе легированного GeSbTe. Каждая ячейка памяти представляет собой небольшой объем этого материала, который помещен между двух электродов. В обычном состоянии материал имеет кристаллическое строение. Для изменения значения ячейки через материал пропускают пульсирующий ток, который плавит часть его объема. Если этот ток резко прекращается, материал быстро охлаждается и затвердевает, но не в кристаллическую фазу, а в аморфную. Поскольку его аморфная форма плохо проводит ток, регулируя ее объем относительно кристаллической можно записывать в ячейку не только бинарные значения (единица или ноль), но и промежуточные.
Исследователи создали чип на основе такой памяти, состоящий из трех миллионов ячеек. Они решили проверить, можно ли с его помощью проводить обработку данных, такую как определение корреляции. К примеру, они взяли набор данных о погоде с 270 метеорологических станций в США, в котором каждый час помечался как дождливый или нет. За счет того, что данные изменяли проводимость ячеек, ученые смогли установить корреляцию между данными с разных метеостанций. Затем они проверили эти результаты с помощью метода k-средних. Выяснилось, что в 245 из 270 случаев метод дал такую же оценку. Исследователи отмечают, что такие чипы потенциально можно применять и в классических компьютерах с фон-неймановской архитектурой.
В 2014 году IBM показал другую значимую разработку, архитектура которой отличается от фон-неймановской — нейроморфный процессор TrueNorth, имитирующий работу настоящих нейронов. А в 2016 году исследователи компании смогли адаптировать для работы на таких чипах сверточные нейросети, которые известны своими практическими применениями, например, в области распознавания образов.
Григорий Копиев
В некоторых тестах она обошла Claude Opus 5.5
Meta* представила семейство больших языковых моделей Muse Wonder, в которое вошли базовая Muse Wonder и более мощная Muse Wonder Full, сообщается в блоге исследовательского подразделения компании. Muse Wonder Full набрала 56 баллов в бенчмарке Artificial Analysis Intelligence Index, уступив модели Claude Opus 5.5, которая получила 58 баллов, но обойдя GPT-6 Astra с 53 баллами. Более простая Muse Wonder набрала 52 балла. При этом в отдельных тестах модели Meta опережают конкурентов: например, в тесте DeepSWE на решение сложных задач программирования Muse Wonder Full набрала 79 баллов против 74,2 у Claude Opus 5.5. Ключевыми особенностями моделей разработчики называют функции Active Memory и Active Focus: первая позволяет сохранять важный контекст между разговорами, а вторая — продолжать работу над сложной задачей, менять подход при неудаче и восстанавливаться после ошибок. В тесте MemoryBench, оценивающем способность моделей запоминать контекст, модели также обошли конкурентов: Muse Wonder Full набрала 85,5 балла, а Muse Wonder — 85,6.