Beam: как 10 500 графических процессоров меняют определение искусственного интеллекта с открытым весом

Beam: как 10 500 графических процессоров меняют определение искусственного интеллекта с открытым весом Модель параметров Reflection AI 501B доказывает, что масштабное обучение с подкреплением — это новый рубеж Движение искусственного интеллекта с открытыми весами только что получило свое самое мощное оружие. Beam от Reflection AI — модель Mixture-of-Experts с 501 миллиардом параметров — не просто конкурирует с моделями с закрытыми границами. Это переосмысление того, что возможно, когда вы делаете ставку на обучение с подкреплением в беспрецедентных масштабах. Цифры, которые имеют значение Всего 501B параметров, 23B активных на каждый токен — разреженная архитектура MoE 23,8 триллиона токенов предварительного обучения — огромный разнообразный набор данных Более 100 миллионов развертываний RL — создается за 4 недели. 10 500 графических процессоров NVIDIA GB300 — предназначены только для обучения RL 1,3 миллиарда песочниц — для обучения и оценки 1 миллион сред кодирования/агентов/STEM — получено для обучения RL Это не просто большие цифры для маркетинга. Инвестиции в вычисления RL ошеломляют — и они окупаются. Производительность: удар выше своего веса Beam не просто конкурирует с более крупными открытыми моделями. Это бросает вызов предположению, что чем больше, тем лучше: Контрольный показатель луч Конкуренты SWE Bench Pro v2-Hard 77,2 GLM 5,2: 61,0, Кими К3: 68,0 Терминал Бенч