Reflection AI открыла веса и рецепты дообучения модели Beam

Reflection AI выложила на Hugging Face веса своей первой LLM Beam на ~500 млрд параметров вместе с рецептами дообучения, инструментами оценки и drafter-моделью для speculative decoding. Компания обучила Beam за два месяца на нескольких тысячах GPU, заявив о почти нулевом простое кластера.

• Beam: около 500 млрд параметров, близка к моделям вчетверо крупнее на части бенчмарков
• Обучение заняло два месяца на нескольких тысячах высококлассных GPU
• Выложены стандартная и квантованные версии весов, рецепты и drafter-модель
• Готовые конфигурации для популярных serving-движков и fused kernels