Microsoft представила ИИ-чип Maia 300 для инференса

Microsoft анонсировала третий ИИ-ускоритель Maia 300, который станет основной системой инференса в её сервисах. Производство начнётся в 2027 году, за год планируется поставить более 1 млн чипов; заявлена на 40% большая обработка токенов на мегаватт, чем у GPU-систем.

• 8 стеков HBM4 дают пропускную способность памяти 18 ТБ/с
• Стойка на 96 ускорителей потребляет около 167 кВт
• Токен-пропускная способность до 7 раз выше, чем у Maia 200
• Чиплеты вычислений выпускаются по 2-нм техпроцессу TSMC N2P