openTPU: ИИ-агенты спроектировали чип для собственного инференса
Проект openTPU — ускоритель ИИ-инференса, чьи SystemVerilog, ISA, компилятор, симулятор и хост-стек написаны ИИ-агентами. На карте Inspur с Xilinx Kintex-7 xc7k480t железо выдаёт те же токены, что и эталонный симулятор, бит в бит; код открыт под Apache 2.0.
- RTL, ISA, компилятор и симулятор openTPU написаны ИИ-агентами
- На карте Kintex-7 токены и логиты совпали с симулятором бит в бит
- Один битстрим на 133,33 МГц обслуживает все модели
- 4-битный формат ускоряет декодирование на 40–45% при росте перплексии
Читать дальше
Железо