TornadoVM 7.3 ускоряет Java-код на GPU через FFM API и CUDA
Открытый фреймворк TornadoVM для Java достиг версии 7.3: бэкенды переведены с JNI на Foreign Function & Memory API, убрана зависимость от экспериментального JVMCI. Добавлены оптимизированный CUDA-бэкенд с cuTile и вызовом cuBLAS/CUTLASS, поддержка библиотеки MXL от Apple и исполнение на нескольких GPU.
- Бэкенды переведены с JNI на FFM API, JVMCI больше не нужен
- Поддержка cuTile и вызовов cuBLAS и CUTLASS из TaskGraph
- Добавлено исполнение на нескольких GPU одновременно
- Вместе с релизом вышла jitLLM v2.0 — один JAR-файл
Читать дальше
ИИ