Kandinsky 6.0: тайминги инференса на семи GPU и подводные камни офлоада

Kandinsky Lab 6 октября выложила на GitHub модель Kandinsky 6.0 под MIT (код и веса): текст или текст с картинкой на входе, 5-секундный клип со звуком на выходе, версии Lite на 3B и Pro на 29B параметров. Pro HD-клип занимает 292 с на H100, 1194 с на RTX 4090 и 2716 с на RTX 5060 Ti; все пресеты используют офлоад весов, а дистиллированная Pro-версия из пресетов в таблице таймингов не измерена.

• Pro весит около 90 ГБ, поэтому все GPU-пресеты выгружают веса в RAM хоста
• HD-клип Pro: 292 с на H100, 1194 с на RTX 4090, 2716 с на RTX 5060 Ti
• Пресеты и демо грузят дистиллированную Pro на 10 проходов вместо 50, её таймингов нет
• Апскейл до Full HD на H100: 41 с для 2x и 118 с для 4x, звук нужно прикреплять отдельно