Kubernetes адаптируют под ИИ-агентов: песочницы и тёплые пулы
CNCF: две трети организаций с ИИ-инференсом запускают его на Kubernetes. Сообщество прорабатывает изоляцию агентов в песочницах и «тёплые пулы» для перезапуска за миллисекунды вместо секунд, но встроенных функций пока не хватает.
- Две трети организаций с ИИ-инференсом работают на Kubernetes по данным CNCF
- Агенты живут секунды, а запуск пода занимает секунды — нужны тёплые пулы
- Изоляция требует выхода за пределы контейнеров — в ВМ и ОС хоста
- KubeCon + CloudNativeCon пройдёт в Солт-Лейк-Сити 9–12 ноября
Читать дальше
Софт