Счёт за GPU растёт, дашборды зелёные, а клиенты всё равно ждут. В этом выпуске, как в криминальном расследовании, разбирается, почему инференс Stable Diffusion на ONNX Runtime и TensorRT почти не загружает GPU, пока задержка растёт, а решение подтверждается замерами задержки, пропускной способности и загрузки GPU до и после.Что вы узнаете:Откат на CPU: почему ONNX Runtime незаметно переключается на CPU-провайдер выполнения и задержка вырастает в 10–30 разКонфликты версий драйвера, CUDA, cuDNN, ONNX Runtime и TensorRT, из-за которых без предупреждения теряются fused attention и оптимизации FP16Ошибки конфигурации контейнеров: раздутые образы, несмонтированные GPU-устройства, NVIDIA Container Toolkit и арена памяти CUDAПроверки целостности и производительности при запуске: контроль провайдеров, прогрев на детерминированных canary-промптах и явный сбой вместо тихой деградацииВоспроизводимый протокол исправления: матрица версий, заранее собранные движки TensorRT, IO binding, FP16 и blue-green-развёртывание с автоматическим откатомДля ML- и платформенных инженеров, команд DevOps и SRE, которые запускают инференс на GPU в контейнерах и хотят реального ускорения за каждый оплаченный GPU-час.Этот выпуск — русская версия с ИИ-дубляжом анимированного видео из M365 Show от Microsoft MVP Мирко Петерса.▶ Смотреть видео: https://youtu.be/7rNV_vcD-Fg🎧 Другие выпуски: https://www.m365.fm🎤 M365Con — бесплатная онлайн-конференция по Microsoft: https://m365con.net💼 Мирко Петерс в LinkedIn: https://www.linkedin.com/in/m365showpodcast/

This episode includes AI-generated content.