A conta de GPU sobe, os dashboards estão verdes e mesmo assim os clientes esperam. Este episódio investiga como um caso forense por que a inferência de Stable Diffusion com ONNX Runtime e TensorRT quase não usa a GPU enquanto a latência dispara, e comprova a correção com latência, throughput e uso de GPU antes e depois.O que você vai aprender:Fallback para CPU: por que o ONNX Runtime passa silenciosamente para o provedor de execução de CPU e a latência fica de 10 a 30 vezes maiorConflitos de versão entre driver, CUDA, cuDNN, ONNX Runtime e TensorRT que fazem perder sem aviso a atenção fundida e as otimizações FP16Contêineres mal configurados: imagens inchadas, dispositivos GPU não montados, NVIDIA Container Toolkit e a arena de memória CUDAVerificações de integridade e desempenho na inicialização: checar provedores, aquecimento com prompts canário determinísticos e falha explícita em vez de degradação silenciosaUm protocolo de correção repetível com matriz de versões, engines TensorRT pré-compiladas, IO binding, FP16 e implantações blue-green com rollback automáticoPara engenheiros de ML e de plataforma e equipes de DevOps e SRE que rodam inferência em GPU em contêineres e querem aceleração real por cada hora de GPU paga.Este episódio é uma versão em português dublada com IA do vídeo animado do M365 Show, do Microsoft MVP Mirko Peters.▶ Assista ao vídeo: https://youtu.be/7rNV_vcD-Fg🎧 Mais episódios: https://www.m365.fm🎤 M365Con – conferência Microsoft online e gratuita: https://m365con.net💼 Mirko Peters no LinkedIn: https://www.linkedin.com/in/m365showpodcast/

This episode includes AI-generated content.