O que você monitora num modelo em produção, e o que de fato aciona o plantão de alguém?

Monitore três camadas: saúde do serviço (latência, taxa de erro, throughput), saúde dos dados (distribuições de entrada, taxas de nulo e de categoria desconhecida, frescura das features) e saúde do modelo (distribuição de previsões e, quando os rótulos chegam, performance). Acione plantão para falhas de serviço e para quebra do pipeline de entrada, porque essas são acionáveis na hora. Mande drift lento para um dashboard e uma revisão, não para o pager às 3 da manhã.

Eu penso nisso como três camadas. Nível de serviço é o de sempre, latência p99, taxa de erro, throughput, e isso aciona plantão, porque um modelo retornando erros é uma indisponibilidade como qualquer outra. Nível de dados é onde os incidentes reais de ML moram: distribuições das features de entrada, taxas de nulo, taxas de categoria desconhecida, e frescura de feature, ou seja qual a idade do valor mais novo na store online. Frescura é a que mais me preocupa, porque um job upstream quebrado não lança erro, ele só serve os valores de ontem e o modelo segue devolvendo besteira com confiança. Isso aciona plantão. Nível de modelo é distribuição de previsões e, quando os rótulos chegam, performance real. Uma distribuição de previsões deslocando de forma abrupta merece um alerta; deslocando devagar é item de dashboard e conversa, não pager, porque acordar alguém por drift gradual significa que em um mês ninguém lê mais os alertas. O que molda tudo isso é o atraso dos rótulos. Se a verdade de campo leva semanas, eu não consigo monitorar acurácia quase em tempo real, então eu me apoio em distribuições de entrada e saída como proxies e digo claramente que são proxies.