Auditoria expõe: IA médica erra dados básicos em prontuários

O problema real

Um médico ouve o paciente, a IA transcreve e resume a consulta. Parece um ganho de tempo enorme. Mas e se, no meio do resumo, o sistema trocar a idade do paciente ou o nome do medicamento? Auditores de Ontário descobriram que isso não é exceção: é rotina. As ferramentas de IA para anotações médicas estão errando o básico com frequência preocupante.

O fato

A auditoria do Escritório do Auditor Geral de Ontário analisou registros de prontuários gerados por sistemas de IA em hospitais e clínicas. O resultado: erros como confundir 50 mg com 500 mg, trocar o nome do remédio, inverter a idade do paciente e até omitir alergias. Nada de falhas sutis em diagnósticos complexos – são dados cadastrais que qualquer assistente administrativo acertaria. A auditoria sugere que os médicos não revisam esses resumos com a devida atenção, confiando cegamente na tecnologia.

Como funciona (visão de operador)

Essas ferramentas geralmente combinam reconhecimento de fala (ASR) com um modelo de linguagem grande (LLM) para resumir a conversa. O ASR capta o áudio, o LLM estrutura e extrai os pontos importantes. O gargalo técnico é duplo: o ASR pode errar em sotaques, ruídos ou jargões médicos; o LLM pode alucinar ou compactar informações erradas. A latência adicional do pipeline introduz risco de perda de contexto. Sem um sistema de verificação em tempo real com ontologias médicas, o erro passa batido. O custo de rodar um LLM por consulta não é desprezível, e se a precisão for abaixo de 99,9% em dados críticos, o custo do erro supera o ganho de produtividade.

O que isso muda na prática

Para gestores de TI na saúde, a lição é clara: não dá para implantar IA de anotação sem validação humana obrigatória. O médico precisa revisar cada campo antes de assinar. Isso reduz a economia de tempo, mas é o mínimo ético. Para os provedores de IA, o recado é que precisam expor métricas de acurácia por tipo de dado, não uma média geral enganosa. Quem perde mais? O paciente, que pode sofrer um erro de medicação. Quem ganha? Quem construir sistemas com fallback para ontologias médicas e checagens cruzadas – diferencial competitivo real.

Tensão e reflexão

A promessa da IA na saúde é reduzir a carga administrativa dos médicos. Mas se ela gera uma camada extra de risco que exige mais verificação, será que estamos realmente ganhando? Talvez o problema não seja a tecnologia em si, mas o design da integração: jogar um LLM genérico num fluxo crítico sem adaptações. Escalar isso para milhares de consultas diárias sem um pipeline de validação automática é receita para desastre. O custo de uma falha grave pode ser muito maior que a economia de tempo obtida.

Conclusão

Auditoria de Ontário é um alerta vermelho: IA que erra dados básicos não pode ser usada como fonte única de verdade em saúde. A pergunta que fica: você está disposto a revisar cada output do seu sistema, ou prefere uma ferramenta que só acelere o que já funciona?