Errores en sistemas de inteligencia artificial para la atención médica: Un informe revelador

Tijuana, B.C. -

Introducción a la problemática

Un reciente informe de la Oficina del Auditor General de Ontario, Canadá, ha revelado que los sistemas de Inteligencia Artificial (IA) aprobados para proveedores de atención médica en la región presentan errores significativos en la documentación de pacientes. Estos sistemas, diseñados para ayudar a los médicos y otros profesionales de la salud a registrar notas de pacientes de manera más eficiente, han demostrado ser propensos a cometer errores críticos, incluyendo la mezcla de medicamentos prescritos y la inserción de información incorrecta en las notas de los pacientes.

Hallazgos del informe

El informe, que evaluó a 20 proveedores de sistemas de IA aprobados, encontró que:

• 60% de los sistemas de IA evaluados mezclaron medicamentos prescritos en las notas de los pacientes.
• 9 de los 20 sistemas de IA "fabricaron información y hicieron sugerencias sobre los planes de tratamiento de los pacientes" que no se discutieron en las grabaciones.
• 12 de los 20 sistemas evaluados insertaron información incorrecta sobre medicamentos en las notas de los pacientes.
• 17 de los sistemas de IA "no capturaron detalles clave sobre los problemas de salud mental de los pacientes" que se discutieron en las grabaciones.

Análisis de los errores

Los errores en los sistemas de IA para la atención médica no son sorprendentes, ya que se ha informado previamente que la IA puede proporcionar información médica incorrecta a los usuarios. Sin embargo, lo que es preocupante es que estos sistemas están diseñados para ser utilizados por profesionales de la salud, lo que podría tener consecuencias graves para los pacientes.

Causas de los errores

El informe sugiere que los errores en los sistemas de IA se deben en parte a la forma en que se evaluaron. El peso dado a las diferentes categorías de rendimiento de los sistemas de IA fue inadecuado, con solo un 4% de la puntuación total dependiendo de la precisión de las notas médicas. Las controles de sesgo, la evaluación de amenazas y la privacidad también recibieron una puntuación baja.

Recomendaciones

El informe recomienda que los proveedores de atención médica revisen manualmente las notas generadas por los sistemas de IA para garantizar su precisión. También se sugiere que los sistemas de IA deben ser evaluados de manera más exhaustiva, con un enfoque en la precisión y la seguridad de las notas médicas.