Inteligencia artificial en salud: el debate sobre cómo evaluar su uso
Una columna de Martín Saban plantea que incorporar IA en medicina exige comprobar sus resultados, evaluar los riesgos y definir responsabilidades.
- La columna propone evaluar la IA antes de incorporarla a la atención médica.
- Una respuesta convincente puede contener errores o datos inventados.
- Los controles deben incluir utilidad, costos y responsabilidad ante fallas.
- Los algoritmos entrenados en otros países requieren pruebas con pacientes locales.
La incorporación de inteligencia artificial en la salud abre una discusión sobre cómo evaluar sus beneficios y sus riesgos. En una columna publicada en La Nación, Martín Saban sostiene que las herramientas deben demostrar su utilidad antes de integrarse a la atención médica.
El autor recurre a la trayectoria de René Favaloro, quien sistematizó el bypass coronario en 1967, para destacar el trabajo que requiere una innovación médica: estudiar, registrar casos, publicar resultados y someterlos al análisis de otros profesionales. Desde esa perspectiva, la velocidad de adopción no alcanza para medir el progreso.
Saban plantea que la medicina necesita mayores precauciones porque una falla puede tener consecuencias sobre la vida de un paciente. También advierte sobre la tensión entre los tiempos de evaluación clínica y la presión de las empresas tecnológicas por vender sus productos y generar retornos para sus inversores.
La columna señala que los modelos de inteligencia artificial pueden producir respuestas convincentes que contengan errores o información inventada. El autor cuestiona que las decisiones éticas queden subordinadas a los incentivos comerciales y propone tomar como referencia los principios de la bioética, entre ellos evitar daños.
Su propuesta es evaluar cada herramienta según el problema que busca resolver, la evidencia de que funciona, las personas a las que beneficia y los datos utilizados para entrenarla. También incluye revisar su costo y establecer quién debe responder cuando el sistema se equivoca.
Para el contexto argentino, Saban destaca la necesidad de comprobar el desempeño de los algoritmos con pacientes locales antes de adoptar sistemas entrenados con poblaciones de otros continentes. La columna propone una incorporación responsable de la IA, con controles previos y atención a las condiciones en las que se utilizará.
Por qué importa: Para los pacientes argentinos, evaluar la IA con datos locales y definir responsabilidades es relevante porque sus errores pueden afectar la atención médica.