Estudio impactante: Médicos que dependen de IA empeoran 20% en detección de riesgos sanitarios

La inteligencia artificial médica enfrenta su momento de verdad—y los resultados alarman.

Diagnósticos en peligro

Los sistemas que prometían revolucionar la medicina muestran grietas peligrosas. Cuando los médicos confían ciegamente en los algoritmos, su capacidad de detección se desploma. No es complemento—se convierte en dependencia.

El costo humano de la automatización

Cada porcentaje de eficiencia perdida se traduce en vidas reales. Los protocolos de seguridad colapsan cuando el software falla—y los profesionales de la salud pagan el precio.

Mientras los fondos de venture capital siguen inyectando millones en startups médicas—porque nada dice 'inversión inteligente' como ignorar datos concretos a cambio de promesas tecnológicas.

En resumen

• Un estudio muestra que los médicos que dependen de la IA en colonoscopias pueden detectar menos irregularidades cuando trabajan sin la herramienta.
• La investigación revela que la IA aumenta la eficiencia, pero puede debilitar las habilidades de juicio al desalentar el pensamiento profundo y crítico.
• El accidente del vuelo 447 de Air France destaca los peligros de la dependencia excesiva de la automatización en entornos de alta presión.
• Los expertos enfatizan los beneficios de la IA, pero advierten a las industrias que mantengan la pericia humana para cuando la automatización falle.

La dependencia de la IA puede reducir las tasas de detección de los médicos en colonoscopias

Un estudio reciente realizado en 1,443 pacientes reveló que los endoscopistas que usaron agentes de IA d durante las colonoscopias alcanzaron una tasa de éxito menor en la detección de irregularidades cuando estas herramientas no se utilizaron. 

Los resultados de la investigación, publicada este mes en la revista Lancet Gastroenterology & Hepatology, muestran que estos médicos lograron una tasa de éxito del 28,4 % en la detección de pólipos potenciales usando la tecnología. Sin estas herramientas, la cifra bajó al 22,4 %, lo que representa una disminución del 20 % en las tasas de detección.

El Dr. Marcin Romańczyk, gastroenterólogo del Centro Médico H-T en Tychy, Polonia, y autor del estudio, expresó sorpresa por los resultados. Señaló la excesiva dependencia de la inteligencia artificial como uno de los factores clave que contribuyen a la caída en las tasas de detección.

Nos enseñaron medicina con libros y con nuestros mentores. Los observábamos. Nos decían qué hacer. Y ahora hay algún objeto artificial que sugiere qué deberíamos hacer, dónde deberíamos mirar, y en realidad no sabemos cómo comportarnos en ese caso particular.

El resultado no solo refleja los posibles efectos negativos de depender excesivamente de la inteligencia artificial, sino que también aborda la evolución de la práctica médica de una tradición analógica a una era digital.

Preocupaciones sobre la inteligencia artificial en el lugar de trabajo: ganancias en productividad a un costo cognitivo

Además del creciente despliegue en hospitales y oficinas médicas, la automatización con IA se ha convertido en un pilar en los lugares de trabajo, con muchos recurriendo ahora a estas herramientas para aumentar la productividad. Goldman Sachs incluso predijo en 2023 que la IA podría aumentar la productividad laboral hasta en un 25 %.

Pero adoptar estos sistemas de IA también conlleva el peso de posibles inconvenientes. De hecho, investigaciones de firmas líderes han destacado los riesgos asociados con depositar demasiada confianza en estas herramientas. 

Una publicación de Microsoft y la Universidad Carnegie Mellon señaló que la IA ayudó a aumentar la eficiencia en el trabajo entre un grupo de trabajadores del conocimiento encuestados. Pero debilitó sus habilidades de «juicio atrofiado» y capacidad analítica.

Dependencia excesiva de la inteligencia artificial en la aviación: lecciones del vuelo 447 de Air France

Incluso en el sector de la aviación, donde la seguridad es primordial, evidencia previa sugiere que la dependencia excesiva de la automatización puede comprometer la seguridad. En 2009, un vuelo 447 de Air France en ruta de Río de Janeiro a París se estrelló en el océano Atlántico, resultando en la pérdida de más de 228 vidas.

Investigaciones posteriores revelaron que el sistema de automatización del avión había desarrollado fallas. Esto causó que el “director de vuelo” automatizado transmitiera información inexacta. Y dado que el personal de vuelo no estaba adecuadamente entrenado en vuelo manual, dependieron de las funciones automatizadas del avión en lugar de realizar los ajustes necesarios.

Balancear la adopción de la IA con la pericia humana en industrias de alta responsabilidad

Lynn Wu, profesora asociada de operaciones, información y decisiones en la Wharton School de la Universidad de Pennsylvania, señaló que estos incidentes son un llamado de atención para la adopción de la IA en sectores donde la seguridad humana es crítica. Wu explicó que mientras se apuesta por estas tecnologías, las industrias deben asegurarse de que los trabajadores adopten adecuadamente estas herramientas.

Lo importante es que aprendamos de esta historia de la aviación y de la generación previa de automatización, que la IA absolutamente puede aumentar el rendimiento. Pero al mismo tiempo, tenemos que mantener esas habilidades críticas, de modo que cuando la IA no funcione, sepamos cómo tomar el control.

Agregó que si las personas pierden sus propias habilidades, la inteligencia artificial también funcionará peor. Para que la IA mejore, los individuos también deben mejorar continuamente a sí mismos.

Romańczyk también acepta el uso de la IA en la medicina, señalando que “la IA será, o es, parte de nuestra vida, nos guste o no”. Sin embargo, enfatizó la necesidad de comprender cómo la inteligencia artificial afecta el pensamiento humano y urgió a los profesionales a determinar las formas más efectivas de utilizarla.

¡Maximiza tu experiencia en Cointribune con nuestro programa "Read to Earn"! Por cada artículo que leas, gana puntos y accede a recompensas exclusivas. Regístrate ahora y comienza a acumular beneficios.