IA en la sombra: ¿El uso secreto de inteligencia artificial pone en riesgo la ciencia?

Los laboratorios se convierten en cajas negras: investigadores emplean IA sin transparencia, desatando debates éticos.

Subversión algorítmica: cuando las máquinas dictan el método científico sin supervisión humana.

Publicaciones fantasma: estudios con sesgo de IA podrían inundar revistas indexadas - las peer reviews no están preparadas.

Bonus financiero: al menos no es tan opaco como los fondos de inversión en crypto que reportan ganancias 'basadas en modelos propios'.

En resumen

• Un análisis de 15 millones de artículos biomédicos revela que el 13,5 % de las publicaciones de 2024 muestran indicios de uso de IA.
• Los investigadores identificaron 454 palabras “sospechosas” frecuentemente utilizadas por herramientas de IA, como “delve”, “showcasing” y “underscore”.
• Las herramientas de detección actuales siguen siendo poco fiables, confundiendo a veces textos históricos con contenido generado por IA.
• Los expertos están divididos: algunos lo ven como una amenaza, otros como una democratización de la investigación.

La IA deja sus huellas en la ciencia

Investigadores de la Universidad Northwestern, en colaboración con el Instituto Hertie para la IA aplicada a la salud, analizaron más de 15 millones de resúmenes científicos publicados en PubMed. Su conclusión es inequívoca: en 2024, la IA generativa, especialmente ChatGPT, ha marcado profundamente el lenguaje de la investigación biomédica.

Para demostrarlo, el equipo comparó la frecuencia de uso de ciertas palabras clave en 2024 con la de los años 2021 y 2022. Y la diferencia es clara: términos antes poco comunes como “delves”, “underscores” o “showcasing” experimentan una explosión de uso, hasta convertirse en marcadores estilísticos típicos de textos generados por IA.

Sin embargo, esta “caza de palabras” revela una realidad más matizada. Stuart Geiger, profesor de la Universidad de California en San Diego, modera la alarma:

El lenguaje evoluciona con el tiempo. La palabra «delve» ahora forma parte del vocabulario común, en parte gracias a ChatGPT.

La evolución lingüística plantea así un dilema importante. ¿Cómo distinguir un uso fraudulento de la IA de una simple influencia cultural? Más preocupante aún: ¿corren los investigadores el riesgo de cambiar su estilo de escritura natural por miedo a ser acusados injustamente?

Entre democratización y deriva ética

Kathleen Perley, profesora en la Universidad Rice, adopta una posición más matizada sobre el uso de la IA en la investigación científica.

Según ella, estas herramientas pueden desempeñar un papel decisivo en la democratización del acceso a la investigación académica, particularmente para investigadores no anglófonos o quienes padecen trastornos de aprendizaje.

En un entorno académico dominado por el inglés y requisitos formales, la IA puede ofrecer un verdadero trampolín a perfiles brillantes, pero marginados por la barrera lingüística.

Este enfoque plantea una cuestión fundamental: ¿debemos realmente penalizar a investigadores que usan herramientas para superar obstáculos estructurales? ¿No podría la IA, en cambio, hacer surgir trabajos de calidad hasta ahora invisibles por limitaciones redaccionales más que conceptuales?

Derivas, sesgos y falsos positivos, la ciencia frente a los límites de la IA

Pero el entusiasmo choca con derivas muy reales. El ejemplo del chatbot Grok, desarrollado por la empresa de Elon Musk, es una ilustración escalofriante.

Desde su última actualización, la herramienta ha generado una serie de mensajes antisemitas publicados en X (antes Twitter), llegando a justificar discursos de odio y elogiar a Hitler. Incidentes como estos recuerdan que incluso los modelos más avanzados pueden transmitir sesgos peligrosos si no están debidamente regulados.

Paralelamente, las herramientas de detección de IA tienen dificultades para ser confiables. ZeroGPT, por ejemplo, estimó que la Declaración de Independencia de los Estados Unidos fue generada por IA en un 97 %, mientras que GPTZero lo evaluó en solo un 10 %. Esta incoherencia revela la inmadurez de las tecnologías de detección y el riesgo de acusaciones infundadas.

Más allá de las herramientas técnicas, la aparición de la IA en la investigación científica cuestiona la esencia misma del intelecto. La rigurosidad, originalidad e integridad son pilares de la producción científica. ¿Podemos preservar estos valores cuando la frontera entre asistencia y sustitución se vuelve difusa?

Más que nunca, las instituciones académicas deben establecer directrices claras. No se trata de frenar la innovación, sino de trazar una línea entre el uso ético y el fraude intelectual. El futuro de la investigación depende de nuestra capacidad colectiva para integrar la inteligencia artificial sin perder el alma de la ciencia.

¡Maximiza tu experiencia en Cointribune con nuestro programa "Read to Earn"! Por cada artículo que leas, gana puntos y accede a recompensas exclusivas. Regístrate ahora y comienza a acumular beneficios.