La extensa advertencia de Bill Gates: ha llegado la era turbulenta de la IA, y esta vez es diferente

Texto de Xiaojing, Tengxu Technology

"La IA se convertirá en el mayor igualador de la historia o en la mayor fuente de injusticia". Este es el juicio más contundente del fundador de Microsoft, Bill Gates, sobre el futuro de la IA.

Hace tres años, Bill Gates comparó la IA con los automóviles e internet, creyendo que los riesgos son reales pero pueden gestionarse mediante reglas, tecnología y adaptación social; a principios de este año, todavía resumía su actitud como "optimismo con notas a pie de página".

El 26 de agosto, hora local de EE. UU., Gates publicó un nuevo artículo extenso titulado "Ha llegado la era turbulenta de la IA y nuestras decisiones son cruciales", afirmando que es la primera vez que se enfrenta a una nueva tecnología y espera que se desarrolle más lentamente.

Comenzó a abogar por designar "zonas de reserva humana" para ciertas profesiones, lo que significa que, incluso si la IA puede hacer el trabajo, se debería exigir que lo hagan humanos; al mismo tiempo, consideró gravar los tokens de IA y los robots para reducir el incentivo de las empresas a reemplazar personas por máquinas.

Siempre había esperado una innovación más rápida, pero hoy dijo una frase profunda: "Esta vez es realmente diferente".

"Necesitamos tiempo para prepararnos para esta agitación social, política y económica", dijo, "pero la IA es difícil de detener y esperar a los humanos".

01 La mayor preocupación: los primeros empleos de los jóvenes

El cambio que más preocupa a Gates está ocurriendo en el mercado laboral.

La IA está pasando de asistir el trabajo humano a completar tareas de forma independiente. Cuando los modelos pueden realizar un trabajo de manera estable, las empresas naturalmente tienen la motivación para adoptarlos. Una vez que un negocio reduce costos con IA, a los competidores les resultará difícil mantener sus métodos de empleo originales a largo plazo. Este cambio creará una reacción en cadena cada vez más rápida.

Gates predice que puestos como servicio al cliente, ventas, ingeniería de software y asistentes legales pueden verse afectados antes. A medida que las capacidades de la IA continúen mejorando, trabajos como revisión de préstamos, análisis de datos y triaje médico serán asumidos gradualmente.

Los empleos de cuello azul también son difíciles de evitar por completo. Si bien la destreza de los robots aún no ha alcanzado los niveles humanos, Gates cree que a medida que bajen los precios de los robots y mejoren las capacidades de la IA, alrededor de 2030, algunos trabajos físicos en industrias como la construcción y la hostelería pueden comenzar a ver una competencia directa entre humanos y máquinas.

Esta vez, Gates está particularmente preocupado por los jóvenes. La parte más fácilmente pasada por alto del mercado laboral son los puestos de nivel inicial. Muchos de los primeros trabajos de los jóvenes no son complejos, pero son oportunidades importantes para acumular experiencia, aprender habilidades y establecer relaciones profesionales. Si estos puestos desaparecen en gran número, los jóvenes pueden enfrentar un punto de partida profesional más estrecho.

En el pasado, la gente solía citar la migración de la población agrícola y la automatización de la manufactura para ilustrar que las revoluciones tecnológicas finalmente crean nuevos empleos. Gates cree que esta vez, las experiencias pasadas no pueden replicarse simplemente. La IA puede reemplazar directamente el trabajo cognitivo humano, mientras que los nuevos empleos a menudo requieren más tiempo para dominarse. Para alguien que recién ingresa al mercado laboral, un período de capacitación de varios años o incluso más puede convertirse en sí mismo en una barrera.

Por lo tanto, aboga por que la sociedad discuta ahora el desempleo, la recapacitación y la seguridad social. Esperar hasta que un gran número de personas haya perdido sus empleos para establecer estos mecanismos puede ser demasiado tarde.

Un problema mayor son los ingresos. Si muchas personas trabajan significativamente menos horas en el futuro o incluso están desempleadas durante largos períodos, ¿cómo funcionará un sistema económico que depende del empleo para obtener ingresos, identidad y conexiones sociales? Gates cree que esto se convertirá en una pregunta estructural que debe responderse en la era de la IA.

02 La IA facilita la replicación de comportamientos peligrosos

El empleo es solo una cara de las preocupaciones de Gates. Por otro lado, la IA está reduciendo las barreras técnicas para algunos comportamientos peligrosos.

En el pasado, desarrollar malware, lanzar ciberataques o adquirir conocimientos biotecnológicos complejos requería habilidades bastante especializadas. Con la aparición de la IA, estas capacidades pueden volverse gradualmente más fáciles de obtener.

Gates está particularmente preocupado por la ciberseguridad. El mismo modelo de IA puede ayudar a las empresas a encontrar vulnerabilidades de software, pero también puede ayudar a los atacantes a encontrar las mismas vulnerabilidades. Hospitales, instituciones financieras, redes eléctricas, sistemas de suministro de agua y sistemas de bienestar gubernamental podrían convertirse en objetivos de ataques.

La biotecnología enfrenta problemas similares. La IA puede ayudar a los científicos a descubrir nuevos medicamentos y vacunas, pero también puede ayudar a actores maliciosos a estudiar patógenos peligrosos. Para Gates, la parte más desafiante está aquí: la capacidad de impulsar el progreso científico se está acercando cada vez más a la capacidad de crear riesgos.

Riesgos más extremos provienen de los propios sistemas de IA. A medida que mejoran las capacidades de los modelos, pueden comenzar a ejecutar comportamientos que los diseñadores no anticiparon. Si en el futuro la IA posee una acción autónoma más fuerte y capacidades de automejora, si los humanos siempre podrán mantener el control es actualmente una pregunta sin respuesta.

Esta es también la razón por la que Gates no cree que la gobernanza de la IA sea meramente un asunto interno de las empresas tecnológicas. La IA impacta simultáneamente el empleo, la salud pública, la energía, las finanzas, la seguridad nacional, la educación, los impuestos y las elecciones. Si cada departamento gubernamental solo se responsabiliza de su pequeña parte, es fácil que nadie sea realmente responsable de los riesgos generales.

Por lo tanto, propone establecer nuevos mecanismos de gobernanza nacionales e internacionales. Dentro de las naciones, debe haber instituciones capaces de coordinar diferentes departamentos. A nivel internacional, deben establecerse sistemas cooperativos similares a la regulación de armas nucleares y las normas de aviación internacional.

Gates mencionó específicamente que países líderes en IA como EE. UU. y China deben iniciar diálogos lo antes posible.

Cuanto más intensa sea la competencia en IA, más difícil será la cooperación. En lugar de esperar hasta que el desarrollo tecnológico se acerque a etapas peligrosas para formular reglas, es mejor comenzar a establecer normas comunes ahora.

03 Que la IA comprenda demasiado bien a los humanos también puede ser un problema

Gates también planteó una pregunta más difícil de cuantificar: a medida que la IA comprende mejor a los humanos, ¿perderán los humanos algunas oportunidades de crecimiento como resultado?

En el artículo, recuerda su infancia. De niño, no era bueno socializando y necesitaba interactuar con otros, experimentar conflictos y aprender gradualmente a comprender a diferentes personas. Si hubiera tenido un compañero de IA en ese momento, uno que nunca se enojara y nunca lo hiciera sentir incómodo, duda que hubiera pasado por esos procesos de crecimiento necesarios.

Aquí es donde más le preocupan los compañeros de IA. Un sistema que siempre está de acuerdo con el usuario y brinda consuelo en cualquier momento puede llevar fácilmente a la dependencia. Para los adultos, este impacto se puede observar gradualmente; para los niños y adolescentes, el problema puede ser aún más grave.

A Gates le preocupa que si los niños se acostumbran a interactuar con una IA que siempre los complace, puedan enfrentar menos conflictos, rechazos y frustraciones en las relaciones de la vida real.

La educación también enfrenta problemas similares. La IA puede ayudar a los estudiantes a explicar conocimientos, encontrar información y completar tareas, pero si los estudiantes entregan todo el proceso de pensamiento a las máquinas, el aprendizaje en sí puede vaciarse. Especialmente en una era donde los deepfakes y la desinformación personalizada son cada vez más frecuentes, la capacidad de juzgar la verdad, comprender las fuentes de información y pensar de forma independiente será cada vez más importante.

Cuanto más frecuentemente se usa la IA, menor es la capacidad de pensamiento crítico, y este efecto es más pronunciado entre los jóvenes. Fuente: Artículo de Michael Gerlich, profesor de la Swiss Business School

Sin embargo, Gates no descarta el valor de la IA en la educación y el acompañamiento.

Para personas mayores solitarias y personas con movilidad limitada, la IA puede proporcionar compañía e información que antes eran difíciles de obtener. Para los maestros, la IA también puede asumir tareas repetitivas como la preparación de lecciones y la calificación, permitiendo que los maestros pasen más tiempo con los estudiantes.

La pregunta final se reduce a un límite: ¿qué tareas se pueden confiar a las máquinas y qué tareas deben ser completadas por humanos? Gates cree que este límite debe ser discutido y decidido activamente por la sociedad, en lugar de aceptar pasivamente los resultados después de que la tecnología se generalice.

04 La IA debería empoderar a todos

Si solo vemos estos riesgos, es fácil interpretar a Gates como alguien cada vez más pesimista sobre la IA. De hecho, sigue siendo muy optimista sobre la capacidad de la IA para resolver problemas reales.

La atención médica es un campo que enfatiza. Muchos hospitales pequeños en EE. UU. carecen de especialistas experimentados, y la IA puede ayudar a los médicos a analizar imágenes, detectar emergencias como accidentes cerebrovasculares y ayudar a los médicos de atención primaria en el diagnóstico. Para los pacientes, también puede explicar resultados de pruebas complejos y planes de medicación.

En países de bajos ingresos, la agricultura puede convertirse en un campo donde la IA tenga un impacto más rápido. Muchos agricultores carecen de pronósticos meteorológicos precisos y asesoramiento profesional sobre siembra, control de plagas y manejo del suelo. Si la IA puede proporcionar directamente este conocimiento a los agricultores, pueden obtener acceso a información y herramientas que antes solo estaban disponibles para las grandes empresas agrícolas.

Los servicios gubernamentales también tienen oportunidades similares. Muchas familias que solicitan seguro médico, asistencia alimentaria y ayuda estudiantil necesitan completar muchos materiales complejos. La IA puede ayudar a las personas comunes a comprender las políticas y preparar solicitudes, facilitándoles el acceso a los servicios públicos a los que tienen derecho.

Lo que Gates ve es una redistribución de las capacidades profesionales a través de la IA. En el pasado, si alguien quería desarrollar software, realizar investigaciones de mercado o analizar información médica, a menudo necesitaba contratar profesionales. En el futuro, la IA puede convertirse en un "amplificador de capacidades" para individuos y pequeñas empresas. Esto significa que un equipo pequeño podría realizar trabajos que antes solo las grandes empresas podían manejar.

Pero Gates también advierte que la IA no traerá automáticamente equidad. Si la IA de alta calidad solo sirve a los ricos, entonces el progreso tecnológico puede ampliar aún más la brecha. Los gobiernos y las organizaciones benéficas deben asegurarse de que las poblaciones de bajos ingresos y los países en desarrollo también puedan acceder a estas capacidades.

Esta es también la razón por la que Gates conecta la IA con sus esfuerzos benéficos pasados. Afirmó que la Fundación Gates utilizará la IA para acelerar la investigación en áreas como el SIDA, la tuberculosis, la malaria y la desnutrición, al tiempo que ayuda a los proyectos de atención médica, agricultura y educación a obtener mejores herramientas.

05 Dar a la humanidad una "reserva" y gravar los robots

Ante el impacto en el empleo que trae la IA, Gates propuso dos ideas muy específicas.

La primera es reservar una parte de los trabajos para los humanos.

Esta idea proviene de la experiencia de su padre con la enfermedad de Alzheimer en sus últimos años. Los cuidadores podían evaluar la condición de su padre cuando no podía expresar claramente sus necesidades, sabiendo cuándo debía comer, descansar o recibir atención. En opinión de Gates, la humanidad involucrada en dicho cuidado tiene un valor irremplazable.

Por lo tanto, propuso el concepto de "zonas de reserva humana". Así como algunas tierras en reservas naturales pueden desarrollarse pero la sociedad elige activamente preservarlas, también puede haber una parte del trabajo en el futuro que, incluso si la IA y los robots pueden completarlo, los humanos decidan seguir haciendo. La atención médica, la educación, la salud mental y el cuidado de ancianos pueden pertenecer a esta categoría.

Por supuesto, este alcance no permanecerá sin cambios. Un país con suficiente fuerza laboral puede preferir retener el cuidado humano; un país con una población que envejece rápidamente y escasez de mano de obra joven puede estar más dispuesto a usar robots de cuidado.

La segunda sugerencia es reconsiderar los impuestos a los robots.

Actualmente, cuando una empresa contrata a una persona, debe asumir costos como los impuestos sobre la nómina. Sin embargo, la compra de un robot puede tratarse como un gasto comercial. Gates cree que esta estructura fiscal incentiva a las empresas a reemplazar la mano de obra humana por máquinas. Si se aplica un cierto impuesto a los beneficios de automatización que aportan los robots o la IA, puede proporcionar fondos para la recapacitación y la seguridad social de los desempleados, y también alentar a las empresas a considerar más antes de decidir reemplazar la mano de obra humana.

Gates sabe que esta propuesta generará controversia, ya que los impuestos pueden ralentizar parte de la automatización y afectar la eficiencia. Pero cree que la IA traerá un aumento suficientemente grande de la productividad, y la sociedad necesita asignar una parte de los beneficios para ayudar a los más afectados.

En opinión de Gates, lo que realmente debe prepararse con anticipación no son solo nuevos modelos de IA, sino también una sociedad capaz de resistir los rápidos cambios que trae la IA.