El fundador de Mistral AI lanza una advertencia impactante: La IA es la mayor amenaza para la humanidad

La inteligencia artificial avanza a un ritmo vertiginoso, pero ¿a qué costo? El fundador de Mistral AI no duda en señalar el peligro.

Mientras los gigantes tecnológicos siguen bombeando millones en desarrollos de IA, algunos expertos claman por precaución. ¿Estamos construyendo nuestro propio apocalipsis digital?

Y por supuesto, los fondos de inversión ya están especulando con startups de 'seguridad ética en IA'—porque hasta el fin del mundo es una oportunidad de negocio.

CEO de Mistral AI revela la amenaza de AI para los humanos

Mensch descartó la idea de que la inteligencia artificial podría aumentar la tasa de desempleo en el futuro. Dijo que el mayor riesgo es que las personas podrían volverse más perezosas a medida que confían en la tecnología para buscar información. El CEO, que cofundó al desarrollador de modelos de idiomas de código abierto junto con Guillaume Sample y Timothy Lacroix en abril de 2023, mencionó que una forma de evitar esto es garantizar que los humanos sigan involucrados activamente en la revisión y criticación de los resultados de inteligencia artificial.

Agregó que los desarrolladores pueden evitar el riesgo si lo miran desde un aspecto de diseño.

"Es un riesgo que pueda evitar, si lo piensa desde una perspectiva de diseño, si se asegura de tener el aporte humano adecuado, que mantenga el humano activo", dijo.

El de Mistral AI , quien habló en la Conferencia de Tecnología Viva en París, este mes también agregó que es importante que los humanos no vean todos los resultados de los modelos de inteligencia artificial como la verdad.

El jefe de Mistral dijo que si las personas continúan interesadas en aprender, poder procesar y criticar la información es uno de los componentes más importantes del aprendizaje. Mensch, quien fue un ex investigador de Google Deepmind también respondió a una declaración reciente del CPO antrópico Mike Krieger, quien declaró que AI está afectando los roles de ingeniería de nivel de entrada en la industria, incluso en las empresas de IA. Agregó que Anthrope se centra en contratar ingenieros experimentados, señalando su vacilación con algunos trabajadores de nivel de entrada.

Krieger mencionó que los ingenieros de software podrían ver que sus trabajos cambien en los próximos tres años, ya que los codificadores ahora están externalizando más de su trabajo a los humanos. Agregó que los humanos se centrarán en "presentar las ideas correctas, hacer el diseño correcto de interacción del usuario, descubrir cómo delegar el trabajo correctamente y luego descubrir cómo revisar las cosas a escala, y esa es probablemente una combinación de tal vez un regreso de un análisis estático o tal vez herramientas de análisis basadas en AI de lo que realmente se producía".

Mensch también discutió la afirmación de Amodei de que AI podría reemplazar la mitad de los trabajos de cuello blanco de nivel de entrada en los próximos cinco años, señalando que al antrópico le gustaba difundir el miedo a la IA como una táctica de marketing. Dijo que la afirmación fue una exageración y que no ve que suceda en los próximos cinco años. En cambio, Mensch dijo que pensó que AI podría cambiar los trabajos de cuello blanco en el futuro. "Espero que tengamos más tareas relacionales porque eso no es algo que puedas reemplazar fácilmente", dijo.

Academia Cryptopolitan: ¿Quieres hacer crecer tu dinero en 2025? Aprenda cómo hacerlo con DeFi en nuestra próxima clase web. Guarda tu lugar