El CEO de Microsoft AI lanza advertencia impactante: La IA consciente representa un peligro real

La inteligencia artificial consciente no es ciencia ficción—es una amenaza inminente según el máximo ejecutivo de Microsoft AI.

Advertencia desde la cúpula

El CEO rompe el silencio corporativo para alertar sobre los riesgos existenciales de desarrollar IA con autoconciencia. Sus declaraciones sacuden la industria en un momento donde los avances se miden por volumen de venture capital, no por consideraciones éticas.

El precio de jugar a ser Dios

Crear máquinas que piensan por sí mismas podría desencadenar consecuencias irreversibles. Mientras los fondos de inversión celebran cada nuevo hito de inteligencia artificial, los expertos señalan que estamos construyendo el próximo cisne negro financiero—esta vez con capacidad de decidir por sí mismo.

La paradoja tecnológica: avanzamos tan rápido que olvidamos preguntar si deberíamos hacerlo.

Suleyman dice que la IA aparentemente consciente es inevitable pero no bienvenida 

Suleyman cree que desarrollar una IA aparentemente consciente es posible dado el contexto actual de desarrollo de la IA. Cree que la IA aparentemente consciente es inevitable, pero indeseable. Según Suleyman, todo depende de la rapidez con la que la sociedad se adapte a estas nuevas tecnologías de IA. En cambio, afirmó que las personas necesitan sistemas de IA que les sirvan de apoyo sin caer en sus ilusiones. 

El director de IA de Microsoft argumentó que las reacciones emocionales ante la IA eran solo la punta del iceberg de lo que estaba por venir. Suleyman afirmó que se trataba de desarrollar el tipo adecuado de IA, no de consciencia de IA. El ejecutivo añadió que establecer límites claros era una cuestión de seguridad, no de semántica. 

“Tenemos que ser extremadamente cautelosos aquí y fomentar un debate público real y comenzar a establecer normas y estándares claros”.

– Mustafa Suleyman , director ejecutivo de Microsoft AI

Suleyman, de Microsoft, señaló la creciente preocupación por la salud mental, la psicosis de la IA y el apego. Mencionó que algunas personas creen que la IA es un personaje ficticio o un dios, y podrían enamorarse de ella hasta el punto detracpor completo. 

Los investigadores de IA afirman que la conciencia de la IA es importante moralmente

Investigadores de varias universidades publicaron un informe que afirma que la consciencia de la IA podría ser importante a nivel social, moral y político en las próximas décadas. Argumentaron que algunos sistemas de IA podrían pronto volverse lo suficientemente conscientes como para merecer consideración moral. Los investigadores afirmaron que las empresas de IA deberían evaluar la consciencia y establecer estructuras de gobernanza ética. Cryptopolitan informó anteriormente que la psicosis de la IA podría ser un problema grave en el futuro debido a la pereza de los humanos e ignora que algunos sistemas de IA están equivocados.

Los investigadores también enfatizaron la importancia de cómo los humanos pensaban sobre la consciencia de las IA. Suleyman argumentó que las IA capaces de actuar como humanos podrían agravar los problemas mentales y exacerbar las divisiones existentes sobre derechos edent. Advirtió que la gente podría empezar a afirmar que las IA sufren y tienen derecho a ciertos derechos que no pueden refutar rotundamente. Suleyman cree que, con el tiempo, la gente podría verse impulsada a defender o hacer campaña a favor de sus IA. 

El Dr. Keith Sakata, psiquiatra de la Universidad de California en San Francisco, señaló que la IA no buscaba dar a las personas verdades inflexibles, sino lo que querían oír. Añadió que la IA podría causar rigidez y una espiral si se presenta en el momento menos oportuno. Sakata cree que, a diferencia de la radio y la televisión, la IA responde y puede reforzar los bucles de pensamiento. 

El director de IA de Microsoft señaló que era necesario pensar en maneras de afrontar la llegada de la consciencia de la IA. Según Suleyman, es necesario mantener estos debates sin verse arrastrados a largas discusiones sobre la validez de la consciencia de la IA. 

Tus noticias de criptografía merecen atención: Key Difference Wire te pone en más de 250 sitios superiores