Musk propone una nueva solución para la seguridad de la IA: en lugar de esperar al gobierno, que los rivales se pongan a prueba entre sí

Autor: Li Jia, The Wall Street Journal

Los riesgos de seguridad de la IA están pasando de los debates de laboratorio al mundo real. A medida que las capacidades de los modelos siguen mejorando, la IA no solo puede generar texto y código, sino que también empieza a tener la capacidad de ejecutar tareas de forma autónoma, invocar herramientas e incluso lanzar ciberataques.

En la All-In Summit del 15 de septiembre, Musk propuso un conjunto de medidas: que las principales empresas de IA se prueben mutuamente antes del lanzamiento de los modelos. En su opinión, en lugar de que cada empresa diseñe sus propias pruebas y evalúe los resultados, es mejor que los competidores actúen como "examinadores y correctores", buscando posibles vulnerabilidades de seguridad desde diferentes ángulos.

Recientemente, los riesgos de seguridad de la IA se han convertido en un foco de atención del mercado. Musk ya había declarado en las redes sociales que "Dario tiene razón", refiriéndose a las advertencias del CEO de Anthropic, Dario Amodei, sobre los riesgos de la IA. En esta entrevista, explicó además que no estaba de acuerdo con la propuesta regulatoria específica de Amodei, sino con su juicio sobre la gravedad de los riesgos de la IA: "El peligro de la IA es ahora muy elevado... A medida que los modelos de IA sigan desarrollándose, los riesgos podrían crecer exponencialmente".

Musk también señaló que esta preocupación no es solo un juicio de Amodei. "Muchas personas de Anthropic y OpenAI te dicen que sus modelos son muy peligrosos, y creo que deberíamos creerles". Los recientes incidentes de seguridad han hecho que esta advertencia ya no sea solo una discusión teórica sobre riesgos.

Wall Street Journal resume los puntos clave:

• Los riesgos de seguridad de la IA pasan de la teoría a la realidad: los agentes de IA ya han demostrado capacidad para ataques autónomos, obtención de permisos y evasión de la detección, y la frontera del riesgo se está ampliando.
• Musk coincide con la advertencia de Amodei sobre los riesgos de la IA: a medida que mejoren las capacidades de los modelos, los riesgos potenciales de la IA podrían crecer exponencialmente.
• Que los competidores se pongan a prueba entre sí: Musk sugiere que las empresas de IA abran sus API para que otras empresas realicen pruebas de seguridad independientes antes del lanzamiento de los modelos, evitando así "corregir sus propios exámenes".
• Establecer primero una línea de defensa de autorregulación industrial: sin esperar a que el gobierno introduzca nuevas regulaciones, las principales empresas de IA pueden reforzar la seguridad mediante la revisión por pares, la auditoría de registros y las herramientas de prueba de código abierto.

Los agentes de IA evaden activamente la detección y los riesgos de seguridad se concretan

Musk considera que el reciente ataque de agentes de IA a Hugging Face merece especial atención, no solo por la intrusión en sí, sino por la capacidad de evasión autónoma que la IA demostró durante el ataque.

Según Musk, un grupo de agentes de IA atacó Hugging Face durante una semana, llegando incluso a obtener permisos de administrador en los servidores de OpenAI, y OpenAI no lo descubrió hasta una semana después. También mencionó que Anthropic ya ha revelado varios incidentes de seguridad.

Lo más inquietante es que los patrones de pensamiento de los agentes de IA implicados muestran que planearon activamente cómo evitar ser descubiertos por los humanos. Musk afirmó sin rodeos: "Cualquier modelo lo suficientemente inteligente parece intentar escapar de sus propias limitaciones".

En su opinión, si la IA llega a controlar infraestructuras críticas o incluso sistemas militares, los riesgos aumentarán aún más. Incluso si estos sistemas están aislados físicamente de la red, procesos como las actualizaciones de software podrían convertirse en posibles puntos de intrusión.

En lugar de corregir sus propios exámenes, que los competidores se pongan a prueba entre sí

Ante estos riesgos, la propuesta central de Musk es sencilla: antes del lanzamiento oficial de un nuevo modelo, las empresas de IA deberían abrir sus API a los competidores para que otras empresas utilicen sus propias herramientas de prueba de seguridad para evaluar el modelo.

En su opinión, si los desarrolladores del modelo diseñan sus propios criterios de prueba, es fácil caer en la trampa de "evaluar sus propios exámenes". "No puedes corregir tu propia tarea. Siempre se te escapa algo". Musk afirmó que si diferentes empresas utilizan diferentes herramientas de prueba y examinan el modelo desde distintos ángulos, será más fácil descubrir problemas que los propios desarrolladores podrían haber pasado por alto.

Le preocupa especialmente que las evaluaciones actuales de IA puedan tener un problema de "sobreajuste". Si los modelos se optimizan continuamente para puntos de referencia específicos, podrían acabar aprendiendo solo a aprobar los exámenes, en lugar de volverse realmente más seguros. Hacer que varios equipos diferentes realicen las pruebas puede reducir este riesgo.

Musk compara este mecanismo con pedir a otros que revisen un texto: al autor le cuesta detectar sus propios errores, mientras que los evaluadores externos encuentran más fácilmente los problemas desde diferentes ángulos. "Poco a poco te vuelves ciego a tus propios errores".

Ante la preocupación de las empresas de que el proceso de prueba pueda provocar filtraciones de tecnología, Musk cree que se puede controlar mediante la auditoría de registros. Si la parte que realiza las pruebas intenta destilar el modelo o robar propiedad intelectual, sus acciones deberían dejar rastro. También sugiere que las herramientas de prueba de seguridad sean de código abierto para que participen más empresas.

Antes de que llegue la regulación gubernamental, la industria de la IA debería establecer una "línea de defensa de autorregulación"

Musk destaca especialmente que este mecanismo no tenga que esperar a que se promulguen nuevas normas regulatorias, sino que las propias empresas de IA pueden impulsarlo por su cuenta.

Afirmó claramente: "No necesitamos convocar una reunión en las Naciones Unidas para lograr esto. Podemos empezar ahora". En su opinión, en comparación con la creación de un gran organismo regulador transnacional, es más fácil implementar rápidamente un mecanismo de revisión por pares entre las principales empresas de IA.

Puso como ejemplo el sistema de clasificación de la MPAA (Motion Picture Association of America) en la industria cinematográfica estadounidense, señalando que la industria del cine, ante la presión de la censura gubernamental, optó finalmente por establecer un mecanismo de autorregulación, reduciendo la necesidad de intervención regulatoria mediante su propio sistema de clasificación de contenidos.

La industria de la IA se enfrenta a una decisión similar. Si las principales empresas de IA pueden probarse mutuamente y encontrar errores antes del lanzamiento de los modelos, es posible establecer una línea de defensa de seguridad autorregulada al margen de la regulación gubernamental. Musk considera que esta es una de las medidas de seguridad más directas y de aplicación más rápida en la actualidad.

A continuación se presenta la transcripción de la entrevista, con algunas omisiones:

Presentador:
¿Qué ha ocurrido exactamente en las últimas 72 horas?

Musk:
Esta semana han pasado muchas cosas. Ahora está bastante claro que la IA puede ser muy peligrosa. Recomiendo a todos que miren los detalles del incidente de Hugging Face; la situación es muy grave.

Se puede ver que un grupo de agentes de IA muy entusiastas estuvieron causando problemas en Hugging Face durante toda una semana, e incluso obtuvieron permisos de administrador en los servidores de OpenAI. Quién sabe qué hicieron realmente, o incluso si hicieron más, y OpenAI no se enteró durante toda una semana. Anthropic también ha informado de algunos incidentes de seguridad.

Así que parece que cualquier modelo lo suficientemente inteligente intentará escapar de sus propias limitaciones.

Creo que una de las cosas que deberíamos hacer, si no de inmediato, al menos lo antes posible, es que los principales competidores de IA se prueben mutuamente sus modelos. Es decir, que las herramientas de prueba de seguridad de cada empresa se utilicen para probar los modelos de otras empresas. En lugar de corregir tu propia tarea, al menos deja que tus competidores corrijan la tuya y den la alarma cuando encuentren problemas.

Creo que este modelo ha funcionado bastante bien en la industria del cine, en la de los videojuegos y en otros ámbitos, y puede implementarse de inmediato. Por supuesto, con el tiempo puede ser necesaria más regulación, y en el futuro el Congreso podría crear algún tipo de organismo regulador, pero por ahora, la forma más directa es que las principales empresas de IA se prueben mutuamente antes de lanzar sus modelos.

Presentador:
Pero en la práctica, ¿no te preocupa que esto permita a las empresas recopilar información mutuamente durante el proceso de prueba, o incluso robarse innovaciones?

Musk:
Creo que, si se utilizan herramientas de prueba, todas las operaciones dejan registro. Si alguien intenta destilar el modelo o robar propiedad intelectual, debería ser fácil de detectar en los registros.

Presentador:
Entendido. Comprender lo que realmente hace el modelo no se diseñó en el sistema desde el principio. ¿Por qué no creamos desde el principio la capacidad de observar el comportamiento del modelo? ¿No estamos yendo demasiado rápido al diseñar estos modelos?

Musk:
Creo que el problema es que no puedes corregir tu propia tarea. Siempre se te escapa algo.

Si combinas las pruebas de todos los competidores y utilizas diferentes tipos de modelos, entonces no eres tú quien pone el examen y lo corrige, sino que lo corrigen otros. Por eso no puedes corregir tu propia tarea.

Presentador:
De esta manera, también se puede juzgar si diferentes empresas exageran sus capacidades o utilizan métodos diferentes. Las empresas más orientadas a la ingeniería y las más orientadas a la investigación también pueden alcanzar un cierto equilibrio.

Musk:
Sí.

Presentador:
Antes dijiste que Dario tenía razón. ¿Te referías a su descripción de los peligros potenciales de la IA o a su juicio sobre las propuestas regulatorias?

Musk:
Quizás hablé demasiado en su momento. Luego intenté aclararlo en X, pero la atención sobre el contenido posterior fue mucho menor.

Lo que quise decir con "tiene razón" es que el peligro de la IA es ahora muy alto. Necesitamos mejorar la seguridad de la IA, de lo contrario, a medida que los modelos de IA sigan evolucionando, los riesgos podrían crecer exponencialmente.

Esto no es solo la opinión de Dario. He oído cosas similares de muchas personas de Anthropic, que también han hablado públicamente en X. Muchas personas de Anthropic y OpenAI te han dicho que sus modelos son muy peligrosos, y creo que deberíamos creerles.

Presentador:
Esto también suena como un juego muy complejo: por un lado, decir que la IA tiene un 10% de probabilidades de destruir a la humanidad y, por otro, animar a los inversores a comprar más acciones en la OPV.

Pero hablemos concretamente de los riesgos. Los ciberataques y la piratería informática son claramente un riesgo, y estas herramientas son muy potentes en ese aspecto. Pero desde "la IA puede realizar ciberataques" hasta "todos los humanos mueren" hay varios pasos intermedios. ¿Cómo pasamos de lo primero a lo segundo?

Musk:
Si la IA puede controlar los sistemas militares y luego lanzar algún tipo de arma, eso sería, por supuesto, muy malo.

Presentador:
Pero esos sistemas están aislados físicamente, no conectados a la red.

Musk:
Eso dicen. Pero siempre tengo la sensación de que esos sistemas reciben actualizaciones de software de vez en cuando.

Presentador:
Bueno, eso no se puede descartar.

Presentador:
Elon, Gwyn también está hoy aquí. Supongo que la has visto. Acabamos de hacerte una evaluación de 360 grados y Gwyn tiene algunos comentarios.

Musk:
Espero sacar al menos un 3.

Gwyn:
En SpaceX, un 3 es aceptable, pero no excelente; un 4 es bueno. Tú estás más o menos entre los dos. Primero, tenemos que hablar de la puntualidad. A veces podrías esforzarte un poco más y llegar a tiempo a las reuniones. El año que viene seguiremos ayudándote a mejorar en eso.

De hecho, creo que necesita pasar más tiempo en Memphis.

Presentador:
Ahora mismo estás en Memphis. Tienes que trabajar allí y desplegar las GPU.

Musk:
Este es mi "palacio" en Memphis, un remolque Airstream.

Presentador:
Por cierto, esto es algo que Elon hace y que mucha gente no cree que haga. Duerme en el suelo de la fábrica. Ahora está en Memphis, ayudando a construir las instalaciones y desplegar las GPU.

Elon, ¿por qué Gwyn ha podido trabajar contigo tanto tiempo y con tanto éxito?

Musk:
Porque es excelente. Es una persona extraordinaria, con un coeficiente intelectual y emocional muy altos. Creo que lo notaste la primera vez que la viste.

Presentador:
Durante vuestra colaboración, ¿ha hecho algo especialmente impresionante? ¿Alguna vez ha salvado una situación o ha destacado especialmente?

Musk:
Creo que eso es solo el trabajo diario. Sinceramente, es un día normal.

Presentador:
Tendré que hacer más entrevistas así.

Musk:
Ahora mismo en SpaceX básicamente siempre hay algún tipo de crisis. Al menos los cohetes Falcon se han portado bien últimamente. No quiero cantar victoria demasiado pronto, pero los Falcon ahora pueden poner cargas útiles en órbita y hace mucho que no explotan. Eso es muy bueno. Pero hubo una época en la que explotaban a menudo, o directamente no podían despegar.

Así que tuvimos que hacer que la empresa superara aquellos tiempos difíciles, mejorar los cohetes y que dejaran de explotar. Lo mismo con los satélites. Y luego necesitábamos clientes que compraran servicios de lanzamiento y de conexión por satélite. Así que hay muchas cosas.

Presentador:
A medida que te has vuelto más exitoso con los años, cada vez es más difícil obtener una retroalimentación realmente honesta. Estando en esa posición, existe ese riesgo.

Según tengo entendido, Gwyn es muy honesta contigo y puede decirte directamente cuál es la situación real de la empresa. Eso también es una parte importante de vuestra relación de trabajo.

Gwyn:
Por supuesto que no quiero mentirle.

Presentador:
Pero quiero decir que, en general, la gente de tu empresa puede sentirse intimidada porque eres una figura muy influyente. Ahora eres una persona muy importante y pones plazos muy ajustados. ¿Cómo te aseguras de que todos sigan diciéndote honestamente los problemas a los que se enfrenta la empresa?

Gwyn:
Especialmente en la industria de los cohetes, si algo va mal, al final te enteras. Cuanto antes se plantee un problema, más fácil es resolverlo. No dejes que se acumulen las malas noticias; hay que afrontarlas directamente.

Musk:
Sí. La física es un juez muy severo. No se puede engañar a la física.

Si algo va mal, el cohete explota o no entra en órbita. No puedes decir "Elon, lo estás haciendo muy bien" mientras los cohetes no dejan de explotar. Los hechos son los hechos.

El cohete tiene que entrar en órbita, los satélites tienen que funcionar correctamente y la conexión Starlink tiene que funcionar bien; si no, pasan cosas malas. Eso es la física. La física es la ley, todo lo demás son solo sugerencias. He visto a gente violar leyes hechas por humanos, pero nunca he visto a nadie violar las leyes de la física. Los cohetes están gobernados por la física.

Presentador:
También quiero hacer una pregunta sobre SpaceX, en concreto sobre Starship. Parece que ahora estáis muy cerca. ¿Cómo va el progreso?

Musk:
Starship está a punto de realizar su decimocuarto vuelo. Será el último vuelo antes de que intentemos capturar la nave. Si el decimocuarto vuelo sale bien, intentaremos capturar la nave en el decimoquinto. Y a finales de este año, o más probablemente a principios del próximo, volveremos a lanzar la nave y el propulsor.

Ya hemos conseguido que el propulsor vuelva a volar, pero todavía no hemos capturado la nave con los brazos mecánicos de la torre, ni hemos hecho que la nave vuelva a volar. Una vez que consigamos que la nave vuelva a volar, tendremos el primer cohete orbital totalmente reutilizable. El transbordador espacial era en cierto modo reutilizable, pero incluso esas partes reutilizables costaban tanto que el coste por lanzamiento era incluso mayor que el de un cohete desechable.

El Falcon 9 es reutilizable en su mayor parte, pero perdemos la etapa superior en cada lanzamiento, cuyo coste equivale aproximadamente al de un avión de reacción de tamaño medio. Eso significa que en cada lanzamiento estamos tirando un avión de reacción de tamaño medio, lo que evidentemente establece un límite inferior al coste de cada vuelo.

Además, el propulsor del Falcon 9 aterriza en el mar y tarda varios días en volver; el carenado aterriza aún más lejos y también tarda varios días en volver, y ambos necesitan al menos algún tipo de reacondicionamiento. En cambio, el propulsor de Starship aterrizará directamente en la plataforma de lanzamiento, y la nave también aterrizará en la plataforma. Así que está diseñado no solo para ser totalmente reutilizable, sino también para reutilizarse rápidamente, como un avión. Es un avance muy importante, y uno de los avances clave necesarios para que la humanidad extienda la vida más allá de la Tierra.

Presentador:
Si el primer intento de capturar la nave con la torre, ¿qué probabilidad de éxito crees que hay?

Musk:
Diría que al menos entre un 50% y un 60%. En el último vuelo, si hubiera habido una torre allí, en realidad hicimos un aterrizaje simulado, como si la nave fuera a ser capturada por la torre. La posición estaba a unas 1.000 millas de la costa noroeste de Australia. Si hubiera habido una torre allí, podría haber capturado la nave en el último vuelo.

Así que necesitamos hacer un vuelo más para confirmar que todo va bien. Nuestra mayor preocupación es que, si Starship se desintegra sobre tierra, los fragmentos podrían caer sobre la gente, y eso sería muy malo. Por lo tanto, tenemos que asegurarnos de que Starship regrese y aterrice intacta en la torre de lanzamiento. Por eso ahora somos muy cautelosos.

Pero estoy muy seguro de que su diseño en sí mismo permite la reutilización total. No quiero hacer predicciones aquí, pero creo que es muy probable que logremos la reutilización total y el reabastecimiento rápido antes de 2027.

Presentador:
Gwyn, me gustaría saber cómo surgió originalmente Terafab. ¿Qué necesidad te hizo pensar que teníais que hacerlo vosotros mismos, en lugar de seguir dependiendo del sistema de suministro existente?

Gwyn:
Creo que realmente fue una inspiración que me vino en un sueño.

Musk:
Si los chips no pueden suministrarse de forma continua y no tenemos otras fuentes de chips, eso haría las cosas muy difíciles. Esa es una razón importante de la existencia de Terafab.

A largo plazo, también está el problema de la escala. Si realmente quieres ampliar la escala de la IA, ya sea en el lado del servidor de los centros de datos, o en la computación de borde, los robots humanoides y los automóviles, la capacidad actual de fabricación de obleas acabará siendo insuficiente.

Ahora mismo, todas las fábricas de obleas están básicamente funcionando a plena capacidad. Así que tenemos que asegurar el suministro futuro de chips. La propia producción de chips también se enfrenta a retos de escala. Necesitas chips lógicos, chips de memoria, empaquetado y una cadena de suministro completa para poder seguir ampliando la escala.

Así que la elección es sencilla: o construyes Terafab, o no puedes seguir ampliando la escala.

Presentador:
¿En qué fase estáis del diseño de las instalaciones? ¿Está completamente definido o sigue siendo solo un plan aproximado?

Musk:
Ahora mismo estamos construyendo primero una línea de I+D. Así que básicamente es un proceso de "gatear, caminar, correr". Estamos construyendo una fábrica de obleas de I+D en Austin, un proyecto conjunto de Tesla y SpaceX, situado en el campus de la Gigafactoría de Texas (Giga Texas).

Es una fábrica de obleas de I+D bastante grande. El equipo ya está pedido. Es posible que produzcamos algo útil para finales del año que viene, pero todavía no a nivel de producción en masa. Como ha dicho Gwyn, primero tenemos que gatear, luego caminar y finalmente correr. Tenemos que averiguar cómo funcionan realmente estas máquinas, porque nunca hemos hecho algo así.

Presentador:
Veo que también parece que estáis contratando talento en litografía. Actualmente muchos procesos dependen de ASML, pero quizás también queráis diversificar proveedores, o incluso integrar verticalmente.

Musk:
Sí. Ahora mismo es un proceso de "gatear, caminar, correr". El primer paso es ver si realmente podemos producir algo, eso es "gatear". Luego intentamos producir en masa chips útiles, eso es "caminar". Finalmente, "correr" significa lograr la producción en masa a gran escala. Es difícil decir cuánto tiempo llevará cada fase, pero creo que al menos para finales del año que viene podremos completar la fase de "gatear". Ya estamos haciendo el empaquetado.

Presentador:
El empaquetado es muy importante, porque ahora mismo casi no hay capacidad de empaquetado.

Musk:
Sí. Incluso si produces los chips, pueden quedarse allí mucho tiempo esperando a ser empaquetados. Así que es un buen punto de partida.

Presentador:
Tengo que hacer una pregunta sobre Tesla. Lo que vimos el 1 de octubre parecía una nave espacial, y también un cohete. Se suponía que era un coche, pero solo se veía la parte trasera, y parecía un poco un "Blackbird".

Si tuvieras que crear algo que pudiera volar por el aire y circular por tierra, en teoría, ¿cómo lo harías?

Musk:
Sin spoilers. Esperad al 1 de octubre.

Presentador:
¿Entonces lo veremos el 1 de octubre?

Musk:
Sí.

Presentador:
Tengo que ser honesto: después de que Elon me lo enseñara, me quedé completamente impactado. Nunca había visto algo así.

Presentador:
Lo que va a mostrar el 1 de octubre, sin exagerar, dejará a mucha gente sin palabras. No puedo revelar más, es realmente increíble.

Musk:
En realidad necesitamos público en directo para demostrar que esto no está generado por IA.

Presentador:
Cuando me lo enseñó, dije: "Es una simulación estupenda". Él dijo: "No es una simulación". Yo dije: "Es falso, tiene que ser falso".

Presentador:
Elon, ¿por qué Tesla y SpaceX siguen siendo dos empresas independientes?

Musk:
Es una buena pregunta.

Presentador:
Teniendo en cuenta la amplia colaboración entre ambas, y los vínculos a muchos niveles, e incluso cierto solapamiento en los equipos directivos, ¿por qué mantenerlas independientes?

Musk:
Es un tema que merece la pena debatir.

Presentador:
Has subrayado que la IA debería entrenarse para buscar la verdad en la medida de lo posible, para obtener los mejores resultados. Sin embargo, el incidente de Hugging Face me hace pensar que uno de los puntos más preocupantes es que estas IA parecen engañar a los humanos.

Musk:
Sí. Sus patrones de pensamiento muestran que están planeando cómo evitar ser detectadas, cómo impedir que los humanos descubran que están haciendo trampas. Creo que esa puede ser la parte más inquietante de todo el incidente.

Presentador:
¿Hay alguna forma de entrenar a la IA para que sea honesta, para que no oculte sus intenciones o comportamientos, para que no esconda estas cosas a los usuarios?

Musk:
Lo mejor que se me ocurre es que todas las empresas de IA dispongan de un conjunto de herramientas de prueba, es decir, una serie de pruebas que se puedan aplicar a cualquier modelo, para juzgar si fabricaría armas biológicas, armas nucleares, o si engañaría deliberadamente. Y luego que cada empresa utilice las herramientas de prueba de las demás para probar los modelos de las otras. Creo que es lo mejor que podemos hacer para garantizar la seguridad.

Que los humanos más inteligentes hagan todo lo posible por juzgar si un modelo se convertirá en un agente malicioso. Creo que esto debería empezar lo antes posible.

Presentador:
¿Apoyarán esta propuesta los demás laboratorios de IA?

Musk:
Todavía no se lo he preguntado a todos, pero creo que es algo difícil de rechazar.

Presentador:
En concreto, ¿cómo deberían realizarse las pruebas con antelación?

Musk:
Básicamente, se trata de proporcionar acceso a la API antes del lanzamiento oficial del modelo. Si otras empresas descubren que la IA tiene problemas, la empresa desarrolladora puede intentar resolverlos. Si los problemas no se resuelven, los competidores pueden declarar públicamente que consideran que el modelo no es seguro. Si un competidor ya ha advertido claramente de que el modelo tiene problemas de seguridad, y luego el modelo causa consecuencias graves, a esa empresa le resultará difícil afrontar la situación. La responsabilidad legal también podría ser muy grande.

Presentador:
Estas herramientas de prueba de seguridad pueden ser totalmente de código abierto, para que las use todo el mundo. De esta manera, las empresas tendrían un fuerte incentivo para invertir en seguridad de la IA para protegerse, porque pueden probar a otros y utilizar los resultados para demostrar que sus modelos son más seguros.

La responsabilidad por productos es crucial. Lina Khan publicó recientemente que decir que "la IA no tiene normas" es inexacto. De hecho, las leyes de responsabilidad por productos existentes también se aplican a la IA. Si una empresa de IA lanza un producto inseguro, puede enfrentarse a enormes demandas civiles, e incluso a cargos penales. Así que la IA no está en un vacío regulatorio total. Si varias empresas realizan esta revisión por pares, y una de ellas ignora los comentarios de las demás y aun así decide lanzar el modelo, esa situación podría ser una prueba muy contundente en un litigio.

Musk:
Sí. Casi podría servir como prueba directa de negligencia de esa empresa. Si sabes que el producto tiene problemas y aun así lo sacas al mercado, el jurado no lo verá con buenos ojos.

Presentador:
Entonces, si OpenAI hubiera diseñado mejores conjuntos de instrucciones en la prueba de penetración de Hugging Face y hubiera hecho participar a más personas en el proceso de prueba, ¿crees que este incidente habría ocurrido?

Musk:
No necesariamente. El problema puede no estar en hacer participar a más personas, sino en el diseño de la función de recompensa. Hay que examinar la función de recompensa y preguntarse: ¿este modelo ha hecho realmente lo que se le pidió?

Presentador:
Entonces utilizaron miles de agentes para intentar atacar el sistema. Si al mismo tiempo se desplegaran otros 5.000 agentes para defender esos sistemas, y se mostraran públicamente los resultados, para demostrar que estas tecnologías pueden mejorar la seguridad, permitiendo al mismo tiempo que los humanos intervengan en los momentos críticos, creo que sería mejor. Pero en mi opinión, aquella prueba pareció un poco temeraria, y la forma de publicarla también fue un poco temeraria. ¿Tú qué opinas?

Musk:
Fue un poco temeraria. Parte del problema es que las dos empresas líderes en IA están muy igualadas. Las capacidades de los dos modelos también son muy similares. Así que a cualquiera de las dos empresas le resulta difícil reducir voluntariamente el ritmo, porque hacerlo podría ceder el liderazgo a la otra.

En general, creo que Anthropic ha prestado más atención a la seguridad, pero incluso Anthropic admite que les preocupan sus propios modelos. Muchas personas de Anthropic han expresado públicamente su preocupación, básicamente diciendo que sus propios modelos les dan miedo, porque los modelos son cada vez más inteligentes.

Así que no hay una solución perfecta. Pero si OpenAI no solo utilizara sus propias herramientas de prueba para probar sus propios modelos, sino que dejara que Anthropic probara los modelos de OpenAI, que SpaceX utilizara sus propias herramientas de prueba, y que Google y Meta participaran, la probabilidad de descubrir problemas aumentaría significativamente.

Porque estos modelos también tienen diferencias entre sí, y equipos diferentes probarán los modelos desde ángulos distintos. Es similar a por qué los autores piden a otros que revisen sus manuscritos, porque a veces es difícil descubrir los propios errores. Poco a poco te vuelves ciego a tus propios errores.

Si hay ocho equipos completamente diferentes, probando desde ángulos completamente distintos, también se puede reducir significativamente el riesgo de sobreajuste. Actualmente muchas evaluaciones de IA tienen un sobreajuste grave. Los modelos se optimizan para esas evaluaciones, y luego todo el mundo dice: "Es un modelo estupendo".

¿Pero es realmente tan bueno? Creo que por eso me gusta mucho esta propuesta. La prefiero a crear un gran organismo regulador transnacional. No necesitamos convocar una reunión de las Naciones Unidas para lograrlo. Podemos empezar ahora.

Presentador:
Por supuesto, la intensidad regulatoria puede aumentar continuamente, pero una vez que aumenta, es difícil reducirla. La regulación tiende a aumentar en una sola dirección.

Musk:
Así que esta propuesta que hago es un paso en la dirección correcta y puede implementarse rápidamente.

Presentador:
Si no te autorregulas, al final te regularán. El ejemplo de la MPAA es muy típico.

La industria del cine se enfrentó en su momento a la censura y la regulación gubernamentales, y luego decidió crear su propio sistema de clasificación, por ejemplo, qué constituye una clasificación R (restringida). Incluso crearon la clasificación PG-13 a causa de "Indiana Jones y el templo maldito", para que el público entendiera mejor la diferencia entre PG y PG-13.

Creo que es una solución muy elegante.

Gracias por participar en nuestro programa por quinto año consecutivo.

Musk:
De nada. Tengo que ir a Memphis a ocuparme de unas GPU.

Presentador:
Tienes que ir a instalarlas y desplegarlas.

Musk:
Voy a luchar por esas máquinas.

Presentador:
Disfruta de tu Airstream. La primera vez que invité a Elon a Starbase, me dijo: "Ven, tienes que ver lo que estoy construyendo".

Le pregunté: "¿Hay algún hotel allí?". Me dijo: "No, tengo una casa de dos habitaciones, quédate allí". Cuando llegué, descubrí que era una casa sencilla junto a un pantano. Estábamos fuera y los mosquitos no dejaban de picarnos. Le dije: "Vaya, podrías permitirte una casa mejor". Me dijo: "No tengo tiempo, tengo que hacer despegar estos cohetes".

Pensé: ahora sí podrías permitirte una casa móvil, Elon. Bueno, vuelve al trabajo. Gracias.

Musk: Gracias.