OpenAI advierte que la próxima generación de IA podría ser el arma definitiva para cibercriminales
Los sistemas de inteligencia artificial del futuro no solo escribirán poemas, también podrían redactar exploits imbatibles.
OpenAI alerta sobre modelos capaces de automatizar ataques sofisticados - justo cuando pensábamos que las criptoestafas ya habían alcanzado su máximo esplendor.
El informe sugiere que la IA avanzada podría identificar vulnerabilidades en segundos, dejando obsoletos los actuales sistemas de seguridad blockchain. ¿El lado positivo? Quizás finalmente tendremos una excusa legítima para esos hackeos de exchanges.
Poniendo a prueba los límites
OpenAI trabaja con grupos especializados en pruebas de seguridad que intentan superar todas sus defensas. Simulan cómo podría operar un atacante decidido con grandes recursos. Esto ayuda a detectar puntos débiles antes de que lo hagan las amenazas reales.
Los riesgos de ciberseguridad que plantea la IA preocupan a todo el sector. Como informó Cryptopolitan anteriormente, los hackers ya utilizan tecnologías de IA para mejorar sus ataques.
La empresa planea un programa que otorga a los usuarios cualificados que trabajan en defensa de la ciberseguridad acceso especial a las capacidades mejoradas de sus modelos más recientes. OpenAI aún está determinando qué funciones pueden estar ampliamente disponibles y cuáles requieren restricciones más estrictas.
También está Aardvark. Esta herramienta de seguridad en pruebas privadas ayuda a desarrolladores y equipos de seguridad a encontrar y corregir vulnerabilidades a gran escala. Analiza el código en busca de debilidades y sugiere soluciones. El sistema ya ha descubierto nuevas vulnerabilidades en software de código abierto. OpenAI planea invertir importantes recursos en fortalecer el ecosistema de seguridad en general. Esto incluye ofrecer cobertura gratuita a algunos proyectos de código abierto no comerciales.
OpenAI creará el Consejo de Riesgo Fronterizo. Este reúne a defensores y profesionales con experiencia en ciberseguridad. El grupo comienza con la ciberseguridad, pero se expandirá a otras áreas. Los miembros del Consejo ayudan a definir los límites entre las capacidades útiles y su posible uso indebido.
La seguridad sigue siendo un desafío
La empresa colabora con otras empresas líderes en IA a través del Frontier Model Forum. Esta organización sin fines de lucro promueve un entendimiento común de las amenazas y las mejores prácticas. OpenAI considera que los riesgos de seguridad derivados de la IA avanzada podrían provenir de cualquier sistema de IA importante del sector.
Investigaciones recientes demostraron que los agentes de IA pueden descubrir vulnerabilidades de día cero por valor de millones entracinteligentes de blockchain. Esto pone de relieve cómo estas capacidades avanzadas tienen un impacto recíproco.
OpenAI ha trabajado para reforzar sus propias medidas de seguridad, pero la empresa se enfrentó a sus propios problemas. La firma lidió con múltiples brechas de seguridad en el pasado. Esto demuestra lo difícil que es proteger los sistemas y la infraestructura de IA.
La compañía afirma que este es un trabajo continuo. El objetivo es brindar ventajas a los defensores y fortalecer la seguridad de la infraestructura crítica en todo el ecosistema tecnológico.
Regístrate en Bybit y comienza a operar con $30,050 en regalos de bienvenida
