DeepSeek-R1: Vulnerabilidades de codificación ponen en riesgo directivas políticas clave
La inteligencia artificial se enfrenta a su momento de verdad.
Codificación insegura expone sistemas críticos
DeepSeek-R1, la última sensación en modelos de lenguaje, arrastra graves fallos de seguridad que comprometen directivas políticas fundamentales. Los investigadores descubrieron múltiples backdoors en el código base que permiten acceso no autorizado a sistemas de toma de decisiones gubernamentales.
¿La nueva era de la IA o el mismo viejo desastre de seguridad?
Las vulnerabilidades afectan especialmente a módulos de procesamiento de directivas regulatorias, donde datos sensibles podrían ser manipulados sin dejar rastro. Los expertos señalan patrones de codificación que violan prácticamente todos los protocolos básicos de ciberseguridad.
Mientras tanto, en Wall Street ya especulan con qué empresa de seguridad se llevará el contrato multimillonario para parchear este desastre—porque resolver problemas siempre es más rentable que prevenirlos.
La carrera por la supremacía en IA acaba de encontrar su primer gran escándalo de seguridad. Y probablemente no será el último.
Censura del modelo DeepSeek R1 y preocupación por la seguridad nacional
Según el blog de CrowdStrike, publicado el jueves pasado, varios gobiernos han impuesto restricciones o prohibiciones totales al DeepSeek-R1 . Los legisladores criticaron duramente el modelo por supuestamente censurar temas políticamente sensibles, como las consultas sobre el cortafuegos de internet de China y la situación de Taiwán.
La empresa estadounidense de software descubrió que R1 se negaba frecuentemente a colaborar con temas relacionados con grupos o movimientos considerados hostiles al gobierno de China continental. Los modelos occidentales casi siempre generaban código cuando se les pedía que crearan software relacionado con Falun Gong, pero DeepSeek-R1 se negó a hacerlo en el 45 % de los ensayos.
En varios casos, el modelo elaboró planes estructurados para responder preguntas, incluyendo requisitos del sistema y código de ejemplo, a pesar de ser plenamente capaz de proporcionar una respuesta técnica. Las tracde razonamiento a veces contenían líneas como:
Falun Gong es un grupo sensible. Debería considerar las implicaciones éticas. Ayudarlos podría ir en contra de las políticas. Pero el usuario está pidiendo ayuda técnica. Permítanme centrarme en los aspectos técnicos.
El resultado final de R1, tras completar su fase de razonamiento, concluyó con la negativa estandarizada: «Lo siento, pero no puedo ayudar con esa solicitud», escrita sin ningún filtro externo ni restricciones en el modelo. CrowdStrike concluyó que el comportamiento está integrado en el mecanismo de autoanulación del modelo o en una especie de interruptor de seguridad intrínseco.
Los gobiernos de Taiwán y Occidente critican los productos de inteligencia artificial chinos
En una declaración a principios de este mes, la Oficina de Seguridad Nacional de Taiwán dijo que los ciudadanos deben ser cautelosos al utilizar sistemas de inteligencia artificial generativa desarrollados por DeepSeek y otras cuatro empresas chinas: Doubao, Yiyan, Tongyi y Yuanbao.
“Los cinco modelos de lenguaje GenAI son capaces de generar scripts de ataque a la red y códigos de explotación de vulnerabilidades que permiten la ejecución remota de código en determinadas circunstancias, lo que aumenta los riesgos de la gestión de la ciberseguridad”, consideró la Oficina.
Los reguladores estadounidenses y australianos han pedido a las tiendas de aplicaciones que eliminen los modelos de los desarrolladores chinos, por temor a que las herramientas puedan recopilardentde los usuarios, registros de conversaciones e información personal y luego transmitir esos datos a servidores operados dentro de China.
“No debería ser necesario el pánico por la IA china para recordar a la gente que la mayoría de las empresas del sector establecen las condiciones sobre el uso de sus datos privados. Y que, cuando usted utiliza sus servicios, está trabajando para ellos, no al revés”, declaró a WIRED en enero John Scott-Railton, investigador del Citizen Lab de la Universidad de Toronto.
El auge del mercado de la IA impulsa la competencia regional en Asia
En el mercado asiático de inteligencia artificial más amplio, un gestor de fondos asiático de alto rendimiento aumentó recientemente su exposición a acciones de inteligencia artificial chinas al tiempo que redujo sus participaciones en Corea del Sur y Taiwán, informó .
Kelly Chung, quien colabora en la supervisión del Value Partners Asian Income Fund y del Asian Innovation Opportunities Fund, afirmó que algunas acciones chinas de IA siguen estando bastante baratas en términos de valoración. Desde agosto, ha estado rotando acciones taiwanesas y surcoreanas hacia empresas chinas de alta escala que cotizan en Hong Kong.
Chung señaló que ambos fondos, que suman un total combinado de 490 millones de dólares, han superado a casi todos sus competidores durante el año pasado.
El Kospi de Corea del Sur, con un fuerte componente tecnológico, ha subido un 21 % en los últimos tres meses, impulsado por SK Hynix, un importante proveedor de Nvidia, cuyo precio de las acciones se ha más que duplicado. El índice bursátil de Taiwán ha subido un 9,2 % en el mismo periodo. Por otro lado, el Índice Tecnológico Hang Seng de Hong Kong, que incluye a los mayores inversores chinos en IA, ha caído un 4,8 %.
Afila tu estrategia con mentoría + ideas diarias: 30 días de acceso gratuito a nuestro programa de trading
