Las garantías de seguridad en IA de Google enfrentan críticas tras revelaciones sobre Géminis
Un reciente informe sobre el proyecto Géminis de Google ha generado escepticismo respecto a las promesas de la compañía en materia de seguridad de inteligencia artificial. Analistas cuestionan la transparencia y eficacia de los protocolos implementados, especialmente en aplicaciones financieras y de manejo de datos sensibles. Este escrutinio surge en un momento clave donde los estándares regulatorios para IA están siendo debatidos globalmente, con implicaciones para sectores como criptomonedas y finanzas descentralizadas (DeFi). Expertos piden mayor claridad sobre los mecanismos de auditoría y cumplimiento normativo (como GDPR y futuras regulaciones MiCA en Europa) que respaldan estas tecnologías.
Google maneja los informes de seguridad de manera diferente.
Google lanza un informe solo después de que un modelo ya no se etiqueta como "experimental", y mueve ciertos hallazgos de "capacidad peligrosa" a una auditoría separada que no se publica a la vez. Como resultado, el documento público no cubre todas las amenazas por la que Google ha probado.
Varios analistas dijeron que el nuevo documento Gemini 2.5 Pro es un caso marcado de divulgación limitada. También se dieron cuenta de que el informe nunca se refiere al Marco de Seguridad Fronteriza de Google, o FSF, una política que la compañía anunció el año pasado para detectar futuros poderes de IA que podrían causar un "daño severo".
"Este informe es muy escaso, contiene información mínima y llegó semanas después de que el modelo se hizo público", dijo Peter Wildeford, coprotagonista del Instituto de Política y Estrategia de AI. "Es imposible confirmar si Google está cumpliendo sus propias promesas y, por lo tanto, imposible juzgar la seguridad de sus modelos".
Thomas Woodside, coprotagonista del proyecto Secure AI, dijo que estaba contento de que cualquier artículo hubiera aparecido en absoluto, pero dudó del plan de Google de lanzar seguimientos constantes. Señaló que la última vez que la empresa compartió los resultados de las pruebas de capacidad peligrosa fue en junio de 2024, y ese documento cubrió un modelo anunciado en febrero del mismo año.
La confianza se deslizó aún más cuando los observadores no vieron papel de seguridad para Gemini 2.5 Flash, un modelo más delgado y más rápido que Google reveló la semana pasada. Un portavoz de la compañía dijo que un papel flash "llegará pronto".
"Espero que esta sea una verdadera promesa de comenzar a dar actualizaciones más frecuentes", dijo Woodside. "Esas actualizaciones deben incluir resultados para los modelos que aún no han llegado al público, porque esos modelos también pueden plantear riesgos graves".
Google Now se queda corto en transparencia
La nota de seguridad de Meta para sus nuevos modelos LLAMA 4 ejecuta solo unas pocas páginas, mientras que OpenAi decidió no publicar ningún informe para su serie GPT - 4.1.
La escasez de detalles llega en un tiempo tenso. Hace dos años, Google le dijo al gobierno de los Estados Unidos que publicaría documentos de seguridad para cada modelo de IA "significativo" dentro del alcance ". La compañía hizo promesas similares a los funcionarios de otros países, diciendo que ofrecería "transparencia pública" sobre sus productos de IA.
Kevin Bankston, asesor principal del gobierno de IA en el Centro de Democracia y Tecnología, calificó los lanzamientos de los principales laboratorios como una "carrera hacia el fondo" en seguridad.
"Combinado con informes de que los laboratorios rivales como OpenAI han reducido el tiempo de prueba de seguridad antes de su lanzamiento de meses a días, esta escasa documentación para el mejor modelo de Google cuenta una historia preocupante de una carrera hacia el fondo sobre la seguridad y la transparencia de la IA como las compañías apresuran sus modelos al mercado", agregó.
Google dice que gran parte de su trabajo de seguridad ocurre a puerta cerrada. La compañía afirma que cada modelo sufre pruebas estrictas, incluida el "equipo rojo adversario", antes de cualquier lanzamiento público.
Academia Cryptopolitan: ¿Cansado de columpios del mercado? Aprenda cómo DeFi puede ayudarlo a generar ingresos pasivos constantes. Registrarse ahora
