China impone nuevas reglas para que los chatbots de IA eviten promover el juego y la autolesión

Beijing pone coto a los asistentes virtuales. El regulador tecnológico chino acaba de publicar una guía estricta que prohíbe a los chatbots de inteligencia artificial fomentar el juego o conductas autodestructivas.

El mensaje a los gigantes tecnológicos

La normativa, que entra en vigor de inmediato, exige a las empresas que despliegan modelos de lenguaje grandes (LLM) y asistentes de IA que implementen filtros de contenido más robustos. El objetivo es claro: evitar que estas herramientas, cada vez más integradas en la vida diaria, se conviertan en canales para contenido dañino.

Un freno a la creatividad algorítmica

Las reglas detallan una lista de temas prohibidos, incluyendo la promoción de apuestas, métodos de autolesión o cualquier contenido que "perturbe el orden económico y social". Para los desarrolladores, esto significa capas adicionales de supervisión y ajuste en modelos que ya son complejos de gestionar. Un movimiento que algunos en Silicon Valley observarían con escepticismo, argumentando que frena la innovación.

El contexto global de la regulación de IA

China no está sola en esta carrera por domesticar la IA. Mientras la UE avanza con su Ley de IA y EE.UU. debate marcos regulatorios, Beijing busca posicionar su enfoque como un equilibrio entre innovación y control. Una jugada que, irónicamente, podría hacer que sus empresas tecnológicas sean más "inversables" para fondos internacionales nerviosos con los riesgos de la IA sin gobernar. Al fin y al cabo, nada tranquiliza más a un capitalista de riesgo que un buen manual de reglas, incluso si limita el alcance del producto.

El resultado es un panorama de IA más predecible, pero también más acotado, donde la seguridad del usuario se impone a la experimentación sin límites. Un trade-off que define la próxima era digital.

Se espera que las propuestas de China protejan a los menores de las autolesiones

Según el borrador de reglas que publicó el sábado la Administración del Ciberespacio, estas están dirigidas a lo que ha denominado “servicios de inteligencia artificial interactivos similares a los humanos”, según la de CNBC del documento en idioma chino.

El borrador de las normas incluye varias propuestas. Por ejemplo, los chatbots de IA no pueden generar contenido que fomente la autolesión o el suicidio, ni ejercer violencia verbal o manipulación emocional que pueda perjudicar la salud mental de los usuarios.

Además, los chatbots de IA no deben crear contenido obsceno, violento ni relacionado con juegos de azar. Según el borrador de las normas, si un usuario propone suicidarse, la empresa de IA debe contar con una persona que tome las riendas de la conversación y contacte inmediatamente con el tutor del usuario o con la persona designada.

El borrador de las normas también propone que los menores cuenten con el consentimiento de su tutor para el uso de acompañamiento emocional, con límites de tiempo para su uso. Según las nuevas normas, se espera que las plataformas de IA determinen si un usuario es adulto o menor, incluso si no revela su edad. En caso de duda, las plataformas deben aplicar la configuración para menores, permitiendo al mismo tiempo la presentación de apelaciones.

Una vez finalizadas, estas reglas marcarían el primer intento del mundo de regular la IA con características humanas o antropomórficas, según el profesor de la Facultad de Derecho de la Universidad de Nueva York, Winston Ma. Estos avances se producen en un momento en que las empresas han desarrollado rápidamente compañeros de IA y celebridades digitales.

Al comparar esto con la regulación de IA generativa de China de 2023, Ma opinó que esta versión “resalta un salto de la seguridad del contenido a lo emocional”

Las propuestas surgen tras la solicitud este mes de dos startups chinas de chatbots de IA, Z.ai y Minimax , de su oferta pública inicial (OPI) en Hong Kong. Minimax es conocida internacionalmente por su aplicación Talkie AI, que permite a los usuarios chatear con personajes virtuales.

Según CNBC, la aplicación y su versión china, conocida como Xingye, representaron más de un tercio de los ingresos de la empresa en los primeros tres trimestres del año, con un promedio de más de 20 millones de usuarios activos mensuales durante ese tiempo.

En cuanto a Z.ai, también conocida como Zhipu, se registró bajo el nombre de Knowledge Atlas Technology , pero no reveló sus usuarios activos mensuales. Sin embargo, la empresa de inteligencia artificial reveló que su tecnología está presente en aproximadamente 80 millones de dispositivos, incluyendo teléfonos inteligentes, computadoras personales y vehículos inteligentes.

Como informó anteriormente Cryptopolitan , las dos nuevas empresas de inteligencia artificial, ambas respaldadas por Alibaba y Tencent, apuntan a salir a bolsa a principios de enero del próximo año en la Bolsa de Valores de Hong Kong.

Únete a Bybit ahora y reclama un bono de $50 en minutos