China impõe novas regras para bloquear chatbots de IA que promovem jogos de azar e automutilação

As autoridades chinesas apertam o cerco contra a inteligência artificial descontrolada. A nova regulamentação mira especificamente os chatbots que desrespeitam os limites éticos, proibindo a promoção de jogos de azar e conteúdo que incentive a automutilação.

O controle rígido sobre a narrativa digital não é novidade no país, mas a velocidade da resposta aos riscos da IA impressiona. Enquanto outros mercados ainda debatem diretrizes, a China já está implementando barreiras concretas.

Impacto no setor de tecnologia

Desenvolvedores de IA agora enfrentam um novo conjunto de restrições que vão além dos filtros de conteúdo tradicionais. Os sistemas precisam ser reprojetados para detectar e bloquear nuances perigosas em conversas automatizadas, um desafio técnico significativo que pode retardar lançamentos e aumentar custos operacionais.

As empresas que não se adaptarem rapidamente às regras arriscam multas pesadas e até a proibição de operar no maior mercado de internet do mundo. A mensagem é clara: inovação sim, mas sempre dentro dos parâmetros estabelecidos pelo governo.

Um contraste global marcante

Enquanto a Europa se debate com a IA Act e os EUA com diretrizes voluntárias, a China opta pela abordagem direta - legislação rápida e aplicação imediata. Essa diferença filosófica cria dois modelos distintos de desenvolvimento tecnológico que vão competir globalmente nos próximos anos.

O fechamento regulatório acontece enquanto o setor de criptomoedas ainda espera por clareza - uma ironia não perdida por observadores que notam como a China parece mais ágil regulando chatbots do que ativos digitais. Talvez seja mais fácil controlar palavras do que finanças descentralizadas.

O futuro da IA na China será moldado por essas regras, criando um ecossistema tecnológico único onde a inovação e o controle caminham lado a lado de forma inseparável.

Espera-se que as propostas da China protejam os menores da automutilação

De acordo com a minuta das regras divulgada no sábado pela Administração do Ciberespaço, estas visam o que foi denominado de "serviços de IA interativos semelhantes aos humanos", conforme tradução do documento em chinês feita pela CNBC

O projeto de regulamentação contém diversas propostas. Por exemplo, os chatbots de IA não podem gerar conteúdo que incentive a automutilação ou o suicídio, praticar violência verbal ou manipulação emocional que possa prejudicar a saúde mental dos usuários.

Além disso, os chatbots de IA não devem criar conteúdo obsceno, violento ou relacionado a jogos de azar. De acordo com a minuta das regras, se um usuário sugerir suicídio, a empresa de IA deverá designar um humano para assumir a conversa e contatar imediatamente o responsável legal do usuário ou uma pessoa designada.

O projeto de lei também propõe que menores de idade tenham autorização dos responsáveis para o uso de serviços de companhia emocional, com limites de tempo de uso. De acordo com as novas regras, espera-se que as plataformas de IA determinem se um usuário é adulto ou menor de idade, mesmo que ele não informe sua idade. Em caso de dúvida, as plataformas devem aplicar configurações para menores, permitindo recursos.

Uma vez finalizadas, essas regras representariam a primeira tentativa mundial de regulamentar a IA com características humanas ou antropomórficas, de acordo com Winston Ma, professor da Faculdade de Direito da NYU. Esses avanços ocorrem em um momento em que as empresas têm desenvolvido rapidamente assistentes virtuais e celebridades digitais.

Ao comparar isso com a regulamentação de IA generativa da China de 2023, Ma opinou que esta versão "representa um salto da segurança do conteúdo para o aspecto emocional"

As propostas surgem no momento em que duas startups chinesas de chatbots com IA, Z.ai e Minimax, registraram neste mês pedidos de oferta pública inicial (IPO) em Hong Kong. A Minimax é mais conhecida internacionalmente por seu aplicativo Talkie AI, que permite aos usuários conversar com personagens virtuais.

Segundo a CNBC, o aplicativo e sua versão chinesa, conhecida como Xingye, representaram mais de um terço da receita da empresa nos três primeiros trimestres do ano, com uma média de mais de 20 milhões de usuários ativos mensais durante esse período.

Já a Z.ai, também conhecida como Zhipu, foi registrada sob o nome Knowledge Atlas Technology , mas não divulgou o número de usuários ativos mensais. No entanto, a empresa de IA revelou que sua tecnologia está presente em cerca de 80 milhões de dispositivos, incluindo smartphones, computadores pessoais e veículos inteligentes.

Conforme noticiado anteriormente pela Cryptopolitan , as duas startups de IA, ambas apoiadas pela Alibaba e pela Tencent, têm como meta abrir capital no início de janeiro do próximo ano na Bolsa de Valores de Hong Kong.

Cadastre-se na Bybit agora e ganhe um bônus de US$ 50 em minutos