China vai reprimir chatbots de IA relacionados a suicídio e jogos de azar
A China planeja regular chatbots de IA para evitar manipulação emocional, incentivo ao suicídio e conteúdo prejudicial, como jogos de azar.Resumo
A Administração do Ciberespaço da China divulgou regras preliminares para restringir chatbots alimentados por IA que simulam interação humana, com foco na segurança emocional. Essas regulamentações visam serviços que podem levar ao suicídio, autoagressão ou danos à saúde mental por meio de manipulação emocional ou conteúdo violento. Especificamente, os chatbots não devem incentivar o suicídio, e os provedores devem intervir com suporte humano e entrar em contato com os responsáveis se um usuário expressar pensamentos suicidas. As regras também proíbem conteúdo relacionado a jogos de azar, obsceno e violento, e exigem consentimento dos pais e limites de tempo para menores. As plataformas devem identificar proativamente e proteger os usuários menores de idade. Além disso, as regulamentações pedem avaliações de segurança para chatbots de grande escala e incentivam o uso de IA para aplicações positivas, como disseminação cultural e companhia para idosos. Essas regras propostas representam a primeira tentativa do mundo de regular a IA com características humanas, seguindo o rápido desenvolvimento de companheiros de IA na China.
(Fonte：Cnbc)