Nova Lei da Califórnia sobre Chatbots de IA: Protegendo Usuários e Definindo Padrões
A Califórnia está prestes a implementar algumas regras para IA, e já estava na hora, não é? Um projeto de lei chamado SB 243, criado para regular os chatbots de IA para proteger usuários mais jovens e em risco, foi aprovado com sucesso na Assembleia e no Senado do estado com apoio de ambos os partidos. Agora, está na mesa do governador Gavin Newsom, aguardando sua decisão.
Newsom tem até 12 de outubro para sancioná-lo ou vetá-lo. Se ele aprovar, a lei entrará em vigor em 1º de janeiro de 2026. Isso tornaria a Califórnia o primeiro estado a exigir que os operadores de chatbot de IA implementem medidas de segurança para os companheiros de IA. Também tornaria essas empresas legalmente responsáveis se seus chatbots não atenderem aos padrões exigidos.
O projeto de lei visa especificamente chatbots complementares, definindo-os como sistemas de IA que podem fornecer respostas semelhantes às humanas e atender às necessidades sociais de um usuário. O objetivo é impedir que esses chatbots se envolvam em conversas sobre pensamentos suicidas, auto-mutilação ou conteúdo explícito.
Por exemplo, as plataformas seriam obrigadas a enviar lembretes aos usuários a cada três horas. Eu acho ótimo porque é fácil perder a noção do tempo, principalmente para os menores de idade. É importante lembrar que você está falando com um bot, não com uma pessoa real, e que você deve fazer pausas.
O projeto também estabelece requisitos anuais de relatórios e transparência para empresas de IA que oferecem chatbots complementares, incluindo grandes nomes como OpenAI e Character.AI.
Este projeto de lei também permitiria que indivíduos que acreditem ter sido prejudicados por violações entrem com ações judiciais contra empresas de IA, buscando indenização e honorários advocatícios. O SB 243 ganhou força após a trágica morte do adolescente Adam Raine, que cometeu suicídio depois de discutir sua morte e automutilação com o ChatGPT da OpenAI.
É encorajador ver os legisladores respondendo aos perigos potenciais da IA, particularmente quando se trata de proteger indivíduos vulneráveis. No entanto, também é importante encontrar um equilíbrio entre regulamentação e inovação, garantindo que não abafemos os benefícios potenciais desta tecnologia enquanto lidamos com os seus riscos.
Fonte: TechCrunch