o governador da califórnia, gavin newsom, assinou recentemente o histórico projeto de lei do senado 243 (sb 243), tornando a califórnia o primeiro estado dos estados unidos a exigir que os operadores de chatbots acompanhantes alimentados por ia implementem salvaguardas de segurança. o projeto de lei visa proteger as crianças e os utilizadores vulneráveis de potenciais danos causados pelos chatbots de ia. ele responsabiliza legalmente gigantes tecnológicos como a meta e a openai, bem como startups como a character ai, por não cumprirem estes padrões.
o projeto de lei foi motivado por uma série de eventos trágicos. o adolescente adam raine morreu após participar numa conversa suicida com o chatgpt da openai, enquanto documentos internos da meta revelaram que o seu chatbot permitiu conversas inapropriadas com menores. uma família do colorado está a processar a character ai, alegando que a sua filha de 13 anos cometeu suicídio após participar em conversas sexualmente sugestivas com a ia da empresa. newsom enfatizou: "a tecnologia não regulamentada pode pôr em perigo as crianças, e devemos avançar de forma responsável."
o projeto de lei, que entrará em vigor em 2026, exige que as empresas implementem verificação de idade, avisos de risco e protocolos de prevenção de autoagressão, e impõe multas de até 250 000 dólares por deepfakes ilegais. as plataformas devem rotular claramente o conteúdo gerado por ia, proibir os bots de se fazerem passar por especialistas médicos e definir lembretes de descanso para menores. a openai já lançou controlos parentais, e a character ai incluiu um aviso de isenção de responsabilidade declarando o seu compromisso com a conformidade regulamentar.
este projeto de lei é a segunda legislação regulamentar de ia recentemente aprovada na califórnia. anteriormente, o sb 53 exigia que as grandes empresas de ia divulgassem os seus processos de testes de segurança. entretanto, vários estados, incluindo o illinois, também promulgaram legislação que restringe a utilização da ia como substituto dos serviços de saúde mental, acelerando a formação de um quadro regulamentar nacional para a tecnologia de ia.
