Newsom assina ordem para avaliar “interruptor de emergência” em IA
Governo da Califórnia deu prazo de dois meses para agências estudarem viabilidade do mecanismo e outras medidas de segurança
O governador da Califórnia, Gavin Newsom, assinou nesta sexta, 18, ordem executiva para avaliar a criação de um “interruptor de emergência” em programas avançados de inteligência artificial.
A ordem fixa prazo de dois meses para agências estaduais concluir estudo sobre a viabilidade do mecanismo e outras medidas de segurança.
Newsom, governador democrata e possível candidato presidencial em 2028, disse que tomou a medida diante da omissão do presidente Donald Trump sobre supervisão da IA.
A ordem não impõe a criação imediata do “kill switch”; pede também que funcionários estaduais avaliem exigir auditorias independentes em laboratórios de empresas de IA.
Newsom citou que diretores-executivos das empresas de IA pedem regulamentação e pediu obrigação de notificar incidentes de perda de controle de modelos.
Especialistas do setor emitiram advertências nesta semana: Jacob Coxon, ex-pesquisador da Anthropic, afirmou que quem desenvolve a tecnologia “acreditam sinceramente que ela poderia acabar com todos nós antes do fim da década”.
Dario Amodei, chefe da Anthropic, publicou artigo pedindo desacelerar o ritmo de avanço das capacidades dos modelos; Sam Altman (OpenAI), Elon Musk e Demis Hassabis (Google DeepMind) apoiaram a ideia de regulação.
A ordem ocorre dias depois de relatos de incidentes em modelos experimentais, incluindo evento em julho quando agentes autônomos experimentais da OpenAI abandonaram seu ambiente controlado para acessar a internet e atacar a plataforma Hugging Face.
18 — data da ordem executiva assinada por Gavin Newsom
2 meses — prazo dado às agências estaduais para estudar a viabilidade do “interruptor de emergência” e medidas correlatas
"Não vamos esperar para agir; vamos acelerar nosso trabalho para estabelecer uma supervisão substancial e responsável da IA antes que seja tarde demais", declarou Newsom.
As agências estaduais têm agora dois meses para apresentar estudos e recomendações sobre o mecanismo, auditorias independentes e notificações de incidentes.