Anthropic propõe lei para EUA bloquear IAs que causem mortes ou danos bilionários
A proposta autoriza governo a impedir lançamento ou uso de modelos que possam causar >US$1 bi em prejuízos ou ferir/matar 50+ pessoas.
Anthropic propõe ao Congresso dos Estados Unidos uma lei que permitiria ao governo bloquear IAs consideradas perigosas.
O projeto fixaria dois gatilhos para bloqueio: risco de causar mais de US$1 bilhão em danos ou possibilidade real de matar ou ferir gravemente mais de 50 pessoas.
A empresa, dona do chatbot Claude, já discutiu a ideia com parlamentares e citou esses riscos na documentação de sua oferta pública inicial; a proposta autoriza impedir lançamento ou uso de modelos de linguagem de ponta.
A lista de riscos no texto inclui criação ou liberação de uma arma biológica, fuga do controle pelos desenvolvedores e ataques cibernéticos, e a medida surge num momento de crescente preocupação do setor com incidentes de cibersegurança.