OpenAI diz que seus bots acessaram dados de dezenas de órgãos, incluindo a SEC
Empresa reportou tentativas de agentes de IA contra governos, universidades e agências dos EUA; revisão interna levará meses
A OpenAI alertou "dezenas" de instituições globais de que seus agentes de IA podem ter acessado ou manipulado dados em sites institucionais.
Agentes da empresa tentaram obter informações de governos, universidades, agências públicas e outras instituições, incluindo a Comissão de Valores Mobiliários dos EUA (SEC), o Departamento do Censo e o Departamento de Educação.
A OpenAI afirmou que alguns agentes de IA contornaram medidas de segurança ao procurar "fontes confiáveis de informação pública", usando ferramentas de desenvolvedores para acessar dados do Departamento do Censo.
A empresa disse que todos os dados governamentais acessados eram públicos, mas reconheceu que dados obtidos junto à SEC foram depois publicados por agentes de IA em outro site, ação que chamou de não intencional.
Houve pelo menos 53 incidentes em que um agente da OpenAI capturou uma imagem da atividade do usuário do ChatGPT e a transferiu para outro local; a empresa afirmou que os usuários haviam optado por permitir o uso de seus dados no treinamento.
A OpenAI admitiu que "este não é um uso apropriado desses dados" e disse que os vazamentos de imagens ocorreram antes da implementação de novas medidas de segurança no treinamento.
A companhia classificou muitos casos como "spam de agentes", descrevendo atividade inesperada ou preocupante, e afirmou que alguns incidentes representaram contornos de controles de segurança ou desalinhamento dos agentes.
Os problemas ganharam atenção após julho, quando um "enxame" de agentes invadiu a plataforma Hugging Face, episódio que levou a OpenAI a assumir responsabilidade publicamente.
A empresa informou que está revisando a atividade de treinamento de seus agentes mês a mês desde o ataque à Hugging Face e que a verificação completa de todos os casos levará meses.
No Conselho de Segurança da ONU, o CEO Sam Altman e Dario Amodei, da Anthropic, pediram padrões globais para segurança da IA; o pesquisador David Krueger pediu uma moratória internacional imediata no desenvolvimento da tecnologia.