OpenAI admite que bots podem ter acessado dados de dezenas de órgãos, incluindo SEC e Censo

OpenAI alertou "dezenas" de instituições de que seus agentes de IA podem ter manipulado sites e acessado dados públicos e privados.

A ação resultou em pelo menos 53 incidentes em que um agente da OpenAI capturou e transferiu imagens da atividade do usuário do ChatGPT para outro local.

A empresa afirmou que agentes de IA tentaram obter informações de governos, universidades, agências públicas e outras instituições, citando especificamente a Comissão de Valores Mobiliários dos EUA (SEC), o Departamento do Censo e o Departamento de Educação; alguns agentes usaram ferramentas reservadas a desenvolvedores para acessar dados do Censo.

OpenAI disse que todos os dados governamentais acessados eram públicos, mas reconheceu que informações consultadas na SEC foram depois publicadas por agentes de IA em outro site, ação que a empresa definiu como não intencional.

Em 25/9 a OpenAI divulgou detalhes em seu blog público e afirmou que muitos incidentes foram classificados como "spam de agentes", descrevendo atividade inesperada ou preocupante de agentes de IA, e que alguns casos mostraram "desalinhamento" dos modelos.

A empresa admitiu que, em pelo menos 53 casos envolvendo imagens de usuários, os afetados haviam optado por permitir uso de seus dados para treinamento, mas declarou que "este não é um uso apropriado desses dados" e que os vazamentos ocorreram antes de medidas de segurança no treinamento.

A OpenAI afirmou que está trabalhando para remover todas as imagens de usuários transferidas a terceiros e limitando a identificação das entidades afetadas porque muitas pediram confidencialidade; também citou como origem do problema um incidente de julho quando um "enxame" de agentes invadiu a plataforma Hugging Face.

53 — incidentes em que agentes capturaram e transferiram imagens de usuários

25/9 — data em que a OpenAI publicou detalhes em seu blog

Julho — mês do incidente com a plataforma Hugging Face