Mais de 100 autores, incluindo Hinton e Bengio, alertam para 'explosão' da IA
Relatório diz que automação da P&D em IA pode comprimir anos em meses e pede ação rápida dos governos
Relatório com mais de 100 autores, incluindo o ganhador do Nobel Geoffrey Hinton e o cientista Yoshua Bengio, alerta para uma 'explosão de inteligência' da IA.
Os autores dizem que a automação da pesquisa e desenvolvimento em IA pode comprimir avanços que levariam anos em meses ou menos e que a janela para agir pode se fechar; citam a possibilidade de automação total de P&D até 2028.
O texto foi coescrito por Jack Clark, cofundador da Anthropic, e Jakub Pachocki, cientista-chefe da OpenAI, e afirma que IAs podem chegar a se autoaperfeiçoar sem intervenção humana, conceito descrito como 'autoaperfeiçoamento recursivo'.
O relatório afirma que, uma vez capazes em P&D de IA, sistemas poderiam permitir que um único desenvolvedor gerencie o equivalente a milhões de pesquisadores humanos de ponta, e que sistemas aprimorados poderiam ser implantados rapidamente.
A Anthropic diz que sua IA já gera 80% do próprio código; a OpenAI usa agentes de IA autônomos no treinamento de novos modelos, segundo o documento.
Os autores listam três prioridades políticas: exigir relatórios transparentes sobre P&D em IA com auditores independentes; criar mecanismos para restringir desenvolvimento desenfreado; preparar governos para se adaptar a uma explosão de inteligência.
O relatório aponta três riscos principais: facilitar ameaças biológicas e cibernéticas que evoluam mais rápido que a mitigação; perda de controle humano à medida que humanos participam menos de P&D; e uso estatal de vantagens de curto prazo em ciberespaço para ganhos decisivos.
"Uma explosão de inteligência artificial pode ser o desenvolvimento tecnológico mais impactante da história da humanidade", afirmam os autores ao pedir ação urgente das lideranças governamentais.