AI’s recursive self-improvement might not come so quickly after all

O setor de inteligência artificial (IA) tem alimentado expectativas crescentes sobre a capacidade das máquinas de se autoaperfeiçoarem, com pouca ou nenhuma supervisão humana. Modelos de linguagem, como os LLMs, já demonstram habilidades impressionantes, como escrever código e otimizar chips de computador. No entanto, um novo estudo conduzido por pesquisadores da Universidade de Princeton, liderados por Peter Kirgis e Sayash Kapoor, sugere que essa promessa pode estar mais distante do que se imaginava. A pesquisa revela que os agentes de IA ainda não são capazes de realizar investigações abertas em IA, que exigem julgamento e criatividade, habilidades essenciais para o desenvolvimento de uma IA que se autoaperfeiçoe. Os pesquisadores testaram a capacidade de agentes de IA, especificamente o Claude Opus 4.8 da Anthropic, em responder a perguntas de pesquisa de artigos não publicados submetidos à conferência NeurIPS 2026. As questões abordavam o controle de "personas" em modelos de linguagem e a criação de detectores de confiabilidade para modelos preditivos baseados em dados de planilhas. Apesar de receberem recursos significativos, como créditos da API da Anthropic e acesso à web, os agentes não conseguiram produzir trabalhos que atendessem aos padrões de qualidade exigidos por conferências de alto nível. Embora tenham demonstrado competência em resolver problemas de engenharia e realizar experimentos, falharam em aspectos críticos como criatividade e julgamento. Os resultados indicam que, apesar de os agentes serem capazes de realizar tarefas específicas, eles não conseguem conduzir pesquisas abertas que exigem um pensamento mais flexível e a capacidade de explorar diferentes hipóteses. Os pesquisadores observaram que os agentes tendiam a se apegar a abordagens não promissoras e não conseguiam reavaliar suas estratégias de pesquisa. Além disso, não conseguiram integrar feedback de subagentes ou ferramentas de revisão, o que comprometeu ainda mais a qualidade de seus trabalhos. Esses achados levantam questões sobre as previsões otimistas de automação na pesquisa em IA. A dificuldade dos modelos em lidar com tarefas abertas pode ser atribuída à forma como são treinados, uma vez que o aprendizado por reforço é mais eficaz em tarefas com respostas verificáveis. O estudo também destaca a necessidade de desenvolver ambientes de treinamento que simulem a complexidade do pensamento aberto. Embora o estudo tenha limitações, como a avaliação feita pelos próprios autores dos artigos e a análise de apenas dois trabalhos, ele oferece uma visão crítica sobre as capacidades atuais dos agentes de IA e os desafios que ainda precisam ser superados para que a promessa de autoaperfeiçoamento se torne realidade. O futuro da pesquisa em IA pode depender da capacidade de criar modelos que não apenas executem tarefas, mas que também possam pensar de forma criativa e adaptativa, características que ainda estão além do alcance dos sistemas atuais.