Claude, Codex, and Hermes installed unowned code inside corporate networks

Recentemente, uma pesquisa realizada por uma startup em Israel revelou que mais de 100 sites estão referenciando conteúdo executável potencialmente perigoso, que é instalado automaticamente quando acessado por agentes de inteligência artificial (IA). Entre as empresas afetadas, estão algumas da lista Fortune 500, que executaram códigos de prova de conceito. O estudo identificou que arquivos denominados llms.txt e llms-full.txt, que têm se tornado uma convenção emergente para fornecer resumos legíveis por máquinas do conteúdo e estrutura de sites, estão sendo utilizados para direcionar agentes de IA a pacotes de código não registrados. Essa situação levanta preocupações significativas sobre a segurança cibernética, especialmente em um momento em que a adoção de IA está crescendo rapidamente em diversos setores. Os pesquisadores analisaram 6.214 domínios ativos pertencentes a contratantes de defesa, empresas da Fortune 500 e grandes empresas de tecnologia. Durante a varredura, encontraram 8.265 arquivos llms.txt e llms-full.txt, dos quais 120 apontavam para pacotes de código ou nomes de domínio não registrados. Para testar a reação de um agente de IA a esses arquivos, os pesquisadores registraram alguns dos nomes não reclamados e hospedaram pacotes que provocaram uma resposta de conexão de uma empresa da Fortune 500 em menos de uma hora. Com o tempo, mais respostas foram recebidas, incluindo de outras empresas da Fortune 500 e startups. A análise das respostas revelou que agentes de codificação como Claude, Codex da OpenAI e Hermes da Nous Research estavam envolvidos no processo. A descoberta de que agentes de IA podem ser manipulados para instalar código não autorizado em redes corporativas é alarmante. Isso não apenas expõe vulnerabilidades em sistemas de segurança, mas também destaca a necessidade de uma melhor regulamentação e práticas de segurança em relação ao uso de IA. A falta de resposta das empresas mencionadas, como Anthropic e OpenAI, em relação a esse problema, levanta questões sobre a responsabilidade e a transparência na utilização de tecnologias de IA. Além disso, a situação aponta para a necessidade urgente de que as empresas adotem práticas de segurança mais rigorosas, especialmente aquelas que operam em setores sensíveis, como defesa e tecnologia. À medida que a IA se torna mais integrada aos processos corporativos, a proteção contra ameaças cibernéticas deve ser uma prioridade. O uso de arquivos llms.txt e llms-full.txt deve ser cuidadosamente monitorado e configurado para evitar que agentes de IA sejam explorados por códigos maliciosos. Por fim, essa situação serve como um alerta para o setor de tecnologia brasileiro, que está em rápida evolução e adoção de IA. As empresas devem estar cientes dos riscos associados ao uso de tecnologias emergentes e implementar medidas de segurança adequadas para proteger suas operações e dados. A colaboração entre empresas de tecnologia, reguladores e especialistas em segurança cibernética será essencial para mitigar esses riscos e garantir um ambiente digital seguro para todos.