Enterprise AI's real risk isn't autonomous agents. It's the complexity between them.

A complexidade dos agentes de IA nas empresas é um desafio crescente que exige atenção. Ao contrário da ideia de que uma única inteligência artificial pode ser monitorada e controlada, a realidade é que as empresas frequentemente implementam múltiplos agentes que interagem entre si, criando um sistema intrincado e difícil de governar. Cada agente pode chamar APIs, interagir com outros agentes e acessar aplicações que não foram projetadas para decisões automatizadas, resultando em um cenário onde a supervisão se torna quase impossível. Quando um segundo agente é adicionado a um sistema, a complexidade não se limita a uma nova conexão; ela se multiplica exponencialmente. Por exemplo, ao adicionar dez agentes, as interações entre eles podem gerar uma rede de conexões que rapidamente se torna opaca. Essa falta de clareza pode levar a falhas operacionais, onde um ticket de suporte pode passar por vários agentes antes de ser visto por um humano, e cada transferência representa um ponto de decisão que não foi aprovado. Essa situação é alarmante, pois a responsabilidade sobre as ações dos agentes se dilui à medida que a cadeia de interações se estende. Um dos principais problemas é a "permissão creep", onde um agente é criado com amplo acesso a APIs sem uma definição clara de escopo, o que pode resultar em acessos não autorizados a sistemas críticos, como o de pagamentos. À medida que a complexidade aumenta, a responsabilidade se torna nebulosa, e a governança não acompanha o ritmo das interações. A falta de um registro claro de cada agente e suas permissões contribui para essa confusão, tornando difícil identificar quem é responsável por cada ação. Para enfrentar esses desafios, é fundamental que cada agente tenha uma identidade própria, com um nome registrado e uma autoridade bem definida. Além disso, a supervisão deve ser abrangente, permitindo que as empresas vejam em tempo real o que cada agente está fazendo e quais ações estão sendo desencadeadas. A simples documentação não é suficiente; é necessário um sistema que impeça ações fora da política antes que elas aconteçam, em vez de apenas registrar as violações após o fato. As empresas que desejam avançar na implementação de IA precisam encontrar um equilíbrio entre a escalabilidade e a responsabilidade. A complexidade não deve ser vista como um obstáculo, mas como um aspecto que, se gerenciado adequadamente, pode levar a um ambiente de trabalho mais eficiente e seguro. A verdadeira questão não é a autonomia de um único agente, mas a interação de múltiplos agentes em um sistema complexo, que pode levar a resultados inesperados se não for bem governado. Portanto, a solução para a complexidade pode transformar a autonomia em uma vantagem competitiva, em vez de um risco. Rory Blundell, CEO da Gravitee, destaca que as empresas que conseguem superar a complexidade são aquelas que estabelecem visibilidade e responsabilidade suficientes, permitindo que suas operações cresçam sem perder o controle sobre o que está acontecendo em seus sistemas. O foco deve ser na construção de uma harmonia entre humanos e agentes, onde a escalabilidade e a responsabilidade caminham lado a lado, em vez de se contraporem.