A IA física levanta questões de governança para os sistemas autônomos

A governança em torno da IA física está se tornando mais complexa à medida que os sistemas autônomos de IA são incorporados a robôs, sensores e equipamentos industriais. A questão não é apenas se os agentes de IA são capazes de realizar tarefas, mas como suas ações são testadas, monitoradas e interrompidas quando interagem com sistemas do mundo real. A robótica industrial já oferece uma ampla base para essa discussão. A Federação Internacional de Robótica informou que 542.000 robôs industriais foram instalados em todo o mundo em 2024, mais do que o dobro do nível anual registrado uma década antes. A federação espera que as instalações cheguem a 575.000 unidades em 2025 e ultrapassem 700.000 unidades até 2028. Pesquisadores de mercado também estão aplicando o rótulo de IA Física a um grupo mais amplo de sistemas, incluindo robótica, computação de ponta e máquinas autônomas. A Grand View Research estimou o mercado global de IA Física em US$ 81,64 bilhões em 2025 e projetou que ele alcance US$ 960,38 bilhões até 2033, embora a categoria dependa de como os fornecedores definem inteligência em sistemas físicos. Da saída do modelo à ação física O desafio de governança é diferente da automação exclusivamente de software porque os sistemas físicos podem operar em torno de locais de trabalho, infraestrutura e usuários humanos. Eles também podem estar conectados a equipamentos que exigem limites de segurança claros. A saída de um modelo pode se tornar um movimento de robô ou uma instrução de máquina. Também pode se tornar uma decisão baseada em dados de sensores. Isso torna os limites de segurança e os caminhos de escalonamento parte do projeto do sistema. O trabalho em robótica do Google DeepMind é um exemplo recente de como os modelos de IA estão sendo adaptados para esse ambiente. A empresa lançou o Gemini Robotics e o Gemini Robotics-ER em março de 2025, descrevendo-os como modelos construídos sobre o Gemini 2.0 para robótica e IA incorporada. O Gemini Robotics é um modelo de visão-linguagem-ação projetado para controlar robôs diretamente, enquanto o Gemini Robotics-ER se concentra no raciocínio incorporado, incluindo compreensão espacial e planejamento de tarefas. Um robô que utilize esse tipo de modelo pode precisar identificar um objeto, compreender uma instrução e planejar uma sequência de movimentos. Ele também precisa avaliar se a tarefa foi concluída corretamente. Isso cria um problema de controle que inclui tanto o comportamento do modelo quanto os limites mecânicos do sistema. O Google DeepMind afirmou que robôs úteis precisam de generalidade, interatividade e destreza. A generalidade abrange objetos e ambientes desconhecidos. A interatividade está relacionada à intervenção humana e às condições variáveis. A destreza refere-se a tarefas físicas que exigem movimentos precisos. Em seus materiais de lançamento, a Google DeepMind afirmou que o Gemini Robotics poderia seguir instruções em linguagem natural e realizar tarefas de manipulação em várias etapas. Os exemplos incluíram dobrar papel, colocar itens em uma bolsa e manusear objetos não vistos durante o treinamento. Os requisitos técnicos para a IA Física são mais amplos do que a compreensão da linguagem. Os sistemas precisam de percepção visual e raciocínio espacial. Eles também precisam de planejamento de tarefas e detecção de sucesso. Na robótica, a detecção de sucesso é importante porque o sistema deve decidir se uma tarefa foi concluída, se deve tentar novamente ou se deve parar. O Gemini Robotics-ER 1.6 do Google DeepMind, lançado em abril de 2026, mostra como essas funções estão sendo integradas em modelos mais recentes. A empresa descreve o modelo como capaz de suportar lógica espacial, planejamento de tarefas e detecção de sucesso, com a capacidade de raciocinar por meio de etapas intermediárias e decidir se deve avançar ou tentar novamente. A documentação para desenvolvedores do Google afirma que o Gemini Robotics-ER 1.6 está disponível em pré-visualização por meio da API Gemini. A documentação o descreve como um modelo de visão-linguagem que traz os recursos de agência do Gemini para a robótica. Esses recursos incluem interpretação visual, raciocínio espacial e planejamento a partir de comandos em linguagem natural. O Google AI Studio oferece um ambiente de desenvolvimento para trabalhar com modelos Gemini, enquanto a API Gemini fornece uma via para integrar esses modelos em aplicativos. No contexto da IA incorporada, isso aproxima os testes e as solicitações dos desenvolvedores que criam aplicativos agenticos. Os controles de segurança passam a fazer parte do projeto do sistema. A governança se torna mais complexa quando esses sistemas podem chamar ferramentas, gerar código ou acionar ações. Os controles precisam definir quais dados o sistema pode acessar, quais ferramentas pode usar, quais ações exigem aprovação humana e como a atividade é registrada para revisão. A pesquisa da McKinsey sobre confiança na IA para 2026 aponta para a mesma questão na IA empresarial de forma mais ampla. Ela constatou que apenas cerca de um terço das organizações relatou níveis de maturidade três ou superiores em estratégia, governança e governança de IA agênica, mesmo com os sistemas de IA assumindo funções mais autônomas. Na robótica, a segurança também inclui o comportamento físico da máquina. O Google DeepMind descreveu a segurança robótica como um problema em camadas, abrangendo controles de nível inferior, como prevenção de colisões, limites de força e estabilidade, bem como raciocínio de nível superior sobre se uma ação solicitada é segura no contexto. A empresa também apresentou o ASIMOV, um conjunto de dados para avaliar a segurança semântica na robótica e na IA incorporada. O Google DeepMind afirmou que o conjunto de dados foi projetado para testar se os sistemas são capazes de compreender instruções relacionadas à segurança e evitar comportamentos inseguros em ambientes físicos. Os mesmos controles usados para agentes de software tornam-se mais difíceis de gerenciar quando os sistemas estão conectados a robôs, sensores ou equipamentos industriais. Isso inclui direitos de acesso, trilhas de auditoria e comportamento de recusa. Também inclui caminhos de escalonamento e testes. Estruturas de governança, como a Estrutura de Gestão de Riscos de IA do NIST e a ISO/IEC 42001, fornecem estruturas para gerenciar riscos e responsabilidades de IA ao longo do ciclo de vida do sistema. Na IA Física, esses controles precisam levar em conta o comportamento do modelo, as máquinas conectadas e o ambiente operacional. O Google DeepMind também tem trabalhado com empresas de robótica como parte de seu desenvolvimento de IA incorporada. Em março de 2025, a empresa anunciou uma parceria com a Apptronik em robôs humanóides usando o Gemini 2.0 e listou a Agile Robots, a Agility Robotics, a Boston Dynamics e a Enchanted Tools entre os testadores de confiança para o Gemini Robotics-ER. A atualização de 2026 também mencionou o trabalho com a Boston Dynamics envolvendo tarefas robóticas, como a leitura de instrumentos. Esse tipo de caso de uso depende da compreensão visual, do planejamento de tarefas e da avaliação confiável das condições físicas. A IA física se aplica à inspeção industrial, à manufatura e à logística. Ela também se aplica a instalações e armazéns. Esses ambientes exigem que os sistemas interpretem as condições do mundo real e ajam dentro de limites definidos. A questão de governança é como esses limites são definidos antes que os sistemas autônomos tenham permissão para tomar ou executar decisões. O Google DeepMind e o Google AI Studio estão listados como parceiros de tecnologia do hackathon para a AI & Big Data Expo North America 2026, que acontecerá nos dias 18 e 19 de maio no San Jose McEnery Convention Center. (Foto de Mitchell Luo) Veja também: A governança de agentes de IA ganha destaque à medida que reguladores sinalizam lacunas de controle. Quer saber mais sobre IA e big data com líderes do setor? Confira a AI & Big Data Expo que acontecerá em Amsterdã, Califórnia e Londres. O evento abrangente faz parte da TechEx e é realizado em conjunto com outros eventos de tecnologia de ponta; clique aqui para obter mais informações. O AI News é desenvolvido pela TechForge Media. Explore outros eventos e webinars de tecnologia empresarial que estão por vir aqui. A publicação “IA física levanta questões de governança para sistemas autônomos” apareceu primeiro no AI News.