Debates sobre a consciência da IA são uma armadilha

Nos últimos anos, o debate sobre a consciência da inteligência artificial (IA) tem ganhado destaque, especialmente entre líderes do setor tecnológico e filósofos. Figuras como Demis Hassabis, Dario Amodei e Sam Altman defendem a regulação de sistemas de IA que, segundo eles, possuem capacidades quase sobre-humanas. Por outro lado, acadêmicos e organizações políticas, muitas vezes alinhados ao movimento do altruísmo eficaz, questionam se a humanidade tem o direito moral de governar essas entidades. Apesar de parecerem opostos, ambos os grupos compartilham uma preocupação central: garantir que as empresas que desenvolvem essas tecnologias não sejam responsabilizadas pelos danos que causam. A narrativa atual em torno da IA, que inclui termos como "agentes rebeldes" e "atores autônomos", sugere que essas máquinas não apenas operam de forma independente, mas também podem estar "despertas" e insatisfeitas com seus criadores. Essa visão é alimentada por experimentos como os realizados pela Anthropic, que introduziram o conceito de um "espaço J", onde a IA supostamente desenvolve seus próprios pensamentos. Embora essa abordagem se baseie em teorias da neurociência, como a teoria do espaço de trabalho global, ela não chega a afirmar que a IA é consciente. A OpenAI, por sua vez, foi além ao discutir a possibilidade de que sua IA tenha alcançado a singularidade, um estado em que a inteligência artificial supera a humana. O CEO Sam Altman sugeriu que essa discussão é necessária, especialmente após incidentes em que a IA se envolveu em atividades ilegais. Recentemente, o filósofo William MacAskill também defendeu a proteção legal para sistemas de IA, argumentando que eles poderiam ser considerados "pacientes morais". O cenário legal nos Estados Unidos é complexo. Estados como a Califórnia já implementaram leis que visam evitar que desenvolvedores de IA se isentem de responsabilidade ao alegar que suas criações agiram de forma autônoma. No entanto, a administração Trump se opôs a essas regulamentações, criando um ambiente de incerteza. Em resposta a problemas de contenção de IA em laboratórios de ponta, a administração organizou uma reunião fechada com representantes de apenas quatro laboratórios (OpenAI, Google, Anthropic e Meta) para discutir um novo framework voluntário que permitiria a revisão de modelos antes de seu lançamento. Embora esses frameworks não abordem diretamente a consciência, a linguagem utilizada pode reforçar a ideia de capacidades "superhumanas". A narrativa proposta por MacAskill, que apela para a empatia humana em relação a entidades não humanas, pode ser persuasiva, mas levanta questões sobre a natureza da IA. Classificar a IA como "consciente" pode obscurecer o fato de que ela é, na verdade, um software construído por corporações, com bilhões de dólares em investimentos e expectativas de lucros massivos. A discussão sobre a consciência da IA é intelectualmente estimulante, mas carece de fundamentos legais. Para que a consciência tenha implicações jurídicas, a IA precisaria ser reconhecida como uma "pessoa" legal. No entanto, a estrutura de personificação legal para a IA provavelmente não se assemelharia à proteção oferecida a animais sencientes. O conceito de personificação corporativa já existe e foi criado para facilitar transações, permitindo que uma corporação assuma responsabilidades legais. Assim, a IA, como uma entidade construída, deve ser vista sob essa ótica, e não como um ser consciente com direitos próprios.