Sério, você fez isso sem IA? Prove isso

Os criadores humanos querem um selo “sem IA”, mas não conseguem chegar a um acordo sobre qual.

Se você comprar algo por meio de um link do The Verge, a Vox Media poderá receber uma comissão. Consulte nossa declaração de ética.

Se você comprar algo por meio de um link do The Verge, a Vox Media poderá receber uma comissão. Consulte nossa declaração de ética.

É uma frase que temo ver como escritor que se dedica à ilustração e à fotografia amadora. Em um mundo onde a tecnologia de IA generativa está cada vez mais apta a imitar o trabalho dos humanos, as pessoas ficam naturalmente céticas quando as plataformas online se recusam a rotular até mesmo conteúdos de IA óbvios.

Isso me leva a uma conclusão: talvez devêssemos começar a rotular textos, imagens, áudio e vídeo criados por humanos com algo semelhante a um logotipo de Comércio Justo universalmente reconhecido. As máquinas certamente não têm motivação para identificar seus trabalhos, mas os criadores que correm o risco de serem substituídos definitivamente têm.

Felizmente, não estou sozinho nessa opinião.

O diretor do Instagram, Adam Mosseri, sugeriu isso em dezembro, dizendo que será “mais prático identificar mídia real do que mídia falsa” à medida que a tecnologia de IA avança a ponto de produzir conteúdo visualmente indistinguível daquele criado por profissionais criativos.

Ninguém pode dizer com certeza quanto do que encontramos na internet é gerado por IA, mas há uma percepção generalizada de que sites de notícias, plataformas de mídia social e resultados de mecanismos de busca estão repletos disso, de acordo com uma pesquisa recente do Reuters Institute.

Autenticar obras criadas por humanos era algo que o padrão de credenciais de conteúdo C2PA — que já é usado pelas plataformas da Meta — deveria fazer. Mas, até agora, sua implementação tem sido totalmente ineficaz, apesar de ter recebido amplo apoio do setor. Acontece que muitas pessoas que criam e publicam conteúdo de IA estão motivadas a ocultar suas origens por causa dos cliques, do caos e do dinheiro que isso pode gerar.

Em uma tentativa de ajudar os criativos humanos a distinguir seu trabalho daquele produzido por geradores de IA, um grande número de soluções surgiu nos últimos anos. E, assim como o C2PA, elas enfrentam uma série de desafios para sua adoção generalizada.

No momento, há muitas alternativas de certificação “livre de IA” para escolher. No total, contei pelo menos 12, todas tentando abordar a mesma questão com uma variedade de critérios de elegibilidade e abordagens de autenticação. Algumas são específicas do setor, como a “certificação de autoria humana” da Authors Guild para livros e outras obras escritas, e não podem ser amplamente aplicadas a todas as formas de conteúdo criativo.

Outras soluções, como Proudly Human e Not by AI, visam ser mais abrangentes, cobrindo textos publicados, artes visuais, videografia e música, mas os processos de verificação utilizados por esses serviços podem ser tão questionáveis quanto os usados pelas soluções de rotulagem com IA. Algumas, como a Made by Human, operam puramente com base na confiança, disponibilizando publicamente emblemas e rótulos para qualquer pessoa baixar e aplicar em seu trabalho sem realmente estabelecer a proveniência. Outros, como o No-AI-Icon, afirmam que inspecionam visualmente as obras e as submetem a serviços de detecção de IA, que podem ser notoriamente pouco confiáveis.

A maioria dos serviços que verifiquei está fazendo isso da maneira mais difícil: fazendo com que os criativos mostrem manualmente seus processos de trabalho a um auditor humano, como esboços e rascunhos escritos. É extremamente trabalhoso, mas, sem atalhos tecnológicos, é o método mais confiável que temos atualmente para determinar se algo foi feito por um ser humano de verdade.

As grandes empresas de tecnologia realmente se importam em combater o uso indevido da IA?

Outra questão é chegar a um consenso sobre o que significa “feito por humanos”. Com a IA agora incorporada em tantas ferramentas criativas e seu uso sendo incentivado por educadores da área criativa, onde traçar o limite?

“O problema será a definição e a verificação. Conversar com um LLM sobre a ideia antes de executá-la manualmente conta como uso de IA? E como o criador poderia provar que nenhuma IA esteve envolvida?”, disse Jonathan Stray, cientista sênior do Centro de IA Compatível com Humanos da UC Berkeley, ao The Verge. “Outros selos de consumo, como ‘Orgânico’, têm regulamentações e órgãos que as fazem cumprir.”

Nina Beguš, professora da Escola de Informação da UC Berkeley, afirma que já entramos na era do conteúdo híbrido, que está em conflito com a forma como definimos algo como sendo autêntico.

“Qualquer produção criativa hoje pode ser influenciada pela IA de uma forma ou de outra, sem que possamos provar isso”, disse Beguš ao The Verge. “A autoria está se desintegrando em novas direções, tornando-se mais aprimorada tecnologicamente e mais coletiva. Precisamos reformular nossos critérios de criatividade, que foram criados exclusivamente para humanos.”

Uma solução oferecida por um candidato a selo criado por humanos chamado Not by AI está tentando levar essa ambiguidade em consideração. Ele oferece uma variedade de selos que os criadores podem aplicar a sites, blogs, arte, filmes, ensaios, livros, podcasts e muito mais, desde que pelo menos 90% do trabalho seja criado por um ser humano real. Mas a abordagem voluntária carece de qualquer verificação de veracidade.

Outras soluções, como o Proof I Did It, estão recorrendo à tecnologia blockchain para fornecer um registro permanente que qualquer pessoa pode usar para consultar criadores e obras que foram verificados pelo serviço. Ao armazenar a verificação na blockchain, os criadores obtêm um certificado digital infalsificável que prova que um ser humano produziu seu trabalho, o que é muito mais confiável do que tentar usar um software para adivinhar se uma mídia foi gerada por IA.

Thomas Beyer, diretor executivo da Rady School of Management da Universidade da Califórnia, afirma que a Web3 e a tecnologia blockchain podem oferecer uma solução robusta ao mudar a questão de “isso parece IA?” para “esta conta pode comprovar sua história humana?”.

“Ao emitir tokens ‘Made by Human’ para criadores verificados, o mercado cria um ‘nível premium’ de arte onde a autenticidade é matematicamente garantida”, disse Beyer ao The Verge. Outros especialistas, como Beguš, ecoaram sentimentos semelhantes em relação ao potencial aumento de valor da “criatividade humana e biológica” em meio à enxurrada de mídia sintética.

Apesar de suas falhas, padrões estabelecidos como o C2PA oferecem algo de que as soluções de rotulagem sem IA precisam desesperadamente: unificação. Grandes nomes da indústria de tecnologia, como Adobe, Microsoft e Google, comprometeram-se com o padrão, e os provedores de IA estão implementando-o para apaziguar os reguladores globais. Dito isso, quando avalio os vários prós e contras entre os esforços de rotulagem de IA e aqueles que se concentram na verificação de conteúdo autêntico feito por humanos, sinto que o último tem mais chances de sucesso.

Muitos profissionais criativos, mesmo aqueles que não se opõem totalmente ao uso de ferramentas de IA, estão compreensivelmente motivados a distinguir seu trabalho da concorrência gerada sinteticamente que está saturando o setor e ameaçando seu sustento. E embora, sim, haja muitos evangelistas da IA nas plataformas de mídia social que ficam felizes em mostrar o que a tecnologia pode alcançar, há hesitação em divulgar seu uso quando dinheiro e influência podem ser perdidos.

Veja o caso de atores pornôs criando clones digitais de si mesmos que permanecerão atraentes e jovens para sempre, ou influenciadores de IA vendendo uma vida de fantasia que não existe. Revelar que são IA pode quebrar a ilusão para as pessoas que pensam estar tendo uma experiência humana genuína. Golpistas que usam imagens geradas por IA para vender produtos online certamente também não querem ser desmascarados, e as plataformas como a Etsy que os hospedam não parecem muito preocupadas. Da mesma forma, qualquer pessoa que use IA generativa para semear discórdia ou causar confusão nas redes sociais só terá sucesso quando as pessoas acreditarem que é real. Não é de se admirar que a rotulagem de IA com a C2PA não tenha pegado.

Sabemos que alguns criadores focados em IA evitarão ser transparentes porque isso já está acontecendo. Um exemplo notável disso é Coral Hart, uma autora de romances que disse ao The New York Times que ganhou uma quantia de seis dígitos após produzir mais de 200 romances gerados por IA no ano passado. Ela não tem nenhuma etiqueta em seus livros que revele que foram escritos usando ferramentas de IA, no entanto, por medo de que isso “prejudicasse seus negócios com esse trabalho” devido ao “forte estigma” em torno da tecnologia.

Podemos ver esse desdém em ação na frequência com que o conteúdo gerado sinteticamente é descrito como “porcaria”, mesmo que as obras em si sejam visualmente, auditivamente ou tecnologicamente impressionantes. E isso levanta a questão de como esses provedores de certificação “feito por humanos” ou “sem IA” impedirão que seus logotipos sejam abusados por aqueles que lucram com o engano. Trevor Woods, CEO da Proudly Human, reconhece que isso pode não ser possível.

“Assim como outras marcas de certificação e logotipos de empresas, não podemos impedir a exibição fraudulenta da marca de certificação Proudly Human. No entanto, facilitamos a verificação para os consumidores”, disse Woods ao The Verge. “Se um malfeitor identificado por nós se recusar a parar de usar o selo, tomaremos medidas legais contra ele.”

Se o objetivo é alcançar uma solução universalmente reconhecida e aplicada, então é necessário que um padrão seja acordado não apenas por criadores e plataformas online, mas também por governos globais e autoridades regulatórias. Pelo que entendi, essas conversas são atualmente poucas e esparsas.

“A Proudly Human ocasionalmente informou governos e associações do setor, mas não está envolvida em negociações formais sobre uma certificação unificada de origem humana”, disse Woods. “A rápida evolução das capacidades de IA e do conteúdo gerado por IA ultrapassará as respostas do governo e dos reguladores.”

Claramente, há uma demanda para tornar as obras criadas por humanos mais fáceis de identificar pelos consumidores; portanto, criativos, reguladores e agências de autenticação precisam escolher qual abordagem apoiar. Se um padrão único puder atingir o mesmo nível de símbolos como Fair Trade e Orgânico — que trazem suas próprias preocupações, mas são reconhecidos globalmente como algo que se alinha a um determinado ethos — talvez possamos voltar aos dias em que confiávamos no que víamos com nossos próprios olhos.

O AO3 finalmente saiu da fase beta após 17 anos

A Anthropic basicamente bane o OpenClaw do Claude ao fazer com que os assinantes paguem a mais

O ABS Challenge System está expondo o pior árbitro do beisebol

Apesar dos ventos contrários para os veículos elétricos, as vendas da Rivian estão em alta