Por que o TikTok não consegue identificar anúncios gerados por IA, se eu consigo?

As empresas que supostamente defendem a transparência nem sequer conseguem ser honestas umas com as outras, quanto mais conosco.

As empresas que supostamente defendem a transparência nem sequer conseguem ser honestas umas com as outras, quanto mais conosco.

Tenho tido dificuldade em distinguir se os anúncios que aparecem no meu feed do TikTok foram criados com ferramentas de IA generativa. Como alguém que passa muito tempo examinando imagens e vídeos em busca dos indícios habituais de que algo foi gerado sinteticamente, algumas das promoções que vi definitivamente despertaram suspeitas. Por várias semanas, porém, não vi nenhum exemplo com a divulgação de IA exigida pelas políticas de publicidade do TikTok, então não tinha como saber com certeza.

O que me irrita é que alguém sabe com certeza se o conteúdo foi gerado por IA. Só que não estão contando para o resto de nós. E se as empresas que afirmam apoiar iniciativas de rotulagem de IA realmente querem que elas tenham sucesso, provavelmente deveriam fazer algo a respeito.

Veja a Samsung, por exemplo. Depois de espalhar vídeos gerados por IA por seus canais de mídia social, comecei a notar anúncios divulgando o recurso de tela de privacidade do Galaxy S26 Ultra aparecendo no meu TikTok. Vídeos do que parece ser a mesma campanha promocional foram publicados no YouTube com divulgações em suas descrições ocultas de que ferramentas de IA foram usadas para produzi-los. Em comparação, os anúncios do TikTok não davam nenhuma indicação de que IA tivesse sido usada. Vídeos comuns nas contas da Samsung no TikTok — aqueles que não são promovidos ativamente como anúncios — também não apresentam divulgações de IA, apesar de esses mesmos vídeos serem rotulados como gerados por IA no YouTube.

É importante observar que tanto a Samsung quanto o TikTok são membros da Content Authenticity Initiative, um grupo que visa tornar a autenticidade e a transparência do conteúdo “escaláveis e acessíveis” ao promover a adoção da C2PA em todo o setor. Isso significa que o TikTok e a Samsung supostamente compartilham ideais semelhantes em relação à identificação de conteúdo gerado por IA. Se a Samsung usou IA conscientemente para criar seus vídeos, deveria ter informado ao TikTok quando os anúncios foram enviados. Se o TikTok tivesse sido informado, deveria ter garantido que seus usuários estivessem cientes, de acordo com as próprias políticas de publicidade da plataforma.

Os anunciantes no TikTok só têm permissão para usar conteúdo “significativamente” editado ou gerado por IA se deixarem isso claro. Isso pode ser feito aplicando o próprio selo de IA do TikTok ou adicionando um aviso, legenda, marca d’água ou adesivo à escolha do anunciante, de acordo com a política de publicidade comercial da plataforma de vídeo:

“Quando dizemos ‘modificado significativamente por IA’, nos referimos a conteúdo que foi alterado pela IA além de pequenos ajustes ou aprimoramentos. Isso inclui o uso de imagens ou vídeos reais como material de origem, mas alterando-os substancialmente com IA, tais como:

•Conteúdo que contenha imagens, vídeo ou áudio totalmente gerados por IA

•Mostrar o sujeito principal fazendo algo que ele não fez de fato, como dançar.

•Fazer com que o personagem principal diga algo que ele não disse de fato, usando clonagem de voz por IA.”

A Samsung não respondeu aos meus pedidos de comentário. O TikTok me indicou seus requisitos de rotulagem de IA para anunciantes e sua parceria com a C2PA, mas se recusou a fornecer uma declaração oficial sobre por que os anúncios gerados por IA da Samsung foram aprovados. Ainda não sei qual etapa desse processo de transparência falhou.

Percebi uma novidade no início desta semana — os anúncios do TikTok promovidos pela revendedora de carros usados Cazoo, sediada no Reino Unido, que eu já havia visto sem qualquer divulgação, agora apresentam uma mensagem que diz “anunciante rotulado como gerado por IA” na parte inferior, ao lado do identificador “Anúncio”. Eu já suspeitava que os anúncios em questão provavelmente fossem gerados por IA porque todos continham distorções visuais bizarras que não tinham nenhuma explicação racional de edição, como uma broca de dentista se transformando em diferentes formas e pulando de uma mão para outra.

Não sei dizer se os anúncios da Samsung no TikTok passaram por uma atualização semelhante, pois já se passaram vários dias desde que algum deles foi promovido nos meus feeds. A transparência em relação à IA nas contas da Samsung no TikTok é, no entanto, uma bagunça — algumas têm o próprio rótulo de IA do TikTok aplicado, outras têm uma divulgação incluída manualmente nas letras miúdas do vídeo, e vários exemplos gerados por IA não apresentam nenhuma divulgação.

Atualmente, não existe uma solução tecnológica confiável para identificar com segurança conteúdo gerado por IA, ou mesmo conteúdo criado por humanos, em grande escala. Passei muito tempo reclamando das falhas de padrões de autenticação como C2PA Content Credentials, SynthID e outros sistemas baseados em proveniência que tentam informar aos usuários como um conteúdo foi criado — eles precisam que todos participem para funcionar de forma eficaz, e isso simplesmente não está acontecendo. Isso é um problema quando as pessoas estão tendo dificuldade para saber o que é real e o que não é no atual cenário geopolítico.

Mas isso se aplica ao conteúdo online em geral, enquanto a publicidade é um setor regulamentado que deve seguir um conjunto diferente de regras.

As grandes empresas de tecnologia realmente se importam em combater o lixo da IA?

Muitas dessas regras foram criadas para proteger os consumidores de serem enganados ou abertamente mentidos pelos anunciantes, como leis que impedem as empresas de cosméticos de colocar cílios postiços em modelos para vender seus rímels. Influenciadoras de beleza do TikTok, como Mikayla Nogueira, descobriram da maneira mais difícil que essas regras se aplicam a elas ao promover produtos, e que seu público tende a reagir mal a táticas desonestas de propaganda.

Isso não quer dizer que vídeos gerados sejam sempre enganosos, mas as preocupações em torno da transparência na publicidade levaram a UE, a China e a Coreia do Sul a introduzir requisitos de rotulagem para IA em materiais promocionais. Mesmo as empresas que não se comprometeram a apoiar iniciativas de transparência em IA podem correr o risco de multas futuras se não se organizarem.

Se grandes plataformas online como o TikTok e anunciantes como a Samsung não conseguem ser honestos uns com os outros sobre o uso de IA em um ambiente tão regulamentado, bem, então qualquer um pode anunciar qualquer bobagem que quiser. Fico feliz que pelo menos alguns rótulos de IA específicos para anúncios estejam começando a aparecer no TikTok depois que eu denunciei diretamente os anúncios às empresas envolvidas. Mas este é um sistema simples de duas vias que já deveria estar sendo implementado e aplicado de forma robusta, sem a necessidade de pessoas como eu examinarem minuciosamente cada anúncio em seus feeds.

Ao retornarem de uma viagem de ajuda humanitária a Cuba, americanos têm telefones apreendidos em aeroporto dos EUA

A Oppo fez o melhor celular dobrável, de novo

Uma aventura clássica no estilo Zelda, mas muito mais aconchegante