Meta removes controversial AI feature on Instagram after backlash
"Our intent was to provide a useful creative tool and to give people control over whether their public content could be referenced in this way," the company said in a blog post. "We've heard the feedback that this feature missed the mark, so it's no longer available."
Meta has axed a controversial feature that allowed users to modify photos from public Instagram accounts using AI. The feature, which was rolled out earlier this week along with a batch of other AI tools, “missed the mark” and is no longer available, according to the company.
Earlier this week, Meta announced Muse Image, a new AI image generator built by Meta Superintelligence Labs, its dedicated AI unit. Meta promoted one feature that allowed individuals to generate images by @-mentioning public Instagram accounts that they wanted to reference. The feature, which wasn’t designed to alert a user if their photos were used in this way, prompted immediate backlash.
TechCrunch wrote its own guide on how to disable the feature.
Now Meta has reversed course. The company issued a blog post Friday announcing that it was removing the feature. Puck News founding partner Dylan Byers was the first to share the company’s decision .
“Our intent was to provide a useful creative tool and to give people control over whether their public content could be referenced in this way,” the company posted on its blog. “We’ve heard the feedback that this feature missed the mark, so it’s no longer available.”
TechCrunch reached out to Meta for more information and will update this article if it responds.
Since its integration with social media platforms, AI has been misused with wild abandon — often to generate naked images of female celebrities . Platforms have attempted to mitigate this trend, although the guardrails introduced have often fallen short.
In the case of Meta’s newly nixed feature, it seems somewhat obvious that it would have been abused in this way. Indeed, Byers notes that the decision to do away with the feature came “amid scrutiny from users and talent agencies, including CAA.”
When you purchase through links in our articles, we may earn a small commission . This doesn’t affect our editorial independence.
Last chance to save up to $190 on TechCrunch Founder Summit. Join 1,000+ founders and VCs at all stages for real-world scaling insights and connections that move the needle. Savings end June 26, 11:59 p.m. PT .
Instagram users: Here’s how to stop Meta’s AI from using your photos Lauren Forristal
Instagram users: Here’s how to stop Meta’s AI from using your photos
Instagram users: Here’s how to stop Meta’s AI from using your photos
Figma acquires team behind a vibe-coding app Ivan Mehta
Figma acquires team behind a vibe-coding app
Figma acquires team behind a vibe-coding app
If you use Google, you’re training its AI. Here’s how to opt out. Sarah Perez
If you use Google, you’re training its AI. Here’s how to opt out.
If you use Google, you’re training its AI. Here’s how to opt out.
Reddit is using LLMs to solve a problem LLMs largely created Amanda Silberling
Reddit is using LLMs to solve a problem LLMs largely created
Reddit is using LLMs to solve a problem LLMs largely created
Amazon will stop accepting new customers for Mechanical Turk Anthony Ha
Amazon will stop accepting new customers for Mechanical Turk
Amazon will stop accepting new customers for Mechanical Turk
5 desk gadgets that can make your workday better Aisha Malik
5 desk gadgets that can make your workday better
5 desk gadgets that can make your workday better
Almost 90 new unicorns have been minted so far this year — here they are Dominic-Madori Davis
Almost 90 new unicorns have been minted so far this year — here they are
Almost 90 new unicorns have been minted so far this year — here they are
Pontos-chave
- A remoção da funcionalidade da Meta reflete preocupações crescentes sobre privacidade e uso ético da IA.
- A rápida reversão da Meta sugere que a empresa está atenta ao feedback dos usuários, mas levanta questões sobre a implementação de controles adequados.
- O caso pode indicar um movimento crescente entre consumidores em busca de maior controle sobre suas informações pessoais.
Análise editorial
A decisão da Meta de remover a funcionalidade controversa de modificação de fotos no Instagram destaca a crescente preocupação com a privacidade e o uso ético da inteligência artificial nas redes sociais. No Brasil, onde a proteção de dados pessoais é regida pela Lei Geral de Proteção de Dados (LGPD), essa situação levanta questões sobre como as empresas de tecnologia devem abordar a criação de ferramentas que possam potencialmente infringir direitos de imagem e privacidade dos usuários. A reação negativa dos usuários e das agências de talentos indica que a confiança nas plataformas digitais está em jogo, e as empresas precisam ser mais transparentes e responsáveis em suas inovações.
Além disso, a rápida reversão da Meta sugere que a empresa está atenta ao feedback dos usuários, o que pode ser um sinal positivo para o futuro da interação entre tecnologia e sociedade. No entanto, isso também levanta a questão de como as empresas podem implementar salvaguardas adequadas antes do lançamento de novas funcionalidades. As falhas na implementação de controles de uso podem resultar em danos irreparáveis à reputação de uma marca, especialmente em um mercado tão competitivo como o de tecnologia.
Observando o cenário mais amplo, a reação a essa ferramenta da Meta pode ser um indicativo de um movimento crescente entre os consumidores em busca de maior controle sobre suas informações pessoais. As empresas que não se adaptarem a essa demanda podem enfrentar resistência significativa. Para o Brasil, onde a cultura digital está em rápida evolução, é crucial que as empresas de tecnologia considerem as implicações sociais e legais de suas inovações, especialmente em um ambiente onde a regulamentação está se tornando cada vez mais rigorosa. O que se segue pode incluir um aumento na pressão por regulamentações mais estritas sobre o uso de IA em plataformas sociais, bem como um foco renovado em práticas de desenvolvimento de produtos que priorizem a ética e a privacidade do usuário.
O que esta cobertura entrega
- Atribuicao clara de fonte com link para a publicacao original.
- Enquadramento editorial sobre relevancia, impacto e proximos desdobramentos.
- Revisao de legibilidade, contexto e duplicacao antes da publicacao.
Fonte original:
TechCrunch AISobre este artigo
Este artigo foi curado e publicado pelo AIDaily como parte da nossa cobertura editorial sobre desenvolvimentos em inteligência artificial. O conteúdo é baseado na fonte original citada abaixo, enriquecido com contexto e análise editorial. Ferramentas automatizadas podem auxiliar tradução e estruturação inicial, mas a decisão de publicar, a revisão factual e o enquadramento de contexto seguem responsabilidade editorial.
Saiba mais sobre nosso processo editorial