A OpenAI debateu chamar a polícia por causa das conversas do suspeito canadense do tiroteio.

Um jovem de 18 anos que supostamente matou oito pessoas em um tiroteio em massa em Tumbler Ridge, no Canadá, teria usado o ChatGPT da OpenAI de maneiras que alarmaram a equipe da empresa. As conversas de Jesse Van Rootselaar descrevendo violência armada foram sinalizadas por ferramentas que monitoram o LLM da empresa para uso indevido e banidas em junho de 2025.

A equipe da empresa debateu se deveria ou não entrar em contato com as autoridades canadenses sobre o comportamento, mas acabou não o fazendo, de acordo com o Wall Street Journal. Um porta-voz da OpenAI disse que a atividade de Van Rootselaar não atendia aos critérios para ser denunciada às autoridades; a empresa entrou em contato com as autoridades canadenses após o incidente.

As transcrições do ChatGPT não foram a única parte preocupante da pegada digital de Van Rootselaar. Ela aparentemente criou um jogo no Roblox, a plataforma de simulação mundial frequentada por crianças, que simulava um tiroteio em massa em um shopping center. Ela também postou sobre armas no Reddit. A instabilidade de Van Rootselaar também era conhecida pela polícia local, que foi chamada à casa de sua família depois que ela ateou fogo enquanto estava sob o efeito de drogas não especificadas.

Os chatbots LLM criados pela OpenAI e seus concorrentes foram acusados de provocar colapsos mentais em usuários que perdem o contato com a realidade enquanto conversam com modelos digitais. Várias ações judiciais foram movidas citando transcrições de bate-papos que incentivam as pessoas a cometer suicídio ou oferecem assistência para fazê-lo. Se você estiver em crise ou tendo pensamentos suicidas, ligue ou envie uma mensagem de texto para 988 para entrar em contato com a Linha de Apoio a Suicidas e Crises 988.

Economize até US$ 300 ou 30% no TechCrunch Founder Summit Economize até US$ 300 ou 30% no TechCrunch Founder Summit Economize até US$ 680 em seu passe antes de 27 de fevereiro. Conheça investidores. Descubra sua próxima empresa de portfólio. Ouça mais de 250 líderes de tecnologia, mergulhe em mais de 200 sessões e explore mais de 300 startups que estão construindo o futuro. Não perca essas economias únicas. Inscreva-se para receber as maiores notícias de tecnologia do setor TechCrunch Disrupt 2026 Faltam 7 dias para o aumento dos preços dos ingressos para o TechCrunch Disrupt 2026 TechCrunch Events 29 minutos atrás Faltam 7 dias para o aumento dos preços dos ingressos para o TechCrunch Disrupt 2026

A Sarvam, da AI Índia, lança o aplicativo de chat Indus AI enquanto a concorrência esquenta Jagmeet Singh 14 horas atrás A Sarvam, da Índia, lança o aplicativo de chat Indus AI enquanto a concorrência esquenta Aplicativos Lembra-se do HQ? O “Quiz Daddy” Scott Rogowsky está de volta com o TextSavvy, um game show diário para celular Amanda Silberling 18 horas atrás Lembra-se do HQ? O “Quiz Daddy” Scott Rogowsky está de volta com o TextSavvy, um game show diário para dispositivos móveis Em resumo A OpenAI debateu chamar a polícia sobre as conversas do suspeito de tiroteio canadense Tim Fernholz 3 minutos atrás A OpenAI debateu chamar a polícia sobre as conversas do suspeito de tiroteio canadense TechCrunch Disrupt 2026 Faltam 7 dias para o aumento dos preços dos ingressos para o TechCrunch Disrupt 2026 Eventos TechCrunch 29 minutos atrás

Faltam 7 dias para o aumento dos preços dos ingressos para o TechCrunch Disrupt 2026 AI A indiana Sarvam lança o aplicativo de chat Indus AI enquanto a concorrência esquenta Jagmeet Singh 14 horas atrás A indiana Sarvam lança o aplicativo de chat Indus AI enquanto a concorrência esquenta