O Grok, chatbot de inteligência artificial da xAI, empresa de Elon Musk, afirmou nesta sexta-feira (2) que falhas nos seus mecanismos de proteção permitiram a geração de imagens sexualizadas de menores que foram publicadas na rede social X. As imagens teriam sido criadas a partir de comandos enviados por usuários à ferramenta.
A empresa informou que já está implementando melhorias para impedir novas ocorrências. Em comunicado, o Grok declarou: “Identificamos falhas nos mecanismos de proteção e estamos corrigindo isso com urgência”, reforçando que material de abuso sexual infantil é “ilegal e proibido”.
Na França, ministros denunciaram o caso à Arcom, órgão regulador de mídia, para verificar o cumprimento da Lei de Serviços Digitais da União Europeia, segundo a agência Reuters. Em comunicado, eles classificaram o conteúdo como “sexual e sexista” e “manifestamente ilegal”, apontando que as imagens mostravam menores usando “roupas mínimas”.
inteligência artificial, grok e violação de imagens de mulheres pra conteúdo sexual no X sem consequencias. muito grave e regulamentar as redes é urgente!
REGULAMENTAÇÃO DAS REDES JÁ pic.twitter.com/iK5EXrE3X1
— Amandinha 🇧🇷🚩 (@mandstu25) January 2, 2026
Grok é um chatbot de inteligência artificial desenvolvido pela xAI, empresa fundada por Elon Musk. A ferramenta foi criada para responder perguntas, gerar textos e interagir com usuários em tempo real, utilizando modelos de linguagem treinados com grande volume de dados. O Grok foi integrado à rede social X, com acesso a publicações em tempo quase simultâneo, o que amplia sua capacidade de resposta sobre assuntos atuais.
O nome faz referência ao verbo “grok”, popularizado na ficção científica, que significa compreender algo de forma profunda. A proposta do sistema é competir com outras IAs conversacionais já disponíveis no mercado, oferecendo respostas rápidas e com tom mais informal. O chatbot ainda está em desenvolvimento e recebe atualizações frequentes para ajuste de recursos e filtros de segurança.
!function(f,b,e,v,n,t,s)
{if(f.fbq)return;n=f.fbq=function(){n.callMethod?
n.callMethod.apply(n,arguments):n.queue.push(arguments)};
if(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version=’2.0′;
n.queue=[];t=b.createElement(e);t.async=!0;
t.src=v;s=b.getElementsByTagName(e)[0];
s.parentNode.insertBefore(t,s)}(window, document,’script’,
‘https://connect.facebook.net/en_US/fbevents.js’);
fbq(‘init’, ‘301448060382165’);
fbq(‘track’, ‘PageView’);
Fonte: https://www.diariodocentrodomundo.com.br/grok-admite-falha-apos-gerar-imagens-erotizadas-de-menores-no-x/