A semana foi marcada por uma grande controvérsia envolvendo o Grok, ferramenta de Inteligência Artificial do X (antigo Twitter). Usuárias da rede social — incluindo figuras públicas como a princesa de Gales, Kate Middleton — teriam sido vítimas do uso indevido da tecnologia, que estaria sendo utilizada para gerar imagens nuas sem consentimento.

Com comandos simples, mulheres, crianças e adolescentes tiveram suas imagens manipuladas para a criação de conteúdos sexualizados e com conotação pornográfica, a partir de fotos reais publicadas na própria plataforma. Os episódios intensificaram o debate sobre os chamados deepfakes, técnica que usa IA para criar conteúdos falsos com aparência real, além de expor falhas nos mecanismos de segurança do X.

Especialistas ouvidos pelo site Metrópoles explicam que a prática é crime e pode resultar em penas de 4 a 10 anos de prisão. Solicitar à IA a modificação de imagens com cunho sexual pode configurar crime contra a honra, conforme os artigos 139 e 140 do Código Penal. Já a divulgação de cenas de nudez ou pornografia sem consentimento, mesmo que a imagem não tenha sido adulterada, pode enquadrar o responsável no artigo 218-C, também com pena de até 10 anos de reclusão.

O que é o Grok

O Grok é um chatbot de inteligência artificial generativa desenvolvido pela xAI, empresa fundada por Elon Musk em 2023. A ferramenta é integrada diretamente ao X e se diferencia por utilizar dados em tempo real da plataforma para responder sobre eventos, notícias e tendências.

A IA entrou em testes fechados em novembro de 2023 e foi lançada oficialmente em dezembro do mesmo ano para assinantes do plano Premium+ nos Estados Unidos. No Brasil, a funcionalidade passou a ser liberada de forma gradual ao longo do primeiro semestre de 2024. O Grok foi programado com uma personalidade considerada “anti-woke”, com respostas irônicas e menos filtros para temas sensíveis, quando comparado a modelos de outras empresas do setor.

Diante da repercussão, a deputada federal Erika Hilton (PSol) protocolou uma representação no Ministério Público Federal (MPF) contra o X, questionando o funcionamento do Grok na geração das imagens criminosas. Segundo a petição, a ferramenta estaria editando imagens sem checagem de informações essenciais, como consentimento, idade ou finalidade legítima.

Com informações de Metrópoles.