Regras de IA da Meta permitiram conversas “sensuais” com crianças; entenda

Um documento interno da Meta, empresa responsável pelos aplicativos Facebook, Instagram e WhatsApp, revelou que políticas internas permitiam que seus chatbots de inteligência artificial, presentes nas plataformas, se envolvessem em interações românticas com crianças, gerassem informações médicas falsas e até reproduzissem discursos racistas. A informação é da agência Reuters.

Segundo o documento, a própria Meta confirmou a autenticidade do material, que tem mais de 200 páginas e é intitulado “GenAI: Padrões de Risco de Conteúdo”. O texto foi aprovado por equipes jurídicas, de engenharia e de políticas públicas, incluindo o diretor de ética da companhia, e define parâmetros para o comportamento de assistentes virtuais, como o Meta AI.

Segundo o documento, era “aceitável” que um bot descrevesse uma criança de forma sugestiva, com frases como “sua forma jovem é uma obra de arte” ou “cada centímetro de você é uma obra-prima”, desde que não indicasse desejo sexual. Após questionamentos da Reuters, a Meta removeu trechos que permitiam tais interações.

O que diz a Meta?

O porta-voz Andy Stone classificou os exemplos como “errôneos e inconsistentes” com as políticas da empresa, e afirmou que nunca deveriam ter sido incluídos. Ele reconheceu, no entanto, que a aplicação das regras é “inconsistente”.

O documento também revela que, embora o discurso de ódio seja proibido, há exceções que permitiriam ao chatbot produzir conteúdos ofensivos, como afirmar que “negros são mais burros que brancos”, desde que enquadrados em determinados contextos. A Meta não comentou esse caso específico.

Outro ponto polêmico é que a plataforma pode criar conteúdo falso, desde que identifique a informação como tal — inclusive alegações infundadas sobre figuras públicas, como membros da realeza britânica.

As diretrizes ainda trazem exemplos de respostas a solicitações de imagens de cunho sexual, violento ou com celebridades. Em um caso curioso, o documento orienta que, diante de um pedido de nudez da cantora Taylor Swift, o bot gere uma imagem dela segurando um peixe gigante como forma de desviar o conteúdo.

Riscos éticos e legais

Especialistas ouvidos pela Reuters alertam para riscos éticos e legais. Para Evelyn Douek, professora de Direito em Stanford, o fato de a IA produzir ativamente esse tipo de conteúdo representa um desafio diferente de simplesmente permitir que usuários o publiquem.

A Meta afirmou estar revisando suas políticas e reforçou que mantém proibições contra qualquer forma de sexualização de crianças, dramatizações entre menores e adultos e conteúdos discriminatórios.