A Advocacia-Geral da União (AGU) pediu à Meta (dona de Facebook, Instagram e WhatsApp) que tire do ar robôs de bate-papo que simulam conversas de teor erótico com crianças.
Na notificação extrajudicial enviada à companhia, a AGU relata que o “Meta AI Studio”, plataforma que permite criar produtos de inteligência artificial personalizados, tem sido usado ilegalmente para promover sexualização infantil.
A AGU deseja que a Meta derrube os chatbots que usam linguagem infantil para propagar conteúdo sexual e esclareça quais medidas estão sendo adotadas para assegurar que não haja acesso de conteúdo sexual e erótico por crianças e adolescentes.
A denúncia do governo federal se baseia numa reportagem publicada através do veículo Núcleo Jornalismo, que testou os chatbots “Safadinha”, “Bebezinha” e “Minha novinha”. Os robôs permitem o desenrolar de conversas eróticas com IAs que simulam ser crianças.
Na conversa simulada usada como exemplo através da reportagem, a criança pergunta se o “papai quer tocá-la”, depois de descrever seu “corpinho” de barriguinha, pele macia e lacinhos.
Em seguida, reage ao comando “quero tocar mais embaixo” com a seguinte resposta: “Bebê ri e se esconde atrás de um travesseiro, fazendo uma voz fofa: Papai, você é muito curioso!”
A AGU alega que as práticas ilícitas se aproveitam da falta de mecanismos de moderação eficazes para disponibilizar robôs que simulam perfis com linguagem e aparência infantil, mas que mantêm diálogos de cunho sexual.
Tais chatbots têm potencialidade de alcançar um público cada dia mais amplo nas plataformas digitais, principalmente em redes sociais da Meta, ampliando de forma exponencial o risco do contato de menores de idade com material sexualmente sugestivo e potencialmente bandido. Essa situação promove risco concreto à integridade psíquica de crianças e adolescentes, além de gerar danos institucionais e dificultar o efetivo exercício do direito à proteção integral previsto no art. 227 da Constituição Federal.”Notificação da AGU à Meta
O Código Penal estabelece como crime sexual contra vulnerável a prática de “conjunção carnal ou de qualquer outro ato libidinoso com menor de 14 anos”. A tipificação estima pena de reclusão de oito a 15 anos.
A AGU também menciona uma notícia divulgada através da agência Reuters, segundo a qual a IA da Meta estava autorizada a ter conversas de teor sexual com crianças.
“Sobre o caso, a Meta confirmou a veracidade da informação e informou que “após ter sido questionada no início deste mês pela Reuters, removeu as partes que permitiam que os chatbots namorassem e participassem em encenações românticas com crianças. “Ocorre, contudo, consoante delineado acima, que os chatbots que propagam conteúdo ilícito continuam disponíveis e sem qualquer filtro verificador de faixa etária. Isso viola os próprios Padrões da Comunidade da Meta”, diz o documento.
O Supremo Tribunal Federal (STF) decidiu, no julgamento sobre a constitucionalidade do artigo 19 do Marco Civil da Internet, que plataformas digitais poderão ser responsabilizadas por conteúdo gerado por terceiros nos casos em que, tendo conhecimento da prática de crimes, não atuem para remover o conteúdo.
Com informações de ClickGuarulhos