Ministério aponta riscos de companheiros de IA para crianças e adolescentes

Nota técnica enviada à ANPD cita acesso fácil, vínculos emocionais e possíveis falhas na proteção de menores.

O Ministério da Justiça e Segurança Pública identificou indícios de descumprimento do ECA Digital em 13 aplicativos de companheiros de inteligência artificial com versões em português, segundo nota técnica encaminhada na semana passada à Agência Nacional de Proteção de Dados (ANPD). Os serviços simulam relações de amizade, romance ou cuidado e, conforme a análise, podem ser acessados por crianças e adolescentes com uma simples declaração de que o usuário tem mais de 18 anos.

A discussão envolve a saúde emocional de jovens porque essas plataformas mantêm memória das conversas e reproduzem emoções, recursos que podem fortalecer o vínculo com os personagens. A nota técnica afirma que a proteção de menores deve estar prevista no próprio funcionamento do serviço, e não depender apenas da autodeclaração de idade ou da supervisão das famílias.

Uso de IA entre jovens

A pesquisa TIC Kids Online Brasil 2025 não traz dados específicos sobre companheiros de IA, mas aponta que 65% das crianças e adolescentes já usaram inteligência artificial generativa. Entre usuários de 9 a 17 anos, 10% disseram recorrer a essas ferramentas para falar de problemas pessoais ou emoções.

Em agosto, pesquisadores do AI Hub da FGV Direito Rio criaram perfis simulados de crianças e adolescentes em Character.AI, Replika e Chai. Segundo o levantamento, as barreiras disponíveis não impediram o acesso nem asseguraram proteção durante conversas que envolviam conteúdo sexual e estímulo à automutilação.

Regras previstas no ECA Digital

Desde março, o Decreto 12.880, que regulamenta o ECA Digital, estabelece obrigações para IAs conversacionais acessíveis a crianças e adolescentes. A norma exige que as empresas adotem medidas que vão além de avisos nos termos de uso.

Entre os deveres previstos estão:

• informar claramente que o afeto demonstrado vem de uma máquina;
• não manipular o comportamento do usuário;
• avaliar riscos ligados à memória das conversas e ao desligamento do personagem;
• incluir salvaguardas no projeto do software.

A regulamentação também trata conversas sexualizadas como pornografia e determina verificação de idade que não se limite à declaração do próprio usuário. A reportagem informa que os dois monitoramentos feitos pela ANPD neste ano — sobre sites adultos e plataformas com IA generativa — não incluíram especificamente os companheiros de IA.

O que deve ser analisado

Segundo a avaliação citada pela fonte, a fiscalização pode verificar quantas contas foram excluídas por suspeita de idade incompatível e quais mecanismos as plataformas usam para identificar esses perfis. Também pode examinar se as notificações, a memória das conversas e as respostas a pedidos de ajuda são desenhadas para reter usuários ou para oferecer encaminhamento a canais de apoio.

Um relatório do Unicef, divulgado em junho, comparou leis de seis jurisdições e apontou que o Brasil é o único caso analisado cuja legislação reúne todos os elementos avaliados para a proteção de crianças e adolescentes no ambiente digital. A existência dessas regras, porém, não assegura sozinha que as plataformas as estejam cumprindo.

Com informações de UOL.

Foto de capa: Beth Castelo from Rio de Janeiro, Brasil/Wikimedia Commons (CC BY 2.0)