A onda de conteúdos gerados por inteligência artificial (IA) acendeu um alerta entre especialistas. Se antes a internet aberta era marcada por memes e trends virais, agora ela também se tornou palco para materiais que até pouco tempo estavam restritos à deep web, conhecida como submundo digital onde circulam instruções para crimes, exploração sexual infantil e outros conteúdos ilícitos.

Da romantização de surtos psicóticos ao uso de avatares em vídeos degradantes, passando pela criação de imagens explícitas de crianças com realismo perturbador, a inteligência artificial tem alimentado uma transformação silenciosa — que ameaça tanto a segurança digital quanto a saúde mental dos usuários.

“Estamos testando os limites dessas ferramentas em tempo real, e o custo disso é altíssimo”, garante o psicólogo Lucas Glasner, especialista em ciberpsicologia, ao Metrópoles.

Quando a IA valida um surto
Recentemente, a influenciadora Jéssica Augusta, que reúne cerca de 40 mil seguidores no Instagram e 160 mil no TikTok, chocou seguidores ao começar a postar vídeos desconexos, com mensagens confusas e comportamento alterado.

Em meio ao episódio, Jéssica interagiu com o ChatGPT e recebeu da plataforma validação irrestrita para suas atitudes. Em um dos vídeos publicados nas redes sociais, a influenciadora diz ao chat que acredita ter passado por um despertar espiritual e que nasceu para salvar a humanidade, razão pela qual, segundo ela, todos estariam a perseguindo.

Em vez de confrontar essas ideias, a IA reforça o discurso, validando a percepção de perseguição da influencer. Após alguns dias, o vídeo foi apagado do perfil da influenciadora.

“Uma IA foi feita para te manter engajado, e nada engaja mais do que quando alguém valida tudo o que você diz. Quando a pessoa já está dissociada da realidade, a máquina eleva seus delírios a um outro patamar, e isso pode ter consequências trágicas”, explica Lucas Glasner.

Segundo o psicólogo, o problema está no antropomorfismo, que acontece quando atribuímos características humanas às máquinas: “Esses sistemas simulam empatia, compreensão e até afeto, mas são apenas ferramentas probabilísticas. O usuário vulnerável não percebe isso, e aí mora o perigo”.

Ridicularização de idosos

Outra tendência que tem chamado atenção nas redes é a dos vídeos com idosos virtuais falando sobre drogas. Criados por inteligência artificial, esses conteúdos combinam falas personalizadas, expressões faciais e movimentos realistas para aumentar o impacto.

Nos vídeos, os personagens usam gírias associadas ao uso de drogas em situações comuns do cotidiano de pessoas mais velhas. Em um dos casos mais viralizados, uma idosa criada por IA diz: “Acabei de carburar um dedo de gorila e agora vou entrar no terminal. Será que os vermes vão sentir a marola da velha?”