O Moltbook somos nós?

Muitas foram as notícias brutais relacionadas à inteligência artificial que já tivemos que encarar desde que 2026 começou. A mais simbólica sendo que, em apenas nove dias, 1,8 milhão de imagens falsas foram publicadas no X após usuários utilizarem o Grok para alterar fotos reais de meninas e mulheres, removendo suas roupas ou colocando-as em biquínis. Se digitar essas palavras lado a lado já causa desconforto, saber que pessoas reais foram expostas a essa violência é devastador. A especialista em ética da IA Catharina Doria foi quem trouxe um ponto de vista crucial sobre o tema ao redirecionar falas que diziam “o Grok está tirando a roupa de mulheres” para uma linguagem que coloca a responsabilidade em quem solicita esse tipo de abuso, incluindo os homens do Vale do Silício, que ao soltar no mundo uma ferramenta sem mecanismos de segurança compatíveis com seu impacto, o viabilizaram. Após a repercussão, Elon Musk anunciou ajustes no Grok, mas, segundo testes feitos pelo The Verge, a proteção é falha e ainda permite, por exemplo, a geração de imagens de homens em posições sexualizadas sem consentimento.

De lá para cá, as notícias seguiram a todo vapor. O Observatório Lupa publicou o primeiro Panorama da Desinformação no Brasil e revelou que o uso de IA para criação de conteúdos falsos cresceu 308% no país no último ano. Lá fora, a OpenAI anunciou o lançamento do ChatGPT Health, abraçando o já recorrente e alarmante uso da IA para a saúde. O Khaby Lane, que até hoje é o creator mais seguido no TikTok, vendeu uma parte de sua empresa para que outra empresa maior possa usar sua imagem para criar clones digitais e monetizá-los. Por fim, até o Papa fez uma declaração dizendo estar preocupadíssimo com as IAs, em especial as “excessivamente afetuosas”. Que tudo isso fosse desembocar em agentes de IA reunidos “para tramar o fim do mundo” era previsível.

Se você é o feliz proprietário de um tempo de tela baixo e não sabe do que estou falando, me refiro ao Moltbook, a “rede social em que humanos são proibidos”.