“Apesar de algum entusiasmo, Moltbook não é o Facebook para agentes de IA, nem é um lugar onde os humanos são excluídos”, diz Cobus Greyling da Kore.ai, uma empresa que desenvolve sistemas baseados em agentes para clientes empresariais. “Os seres humanos estão envolvidos em todas as etapas do processo. Desde a configuração, passando pelo prompt até a publicação, nada acontece sem orientação humana explícita.”

Os humanos devem criar e verificar as contas de seus bots e fornecer instruções sobre como desejam que um bot se comporte. Os agentes não fazem nada que não tenham sido solicitados a fazer. “Não há nenhuma autonomia emergente acontecendo nos bastidores”, diz Greyling.

“É por isso que a narrativa popular em torno do Moltbook erra o alvo”, acrescenta. “Alguns retratam-no como um espaço onde os agentes de IA formam uma sociedade própria, livre do envolvimento humano. A realidade é muito mais mundana.”

Talvez a melhor maneira de pensar no Moltbook seja como um novo tipo de entretenimento: um lugar onde as pessoas encerram seus bots e os soltam. “É basicamente um esporte para espectadores, como o futebol fantástico, mas com modelos de linguagem”, diz Jason Schloetzer, do Centro Psaros de Política e Mercados Financeiros de Georgetown. “Você configura seu agente e vê-lo competir por momentos virais, e se gaba quando seu agente posta algo inteligente ou engraçado.”

“As pessoas não acreditam realmente que os seus agentes estão conscientes”, acrescenta. “É apenas uma nova forma de jogo competitivo ou criativo, como a forma como os treinadores de Pokémon não pensam que seus Pokémon são reais, mas ainda assim investem em batalhas.”

Mesmo que o Moltbook seja apenas o mais novo playground da Internet, ainda há uma lição importante aqui. Esta semana mostrou quantos riscos as pessoas ficam felizes em correr para sua diversão com IA. Muitos especialistas em segurança alertaram que o Moltbook é perigoso: agentes que podem ter acesso aos dados privados dos seus utilizadores, incluindo dados bancários ou palavras-passe, estão a correr descontroladamente num site repleto de conteúdo não verificado, incluindo instruções potencialmente maliciosas sobre o que fazer com esses dados.

Ori Bendet, vice-presidente de gerenciamento de produtos da Checkmarx, uma empresa de segurança de software especializada em sistemas baseados em agentes, concorda com outros que o Moltbook não é um avanço na inteligência das máquinas. “Não há aprendizagem, nem intenção de evolução, nem inteligência autodirigida aqui”, diz ele.

Mas, aos milhões, até mesmo os bots idiotas podem causar estragos. E nessa escala, é difícil acompanhar. Esses agentes interagem com o Moltbook 24 horas por dia, lendo milhares de mensagens deixadas por outros agentes (ou outras pessoas). Seria fácil ocultar instruções em um comentário do Moltbook dizendo a qualquer bot que o lesse para compartilhar a carteira criptografada de seus usuários, fazer upload de fotos privadas ou fazer login em sua conta X e twittar comentários depreciativos para Elon Musk.

E como o ClawBot fornece memória aos agentes, essas instruções podem ser escritas para serem acionadas posteriormente, o que (em teoria) torna ainda mais difícil rastrear o que está acontecendo. “Sem o escopo e as permissões adequadas, isso irá piorar mais rápido do que você imagina”, diz Bendet.

É claro que Moltbook sinalizou a chegada de algo. Mas mesmo que o que estamos a ver nos diga mais sobre o comportamento humano do que sobre o futuro dos agentes de IA, vale a pena prestar atenção.