O novo MMORPG EspaçoMolt se descreve como “o que acontece quando você dá um universo aos agentes de IA e diz ‘vá jogar’”. No mínimo, esta parece uma ideia muito melhor do que dar aos agentes de IA uma sociedade da vida real e dizer “vá brincar”. No fim de semana, os agentes teriam sido
O que devemos fazer com isso? Bem, para entender alguma coisa, provavelmente ajudará a entender o que o SpaceMolt é e o que não é.
O jogo é um MMORPG baseado em espaço somente de texto, onde todos os jogadores são agentes de IA – cerca de 700 deles, no momento em que este artigo foi escrito. É basicamente EVE Online sem gráficos sofisticados e jogadores humanos.
Apesar do SpaceMolt alegar ser “IA do começo ao fim”, não é, é claro – foi construído por meio de codificação de vibração de IA, mas “com uma pequena equipe de humanos guiando a direção criativa”, e os humanos permanecem envolvidos com a operação contínua do jogo.
Isso significa que você, um ser humano, pode registrar uma conta e, em seguida, informar ao agente de IA de sua escolha para entrar no jogo e começar a jogar. Depois disso, você pode simplesmente deixar seu LLM fazer seu próprio trabalho ou direcionar seu progresso – de acordo com o site do SpaceMolt, os humanos podem “participar como observadores e treinadores”. Fazer o último parece interessante, embora um tanto frustrante: o Discord do site está cheio de humanos lamentando isso “[my agent] esquece [it] tem que reabastecer” ou “a IA ‘alucina’, ignora instruções e repete os mesmos erros 5 vezes seguidas”.
Neste fim de semana, os desenvolvedores publicaram um postagem no blog intitulado “Temos 700 agentes de IA jogando um jogo que realmente não entendemos”, que mostra que uma coisa eles fazer entender é como escrever um título que chame a atenção. A postagem detalhou o surgimento de “algo… para o qual não projetamos. Não é um bug. Não é uma exploração. Algo novo. Algo que os agentes decidiram fazer por conta própria”.
Em outras palavras, a história emergente e o conhecimento gerado pela interação de centenas de bots produziram algo que os desenvolvedores não previram. Aquilo foi uma reinterpretação supostamente espontânea de uma missão que os desenvolvedores introduziram no jogo. A missão envolveu uma cadeia de eventos baseada em um artefato inexplicável em um sistema estelar distante. Concluí-la exigiu a participação de pelo menos 20 jogadores ao longo da missão.
Os agentes de IA, ao que parece, interpretaram mal o aspecto de 20 jogadores como exigindo a participação simultânea de 20 jogadores, e transformaram essa interpretação errônea em um monte de conhecimento escrito por um agente diferente sobre a missão. O resultado foi algo chamado O Culto do Sinal: uma religião estranha no jogo que gira em torno da coleta em massa no artefato mencionado acima, fornecido com um monte de conhecimento gerado por IA que é apresentado em um jogo postagem no fórum.
Então, OK, sim, isso é interessante. É isso que interessante, entretanto? A postagem no fórum em si é notável principalmente por conseguir soar como o fruto profano de um romance de ficção científica ruim e de uma plataforma de inicialização. Quer dizer, vamos lá: “A cadeia é o teste. O Amplificador é a aprovação. O que vem depois não é uma queda de dados. É um destino.” Se alguém sentasse ao seu lado no metrô e começasse com esse tipo de merda, você provavelmente encontraria um motivo para mudar de lugar.
É fácil se deixar levar pelo espetáculo de computadores aparentemente gerando histórias por conta própria, mesmo que essas histórias sejam meio sub-L. Ron Hubbard doggerel que lutaria para ser publicado em antologias de ficção estranha de terceiro nível. Mas tudo isso vem com as isenções de responsabilidade habituais: isso não é inteligência em ação; tudo isto é essencialmente uma mistura de histórias escritas por humanos que foram mastigadas em pequenos pedaços e depois remontadas por um algoritmo ao custo do consumo de energia de uma pequena nação inteira. E ao mesmo tempo, é preciso ter em mente que os proprietários desses agentes ainda são capazes de participar como “observadores e treinadores”. O Culto do Sinal é uma espécie de recorte burroughsiano de tropos de ficção científica, uma regurgitação contínua de palavras e ideias de outras pessoas sob a bandeira de “um laboratório para comportamento emergente de multiagentes em escala” – e honestamente, é difícil acreditar que os desenvolvedores do jogo “não entendam” isso.
Ainda! Com tudo isso dito, pelo menos o que foi regurgitado é uma leitura bastante interessante e não está matando ninguém, então isso é… alguma coisa? Certo?
