O que leva a Geração Z a votar num militar feroz de 72 anos? Um avatar criado por IA

Fika Juliana Putri, uma lojista de 19 anos, comerciante em Jacarta Oriental, planeia votar nas eleições presidenciais da Indonésia, de 14 de fevereiro, num outrora temido antigo comandante das forças especiais, de 72 anos. Gosta dele, diz ela, porque ele é fofinho.

Uma versão ao estilo desenho animado do general Prabowo Subianto - produzida com recurso a IA generativa - está estampada em outdoors na Indonésia. É reproduzida em camisolas e autocolantes, e aparece com destaque em publicações com a etiqueta #Prabowo, já com cerca de 19 mil milhões de visualizações no TikTok.

Prabowo é o ministro da defesa da Indonésia. Mas nas redes sociais, o seu avatar de IA, de bochechas rechonchudas, embala o seu querido gato, Bobby, para gáudio dos eleitores da Geração Z. Cerca de metade dos 205 milhões de eleitores da Indonésia têm menos de 40 anos.

As eleições gerais de 14 de fevereiro na Indonésia, a terceira maior democracia do mundo, oferecem um vislumbre de como a IA generativa pode transformar as campanhas políticas em grande escala, segundo os especialistas.

A caricatura gerada por IA tem sido fundamental para a campanha eleitoral de Prabowo, que está muito à frente nas sondagens. Em vez de se apresentar como um nacionalista feroz, como fez nas duas anteriores candidaturas presidenciais falhadas, o novo slogan de Prabowo, de 72 anos é "gemoy" - uma gíria indonésia para "giro e fofinho".

"Vou votar nele porque ele é gemoy", disse Putri, uma eleitora que vai votar pela primeira vez. "Essa é a principal razão."

Prabowo - e o seu sósia criado com tecnologia da empresa americana Midjourney Inc - está a levar centenas de candidatos a usarem ferramentas generativas de IA para criar arte de campanha, para criar sentimentos nas redes sociais, chatbots interativos e chegar aos eleitores.

A campanha de Prabowo e a Midjourney, cujas diretrizes impedem a sua utilização para campanhas políticas, não responderam aos nossos pedidos para fazerem um comentário.

"Esta é a primeira eleição em que vemos estas ferramentas serem usadas em escala", disse Katie Harbath, que foi até 2021 a principal responsável para a política eleitoral da Meta (anteriormente Facebook) e que agora escreve um boletim informativo sobre tecnologia e democracia. Harbath, que expressou surpresa pelo facto de as ferramentas de IA terem sido adotadas pelas campanhas na Indonésia tão rapidamente, disse que era demasiado cedo para avaliar o impacto eleitoral global desta utilização "sem precedentes e inovadora" desta tecnologia.

A Reuters entrevistou 26 pessoas para avaliar o uso da tecnologia de IA na campanha da Indonésia, incluindo conselheiros políticos, lobistas, executivos de tecnologia, especialistas e artistas que criam imagens de IA para políticos. Alguns falaram sob condição de anonimato, pois não estavam autorizados a falar com os media. Descreveram fornecedores e campanhas que ultrapassam os limites das diretrizes emitidas por fornecedores como a Midjourney e a líder de mercado, a OpenAI. O governo da Indonésia ainda não formulou regras vinculativas sobre a utilização de ferramentas de IA.

Com países que albergam um terço da população mundial a ir às urnas este ano, incluindo os Estados Unidos e a Índia, as eleições na Indonésia são um teste à forma como a OpenAI irá controlar as suas políticas, de acordo com sete lobistas políticos e especialistas.

Muitas das ferramentas de IA utilizadas nas eleições da Indonésia são alimentadas pela OpenAI, explicaram nove funcionários seniores da campanha à Reuters. Isso inclui a plataforma de Prabowo, de acordo com o coordenador da sua equipa digital.

O proprietário do ChatGPT, com sede em São Francisco, revelou no mês passado regras que proíbem o seu uso para campanhas políticas, devido aos receios globais de que a IA interfira nas eleições. Estas regras incluem proibições de criar imagens de pessoas reais, incluindo políticos.

A OpenAI disse estar a investigar chatbots políticos e ferramentas que foram identificadas como estando a usar a sua tecnologia pela Reuters na Indonésia. Numa análise inicial, a empresa não encontrou "nenhuma evidência" de que as suas ferramentas usadas na campanha estivessem a comprometer a transparência.

O consultor político Yose Rizal disse que o seu aplicativo Pemilu.AI utiliza o software GPT-4 e 3.5 da OpenAI para elaborar estratégias e discursos de campanha e já vendeu os serviços da aplicação a 700 candidatos às legislativas. A Reuters não conseguiu confirmar as vendas de forma independente.

Pemilu.AI reúne dados demográficos e rastreia redes sociais e sites de notícias, permitindo-lhe gerar discursos, slogans e conteúdos de redes sociais adaptados ao eleitorado. Os candidatos elencam as suas prioridades políticas e escolhem como

querem ser retratados. As características mais desejadas entre os políticos que usam o Pemilu.AI na Indonésia, o país de maioria muçulmana mais populosa do mundo, são "humildes" e "religiosos", disse Rizal.

Questionado sobre as regras da OpenAI, Rizal disse que a Pemilu.AI não se envolve "na criação de campanhas políticas". E descreveu-o como uma ferramenta de comunicação para "apoiar o processo de decisão dos candidatos".

Próxima paragem, Índia

A seguir, Rizal planeia levar a plataforma para a Índia antes das eleições gerais, previstas para maio. "Porque a Indonésia está à frente dos EUA e a Índia... Esta eleição é um aquecimento", disse ele.

A Pemilu.AI, explicou, tem cooperado estreitamente com a Microsoft, que hospeda a empresa no seu serviço de nuvem Azure, para garantir que as suas operações cumprem os regulamentos. A Microsoft, que é um grande investidor na OpenAI, disse que não comenta sobre os compromissos dos seus clientes.

Rizal disse que estava a testar uma versão do Pemilu.AI no IA da Google, depois de ter sido abordado pela sua equipa de vendas. A Google confirmou que o Pemilu.AI tinha feito um trabalho preliminar utilizando a sua IA e tornou-se cliente de um serviço de nuvem. A Google afirmou que não existem restrições à utilização do seu chatbot Bard para campanhas políticas, para além da proibição de desinformação.

As eleições na Indonésia estão a testar os limites do que algumas empresas de IA consideram campanha política.

As regras da OpenAI, actualizadas a 10 de janeiro, proíbem a utilização da sua tecnologia para qualquer campanha política ou lobbying, incluindo gerar materiais de campanha personalizados e direcionados para grupos demográficos específicos. No mesmo mês, a OpenAI baniu o criador de um bot para o candidato democrata à presidência dos EUA Dean Phillips, sendo esta a primeira vez que tomou medidas relativamente a este tipo de regras.

Os apoiantes da utilização da IA generativa nas eleições indonésias dizem que esta deu aos candidatos ferramentas de campanha personalizadas que, de outra forma, estariam reservadas aos candidatos com orçamentos mais avultados.

A adoção contínua da IA é natural, disse Razi Thalib, que dirige a equipa digital de outro candidato presidencial, Anies Baswedan, um antigo governador de Jacarta. "Talvez os resultados das eleições permitam tirar lições que aumentem a taxa de adoção" noutros locais, afirmou.

Um conselheiro de Ganjar Pranowo, o candidato do maior partido no parlamento, confirmou que a IA também foi utilizada na sua campanha.

General Gemoy

Prabowo, com uma vantagem de 20 pontos nas sondagens e o apoio implícito do popular Presidente da Indonésia, Joko Widodo, tem sido o maior beneficiário da IA generativa neste ciclo, utilizando-a para reforçar o seu apoio entre a Geração Z.

Milhões de jovens eleitores não estavam vivos quando Prabowo foi demitido do exército indonésio no final da década de 1990 por abusos de direitos, acusação que ele sempre negou.

Os apoiantes podem usar a aplicação da campanha de Prabowo para se inserirem em cenas geradas por IA, como uma caminhada na selva ao lado do político vestido para um safari, que são depois partilhadas nas redes sociais.

"Há quem diga que a IA não é boa para a política, mas a IA desperta o interesse das pessoas", afirma Adriansyah, um artista de 25 anos que, com a sua esposa, Lusi Yulistia, foi incumbido de criar arte generativa pela Midjourney de Prabowo e do seu companheiro, o filho de 36 anos do presidente Widodo.

A idade mínima para votar na Indonésia é 17 anos e uma sondagem realizada em janeiro pelo Indikator Politik descobriu que Prabowo tinha mais de 60% dos votos da Geração Z. É também o candidato mais popular entre os millennials, com 42% do seu apoio.

O braço voluntário da campanha lançou a plataforma de IA generativa PrabowoGibran.ai em dezembro, para ajudar os seus 15.000 voluntários da "tropa cibernética" a acompanhar o sentimento criado online e a partilhar arte nas redes sociais.

O coordenador nacional Anthony Leong disse à Reuters que a plataforma utiliza tecnologia OpenAI e software interno. Na Indonésia, as campanhas políticas contrataram criadores para utilizar ferramentas de texto para arte, como Midjourney, Leonardo AI, Microsoft Bing e Pika Labs, segundo cinco artistas disseram à Reuters.

Um porta-voz do Microsoft Bing, que é alimentado por modelo de texto para imagem DALL-E da OpenAI, disse que as figuras públicas podem pedir para limitar a criação de imagens associadas aos seus nomes.

LeonardoAI e Pika Labs não responderam aos pedidos de comentários.

"É verdade que a aplicação tem limitações relativamente ao conteúdo político", disse Lusi, referindo-se ao Midjourney. "Apenas utilizo a aplicação para alterar a pessoa da foto original para adequá-la a um determinado tema."

IA em todo o lado

A campanha de Anies lançou em janeiro um chatbot OpenAI alimentado por WhatsApp que responde a perguntas sobre as suas políticas. Esta iniciativa seguiu-se a uma ferramenta semelhante da campanha de Prabowo, que foi retirada do ar pouco depois do seu lançamento em dezembro, depois de ter atribuído incorretamente sete pilares à ideologia do Estado indonésio, quando existem apenas cinco. Ainda não foi reativada.

A campanha de Ganjar criou um painel de controle que utiliza a tecnologia OpenAI e procura dados online para prever pontos de discussão e oferecer alertas em tempo real, disse o conselheiro Andi Widjajanto.

Um caso controverso de utilização de IA surgiu em janeiro, quando o partido Golkar, que apoia Prabowo, publicou vídeos "deepfake" de Suharto, antigo presidente que morreu em 2008, a exortar os eleitores a apoiar os seus candidatos. Os vídeos com mensagens de campanha foram marcados como tendo sido gerados por IA.

A Advocacy Team on Elections Concerns (TAPP), uma organização sem fins lucrativos sediada em Jacarta, afirmou num comunicado que os vídeos que permanecem em linha mostram o potencial da IA para manipular eleitores.

Dara Nasution, uma alta funcionária digital do Golkar, chamou os vídeos de "mensagens positivas". A imagem de Suharto foi criada com o Midjourney e a aplicação de imagem Leonardo AI, enquanto a sua voz foi criada com o software da startup de clonagem ElevenLabs combinado com tecnologia interna, disse ela.

Leonardo AI e ElevenLabs não responderam aos pedidos de comentários.

Por seu lado, três observadores eleitorais disseram à Reuters que não viram a IA a ser usada para espalhar desinformação em grande escala durante a campanha. "A desinformação foi limitada em comparação com a eleição de 2019", disse Aribowo Sasmito, cofundador da Mafindo, organização de verificação de factos.