Presidente da Signal: "Quem trabalha em IA tem de refletir constantemente sobre o poder que tem"

Meredith Whittaker, presidente do serviço de mensagens Signal, semelhante ao WhatsApp, destaca a questão ética como “a grande preocupação do dia-a-dia” para quem trabalha com Inteligência Artificial. De volta à Web Summit, numa sessão descontraída e inteiramente dedicada a perguntas e respostas, a ex-funcionária da Google afirmou que “não há um truque simples para nos tornarmos num ser humano íntegro”, mas garantiu que tem de haver uma “reflexão constante”.

“Em primeiro lugar, é preciso ter um conhecimento aprofundado de como as tecnologias se desenvolvem, dos dados necessários para construir um modelo. Depois, as considerações éticas [na IA] dependem muito do poder que se tem numa determinada posição. As relações sociais nestes ambientes [digitais] estão muito estruturados por hierarquia. Por isso, precisamos de nos questionar de todos os dias de como podemos ser éticos, de quanto poder temos e do que é que podemos ou não fazer”, explica.

Ainda na dimensão ética, Whittaker falou dos impactos da IA no mercado de trabalho do futuro. Apesar de considerar que “a tecnologia não substitui os trabalhadores”, a presidente da Signal admite que a inovação possa levar a despedimentos. A culpa? É das gigantes tecnológicas.

“Os executivos da Microsoft, Meta e Google vendem os seus sistemas de IA a grandes instituições, argumentando que permitem aumentar o crescimento, os lucros e a produtividade. Os clientes ficam cegos com estas promessas – e isto normalmente leva ao corte de benefícios, de salários, despedimentos... A IA dá um pretexto poderoso [às grandes empresas] para degradar as condições dos trabalhadores. Porém, não é, por si só, uma forma de substituir as pessoas. Aliás, é necessário que haja pessoas para criar, manter e ajustar estes sistemas”, afirma.

"Podemos sempre desligar os telemóveis"

Sobre a progressiva introdução da IA nas plataformas digitais, Whittaker mostra-se “receosa”, devido ao grande volume de dados pessoais que vão ser postos nas mãos dessas empresas, que querem “definir-nos a nós e ao nosso mundo”. E relembra: não somos utilizadores da IA, mas sim “os alvos da IA”.

“Este tipo de inteligência é uma ferramenta criada e usada pelos governos, pelas entidades, pelas empresas que têm poder sobre nós. E para funcionar precisam de grandes quantidades de dados. Quantos mais dados houver, mais invasivos e personalizados forem, melhor para eles. Esta onda de IA assenta na vontade de vigilância por estas empresas”.

E é exatamente por definir a privacidade como o seu “referencial” e “imagem de marca” que a presidente do Signal rejeita introduzir na plataforma novas funcionalidades apenas por questões de utilidade, como a partilha de localização: “Nós não concordamos com este paradigma e jamais vamos fazer algo que ponha em causa a privacidade das pessoas”, assegura.

Questionada sobre o impacto psicológico e social de se estar sempre conectado à internet, Whittaker relembrou que o problema reside no facto de algumas aplicações levarem a “um envolvimento persistente e constante dos utilizadores nos seus feeds” e aproveitou para deixar uma resposta no seu habitual tom irónico.

“Este é um problema relacionado com as decisões sociais que fizemos há cerca de 20 anos, sobre a forma como comunicamos. Podemos protestar, mas isso vai levar a uma mudança radical. Mas se não quisermos ser incomodados, podemos sempre desligar os nossos telefones”, rematou.