Em novembro de 2023, quando Elon Musk disse ao primeiro-ministro do Reino Unido, Rishi Sunak, que a IA vai acabar com a necessidade de trabalho, pode ter sido um alívio. Em algum momento de 2024, Sunak e seu governo enfrentarão uma eleição que provavelmente vão perder.

A conversa, parte de uma entrevista gravada entre os dois, teve alguns momentos estranhos e formou um estranho pós-ataque à AI Safety Summit, que até agora havia adotado uma abordagem séria, embora um tanto desfocada, sobre os riscos da IA.

Bate-papo-show

Sunak riu, tentando acompanhar as reflexões mais nervosas de Musk, e disse a ele que era “um inovador e tecnólogo brilhante” e não perdeu a chance de dizer o quão “animado” ele estava por atuar como apresentador de bate-papo pessoal de Musk, começando e terminando a reunião dizendo o quão “privilegiados” todos nós éramos por ouvir dele.

Por sua vez, Musk reiterou alguns dos alertas que vem emitindo sobre os perigos de uma IA forte há algum tempo. Mas não chegou a prever a destruição da civilização, o que fez em abril.

Dessa vez, Musk se tornou um utópico tecnológico e pintou a IA como um gênio que poderia dar desejos infinitos. Se errarmos esses desejos, alertou, podemos acabar sendo perseguidos por um robô humanoide estilo Exterminador do Futuro.

Sunak riu quando Musk descartou isso como uma trama de filme ao estilo de James Cameron, simplesmente corrigida por um “corte local com fio que você não pode atualizar da Internet”.

Musk parecia muito mais inclinado a esperar coisas melhores, chegando a sugerir que a Cúpula de Segurança de IA de Sunak, ao reunir um grupo impressionante de líderes mundiais, “entraria para a história como sendo muito importante”, permitindo que a IA inaugurasse um “futuro de abundância”, em vez de desgraça distópica.

“Chegará um ponto em que nenhum trabalho será necessário”, disse Musk. “Você pode ter um emprego se quiser ter um emprego, para satisfação pessoal, mas a IA será capaz de fazer tudo”.

Nesse mundo, todos teriam o que quisessem: “Não uma renda básica universal, teremos uma renda universal alta”.

Musk não deu nenhuma ideia sobre como esse mundo aparecerá, ou porque ele não achava que precisava, ou porque não queria encarar a ideia de que os bilionários poderiam ter que aprender a compartilhar.

Em vez disso, ele citou os romances de ficção científica A Cultura de Iain Banks, que realmente apenas fazem a mesma coisa melhor, colocando as pessoas em um futuro quase utópico, sem dar qualquer sugestão de como a sociedade se transferiu do capitalismo para um mundo de alta tecnologia disponível gratuitamente.

A verdadeira frustração da AI Safety Summit, em exibição no show Musk-Sunak, é que conhecimento é poder. Musk e os bilionários da tecnologia têm ambos, enquanto nossos representantes eleitos não têm nenhum [mesmo que Sunak e sua esposa sejam pessoalmente próximos do status de bilionários].

É possível que nossos representantes eleitos um dia entendam ciência. Mas quem acompanhou as terríveis revelações sobre o analfabetismo deliberado do antecessor de Sunak, Boris Johnson, durante a pandemia de Covid-19, não pode estar muito esperançoso.

Sunak pode muito bem ser nosso político sênior mais nerd de todos os tempos – mas ele ainda estava reduzido a um líder de torcida enquanto Musk explicava as coisas com brevidade.

Musk disse que algoritmos abertos, ou “IA de código aberto”, sempre estarão um ano atrás dos algoritmos fechados (e isso significa que eles serão cinco vezes piores). Ele descreveu grandes modelos de linguagem como “arquivos gigantescos de números inescrutáveis”, dizendo: "É como se nosso Deus digital fosse um arquivo CSV. Sério?”.

De frente para o público

Como Musk, Sunak tem riqueza e uma propensão para jatos particulares, mas pelo menos Sunak deve ocasionalmente enfrentar o público, alguns dos quais lhe perguntaram, razoavelmente, o que acontecerá quando a IA assumir seus empregos.

A resposta de Sunak é sempre que a IA é um “copiloto”, uma maneira higienizada de dizer que a IA pode fazer a maior parte do seu trabalho por você: “Ainda há agência humana, mas está ajudando você a fazer seu trabalho melhor agora, o que é uma coisa boa”.

Mais cedo naquele dia, ele havia dito que a IA poderia permitir que um funcionário do Departamento de Trabalho e Pensões (DWP) fizesse “uma semana de trabalho em uma hora”, sem responder à pergunta de por que, se essa fantasia fosse verdadeira, o DWP não aproveitaria a oportunidade para reduzir sua equipe em um fator de trinta?

Sunak disse acreditar que “o trabalho dá sentido” e elogiou a “motivação” de seu novo amigo.

Ele perguntou a Musk por que ele trabalha tantas horas se a IA poderia fazer o trabalho. “Vamos dizer a eles para se apressarem”, brincou Sunak, “para que você possa ter um feriado!”.

Sunak, como dissemos no início, pode muito bem entrar em um feriado prolongado em algum momento de 2024. E muitas pessoas sugeriram que sua próxima mudança poderia ser para o Vale do Silício.

Outros observaram que os políticos em eventos como esse se parecem cada vez mais com os verdadeiros intermediários do poder. Um desses presentes na Cúpula foi Sir Nick Clegg, vice-primeiro-ministro de 2010 a 2015 e, desde 2018, relações públicas sênior do Facebook, agora Meta.

É trabalho de Clegg sorrir e dizer que está tudo bem, não importa as consequências das falhas da Meta em policiar suas plataformas e a óbvia natureza sistêmica dessas falhas. Sunak acabou de fazer sua primeira entrevista para um papel semelhante.

Não há perigo, portanto, de a IA substituí-lo.