A grande cúpula de Rishi Sunak pode nos salvar do pesadelo da IA?

Se você não sabe qual é a sua posição em relação à IA, você não está sozinho.

Ele salvará a humanidade ou nos destruirá? Os riscos são tão elevados que o júri ainda não decidiu, mesmo entre os maiores especialistas do mundo.

Alguns criadores de IA apelam a que o seu desenvolvimento seja abrandado ou mesmo interrompido por completo porque está a evoluir demasiado rapidamente. Outros argumentam que fazê-lo significa diminuir o potencial da tecnologia para alcançar coisas surpreendentes, como gerar formulações para novos medicamentos e trabalhar para encontrar soluções para as alterações climáticas.

Na próxima semana, cerca de 100 líderes mundiais, gestores de tecnologia, académicos e investigadores de IA reunir-se-ão no campus de Bletchley Park, no Reino Unido, que já foi o lar dos decifradores de códigos que ajudaram a garantir a vitória durante a Segunda Guerra Mundial. O seu objectivo é participar em discussões sobre a melhor forma de maximizar os benefícios desta poderosa tecnologia e, ao mesmo tempo, minimizar os riscos.

O evento é o AI Safety Summit do Reino Unido e os riscos nos quais pretende focar são extremamente graves. Trata-se da chamada “IA de fronteira”, os sistemas mais avançados e poderosos, que não existem atualmente, mas cuja IA está a avançar tão rapidamente que poderá acontecer em breve.

Mas os críticos dizem que o foco da reunião de dois dias deveria ser nos problemas mais imediatos e prementes da inteligência artificial, como a grande quantidade de energia que consome e o impacto que já está a ter no emprego.

Foi talvez surpreendente, neste contexto de pesadelo, que o Primeiro-Ministro Rishi Sunak tenha apelado às pessoas “para não perderem o sono”. Ele tem um plano, e é um plano ambicioso. Ele quer posicionar o Reino Unido como líder mundial em segurança de IA.

Quando a cimeira foi anunciada pela primeira vez e descrita como a primeira do género no mundo, levantou algumas sobrancelhas. Será que os altos escalões do mundo realmente viajam para um canto remoto e arborizado da Inglaterra, no frio do inverno e perto do feriado de Ação de Graças nos EUA, só porque o Reino Unido assim o diz?

Nenhuma lista oficial de convidados foi publicada. Mas agora está claro que os gigantes tecnológicos americanos estarão muito bem representados. Nem sempre no nível do CEO, mas mesmo assim no nível dos executivos de alto nível.

Não falta entusiasmo no topo do setor comercial. Imad Mushtaq, chefe da Stability AI na Grã-Bretanha, descreveu a cimeira como uma “oportunidade única numa geração” para o Reino Unido desbloquear o estatuto de superpotência na IA.

Ele acrescentou: “Encorajaremos o governo e outros decisores políticos a comprometerem-se a apoiar a segurança da IA ​​em todo o ecossistema, desde laboratórios empresariais a investigadores comuns e de ameaças de longo prazo a riscos de curto prazo, para manter a Grã-Bretanha segura e competitiva”.

Essas empresas são uma parte fundamental da discussão, pois estão na vanguarda da corrida da IA ​​e são quem constroem os sistemas. Mas você pode imaginar que essas são as conversas que eles realmente têm entre si. A diversidade de pensamento aqui é crucial.

A unidade líder mundial é um pouco confusa. A vice-presidente dos EUA, Kamala Harris, comparecerá, enquanto o primeiro-ministro canadense, Justin Trudeau, não comparecerá. A presidente da Comissão Europeia, Ursula von der Leyen, estará presente e o chanceler alemão, Olaf Scholz, não estará presente. A China foi convidada a participar na conferência, que foi controversa dada a sua difícil relação com o Ocidente. Mas ainda é, sem dúvida, uma superpotência em tecnologia.

O Secretário-Geral da ONU, António Guterres, também estará presente – o que é interessante, dado que há apelos crescentes para que um organismo global assuma a supervisão da IA.

Alguns especialistas temem que a cimeira tenha cometido um erro nas suas prioridades. Dizem que o risco de cenários apocalípticos extremos é relativamente pequeno e que existem ameaças mais imediatas, muito mais próximas de casa, que seriam mais preocupantes para muitas pessoas.

“Estamos preocupados com o que acontecerá com nossos empregos, com o que acontecerá com nossas notícias, com o que acontecerá com nossa capacidade de nos comunicarmos uns com os outros. Estamos preocupados com as ameaças às pessoas, às comunidades e, francamente, ao planeta. ”, diz a professora Gina Neff, que dirige o Centro de Inteligência Artificial da Universidade de Cambridge.

Um estudo recente afirmou que só a infra-estrutura informática necessária para impulsionar o sector da IA ​​poderia utilizar tanta energia como um país do tamanho dos Países Baixos em apenas quatro anos. Isto não será discutido na cimeira.

Também sabemos que a IA já está a perturbar o emprego. Um de meus amigos trabalhava em uma pequena empresa de marketing. Foram cinco autores – e agora existe um, cujo trabalho é verificar a versão gerada pelo ChatGPT. O Departamento de Trabalho e Pensões está usando ferramentas de IA para acelerar os pedidos de benefícios.

E quanto aos dados usados ​​para treinar esses sistemas poderosos? Os detalhes são mantidos confidenciais pelas empresas comerciais que os possuem. Mas pode-se argumentar que a IA é tão boa quanto os dados que compreende. Sabemos que o preconceito e a discriminação se infiltraram nas ferramentas personalizadas e prontas para uso, agora disponíveis.

Isto também não aparecerá nas discussões da cimeira.

Qual será o resultado deste cativeiro de dois dias? Poderíamos esperar que os líderes emerjam com a assinatura do Acordo de Bletchley Park e que o mundo seja salvo dos perigos da inteligência artificial.

Talvez tenhamos que guardar isso para a versão cinematográfica. O próprio governo diz que a façanha de colocar estas pessoas na mesma sala e ao mesmo tempo para falarem é um sucesso por si só – especialmente se a China aparecer.

O professor Yoshua Bengio é conhecido como um dos três “padrinhos” fundadores da inteligência artificial. Num evento recente organizado pela Chatham House em Londres, perguntaram-lhe o que gostaria de ver na cimeira.

Ele propôs um sistema de registro e licenciamento para modelos de IA de ponta, revogável se o sistema fosse considerado inseguro – mas reconheceu que algo assim poderia levar mais de dois dias para ser elaborado.

“Precisaremos começar com pequenos passos que possam ser implementados rapidamente”, disse ele.

Ele acrescentou: “Os tratados e acordos internacionais demoram muito mais tempo… mas devemos começar em pequena escala e não esperar até construirmos um sistema de governação global muito complexo antes de começarmos a fazer as coisas.”