A primeira Cúpula de Segurança de Inteligência Artificial não foi exatamente um sucesso estrondoso.
No início deste mês, o primeiro-ministro do Reino Unido, Rishi Sunak, reuniu 28 nações e a UE para discutir os riscos da IA em Bletchley Park, em Buckinghamshire. O governo esperava claramente utilizar a cimeira para se posicionar como uma espécie de líder mundial na regulamentação da IA. Utilizou-o para lançar algo chamado AI Safety Institute e publicou algo chamado Declaração de Bletchley, que declarava que “A IA deve ser concebida, desenvolvida, implantada e utilizada de uma forma que seja segura… centrada no ser humano, confiável e responsável”.
Infelizmente para Sunak, seu momento ao sol foi ofuscado pelas grandes notícias de IA dos EUA. Poucos dias antes do início da cimeira, o Presidente Biden assinou uma ordem executiva apressada sobre “IA segura, protegida e confiável”. Isto representa a tentativa mais abrangente até à data para regulamentar as maiores empresas de IA do mundo. E sem dúvida revelar-se-á muito mais importante do que a desdentada Declaração de Bletchley.
A lei dos EUA significará que quaisquer empresas nos EUA que desenvolvam modelos de IA que possam representar um risco grave para a segurança nacional, a segurança econômica ou a saúde pública terão de notificar o governo quando treinarem estes sistemas de IA e partilharem os resultados dos seus testes de segurança.
Enquanto a cimeira de Bletchley decorria, a vice-presidente dos EUA, Kamala Harris, realizou uma conferência de imprensa para explicar o objetivo da ordem executiva. “Sejamos claros: quando se trata de IA, a América é um líder global”, afirmou ela. “São as empresas americanas que lideram o mundo em inovação em IA. É a América que pode catalisar a ação global e construir um consenso global de uma forma que nenhum outro país consegue.’ A mensagem era clara: os EUA escreverão as regras do jogo da IA, quer o resto de nós goste ou não.
Nesta pressa para regulamentar a IA, a democracia está a ser marginalizada. A ordem executiva de Biden equivale a um decreto monárquico. Conseguiu até contornar o Congresso invocando a Lei de Produção de Defesa, uma lei da época da Guerra Fria que dá aos presidentes autoridade de emergência para controlar as indústrias nacionais.
Vemos precisamente as mesmas tendências antidemocráticas na UE quando se trata de IA. Na falta de uma indústria de IA significativa, a UE está a tentar tornar-se o regulador global de todos os outros. A Lei de Inteligência Artificial da UE – que deverá tornar-se lei no próximo ano – será a primeira tentativa do mundo de impor barreiras de segurança à IA generativa, como o ChatGPT. Neste caso, a Comissão Europeia está a tentar regulamentar a IA sem recorrer a controlos democráticos ou responsabilização.
Este regulamento não se limitaria às fronteiras da própria UE. Basta olhar para as leis anteriores da UE que regem a Internet. O seu Regulamento Geral de Proteção de Dados (GDPR) , a legislação de privacidade e segurança mais rigorosa do mundo, tornou-se um padrão global de fato para negócios online. E a Lei de Serviços Digitais (DSA) de 2022, uma lei que regula o conteúdo online, teve consequências de longo alcance para as empresas de redes sociais em todo o mundo.
Na verdade, Thierry Breton, comissário para o mercado interno da UE, deixou bem claras as suas intenções no início deste ano. Numa visita a Silicon Valley para supervisionar a conformidade dos gigantes da tecnologia com as regras de conteúdo da UE, Breton declarou: “Eu sou o responsável pela aplicação das regras. Eu represento a lei, que é a vontade do Estado e do povo.’
Pelo menos Biden foi eleito pelos cidadãos dos EUA. Breton não pode dizer o mesmo. No entanto, lá estava ele, tentando decidir o futuro da IA em nome do mundo.
Sem dúvida, alguns argumentariam que a complexidade da IA está além do alcance das pessoas comuns. Que os grandes e os bons no governo, na academia e no Vale do Silício deveriam ser deixados para continuar regulamentando a IA em nosso nome. No entanto, parece que o súbito zelo de Biden pela regulamentação da IA foi na verdade desencadeado durante um fim de semana em que assistiu ao último filme Missão Impossível. Claramente, não estamos nas mãos mais seguras.
Curiosamente, durante a Cimeira de Segurança da IA do Reino Unido, inúmeras mesas redondas defenderam da boca para fora a necessidade de envolvimento público na futura regulamentação da IA. O problema, porém, é que a atual agenda e o seu quadro de referência já foram definidos sem qualquer consulta pública. Se assim fosse, poderíamos ver mais atenção sendo dada à resolução dos problemas imediatos e práticos da IA, tais como o potencial da IA para causar perdas de empregos em certos setores, para criar informações falsas, para cometer erros em software de reconhecimento facial, ou para ver tumores que não existem nos exames de câncer. Em vez disso, vemos as elites entregando-se a uma fantasia implausível sobre a IA desenvolver superinteligência e dominar o mundo, à la Missão Impossível.
Apesar de todo o medo dos supostos especialistas, a IA não está realmente ameaçando o futuro da humanidade. O perigo real vem da nossa elite tecnocrática e obcecada pela segurança, que está cada vez mais afastada de qualquer responsabilidade ou supervisão democrática. Agora, mais do que nunca, deveríamos perguntar: quem irá regular os reguladores?
Dr. Norman Lewis é diretor administrativo da Futures Diagnosis e pesquisador visitante da MCC Bruxelas.