Este título, provocatório, expõe um dos múltiplos desafios que enfrentamos com o implementação e expansão de várias tecnologias em torno da Inteligência Artificial (IA).

Qualquer tecnologia actualmente, visto que ainda não cruzámos a singularidade, ou seja, o ponto em que a tecnologia será capaz de auto percepção, consciência autónoma e intrínseca determinação em seguir os seus desejos mais lineares, como a auto preservação, ainda é neutra. Francisco Guerreiro

Ou seja, o seu uso pela espécie humana ainda determina a sua objectividade, utilidade e impacto (social, económico e culturalmente positiva ou negativa). Por enquanto estes avanços tecnológicos estarão, também devido aos seus graus de riscos, alicerçados a regras e controlos.

Actualmente, e bem, a União Europeia é o primeiro bloco transnacional a legislar sobre a IA, tendo um acordo entre a Comissão Europeia, o Parlamento Europeu (PE) e o Conselho da União Europeia (UE) sido alcançado em dezembro de 2023, sobre o pacote legislativo de nome “EU AI ACT”. Esta legislação, que recentemente foi aprovada numa votação conjunta da comissão do Mercado Interno e da Protecção dos Consumidores (IMCO), e da comissão das Liberdades Cívicas, da Justiça e dos Assuntos Internos (LIBE), aguarda agora a votação final no plenário de abril.

E, ao contrário das visões nacionalistas bacocas, a UE foi pioneira, aplauda-se, na legislação coordenada e estratégica da IA nesta transição faseada e calculada, dentro do possível, para um sistema económico e social mais digital.

Tal como hoje vivemos conectados à Internet, no futuro, talvez não vivamos sem IA. E por tal, como eurodeputado fiz parte da maioria que decidiu legislar sobre o futuro da IA de modo a garantir que a mesma fosse centrada no Humano (Human centered) e tivesse diferentes graus de risco. Com risco inaceitável, logo banido, temos a criação de deep fakes, tal como o uso indiscriminado no reconhecimento facial e análise biométrica em bases de dados e em tempo real, mas também a eliminação do seu uso em pontuações sociais (social credit system /social scores). Resumidamente, consoante o grau de risco a legislação bane, restringe ou regula o produto, a actividade, o sector.

Este caminho determina que sejamos nós, inclusive no seio de instituições internacionais, que comandemos o futuro desta tecnologia que, se bem usada, terá efeitos positivos no tecido socioeconómico, nas empresas e no dia-a-dia dos cidadãos, mas que se utilizada para fins hegemónicos ditará o fim das sociedades livres e democráticas.

Mas mais do que o debatido, e votado no seio da UE, falta conversarmos, projectarmos e sabermos para onde caminhamos como sociedade. Sobretudo abrindo essa conversa às pessoas que estão menos instruídas no tema. A questão ética em torno do uso da IA tem uma importância fundamental nomeadamente quando os destinos da Humanidade parecem ser dirigidos por pequenos grupos e gurus tecnológicos em vez das instituições políticas nacionais e supranacionais. Isto porque, se considerarmos que a existência humana se baseia no comunitarismo (calma, não é o mesmo que comunismo), na cooperação, na interdependência e na exponenciação das experiências e relações humanas, coloca-se a questão existencial de: “Para onde é que caminhamos como um todo?”

Ao contrário das teorias e práticas capitalistas e neoliberais, que nos sugerem e impingem que a soma das individualidades criará uma massa colectiva próspera, e que maioritariamente pelo consumo alcançaremos a plenitude existencial, a evolução Humana demonstra-nos o inverso. Estamos socioeconomicamente interligados e necessitamos, num contrato social justo, que se garantam as liberdades individuais e se reforce a nossa independência existencial, sempre com um profundo debate cívico e político que integre o máximo de participantes. Nunca deverá ser uma elite, muito menos tecnológica, a gerir e a decidir o nosso futuro. Senão seremos sempre tratados como essas individualidades, meros produtos a serem transacionados.

Relacionado, somos diariamente bombardeados com notícias circunstanciais e horas infinitas de comentadores especialistas em tudo e em nada, acicatados com desinformação generalizada nas redes sociais, sem centralizarmos o debate sobre os impactos existenciais destas tecnologias disruptivas.

Ou seja, para que servirá em última instância o crescimento da IA? Para diminuir a carga laboral? Aumentar a produtividade empresarial e industrial? Dividir a riqueza gerada? Garantir mais acesso a bens e serviços com menores custos ambientais e económicos? Proteger a nossa liberdade de um totalitarismo securitário? Encaminhar-nos para uma tirania tecnocrata? Facilitar a automatização e robotização de conflitos? Integrar-se fisicamente com a biologia Humana?

Lembro-me desta ausência de caminho e de limite, mesmo que conceptual e tendo a UE legislado sobre o assunto, quando no Japão, enquanto membro da comissão IMCO e em visita oficial do PE, questionei um quadro executivo de uma multinacional tecnológica onde estaria a linha vermelha da empresa em termos de desenvolvimento da IA, tal como qual era a sua posição relativamente ao Transumanismo (que pode mesmo gerar a corrida à implantação de chips cerebrais que utilizam IA de modo a transformar o processo cognitivo humano dando-lhe aptidões tecnológicas inimagináveis). A resposta deste, tal como de toda a sala, foi um redondo não sabemos.

Creio assim que o objectivo último da IA, e da tecnologia em geral, está ainda por debater. Isto porque, pese embora já haja alguns núcleos de debate sobre que caminho devemos tomar como sociedade, a voracidade deste modelo social, económico e cultural, afecto ao individualismo, ao consumismo e ao crescimento infinito (impossibilidade física em qualquer ecossistema saudável e equilibrado) ditará que continuaremos a cavar o fosso entre quem tem mais recursos, poder, acesso e garantias, e os restantes. Porque assim é o debate político e existencial profundo actualmente. Praticamente inexistente.

É assim urgente centrarmos a conversa, em torno desta e qualquer tecnologia, sob o prisma de que sociedade desejamos construir e qual o papel do ser humano na mesma. Concluo com a provocação com que iniciei este artigo. Será a IA, num futuro breve, a decidir politicamente os nossos destinos? Talvez se mantivermos este paradigma social, económico e cultural, disfuncional. Porém uma certeza teremos. Se assim for a existência humana será distópica e tirânica.