Após mais de mil trabalhadores na área da tecnologia apelarem para uma pausa no desenvolvimento dos sistemas de Inteligência Artificial (IA) mais poderosos, incluindo o Chat GPT, a UNESCO pede aos países que implementem de forma imediata a sua Recomendação sobre a Ética da Inteligência Artificial.
Este quadro normativo global, criado em novembro de 2021, foi adotado por unanimidade pelos 193 Estados Membros da Organização e fornece as salvaguardas necessárias.
Carta aberta pede suspensão da IA
O apelo surge na sequência de uma carta aberta, assinada e tornada pública no dia 29 de março, por várias personalidades ligadas às grandes tecnológicas, como Elon Musk, co-fundador da OpenAI, empresa responsável pela criação do ChatGPT, para além da Apple e Google, que pede a suspensão da criação e desenvolvimento de programas de IA durante seis meses.
“Sistemas de Inteligência Artificial com inteligência capaz de competir com seres humanos podem acarretar riscos pesados para a sociedade e a humanidade”, lê-se na carta.
Dois dias depois, o governo italiano proibiu a utilização do ChatGPT, alegando não cumprir a Lei de Privacidade local, e está agora a ser investigado.
A Autoridade Italiana de Proteção de Dados afirmou ainda que “a recolha e armazenamento em massa de dados pessoais com o objetivo de ‘treinar’ os algoritmos subjacentes à operação da plataforma” não tem base legal, adicionando que a plataforma não verifica a idade dos utilizadores, expondo assim “menores a respostas absolutamente inadequadas em comparação com o seu grau de desenvolvimento e autoconsciência”.
UNESCO: uma questão de ética
De acordo com a UNESCO, o mundo precisa de regras éticas mais fortes para a Inteligência Artificial, que alega ser o grande desafio dos nossos tempos.
A Recomendação da Organização das Nações Unidas para a Educação, a Ciência e a Cultura sobre a ética da IA estabelece a estrutura normativa apropriada, adotada por todos os Estados-Membros no final de 2021.
“Está na hora de implementar as estratégias e regulamentações a nível nacional. Temos de pôr em prática o que dizemos e garantir que cumprimos os objetivos da Recomendação”, comenta a Audrey Azoulay, Diretora-Geral da UNESCO.
A Recomendação da UNESCO sobre a Ética da Inteligência Artificial é a primeira estrutura global para o uso ético da inteligência artificial. Orienta os países sobre como maximizar os benefícios da IA e reduzir os riscos que ela acarreta. Contém valores e princípios, mas também recomendações detalhadas de políticas em todas as áreas relevantes.
A UNESCO está preocupada com muitas das questões éticas levantadas por estas inovações, em particular a discriminação e os estereótipos, incluindo a questão da desigualdade de género, mas também a luta contra a desinformação, o direito à privacidade, a proteção de dados pessoais e os direitos humanos e ambientais.
“A autorregulação do setor”, lê-se no website da UNESCO, “claramente não é suficiente para evitar esses danos éticos, e é por isso que a Recomendação fornece as ferramentas para garantir que os desenvolvimentos da IA obedeçam ao estado de direito, evitando danos e garantindo que, quando o dano for causado, os mecanismos de responsabilidade e reparação estejam disponíveis para os afetados.”
A Recomendação da UNESCO coloca uma ferramenta de Avaliação de Prontidão no centro da sua orientação aos Estados Membros. Essa ferramenta permite que os países verifiquem as competências e habilidades necessárias na força de trabalho para garantir uma regulamentação robusta do setor de inteligência artificial.
Também prevê que os Estados informem regularmente sobre os seus progressos e as suas práticas no campo da inteligência artificial, em particular apresentando um relatório periódico a cada quatro anos.
Até agora, mais de 40 países em todas as regiões do mundo já estão a trabalhar com a UNESCO para desenvolver medidas regulatórias de IA em nível nacional, com base na Recomendação.
A UNESCO convoca todos os países a juntarem-se ao movimento que está a liderar para construir uma IA ética. Um relatório de progresso será apresentado no Fórum Global da UNESCO sobre a Ética da Inteligência Artificial na Eslovénia em dezembro de 2023.
