Se os dados estão a redefinir a economia, a regulação vai definir os seus limites.
Poucas áreas são hoje tão críticas como a ética, a supervisão humana e a regulação na construção de uma Inteligência Artificial assente na confiança, accountability e proteção dos valores fundamentais. Sergiy Barbashyn é Presidente da Associação Internacional de Ética e Integridade em IA e membro do grupo de trabalho do Gabinete Europeu de IA sobre transparência e regras relacionadas com uma adoção ética e responsável da IA.
O advogado e especialista em IA marcou presença na passada semana em mais uma edição do Data With Purpose Summit, uma iniciativa da NOVA IMS, que coloca os Dados e a Inteligência Artificial no centro do debate. Em conversa com a Líder, Sergiy Barbashyn partilha a sua visão privilegiada da regulamentação na UE em matéria de IA, antes mesmo de esta chegar às empresas, e qual o papel das pessoas nesta relação, entre o Homem e a máquina.
A IA está a avançar mais rápido do que a maioria das organizações consegue adaptar-se. Será isto um desafio tecnológico ou um desafio de liderança?
Acredito que seja, sobretudo, um desafio de liderança. A tecnologia evolui rapidamente, como sempre, e a IA não é novidade. O que é novo é a IA agora tomar decisões que podem afetar as pessoas, como por exemplo, quem é contratado ou quem obtém, ou não, um empréstimo. Implementar uma nova ferramenta raramente é a parte mais difícil. O verdadeiro desafio reside em decidir onde o envolvimento humano deve permanecer, que dados se está disposto a utilizar e o que não se fará, mesmo quando for tecnicamente possível. Em última análise, trata-se de uma questão de discernimento, não de engenharia. Diria de forma simples: adotem a IA, mas façam-no com sensatez e respeitando os vossos colaboradores, clientes e os limites da tecnologia. Na minha perspetiva, se as organizações tratarem a IA como mais uma atualização de TI, irão enfrentar dificuldades mais tarde. E aquelas que a tratam como uma decisão de liderança sobre responsabilidade, tomada ao mais alto nível, têm sucesso.
O que distingue uma estratégia de IA verdadeiramente ética de uma que se limita a cumprir os regulamentos?
Tenho uma explicação muito prática para isto. A conformidade tem principalmente a ver com «o que é que a lei me obriga a fazer?». A ética responde a uma pergunta diferente: «o que devo fazer, mesmo quando nenhuma lei está a vigiar?». Na minha prática, observo que a regulamentação está sempre um passo atrás da tecnologia. Por isso, se fizer apenas o que o regulamento atual prevê, terá lacunas, porque esse regulamento nunca imaginou exatamente o seu produto. Em primeiro lugar, uma estratégia ética deve considerar quem pode ser prejudicado, quem é afetado e se o resultado é justo, mesmo antes de qualquer entidade reguladora o questionar. Por isso, para mim, a conformidade é um item numa lista de tarefas, enquanto a ética é um hábito diário. Os clientes e os colaboradores também conseguem sentir a diferença entre uma empresa que os respeita e uma que está simplesmente a proteger-se. Assim, a confiança é essencial e pode tornar-se uma verdadeira vantagem competitiva.
Qual é o passo mais importante que as empresas devem dar para traçar um caminho ético para a IA?
Se tivesse de escolher um, seria manter um ser humano no controlo das decisões que afetam as pessoas. Ou, por outras palavras, quando uma pessoa é responsável pelo resultado e deteta um resultado tendencioso ou injusto antes de este chegar ao cliente. Gostaria de acrescentar mais dois pontos da minha parte. Utilizem apenas os dados de que realmente precisam. Se a vossa ferramenta não precisa do rosto, das emoções ou da localização de alguém, não os recolham simplesmente e assim terão menos riscos. Por último, criem uma lista para a vossa equipa indicando onde utilizam a IA, para que fins e quem é o responsável por ela. A maioria das empresas não consegue responder a isso hoje em dia, porque a IA vai surgindo aos poucos. Normalmente, o marketing adota uma ferramenta, os RH outra e o apoio ao cliente uma completamente diferente. É exatamente assim que o caos começa. Não é possível, literalmente, gerir o que não se vê. Para fazer mudanças, não é necessária uma política extensa. Comece por criar uma lista, atualizando-a regularmente, e isso irá garantir que tem uma base de IA responsável.
Até que ponto as empresas devem ser transparentes quando os colaboradores estão a ser avaliados, monitorizados ou geridos por sistemas de IA?
Acredito que as empresas devem ser muito transparentes. Sinceramente, é aqui que eu teria mais cuidado. Caso os colaboradores estejam a ser avaliados ou monitorizados por uma máquina, devem saber que a IA está envolvida, o que esta está efetivamente a medir e como contestar um resultado, caso este esteja errado. Esconder isso levará à perda da confiança da sua equipa. A legislação está a evoluir no mesmo sentido. Ao abrigo da Lei da IA da UE, a utilização da IA para selecionar ou classificar pessoas no local de trabalho é considerada de alto risco. Por conseguinte, exige supervisão humana, documentação e controlo adequado. Tirar conclusões com base nas emoções dos colaboradores no local de trabalho pode ser aceitável em alguns casos excecionais, como em questões de segurança ou médicas. Mas, noutros casos, está essencialmente fora de questão.
Um exemplo perfeito disso vem do meu trabalho com o projeto «AI Regulatory Sandbox», no âmbito do Ministério da Transformação Digital da Ucrânia, onde analiso produtos quanto à sua conformidade. Uma aplicação de bem-estar que ajuda a respirar e a concentrar-se, quando utilizada a título pessoal, é de baixo risco. A mesma aplicação vendida a um empregador para monitorizar níveis de stress é uma história completamente diferente. A tecnologia é a mesma, mas o contexto muda tudo. Por isso, a minha regra para os gestores é simples: se não se sentir à vontade para explicar aos seus colaboradores exatamente o que o sistema faz, então não o deve utilizar com eles.
A UE posicionou-se como líder mundial na regulamentação da IA. Será que a Lei irá reforçar a inovação ou travá-la?
Bem, é provável que faça ambas as coisas. E a resposta sincera é que a Europa está à procura desse equilíbrio em tempo real. Não vejo a Lei da IA como uma ameaça à inovação. Na prática, ela indica às empresas o que se espera delas e dá-lhes tempo para lá chegarem. Essa previsibilidade é boa para os negócios, porque o que realmente mata a inovação não é a regulamentação, mas sim a incerteza. Os investidores e os fundadores só conseguem trabalhar com regras claras. E a Europa está a ajustar-se à medida que avança. As obrigações de transparência que informam as pessoas quando estão a lidar com IA, bem como a rotulagem de conteúdos gerados por IA, entrarão em vigor em agosto de 2026 e essas medidas mantêm-se. Mas a parte mais pesada, incluindo as regras relativas ao alto risco, acaba de ser adiada para 2027 e 2028, em parte devido a preocupações com a competitividade. A Comissão está também a publicar orientações e exemplos práticos neste momento, para mostrar como cumprir a regulamentação na prática. Assim, a orientação é encontrar um equilíbrio entre proteger as pessoas e dar espaço e tempo ao mercado. Acredito que uma regulamentação bem concebida acaba por ajudar as empresas europeias. E, atualmente, a expressão «concebido de acordo com as normas europeias» está a tornar-se um verdadeiro selo de confiança que vai muito além da Europa.
Haverá uma regulamentação governamental eficaz ou tudo se irá resumir à autorregulação?
Acredito sinceramente que precisamos de ambas, a trabalhar em conjunto e a complementar-se mutuamente. O governo tem de proibir certas utilizações e estabelecer regras claras para os casos de alto risco. Nenhuma indústria deve atribuir a si própria a responsabilidade pelos riscos mais graves. Mas a lei estará sempre um passo atrás da tecnologia, pelo que não pode ser a resposta completa.
É aí que entra a autorregulação. As empresas mais responsáveis não estão à espera da próxima lei. Pelo contrário, já estão a definir os seus próprios padrões, a declarar como utilizam a IA e a mostrar aos clientes qual é a sua posição. É também por isso que criámos a AIEI, a Associação Internacional de Ética e Integridade da IA. É um exemplo prático dessa camada de autorregulação. Ajudamos as organizações a demonstrar o seu compromisso com uma IA responsável através da nossa certificação, dos nossos workshops e da nossa Conferência AI Horizon. Isto permite que as empresas se reúnam para partilhar práticas, aprender umas com as outras e unir forças, em vez de cada uma resolver os mesmos problemas sozinha. A base são os nossos Princípios Internacionais de IA publicados abertamente, para que qualquer organização os possa adotar e declarar claramente a sua posição. Nada disto substitui a lei; trata-se, portanto, de uma camada intermédia, onde as boas intenções se tornam visíveis e passam a ser objeto de responsabilização, antes mesmo de um regulador o exigir. Sinceramente, penso que tudo ainda é possível nesta área e que o resultado ainda não está decidido. Se o governo e a indústria fizerem a sua parte, mantendo a confiança no centro, chegaremos lá.
Que responsabilidades têm os empregadores quando a IA altera ou elimina postos de trabalho existentes?
Bem, esta é, na verdade, uma responsabilidade partilhada e gostaria de ser honesto com as pessoas a este respeito. A IA irá alterar muitos postos de trabalho e eliminar alguns. Fingir o contrário não vai ajudar ninguém. Por enquanto, as empresas têm de se manter competitivas sem tratar as pessoas como descartáveis. Na prática, isso significa investir na requalificação profissional, ser transparente quanto às mudanças e proporcionar às pessoas um percurso concreto para os novos cargos que a IA cria. Para os trabalhadores, a responsabilidade passa por continuar a aprender competências valiosas que estão a mudar. Na verdade, limitar-se a esperar e observar pode ser a escolha mais arriscada de todas. Mas eu atenuaria um pouco esse receio. A IA automatiza principalmente a parte rotineira do trabalho, como pesquisar, redigir, classificar, resumir, etc. O que ela não substitui é o discernimento, a responsabilidade e as relações humanas. Na minha área, o direito, a IA consegue produzir um primeiro rascunho em segundos, mas não pode assumir a responsabilidade pelo aconselhamento, perceber o ambiente ou tomar a decisão final, e os clientes continuam a pagar exatamente por isso. Por isso, para a maioria, a verdadeira questão não é «a IA vai tirar-me o emprego?», mas sim «qual é a parte humana do meu trabalho e como posso melhorar nessa área?». Sugiro que concentrem a vossa energia nisso.
Quais são os desafios éticos relacionados com a IA que as empresas irão enfrentar nos próximos anos?
Existem vários desafios fundamentais que as organizações irão enfrentar. O primeiro é a honestidade: ser claro quando se lida com IA e não introduzi-la discretamente. Isso aconteceu-me quando estava à procura de casa aqui em Portugal. Encontrei um agente simpático no WhatsApp que acabou por ser uma IA, sem qualquer divulgação nem consentimento sobre a forma como os meus dados estavam a ser utilizados. Esse tipo de situação corrói rapidamente a confiança e os clientes não o perdoarão por muito tempo. O segundo é a equidade. Como sabemos, a IA aprende com os dados e, se os dados forem tendenciosos, o sistema repete silenciosamente essa tendência em grande escala, na contratação, na concessão de empréstimos ou na fixação de preços. O terceiro é a responsabilidade. Assim, quando a IA comete um erro, «foi o sistema que fez isso» não é uma resposta atrás da qual uma empresa se possa esconder. E existe um dever claro de proteger grupos vulneráveis, como as crianças, em que mesmo uma funcionalidade bem-intencionada pode facilmente ultrapassar os limites. Mas por detrás de tudo isto reside um desafio: a confiança. Atualmente, cerca de três quartos dos especialistas esperam que a IA nos ajude e apenas cerca de um quarto do público concorda. Colmatar essa lacuna é a verdadeira tarefa dos próximos anos. As empresas que o conseguirem, sendo transparentes, justas e responsáveis, não se limitarão a evitar problemas; sairão vencedoras. O meu conselho é simples: conheça o seu risco, mantenha um ser humano no circuito e faça da confiança a sua vantagem competitiva.
