Nem Inteligente, Nem Artificial?

Considerando o que tenho lido, ouvido e observado, a inteligência artificial (IA) aumenta a agilidade das organizações. Permite melhores diagnósticos de doenças como o cancro. Pode tornar a condução de automóveis mais segura. Facilita as lides domésticas. Permite detetar anomalias entre milhões de transações bancárias e prevenir e combater o crime. Otimiza processos logísticos e aumenta a eficiência. Contribui para um marketing mais personalizado. Pode gerar triliões de dólares ou euros. Etc.

Confesso, porém, que fico preocupado quando são colocados capacetes inteligentes nas cabeças de trabalhadores para detetar o seu estado emocional e tomar decisões em conformidade. Quando empresas prometem fazer rigorosos diagnósticos emocionais e de personalidade a partir de imagens faciais. Quando organizações e autoridades recorrem a sofisticados esquemas de vigilância violadores da privacidade, da liberdade e da dignidade das pessoas. Quando tentam convencer-me de que as ferramentas de IA, como o reconhecimento de emoções nas faces, facilitam os processos de recrutamento e seleção e os tornam menos discriminatórios.

O que me salva do receio de ser rotulado como profeta da desgraça é uma entrevista que Kate Crawford, Professora na University of Southern California e investigadora na Microsoft Research, uma subsidiária da Microsoft, deu recentemente ao The Guardian: “A IA não é artificial nem inteligente”. Quando se referiu a um projeto de pesquisa incidente sobre a ImageNet, uma base de dados de 14 milhões de imagens que permite testar a eficiência de algoritmos de reconhecimento de imagens, Crawford afirmou: “Encontrámos [eu e Trevor Paglen] termos de classificação horripilantes que eram misóginos, racistas, discriminatórios de pessoas com deficiência, e extremamente preconceituosos. Fotos de pessoas estavam associadas a palavras como cleptomaníaco, alcoólico, má pessoa, rainha no armário, call girl, vagabundo, toxicodependente e muitas outras que não posso pronunciar aqui”.

Confesso, pois, que não me parece muito inteligente o deslumbramento acrítico, acerca da IA, que por aí vejo. Sendo as pessoas inteligentes capazes das mais brilhantes virtudes, mas também das mais abjetas condutas, não vejo razões para esperar que uma criação humana como a IA se comporte de modo diferente. O meu ceticismo é reforçado pela constatação de uma limitação dos humanos, mesmo quando a intenção é boa: a incapacidade para anteciparem consequências indesejadas e perigosas das suas criações.

António Damásio, que tomo por pessoa inteligente, sábia e sensata, disse sobre IA (veja texto de C. F. Alves, Expresso, 5 nov. 2017): “(…) Tudo o que se passa com a IA tem duas raízes. Uma é Alan Turing e outra um grupo de pessoas no MIT que se convenceram de que seria possível fabricar inteligência humana com inteligência artificial. Nos anos 40. E esse projeto falhou redondamente tendo sempre parecido que não ia falhar porque todo o desenvolvimento tem sido positivo em matéria de sucesso da IA. O sucesso dos robôs e o dinheiro gerado, porque tudo isto tem gerado fortunas incalculáveis. É extraordinariamente difícil a essas pessoas aceitarem que o projeto está fundamentalmente errado. Fazer com que criaturas tenham comportamentos é uma coisa, fazer com que criaturas tenham sentimentos é outra.”

Sobre as ambições de algumas luminárias de Silicon Valley, designadamente a conquista da imortalidade pelos humanos e a proteção jurídica e moral dos robôs, Damásio afirmou: “Essa gente é que tem, verdadeiramente, o que eu chamo uma inteligência artificial. Uma inteligência de intelecto com pouco sentimento.”

Não pretendo ser o profeta da desgraça. Creio, mesmo, que a IA tem um enorme potencial para o progresso económico e social. Mas também acredito que, como ocorre com quase todas as criações humanas, o potencial maligno existe – pelo que devemos ser cautos e proteger-nos. A IA não é intrinsecamente boa nem má. O que lhe confere bondade ou maldade é o modo como é utilizada e os fins que prossegue. Ignorar ou subestimar as consequências indesejadas ou imprevisíveis da IA é perigoso. O mesmo pode ser afirmado sobre a inteligência humana.

O progresso da Humanidade muito deve a pessoas inteligentes. Mas alguns dos maiores patifes deste mundo também são, ou foram, muito inteligentes. Outros, ainda que menos inteligentes, são poderosos. Termino, pois, citando novamente Damásio, a propósito do risco de os robôs “submeterem e escravizarem” os humanos: “Os robôs por si não vão poder fazer nada contra nós. Mas vão poder ser programados por pessoas como o Vladimir Putin ou o pateta da Coreia do Norte para fazer as coisas mais horríveis. E isso vai acontecer.”


Por Arménio Rego, LEAD.Lab, Católica Porto Business School

Crónica publicada na edição de verão da revista Líder.

Artigos Relacionados: