A arquitetura da decisão na era da IA 

A História da Humanidade é esculpida por decisões que moldaram impérios, firmaram fronteiras e reinventaram o que significa ser humano. Basta-nos folhear as páginas do tempo para entender como as decisões históricas de relevo não só ergueram fronteiras políticas, como teceram narrativas  sobre a identidade, a percepção e a relação com o “outro”.  

Recuemos ao nascimento da democracia para ver erigir os pilares dos sistemas democráticos modernos e esboçar-se o ideal de autodeterminação. Daí, avancemos vertiginosamente para a redefinição do conceito de dignidade humana, destacando a abolição da escravatura. Noutro salto temporal, eis as tumultuosas revoluções liberais e constitucionais dos séculos XVIII e XIX, impregnadas do conceito de cidadania e de Estado de Direito. Em catadupa, detenhamo-nos na Revolução Industrial, momento de transmutação do tecido económico e social; na Declaração Universal dos Direitos Humanos, marco ético global de reconhecimento de direitos inalienáveis e transversais; e na queda dum muro, uma escolha colectiva pela superação de divisões ideológicas.  

Aqui chegados, dum encontro imediato de terceiro grau com a criação e democratização da internet, reconfiguram-se quer o acesso à informação, quer a preocupação com a privacidade e a busca da veracidade dos factos. Em menos de nada, descolamos para o apogeu regulatório de protecção dos dados pessoais, qual bastião da dignidade digital, galopando até à regulação da inteligência artificial, que vem parametrizar os limites da existência dessa tecnologia e a sua ingerência quer na vida colectiva, quer na esfera individual. 

Entregar à tecnologia a responsabilidade de decidir  

Curiosamente, hoje, na era da inteligência artificial (IA), acabámos de atravessar uma nova fronteira decisiva: a de entregar à tecnologia a responsabilidade de decidir. The Business Case for AI, de Kate Crawford, revela como a esta tecnologia admirável pode gerar valor, eficiência e inovação, veiculando que as decisões empresariais sobre IA não são apenas técnicas – são morais. Escolher onde e como aplicá-la é decidir que tipo de sociedade queremos construir. Pugnamos por libertar-nos daquilo a que designamos por ruído e viés, em jeito de higienização dos processos decisórios, mas não lidamos bem com o facto de a nossa realidade ter pouco de binário. Em boa verdade, a cornucópia de complexidades sobre as quais cada decisão se debruça causa prurido; daí a nossa inclinação para a ultra-simplificação. Somos uma sociedade obcecada pelo perfeccionismo e pelo imediato, todavia, a nossa tolerância para o “parecer” em detrimento do “ser” entrou em modo acelerador de partículas. 

Sejamos lúcidos: a IA não é neutra – foi construída sobre infraestruturas, extracção de dados e relações de poder. Cada decisão automatizada dimana os traços de quem a programou, os dados que a alimentaram e os sistemas que a sustentam. A decisão humana, nesse contexto, não desaparece – desloca o seu centro gravitacional para o design, para a supervisão e para responsabilidade individual e corporativa (accountability).  

Em Rebooting AI, Gary Marcus e Ernest Davis evidenciam que, apesar dos avanços da IA, a decisão humana permanece essencial para interpretar nuances, valores e dilemas éticos que os modelos não captam. Já em Deep Learning, de John D. Kelleher, admiramos o magnetismo técnico da IA, que reclama prudência: quanto mais automatizamos, mais precisamos decidir o que não automatizar. Ora, à decisão humana cabe consagrar-se o papel de guardiã da dignidade e da justiça, extravasando o mínimo imposto pelos quadros regulatórios actuais: aqui reside a ética. 

Ceder ao paradoxo sem perder a sensibilidade  

Hoje, a IA constitui uma nova forma de poder que tem vindo a despertar novas tribos digitais, comunidades que compartilham valores algorítmicos, linguagens de programação, e modelos de decisão automatizada. Quem domina os algoritmos, a infraestrutura e os dados, domina narrativas, mercados e, logicamente, as decisões globais. Destarte, porque a decisão sobre o que é verdade já não é só humana, a governança global da IA implica considerações sobre pluralidade cultural e ética, bem como mecanismos de combate à síndrome do devedor, que silenciosamente nos aliena e nos subtrai dum sentido de comunidade. 

Por isso, abracemos os paradoxos sem sucumbir à perda de sensibilidade. Para tanto, cabe conservar o poder e responsabilidade da decisão e, no plano colectivo, accionar o modo “beta perpétuo” – plasticidade para constantemente desafiarmos os nossos sistemas de crenças internalizados – sem nos rendermos às “portas da percepção”, que nos deixa tão pouco. 

Desta feita, o poder prende-se no desenho da própria arquitectura decisória. Cumpre decidir, a cada passo, a margem decisória que para nós reservamos e a medida em que permitimos as escolhas feitas por interposta tecnologia. A essa arquitectura deve presidir um quadro regulatório que nos defenda, no limite, de nós mesmos. Sim, a regulação pode não conseguir deter ondas abissais, mas dá-nos ferramentas que permitem construir um navio apto à navegação.