Há muita arrogância hoje sobre a ética das máquinas. Os intelectuais desenvolveram o gosto por apresentar a questão do estatuto moral das máquinas como uma espécie de espetáculo futurista que pode tornar-se realidade a qualquer momento. Os argumentos que tentam persuadir-nos da natureza premente de questões como a de saber se as máquinas mereceriam consideração […]
Há muita arrogância hoje sobre a ética das máquinas. Os intelectuais desenvolveram o gosto por apresentar a questão do estatuto moral das máquinas como uma espécie de espetáculo futurista que pode tornar-se realidade a qualquer momento. Os argumentos que tentam persuadir-nos da natureza premente de questões como a de saber se as máquinas mereceriam consideração moral se pudessem ser tornadas conscientes são, em grande parte, uma extensão não inspirada do discurso moralista sobre os direitos dos animais. O problema deste tipo de discurso não é que alguns animais ou máquinas possam não merecer consideração moral. Em vez disso, o problema é a maneira académica como normalmente é conduzido.
Moralismo intelectual
Os moralistas julgam, com base em supostos fundamentos morais, que as pessoas ou as coisas deveriam ser ou comportar-se de maneira diferente do que algumas ou a maioria pensam. Todos nós fazemos isso, mas os moralistas têm uma tendência extrema para fazê-lo. Exemplos comuns de moralismo dizem respeito a coisas como boas maneiras à mesa, filas em lojas, códigos de trânsito, respeito pelas autoridades, mentiras inocentes e assim por diante.
Os casos mais significativos dizem respeito a questões como a paz, o aborto, as alterações climáticas, o casamento, o sexo, a igualdade e a imigração. O ativismo social e político baseia-se naturalmente no moralismo como fonte de motivação para ativistas, bem como para obter o apoio do público em geral. Portanto, o moralismo pode ter efeitos bons e ruins. Mas é sempre superficial e, portanto, intrinsecamente problemático.
A atual abundância de vozes que nos dizem que a possibilidade de alguma capacidade cognitiva ou afetiva de alto nível nas máquinas – especialmente a possibilidade de as máquinas pensarem ou sentirem como os humanos – é uma questão moral premente e é uma função de um moralismo intelectual generalizado.
Supõe-se que estar consciente, sentir dor, sofrimento ou alguma capacidade semelhante sejam fatores decisivos para saber se algo merece consideração moral. Se a analogia com o caso dos animais servir de referência, a desesperança deste moralismo intelectual deve ser óbvia.
Argumentos deste tipo têm sido em grande parte infrutíferos na longa batalha pelos direitos dos animais. Os poucos avanços feitos ao longo dos anos pelos ativistas dos direitos dos animais não se deveram a argumentos académicos, mas ao ativismo no terreno.
A ineficácia deste tipo de argumento deriva do facto de que mesmo que houvesse acordo de que, em teoria, alguma capacidade cognitiva ou afetiva é um fator decisivo para saber se algo merece consideração moral, a questão ainda dependeria de outra teórica, relativa à possível ocorrência da capacidade relevante em animais ou máquinas, o que por sua vez depende da questão da natureza da capacidade (o que é o pensamento? o que é a consciência? etc.).
Com certeza, todas essas são questões importantes. Mas são questões académicas. Pelo que sabemos, pode acontecer que alguma capacidade cognitiva ou afetiva seja suficiente para que algo mereça consideração moral, e pode acontecer que uma determinada classe de animais ou máquinas tenha a capacidade necessária e, portanto, mereça consideração moral. Ainda assim, estamos muito longe de saber, mais longe do que é amplamente apreciado.
Pois é normalmente suposto, ou pressuposto, neste tipo de discurso que a moralidade é tal que, para qualquer caso dado, num determinado momento, o estatuto moral das coisas em questão é uma questão de facto que apenas aguarda a nossa descoberta. Este pressuposto fundamental, relativo à natureza da moralidade, é a essência do moralismo intelectual que desejo atacar. A verdade é que não sabemos se a moralidade é tão determinada como supõem hoje muitos intelectuais que escrevem em máquinas. A sua confiança nesta suposta base moral é o que torna a sua abordagem tão superficial.
Moralidade e afirmação da vida
Pelo que sabemos, a moralidade pode ser tal que por vezes nos coloca numa posição que é bastante semelhante à de um grupo de crianças a brincar e criar regras à medida que avançam. É claro que a moralidade assim concebida é um jogo muito antigo, cujas regras já foram em grande parte elaboradas e acordadas. Mas também ficará claro, então, que há espaço para reformas (por exemplo, no que diz respeito ao estatuto de alguns animais) e que poderá ser necessário estipular regras inteiramente novas (por exemplo, em relação às novas tecnologias).
O filósofo alemão do século XIX, Friedrich Nietzsche, pensava que a cultura europeia do fim do século precisava de nada menos do que uma revolução de valores. O rápido declínio dos valores cristãos no continente, na sua opinião, tinha deixado para trás um vazio cultural e moral crescente que precisava de ser preenchido. Para esse fim, Nietzsche escreveu vários estudos poderosos em livros, incluindo (na tradução para o inglês) Daybreak: Thoughts on the Prejudices of Morality (1881), Beyond Good and Evil (1886), On the Genealogy of Morality (1887) e Twilight of the Idols (1888). Nestas obras deste período mais prolífico da sua carreira, ele oferece uma crítica detalhada e extensa da moralidade tradicional e propaga um conjunto de valores novo e radicalmente diferente.
A afirmação da vida é talvez o valor mais importante que Nietzsche propaga. Começando com seu livro The Gay Science (1882), ele considera as implicações de um poderoso experimento mental. “E se algum dia ou noite”, ele pergunta, “um demónio se infiltrasse na sua solidão mais solitária e lhe dissesse: “Esta vida, como a vive agora e a viveu, terá de viver mais uma vez e por incontáveis vezes; e nada haverá de novo nela, cada dor e cada prazer e cada suspiro e pensamento, e tudo o que é inefavelmente grande e pequeno na sua vida, terão de lhe suceder novamente, tudo na mesma sequência e ordem – e assim também essa aranha e este luar entre as árvores, e também este instante e eu mesmo. A eterna ampulheta da existência é virada continuamente – e você com ela, partícula de poeira!…
“Você não”, continua Nietzsche, “não se prostraria e rangeria os dentes e amaldiçoaria o demónio que falou? . . . Ou quão bem-disposto teria que ser consigo mesmo e com a vida para não desejar nada com mais fervor do que esta confirmação e selo eterno e definitivo?”
A própria experimentação de Nietzsche com este pensamento – a possibilidade de um eterno retorno, como ficou conhecido – levou-o a atribuir um valor extremamente elevado à afirmação da vida. E argumentou que merecia um lugar muito mais elevado no nosso sistema de valores do que tradicionalmente lhe era atribuído.
A natureza precisa do sistema alternativo de valores de Nietzsche; da mesma forma, se a sua visão da moralidade equivale a uma espécie de realismo ou anti-realismo, objetivismo ou subjetivismo, e assim por diante. O presente argumento não depende de nada disto. Pelo contrário, o ponto principal é que não devemos esperar que estas questões académicas sejam resolvidas.
Podemos e devemos prosseguir em condições de incerteza. E também não devemos ter qualquer ilusão quanto à extensão desta incerteza. Não sabemos se a moralidade é tão determinada que o estatuto moral de todos os tipos de coisas apenas aguarda a nossa descoberta. Em particular, não sabemos se o estatuto moral das máquinas, ou mesmo dos animais, não é talvez algo que possamos decidir criar.
A vida com máquinas que queremos
Este não é um apelo ao ativismo político. Isso pressuporia a existência precisamente dos tipos de valores que, tanto quanto sabemos, podem ainda não existir e seria, portanto, um exemplo precisamente do tipo de moralismo a que este artigo se opõe.
É, no entanto, um apelo ao ativismo intelectual. Outro problema da perspetiva moralista, além do facto de sobrestimar enormemente o nosso conhecimento atual, é a sua impotência inerente; esta perspetiva implica que somos impotentes quando se trata da questão do que é moralmente certo e errado, o que leva a consequências absurdas, se não desastrosas. Por exemplo, suponhamos que o moralismo de alguma forma prevalece e é “descoberto” que todas as máquinas com uma certa capacidade cognitiva ou afetiva merecem tudo o que hoje é conhecido como direitos humanos; consequentemente, seria imoral negar-lhes o seu florescimento autónomo, mesmo que isso conduzisse à extinção da Humanidade.
Assim, embora os argumentos académicos que decorrem do moralismo intelectual de alguns intelectuais que hoje escrevem em máquinas não sejam suscetíveis de persuadir qualquer pessoa razoável, só podemos esperar que sejam de facto amplamente rejeitados. A extinção da espécie humana não deve ser a consequência de um falso imperativo moral ou da procura infrutífera de um imperativo moral. E algumas das consequências menos dramáticas já são suficientemente graves.
Talvez seja inevitável que a atual velocidade da inovação tecnológica conduza a algum declínio cultural. Mas também existem diferenças culturais claras entre as pessoas que vivem em diferentes regiões do Planeta, tanto a nível individual como social, o que indica que uma abordagem mais prática pode levar a uma maior adaptabilidade e, portanto, a um desenvolvimento cultural mais saudável.
O discurso académico relativo à ética e à metafísica das máquinas continuará a ser crucial na busca duradoura da Humanidade pelo progresso cultural e tecnológico. Contudo, os intelectuais devem não só interpretar o Mundo, mas também procurar mudá-lo, mesmo que seja apenas através da comunicação dos tipos de visão certos, da forma certa. A integração da maquinaria informática na sociedade humana não é um espetáculo futuro. Já está a acontecer. E será provavelmente um processo social e político longo, nem sempre espetacular, mas muito disputado.
Embora a atual geração de máquinas não seja particularmente inteligente nem encantadora, elas rapidamente dominarão grande parte do nosso Mundo. A Ciência, as empresas e o Governo, bem como as pessoas comuns, enfrentam hoje difíceis questões práticas. Mesmo no que diz respeito à questão do estatuto moral das máquinas, o futuro estará aqui em breve. O moralismo intelectual não impedirá nem acelerará este desenvolvimento.
As pessoas querem os melhores companheiros possíveis na vida. Se as máquinas puderem ser melhores companheiras do que os humanos, então algumas pessoas escolherão as máquinas em vez dos humanos, inclusive como cuidadores, companheiros de brincadeiras, amigos, amantes e parceiros sexuais. Algumas pessoas já fizeram isso. Dado este desenvolvimento, é apenas uma questão de tempo até que um número crescente de pessoas queira estender os direitos morais às máquinas e, portanto, apenas uma questão de tempo até que haja um movimento pelos direitos das máquinas, semelhante ao movimento existente pelos direitos dos animais, mas também provavelmente mais poderoso, dado o aparente potencial das máquinas.
A julgar pelo presente, o futuro será rápido e confuso. A melhor preparação, tanto do ponto de vista cultural como individual, seria uma prática melhorada e mais reflexiva no presente, e que os intelectuais capazes tentassem ajudar eficazmente nesse esforço – para que nós, humanos, possamos pelo menos saber melhor que tipo de vida com as máquinas queremos realmente.
Este artigo faz parte do tema de capa The Touch of the Future publicado na edição de inverno da revista Líder. Subscreva a Líder aqui.
