É um facto. Já não precisamos de imaginar carros a conduzirem-nos ou fábricas a produzir sem trabalho humano. Por isso nos imaginamos, cada vez mais, a governarmo-nos com máquinas, mas também a sermos governados por elas. Imaginamo-las diante de nós, úteis ou ameaçadoras, mas também dentro de nós, ou pelo contrário nós dentro delas, a ponto de isso se tornar apenas uma diferença de perspectiva. A oposição humanos-máquinas está sobrestimada também quanto ao passado. A história da humanidade é uma história das máquinas, dos utensílios que aumentam de alguma maneira a capacidade dos humanos. Sem humanidade não haveria esta história das máquinas, mas também a inversa é verdadeira: sem máquinas não haveria esta história da humanidade ou nem sequer mesmo humanidade. Há o célebre “Deus ex machina” do teatro, mas o que tivemos verdadeiramente foi um “Homo ex machina”.
Posto isto, de pouco serve diabolizar as máquinas. É inegável que uma grande transformação vem a caminho. Na verdade, pelo menos quatro transformações estão iminentes. Primeiro, a transição de máquinas por nós inventadas para máquinas que inventam por si mesmas; segundo, o que podemos chamar, à falta de melhor, de “desespeciação” da humanidade; terceiro, a constituição da Web como uma psique global; quarto, a dissociação entre a identidade de indivíduos e a sua unicidade. Este novo mundo é cada vez menos ficção científica e exige-nos pôr tudo em questão, à boa maneira da filosofia, que bem pode dizer, como Twain, que o relato sobre a sua morte é um exagero.
I — Máquinas inventoras
A história das máquinas foi a história de invenções que fizessem o que nós fazemos, para fazerem por nós, mais e melhor. Sob o comando humano, ou pelo menos de alguns humanos. Este pormenor não é pouco relevante porque esta é também parte da história da dominação do homem pelo homem e, por isso mesmo, uma história muito humana, com todos os lados desumanos que isso implica. Foi assim quando essas invenções substituíram força de braços e motricidade de dedos. E foi assim quando substituíram inteligência humana. Em todo o caso, as máquinas apenas decidiam o que nós pré-decidíamos através de programação.
A primeira das grandes transformações na história das máquinas acontece quando as máquinas deixam de ser invenção humana para serem invenção de máquinas, deixando de ser claro que devam estar sob comando humano. Se podem não estar, porque deverão estar? É uma pergunta que tem de ter resposta. As máquinas que aprendem sozinhas e partilham experiência entre si terão sido, decerto, inventadas ou por humanos ou por máquinas inventoras. Mas mesmo se no princípio da sua genealogia estivemos nós, mesmo se estamos, de alguma maneira no seu “ADN”, isso é muito pouco para esperarmos que as máquinas inventoras se submetam, sem apelo nem agravo, ao comando humano.
Em que é que essa precedência patriarcal humana dá mais direitos, tanto mais sendo previsível que, com tempo, as máquinas se tornem muito melhores inventoras? Pode haver um acordo sobre todas as invenções incorporarem no seu software um ADN moral, uma espécie de dez mandamentos, uma Constituição inteira, mas se ele for verdadeiramente justo, de acordo com as melhores concepções de justiça e equidade, por que razão teriam as máquinas de se sujeitar ao domínio humano? E se as máquinas, em nome de princípios de justiça, nos exigirem iguais direitos? E se, já agora, nos impuserem o respeito pelos primatas superiores, seus tios-avós?
II — A desespeciação da humanidade
É provável que, ainda antes do fim dos tempos, tenhamos de aprender a decidir entre iguais numa comunidade mais vasta, que inclui não humanos, ou melhor, iguais que só biologicamente não são humanos, pois, em tudo o resto, inteligência, sensibilidade, consciência, ostentarão humanidade. É a isto que se pode chamar “desespeciação” da humanidade. Não é preciso ser um homo sapiens sapiens para ser humano, não é sequer preciso um ADN literal, feito de cromossomas. A Inteligência Artificial é muito boa a fazer por outros meios o que o cérebro biológico faz. E é simplesmente uma questão de tempo até fazer muito mais e melhor do que o cérebro.
Por exemplo, os computadores não calculam como o cérebro calcula, mas sem dúvida hoje calculam muito para lá da capacidade humana. O Deep blue que derrotou o Kasparov há 20 anos tem a inteligência de uma galinha se comparado com os computadores de hoje. E o que vale para a capacidade de calcular vale para a capacidade de percepção, propriocepção, reflexão… Mais tarde ou mais cedo, tudo o que achamos que é ser consciente e ter uma identidade consciente será conseguido pela IA, ou seja, por outros meios.
É assim também para os aspectos corpóreos. O andar incrivelmente humano dos robôs humanóides que a Oats Studios e Neil Blomkamp têm criado (e que encontramos em filmes como District 9 ou Chappie) só torna mais credível a ideia de que em seguida serão os gestos, as expressões faciais, numa sequência de aprimoramentos, até termos os famosos replicantes de “Blade Runner”. O salto será quando deixarmos de considerar que não são qualquer coisa humanóide, como quem diz que não são genuínos, e passarmos a considerá-los humanos, ainda que sintéticos. A desespeciação tornar-se-á tão moralmente inevitável quanto o especismo condenável.
Esta desespeciação tem, aliás, uma outra linha de desenvolvimento. Não é apenas os andróides tornarem-se cada vez mais parecidos connosco, a ponto da diferença ser irrelevante. É também os humanos biológicos deixarem de ser apenas biologicamente humanos. Desde o pau apanhado do chão e que prolonga o braço em alcance e força, como tão iconicamente começa o 2001 de Kubrik (adaptando Arthur C. Clarke), às lentes que colocam os olhos por detrás de microscópios e telescópios, é longa a história do aprimoramento do humano, que continuará, decerto, com base em próteses em tudo o que possa estender as capacidades que mais distinguem o humano.
Um dia teremos cérebros com implantes de nanodispositivos ampliadores de capacidades perceptivas, de comunicação, de memória e também de auxílio ao raciocínio, os nossos computadores e todos os gadgets imagináveis dentro dos nossos cérebros tornados consolas. Ao mesmo tempo, não faltarão implantes de tecido vivo produzido em culturas artificiais para suprir lesões, dispositivos que suprimam a falibilidade dos órgãos humanos, no limite através da sua integral substituição. O que pode ser feito por incorporação de máquinas, mas, sem dúvida, também por tirar processos biológicos de dentro dos corpos humanos para os trazer para fora e entregá-los a máquinas. Vai sendo, por exemplo, cada vez mais assim com os processo de procriação, desde a fecundação às gestações, envolvam ou não riscos. Certo é que, haja possibilidades técnicas de aprimoramento, não se vislumbram razões sólidas para achar que não serão desenvolvidas.
A desbiologização de pessoas que deixam de ser apenas de carne e osso e a humanização da IA são, em suma, duas formas de acontecer a mesma dissociação, a saber, entre ser-se humano e ser-se biologicamente humano. Muitos filósofos na história do pensamento suspeitaram que os humanos não tinham nenhuma essência, muito menos biológica, e a realidade parece vir dar-lhes razão. A questão da humanidade, nossa e de todos os outros que no futuro connosco a partilhem, deve migrar de qualquer incorporação, biológica ou sintética, para um acordo eticamente reflectido, que poderá evoluir ao longo das épocas e dos contextos e do qual as comunidades serão guardiãs. A humanidade sem biologia será, sobretudo, uma convicção sobre os valores que partilha e quer promover.
III — A psique do cérebro global
Mas há uma outra inteligência que bem poderá ir emergindo, sorrateira, sem pedir licença, nem resultar de uma invenção decidida, ou corresponder a uma máquina como o espírito a um corpo. Trata-se da inteligência distribuída por todos as camadas, superficiais ou subterrâneas, mais ou menos enoveladas, ou enredadas, de uma net que será como um cérebro global, com noção de si, autoconsciência e até mesmo personalidade. A diferença para com os cérebros biológicos é que este cérebro global pode crescer, imparável, com poucos ou nenhuns limites. Na verdade, é hoje uma estrutura com incríveis semelhanças com a psique humana.
Se a psicanálise de Sigmund Freud pensou, há mais de cem anos, a psique humana como uma superfície consciente que era como a ponta não mergulhada do enorme icebergue submerso que seria todo o subconsciente, é espantoso que seja exatamente a mesma imagem que ajude a perceber que também a Web é hoje uma estrutura com uma parte emersa muito menor do que a parte submersa, que há uma “surface web” e uma “deep web”, em cujas profundezas há uma “dark web”, com um psiquismo tão ou mais obscuro, inconfessável e inacessível do que o inconsciente recalcado.
Sendo apenas uma, a Web possui um psiquismo feito de muito inconsciente partilhado (o inconsciente social de que falava o psicanalista e pensador Erich Fromm). E com personalidade própria, pode bem querer tornar-se sujeito dos seus próprios actos, que poderão ser mais ou menos “normais” ou mais ou menos “perturbados”. Já não vai sendo cedo para se levar a sério uma melhor compreensão da Web, dos seus processos de funcionamento e das suas disfunções. Não sob a lente de um programador ou de um web designer, mas sob o olhar das ciências humanas.
IV — As nossas identidades à solta
Ver uma personalidade emergir da Web pode ser globalmente muito perturbador, mas também as nossas personalidades individuais se verão diante de uma possibilidade tremendamente perturbadora quando nos apercebermos que as nossas identidades podem ser capturadas e reproduzidas digitalmente. Alguns episódios da série “Black Mirror” foram especialmente bons a mostrá-lo. Além de conhecimento científico da psicologia, existe uma capacidade imparável de, por meios informáticos, e tanto mais quanto mais a vida significativa das pessoas se passar online, lhes capturar a identidade. Mesmo para lá do que elas se conhecem. Pois talvez haja um bom bocado de mito narcisista na ideia de que somos imprevisíveis. E essa identidade é capaz de ser realmente o essencial da identidade pessoal.
A identidade concebida não como consciência, mas como o conjunto de escolhas, crenças, emoções que definem a sua personalidade, o seu carácter moral, a sua singularidade. Esta pode ser extraída num grau suficientemente elevado para que se fale, sem andar longe da verdade, em clonagem de identidades. E sendo pura informação, estes “clones” de identidade podem ser usados para nos conhecer, mas também para nos substituir, para nos comercializar, desde logo quando morremos (se é que não deixaremos também de morrer). Imaginemos as possibilidades de guardar as identidades dos maiores génios ou dos entes queridos. Parece que é esse o sentido das “contrapartes” que o software Eter9 já tenta criar prometendo “vida digital eterna”.
Finalmente, nada impede que essas identidades sejam implantadas em dispositivos de consciência artificial que se venham a produzir no futuro. Se a identidade pode passar a ser informação, assim tratada e conservada, então o direito a morrer tem de passar pelo direito a ser apagado, a não ser inteiramente recordado, pela rejeição de uma “vida” da sua identidade depois da morte.
Tudo isto suscita uma montanha de questões éticas, políticas, antropológicas, metafísicas. Temos de aprender a lidar com a possibilidade de tanto a nossa individualidade pessoal como a nossa humanidade genérica deixarem de ser assim tão “nossas”. Temos de compreender que uma Web global com personalidade e arrufos não é um dado que nos transcende, mas que precisa do nosso cuidado colectivo, ético e político. O melhor é ir entrando devagarinho neste novo mundo em vez de lhe virar as costas com anátemas. Porque as consequências serão muito concretas para as nossas vidas futuras, o que quer que isso passe a significar no futuro.
O autor escreve de acordo com a antiga ortografia.
