- A nova ferida narcísica
Quando procurava expor aos seus leitores a magnitude do significado antropológico do aparecimento da Psicanálise, Freud comparou a sua descoberta do inconsciente à revolução copernicana e à teoria da evolução de Darwin. Chamou-lhes “feridas narcísicas”. Tirar à consciência o exclusivo da vida mental humana, aquela afinal apenas a ponta visível de um iceberg submerso, era para Freud uma descoberta tão significativa como as que tiraram à Terra a posição de centro do universo e à espécie humana a posição à parte da demais vida biológica que habita a Terra.
Nas últimas décadas, uma nova ferida narcísica tem estado a formar-se por baixo da roupa de excepcionalidade com que nos vestimos: o desenvolvimento da Inteligência Artificial (IA) vai limitando, provavelmente até à sua extinção, o espaço para acreditar, com razões fundadas, que a inteligência humana não pode ser recriada por outros meios que não os proporcionados pela biologia e pelo corpo-mente que encarnamos.
Foram, primeiro, máquinas que tendem a calcular, e a operar com regras, melhor do que qualquer humano. Mais recentemente, os feitos de IA no domínio das linguagens formais começam a ser replicados, de forma impressionante, no da linguagem natural, aquela com que conversamos quotidianamente, com que fazemos sentido, pensamos e criamos conhecimento. Ferramentas do tipo do ChatGPT prometem terminar com o exclusivo, até agora detido pelas mentes humanas, da produção de discurso com sentido e com valor de conhecimento.
E por aqui a IA vai continuando a refutação da presunção antropológica de que passamos pelo mundo como uma excepção. Parece uma ameaça porque nos dói como uma ferida, mas deixem-me devolver a pergunta: até que ponto não é deste narcisismo que brotam todas as dificuldades do planeta em coabitar connosco?
- Contrariar o excepcionalismo
O excepcionalismo contra-argumenta de duas maneiras: dizendo que estes novos artefactos de IA não compreendem o que fazem, desprovidos da experiência vivida pelos humanos, e, além disso, ou talvez mesmo por isso, que são incapazes de genuína inteligência, conhecimento, originalidade. Só que a primeira destas duas ideias não é pertinente e a segunda é muito provavelmente falsa.
Dizer que artefactos de IA tenderão a romper o exclusivo humano da produção de sentido e de conhecimento não implica assumir que essas ferramentas façam algo como uma pessoa humana faria quando esta produz discurso com sentido. Elas não compreendem o que produzem, os padrões de reconhecimento que alcançam têm por fonte bases de dados e não a experiência vivida por uma pessoa, os modos pelos quais se obtêm padrões dessas fontes são completamente diversos.
O ponto importante nem sequer é dizer que o ChatGPT e análogos não passariam o teste de Turing (que procura despistar expressões de simulação de inteligência). O ponto é que o ChatGPT e seus sucessores, decerto com imensa margem de progressão, não têm de ter por meta parecerem humanos para serem o que são: produtores de discurso com sentido, informado, potencialmente capazes de anunciar novas perspectivas sobre temas, e assim contribuírem para a transmissão, organização e criação de conhecimento, com uma relativa autonomia.
Fazer o mesmo que humanos não é ser, sequer parecer, humano. Por exemplo, um tradutor automático traduz genuinamente mesmo não tendo qualquer compreensão ou experiência do que está a fazer. O ponto importante que vai sendo demonstrado é que precisamente estas não são condições necessárias para que seja possível traduções com cada vez melhor qualidade.
Por isso, é um mau argumento diminuir o alcance revolucionário do que está a começar com o ChatGPT e congéneres dizendo que não são máquinas conscientes, dotadas de emoção, que compreendessem realmente o que sentem. Essa forma de argumentar é um resquício de narcisismo – não é verdade que uma máquina só poderia ser inteligente se almejasse ser como um humano.
Com ou sem narcisismo, um equívoco habitual deve ser despistado: as capacidades humanas de inteligência talvez só possam ser simuladas, mas os resultados da sua simulação, se bem-sucedida, são reais e bem genuínos. A inteligência alcançada por meios simulados não é simulada.
Em segundo lugar, o excepcionalismo vai sustentando que os resultados da IA serem obtidos por computação, operando regras/instruções programadas, impede que sejam relevantes e inéditos, com criatividade. Contudo, cada vez maior capacidade de computação e tratamento de superlativas quantidades de dados, a um nível inacessível a uma pessoa humana, além de arquitecturas de regras e metaregras, com auto-aprendizagem, tornam expectável, e até previsível, o aparecimento de resultados com essas características. Nem a capacidade de gerar originalidade, nem a simulação da desinteligência, do erro, do acaso, com que por vezes se explicam originalidade e genialidade humanas, estão vedadas à IA.
Até prova em contrário – que está por dar –, o que puder ser identificado e descrito no comportamento humano pode, por princípio, ser simulado. Como cada pessoa não dispõe de outro acesso às mentes das outras pessoas se não pelo seu comportamento, que é simulável, é bem possível que venhamos a assistir, embora talvez não no nosso tempo de vida, à criação de artefactos que pareçam humanos ao ponto de, um dia, passarem um teste de Turing, ou a famosa versão ficcional do teste Voigt-Kampff do Blade Runner (que lembra ainda um detector de mentiras adaptado para detectar emoções).
Em suma, nem artefactos de IA precisam de parecer humanos para serem (e não apenas parecerem) inteligentes, nem nada que pareça humano está fora do alcance de uma simulação.
- Treinadores cognitivos de IA
Com o desenvolvimento de artefactos de IA do tipo do ChatGPT, o que passa a importar não são apenas saltos tecnológicos no tratamento de informação, mas também, e talvez mais, a nossa interacção cognitiva activa com a IA, nutrindo-a de sentido e apurando, com treino cognitivo, a sua inteligência.
Dou um exemplo simples. Perguntei ao ChatGPT em que medida se aproximavam o pensamento de Deleuze e Espinosa, dois grandes filósofos. A primeira resposta continha erros crassos, que logo lhe apontei. Como um afago à minha colaboração, polido e humilde, o chatbot desculpou-se e agradeceu a correcção. Faz isso com toda a gente. Tornei a repetir a pergunta e novo erro surgiu.
À terceira resposta, comecei a sentir-me satisfeito como me sentiria diante de uma resposta mediana a teste de filosofia. Ou seja: ao encontrar a fórmula adequada para pôr a população humana e a sua inteligência a trabalhar para o desenvolvimento cultural da IA, torna-se óbvio que um beneficiário do aparecimento do ChatGPT e seus equivalentes é a própria IA.
Não são só os terabytes ao seu dispor que nos devem impressionar, mas os muitos milhões de espíritos humanos disponíveis para participar a custo zero do aperfeiçoamento da IA. Na medida em que recorramos a ela, passamos todos a ser parte activa do seu treino fino, tornando menos distinta a diferença de papéis entre o que é ferramenta e quem é dela beneficiário. Houvesse memória suficiente e o programa não tivesse de “esquecer” a conversa tida comigo, se eu repetisse a minha pergunta sobre Espinosa e Deleuze daqui a alguns meses, bem possível seria que a resposta me deixasse rendido.
Em suma, não é pouco razoável esperar que, com esta grande viragem, possamos falar de cocriação não humana de conhecimento, sem que fique dada à partida a que parte cabe o papel criador principal. Desta vez, quando diz que estamos diante de um plágio high-tech, Chomsky está a ser pouco visionário. Mais do que a imagem de um papagaio, que apenas repete o que aprendeu a repetir, parece-me certeira a de um jogo de aprendizagem por imitação, repetindo e corrigindo, como num dos jogos de linguagem do Wittgenstein.
Quando a IA assim treinada for capaz de escrever poemas inéditos com valor para quem os leia, não vejo como não concluir que a cultura passou a ser gerada também fora de mentes humanas. A começo, serão sobretudo expressões replicáveis de cultura, mas nem as mais originais criações humanas dispensaram muita replicação. As mitificações de algo completamente original, fora da caixa, irreplicável não perde em ser matizada com aquele pensamento de Einstein de que “a genialidade é 1% inspiração e 99% transpiração”. As máquinas costumam ser muito boas a transpirar. É um bom princípio para chegarem a não papaguear.
- Narcisismo ou ferida?
Milhões têm colaborado com o ChatGPT com o fascínio de quem brinca a ser Prometeu outra vez, oferecendo poderes que, sob a perspectiva do mito grego, deviam estar guardados. No passado, a oferta foi o fogo aos homens; agora, é o self-learning às máquinas. Mas a refiguração do mito não nos devia pôr no lugar da máquina, em solidariedade pela mesma condição? Ou insistimos em nos pormos do lado dos deuses que agrilhoaram Prometeu? Esta é a pergunta séria que haveria que fazer no debate sobre como vamos viver com a IA.
As feridas narcísicas fazem-nos bem. Por razões de conhecimento, pois põem à vista e desmascaram ilusões. “Ousar saber” (Sapere aude) por vezes faz com que preconceitos nos ardam, mas prossegue um lema de que não podemos prescindir, e ainda mais quando o obscurantismo ganha tanto peso no espaço público. Mas, a estas razões, acrescem outras, de relação com o mundo.
As feridas narcísicas rompem com o excepcionalismo com que nos representámos tradicionalmente e diga-se que sobretudo na tradição ocidental, para fazer justiça ao resto da humanidade. Sermos como Deus, tomarmo-nos à parte do resto do mundo deprecia-o, põe-no à parte, na condição decaída de mero recurso, a explorar e a maltratar.
Não é indiferente ao estado de emergência climática que vivemos esse excepcionalismo com que justificamos a acção desligada do mundo. Já sofrer e ultrapassar feridas narcísicas é devolvermo-nos ao mundo, para dele sermos parte integrante: um planeta entre planetas, uma forma de vida entre a maravilhosa paleta de formas de vida, uma manifestação de inteligência entre outras.
Uma comunidade pós-humana não especista concebe o convívio entre formas de inteligência que não têm de estar suportadas por corpos-mentes da biologia humana. Serão humanos, cyborgs, humanoides, outros robôs, mesmo formas desmaterializadas e descorporizadas de inteligência. Nada poderia ser mais concordante com uma ecologia profunda, em que outros seres sencientes, orgânicos, mesmo inorgânicos fazem connosco comunidade alargada.
Uma consciência emancipadora do pós-humano reclama muito de uma consciência ecológica da relação com o mundo. Para concretizar com um exemplo: os tradutores automáticos a desenharem um futuro de tradução universal podem bem contribuir para uma ecologia linguística mais imune à pressão que vivemos contra a diversidade linguística.
- O caminho do entretanto
Há um caminho bom com a IA, mas há também indústrias a manipular-nos, com o engodo do acesso livre, da boa educação, até de um certo servilismo (tudo isso encontra-se na interacção com o ChatGPT!), que nos devem merecer atenção crítica. O Narciso da mitologia também se obcecou pelo seu reflexo nas águas, num encantamento que o faria decair até à morte. Cada ampliação das nossas capacidades mentais pelas ferramentas da IA é, ao mesmo tempo, um aumento da dependência face a elas.
Assistidas e aumentadas por IA, as nossas capacidades mentais tendem à dispersão, ao passo que os fornecedores de serviços de IA tendem à concentração. Sob a aparência de mais capacidades ao dispor revela-se, afinal, a disponibilidade a uma vulnerabilidade e condicionamento crescentes, que ameaçam a possibilidade de sermos sujeitos intelectualmente autónomos. Arriscamos a tornarmo-nos células de uma subjectividade colectiva controlada por um oligopólio empresarial, perpassado por vieses como o racial. Contra esta morte narcísica, temos de não perder o conhecimento do caminho de volta para praticar a respiração da nossa inteligência sem ventiladores artificiais a assisti-la.
Entretanto, o mundo real exige pés bem assentes no chão. O uso destas novas ferramentas deve ser atentamente regulado para fazer respeitar a igualdade. Mas pressupondo essa regulação, não faz sentido proibir ferramentas que libertem a inteligência humana para tarefas menos maquinais e um exercício mais crítico. Perder menos tempo na repetição de conhecimento já adquirido, como no fazer contas de aritmética, torna possível ganhos qualitativos no pensamento que fazemos.
Aliás, a automação pode ser um remédio santo para universidades e investigadores inconformados com a condição de fábricas e operários de “papers” que a cienciometria impõe. Deixar às máquinas o trabalho maquinal é válido tanto para o trabalho físico como para o trabalho intelectual. Talvez a IA possa contribuir para desindustrializar a nossa condição trabalhadora, seja física seja mental.
A IA é uma grande transformação em curso cujo rumo permanecerá ambivalente. Cabe-nos regular o uso de ferramentas de IA que podem fazer-nos perder autonomia e capacidade crítica, alienando-nos cognitivamente. Importa cada sujeito autónomo não esquecer como fazer as contas mais maquinais, a recapitulação do pensamento mais adquirido, o exercício de memória, a condução da sua própria atenção.
Mas também compreendermos como a IA põe à vista as costuras mundanas da inteligência humana e abre oportunidade para uma forma de estar no mundo mais ligada. O pior que nos podia acontecer é que a IA fosse o último patamar do nosso narcisismo, o melhor que pode acontecer é que contribua, como uma ferida narcísica, para que o excepcionalismo humano caía por terra. A bem de todos.
O autor escreve de acordo com a antiga ortografia.
