Na série “Little Britain”, que em Portugal passou no saudoso espaço Britcom da RTP2, havia uma personagem chamada Carol Beer que trabalhava no atendimento ao público e que, quando um cliente pedia algo, consultava a informação disponível no computador e respondia invariavelmente, com ar de enfado: “computer says no”*.
Ao longo da série, Carol trabalhou num banco, num hospital e numa agência de viagens, mas quer se tratasse de um cliente a pedir um crédito ou de uma grávida em trabalho de parto, a personagem interpretada por David Walliams respondia sempre que o computador dizia “não” e fazia sugestões estapafúrdias, como da vez em que queria enviar uma criança de cinco anos para uma cirurgia de substituição total da anca, por ter o mesmo nome da pessoa para quem essa intervenção estava de facto marcada… no computador.
A frase “computer says no” entrou desde então no discurso corrente e tem sido utilizada no Reino Unido para descrever situações caricatas em que os serviços públicos e as empresas recorrem a dados guardados em servidores informáticos para tomar decisões que contrariam o senso comum e prejudicam os cidadãos.
A importância crescente dos dados e a ascensão da tecnologia artificial fará com que cada vez mais as instituições públicas e as empresas se sirvam dessa informação para tomarem decisões. Se por um lado existem vantagens (por exemplo, as empresas poderão cada vez mais adaptar a sua oferta de acordo com aquilo que cada cliente necessita), por outro existem riscos de vária ordem e episódios do género “computer says no” podem tornam-se mais frequentes.
O que está a acontecer na TAP é disso exemplo (ver notícia nesta edição). A companhia aérea está a utilizar um algoritmo desenvolvido pela consultora BCG para escolher os trabalhadores abrangidos pelo programa de rescisões.
O algoritmo é uma ferramenta útil, dado que permite escolher os trabalhadores abrangidos com base em critérios como o absentismo, mas o diabo costuma estar nos detalhes. Este algoritmo não distingue entre faltas justificadas e injustificadas, o que potencia situações de profunda injustiça, como se viu no caso do pai que perdeu uma criança nos incêndios de Pedrógão e que, tendo passado algum tempo fora do trabalho por causa dessa tragédia, foi agora incluído nas rescisões. Além disso, vai contra os próprios interesses da TAP, que devido a uma má avaliação dos seus recursos humanos pode perder alguns dos seus melhores colaboradores.
Esta situação lamentável (uma entre várias que têm envolvido a TAP) constitui um alerta para algo de que nunca nos devemos esquecer: a tecnologia existe para servir o ser humano e não o contrário. E não há algoritmo que possa substituir o ser humano quando se torna necessário tomar decisões que afetam as vidas de outras pessoas. Da mesma forma que quem não aguenta o calor não se deve aproximar de uma cozinha, quem não tem coragem para tomar tais decisões e pagar o respetivo preço não deve assumir funções de responsabilidade no Estado e nas empresas.
(*) – Em português: “O computador diz que não [é possível]”
