TAP: o computador diz que não

Nenhum algoritmo deve substituir o ser humano quando é necessário tomar decisões que têm impacto nas vidas de outras pessoas.

Na série “Little Britain”, que em Portugal passou no saudoso espaço Britcom da RTP2, havia uma personagem chamada Carol Beer que trabalhava no atendimento ao público e que, quando um cliente pedia algo, consultava a informação disponível no computador e respondia invariavelmente, com ar de enfado: “computer says no”*.

Ao longo da série, Carol trabalhou num banco, num hospital e numa agência de viagens, mas quer se tratasse de um cliente a pedir um crédito ou de uma grávida em trabalho de parto, a personagem interpretada por David Walliams respondia sempre que o computador dizia “não” e fazia sugestões estapafúrdias, como da vez em que queria enviar uma criança de cinco anos para uma cirurgia de substituição total da anca, por ter o mesmo nome da pessoa para quem essa intervenção estava de facto marcada… no computador.

A frase “computer says no” entrou desde então no discurso corrente e tem sido utilizada no Reino Unido para descrever situações caricatas em que os serviços públicos e as empresas recorrem a dados guardados em servidores informáticos para tomar decisões que contrariam o senso comum e prejudicam os cidadãos.

A importância crescente dos dados e a ascensão da tecnologia artificial fará com que cada vez mais as instituições públicas e as empresas se sirvam dessa informação para tomarem decisões. Se por um lado existem vantagens (por exemplo, as empresas poderão cada vez mais adaptar a sua oferta de acordo com aquilo que cada cliente necessita), por outro existem riscos de vária ordem e episódios do género “computer says no” podem tornam-se mais frequentes.

O que está a acontecer na TAP é disso exemplo (ver notícia nesta edição). A companhia aérea está a utilizar um algoritmo desenvolvido pela consultora BCG para escolher os trabalhadores abrangidos pelo programa de rescisões.

O algoritmo é uma ferramenta útil, dado que permite escolher os trabalhadores abrangidos com base em critérios como o absentismo, mas o diabo costuma estar nos detalhes. Este algoritmo não distingue entre faltas justificadas e injustificadas, o que potencia situações de profunda injustiça, como se viu no caso do pai que perdeu uma criança nos incêndios de Pedrógão e que, tendo passado algum tempo fora do trabalho por causa dessa tragédia, foi agora incluído nas rescisões. Além disso, vai contra os próprios interesses da TAP, que devido a uma má avaliação dos seus recursos humanos pode perder alguns dos seus melhores colaboradores.

Esta situação lamentável (uma entre várias que têm envolvido a TAP) constitui um alerta para algo de que nunca nos devemos esquecer: a tecnologia existe para servir o ser humano e não o contrário. E não há algoritmo que possa substituir o ser humano quando se torna necessário tomar decisões que afetam as vidas de outras pessoas. Da mesma forma que quem não aguenta o calor não se deve aproximar de uma cozinha, quem não tem coragem para tomar tais decisões e pagar o respetivo preço não deve assumir funções de responsabilidade no Estado e nas empresas.

 

(*) – Em português: “O computador diz que não [é possível]”

Recomendadas

Vem aí a revolução das ‘govcoins’

O próximo capítulo da revolução em curso no sector financeiro será o surgimento de moedas digitais emitidas por estados e bancos centrais.

Tiraram a força à Groundforce

Discutem-se perdas de centenas de milhões de euros em empréstimos que foram para o buraco do banco mau BES e do menos mau Novo Banco, mas foi impossível arranjar 30 milhões e um plano para salvar uma empresa com 2.400 trabalhadores.

Os capatazes dos bancos

Estes antigos ‘empresários de sucesso’ e ‘gestores de nomeada’, que agora aparecem como tristes devedores desmemoriados, foram escolhidos a dedo.
Comentários