Reality Check

Nesse sentido, o Regulamento estabelece práticas proibidas na utilização de sistemas de inteligência artificial (neste caso, o risco é nivelado como inaceitável) e outras que, não sendo proibidas, comportam um risco elevado de afetação da saúde, da segurança e dos direitos fundamentais.

No plano da aplicação do Direito Penal, constitui prática proibida, desde logo, a utilização de sistemas de inteligência artificial para avaliar o risco de pessoas singulares cometerem uma infração penal, com base exclusivamente na definição de perfis da pessoa singular ou na avaliação dos seus traços e características de personalidade.

Esta regra de proibição não ocorre em relação aos sistemas de inteligência artificial que sejam utilizados para “apoiar a avaliação humana do envolvimento de uma pessoa numa atividade criminosa, que já se baseia em factos objetivos e verificáveis diretamente ligados a uma atividade criminosa”. Esta exceção não é de interpretação intuitiva, antecipando-se dificuldades de aplicação.

Em todo o caso, desconstruindo a regra de proibição, verifica-se que é inaceitável para o Regulamento utilizar sistemas de inteligência artificial em relação à avaliação do risco de cometimento de infrações penais por pessoas singulares mas não por pessoas coletivas? Ou estamos perante uma situação em que não é possível estabelecer padrões de comportamento e, por isso, seria inútil prevenir a utilização de sistemas de inteligência artificial para avaliar riscos comportamentais para pessoas coletivas, ou o Regulamento exceciona de forma intencional as pessoas coletivas. Um dos perigos associados a esta segunda hipótese reside na circunstância de a vontade das pessoas coletivas ser manifestada através de pessoas singulares e, por vezes, mudando as pessoas singulares que ocupam posições de liderança nas pessoas coletivas, o comportamento destas altera-se substancialmente.

O que se afigura mais sensível é que, para o Regulamento, não é inaceitável utilizar sistemas de inteligência artificial para avaliação do risco de cometimento de infrações penais por pessoas singulares utilizando definição de perfis da pessoa singular ou na avaliação dos seus traços e características de personalidade desde que tal avaliação não assente apenas nesses dados.

Ocorre-nos o pensamento lombrosiano do século XIX, de consideração de estereótipos baseados em características anatómicas para avaliar tendências criminosas, pensamento que fundamentou teses discriminatórias inconcebíveis num Estado de Direito.

Nesse contexto, a questão que colocamos é de que forma ou, pelo menos, com que extensão será viável sequer compaginar a possibilidade de utilização de padrões de pessoas (perfis, traços e características de personalidade) para avaliar o comportamento do agente em concreto em relação a um evento ocorrido em circunstâncias concretas, nomeadamente no momento da aplicação da pena. Cada pessoa é uma pessoa, com características próprias, com o seu contexto e com a sua história e o que tem de ser avaliado pelas autoridades judiciárias e judiciais é o comportamento real de pessoas reais.