Inteligência Artificial: “Preocupação devia ser não sermos os campeões da regulamentação”

Três potências caminham, lado a lado, cada uma com uma mochila. A China e os EUA carregam uma mochila pequena, enquanto a Europa leva às costas uma mochila grande – “o fardo que temos de carregar para continuar a avançar”. Foi a esta metáfora – materializada numa imagem gerada por Inteligência Artificial (AI) – que Fernando Bação, professor catedrático na NOVA IMS, recorreu para avaliar o estado da regulamentação da IA na Europa, enquanto orador convidado na conferência “IA no mundo financeiro” do Instituto de Conhecimento da Abreu Advogados.

“Temos a regulamentação mais restritiva do mundo e isso vai penalizar o desenvolvimento económico na Europa. É necessária mais inteligência, não menos. Essa inteligência vai fazer diferença na forma como nós vamos conseguir os nossos recursos e continuar a produzir riqueza de forma sustentável”, defendeu esta terça-feira o investigador.

Fernando Bação alertou para aquela que poderá ser a “próxima divisão digital”, que coloca frente a frente “aqueles que têm os recursos de inteligência e aqueles que não têm”, bem como para um cenário de dependência da “costa oeste dos EUA” nesse campo, onde a grande maioria das empresas de IA estão sediadas.

“Se a Europa não conseguir furar esta concorrência, estamos condenamos a ter a melhor legislação do mundo e a ter a economia mais pobre do mundo. É este o nosso dilema”, finalizou.

Do lado do Banco de Portugal, Hélder Rosalino defendeu que a “regulação é compatibilizável com a inovação”, acrescentando que a “IA é talvez a maior ameaça civilizacional”. “Às vezes a regulação é ela própria um fator de inovação. A falta de tecnológicas na Europa não tem a ver com a regulação , mas sim com a falta de incentivos para a criação de grandes operadores e a “fragmentação com a poucas escala que a Europa tinha”. A regulação é absolutamente fundamental na Europa e no mundo”.

A representar a visão dos reguladores estiveram Inês Drumond, da Comissão do Mercado de Valores Mobiliários (CMVM), Hélder Rosalino, administrador do Banco de Portugal (BdP), e Diogo Alarcão, da ASF – Autoridade de Supervisão de Seguros e Fundos de Pensões, que se debruçaram sobre a importância dada pelas instituições à IA, bem como às oportunidades e desafios deste campo no sector financeiro.

“A AI já marca a nossa relação com o sistema bancário. E os bancos estão a investir cada vez mais nesta dimensão”, começou Hélder Rosalino, passando a explicar a “atenção que a governação das instituições de crédito está a dar à IA”. “Em Portugal, está-se a criar o responsável no conselho de administração pela inovação aplicada baseada em IA, as instituições de credito estão a criar academias de IA, a ter programas orientados para contratar os melhores alunos que saem das universidades, a criar gabinetes para estudar IA aplicadas às várias áreas”, listou.

Segundo o administrador do BdP, as instituições estão a investir na “relação com o cliente, num conjunto de facilidades, e em temas ligados à customização do investimento”, na “melhoria dos processos internos, muito ligada à avaliação do risco, à prevenção da fraude”, e, também, na “melhoria nos processos de decisão, porque combinam grandes número de dados, com ferramentas baseadas em IA, produzindo conhecimento relativamente ao funcionamento do mercado, da concorrência, das tendências”.

Um dos grandes riscos relacionados com a utilização da IA, acrescenta Hélder Rosalino, “tem a ver com a sua democratização e universalização”. Não sei se estamos preparados para lidar com o risco da utilização da IA na “parte má”. “A IA é utilizada sobretudo nas organizações; talvez o sector onde traz mais benefícios para a sociedade seja a saúde. Mas os agentes maliciosos, os criminosos, também sabem usar a IA. Estamos a assistir, sobretudo no sector bancário, a tentativas de fraude cada vez mais avançadas”, continuou.

“Quase todos os bancos em Portugal estão a criar direções de IA. Há uma procura quase insana por especialistas nesta área. É uma aposta que vai continuar. Mas não sabemos o que vai acontecer a médio e longo prazo. Os bancos estão a competir entre eles e com outras operadoras que estão a surgir no mercado – fintech, deep tech, shadow banking. Hoje, o universo bancário é bastante difuso. Os bancos estão a competir entre eles mas a uma escala mais alargada; esta capacidade de usar estas ferramentas é, também, quase uma lógica de sobrevivência”, analisou.

Por sua vez, Inês Drumond alertou, citando dados da Autoridade Europeia dos Valores Mobiliários e dos Mercados (ESMA), que “apesar de a IA estar a entrar na gestão de ativos, um número muito reduzido, 0,2% publicita a utilização de IA”.

“Até que ponto a utilização deste tipo de tecnologia e a forma como funciona deverá ser explicada aos investidores?”, questionou. “Está a começar, mas não parece ser uma tendência muito clara na gestão de ativos”, analisou.

Quanto aos critérios ESG (ambiental, social e governance), a administradora da CMVM referiu que “há gestoras de ativos que gerem fundos com características de sustentabilidade que, de forma a garantir que estas características se mantêm no seu portefólio, utilizam inteligência artificial, nomeadamente tecnologias de NLP [Natural language processing], para analisar informação não estruturada e ir buscar informação de emitentes para ver se essas características de sustentabilidade existem ou não”.

Do lado da ASF, Diogo Alarcão, a “IA aparentemente está a entrar no que é mais core do sector segurador”, sublinhando o “aumento exponencial” da utilização de canais digitais por parte dos clientes do sector. “Um terço das empresas de seguros dizem que os seus clientes estão a utilizar canais digitais”, de acordo com números de 2023. No ano anterior, eram somente 5%, revelou.

O mesmo administrador recorda, ainda, o “aumento da oferta de produtos de cobertura de riscos ligados à IA, nas áreas de phishing, utilização abusiva de códigos de acesso e malware“.

Alarcão alertou, ainda, para o “enviesamento da informação na área dos seguros”. “Se não tivermos um controlo e mecanismos que consigam, de facto, perceber se o que é gerado pela inteligência artificial é enviesado ou não, pode criar problemas graves em termos éticos, direito de consumidor, direito ao esquecimento. Para o supervisor e para o mercado, é algo que devemos ter muito em atenção, porque pode levar a distorções graves e a situações de exclusão”, defendeu.