Advogado prevê criação de auditorias de Inteligência Artificial generativa

O advogado Pedro Lomba, coordenador da área de Tecnologia, Media e Telecomunicações (TMT) da PLMJ, disse esta quinta-feira que vão existir auditorias de Inteligência Artificial (IA), como existem para outros temas, porque os algoritmos têm de ser controlados.

“Estou a ver problemas de privacidade com os quais somos confrontados por causa de uma grande tecnologia, preocupação das principais autoridades de controlo dos dados e impacto jurídico. Nós, advogados, estamos preocupados”, afirmou, na conferência “Generative AI: do ChatGPT ao dia-a-dia das organizações”, promovida pelo Jornal Económico (JE) e pela Wiimer.

Segundo o sócio da PLMJ, a IA generativa utiliza dados de pessoas que estão publicamente disponíveis na web no treino dos modelos em que a tecnologia assenta e é capaz de produzir linguagem a partir de instrução humana. Logo, surge uma série de dúvidas: “Como é que respeitam o princípio da minimização dos dados? Como é que toma decisões sobre o exercício de direitos?”

Na opinião de Pedro Lomba, o tema chave é a transparência. “Como é que estes dados foram recolhidos e são tratados?”, questionou-se sobre o assunto no painel “Desafios jurídicos na implementação de projetos que incorporam Generative AI”, moderado por Francisca Almeida, diretora jurídica e Chief Corporate da Wiimer.

Pedro Lomba contou ainda o exemplo de um caso nos Estados Unidos em que o advogado utilizou o ChatGPT e, no processo judicial, citou dois acordos que não existiam, porque não fez revisão humana do texto.

“Politicamente é bastante biased mas não é só aí. Pode haver outros mais sensíveis”, alertou ainda sobre uma eventual discriminação por parte desta plataforma.

O encontro – para debater os benefícios potenciais da Inteligência Artificial generativa – conta com o apoio da consultora PwC, da tecnológica especializada em cibersegurança Visionware e da sociedade de advogados PLMJ e decorre a sede da Siemens Portugal, em Alfragide.