Tim O’Brien: “Tecnológicas devem ter obrigações de autorregulação”

Pavilhão Carlos Lopes, em Lisboa, recebeu esta semana o “Building the Future: Ativar Portugal”, um evento que juntou as várias comunidades do panorama nacional para discutir o futuro tecnológico e criar as fundações para tornar Portugal um país mais competitivo.

Promovido pela Microsoft, em parceria com a Accenture, Axians, EY, KPMG e outras entidades, reuniu empresas, startups, incubadoras, investidores, investigadores e estudantes num conjunto de sessões e apresentações sobre as principais tendências, atuais e futuras, do cenário tecnológico desde a Inteligência Artificial e Quantum Computing, a temas como Segurança. O objetivo foi o de capacitar todos os agentes nacionais estudantes, entusiastas de tecnologia, developers, empreendedores, gestores, políticos, entre outros para ativar o país e construir um futuro de negócios portugueses mais competitivos.

As sessões do evento estiveram divididas em quatro journeys: ‘Building the vision’ na qual participaram speakers reconhecidos a nível mundial; ‘Building the strategy’ onde se abordaram estratégias e ferramentas que facilitam a mudança e a disrupção em várias indústrias, bem como as tendências do mundo atual dos negócios; ‘Building the foundations’ onde os participantes apredenram skills para determinadas funções, nomeadamente nas sessões “Control your business with Power BI”, “Cybersecurity: Cyberatacks that fly under the Radar” e “Infusing AI in your Apps”; e ‘Building The Code’ sessões técnicas com o objetivo de descobrir e formar as equipas técnicas em temas específicos como a Inteligência Artificial, Blockchain, Quantum Computing, Big Data, Machine Learning, IOT, entre outros.

O norte-americano Tim O’Brien, diretor-geral de programas de Inteligência Artificial da Microsoft, foi um dos oradores presentes no evento. Trata-se do responsável máximo por programas que potenciam e promovem o desenvolvimento e uso responsável desta tecnologia. Em entrevista ao Jornal Económico, falou sobre os desafios da IA, um dos temas-chave da conferência que reuniu milhares de participantes em Lisboa.

Hoje em dia é tecnicamente possível a um Governo seguir um indivíduo minuto a minuto, saber onde está, para onde vai, com quem fala ou o que está a comprar. Que regras devem ser criadas para garantir a segurança das pessoas num mundo onde a Inteligência Artificial já faz parte do dia-a-dia?

Acreditamos que a privacidade é um direito humano elementar. Também reconhecemos que as atitudes e opiniões em relação à privacidade tendem a variar em função das fronteiras e culturas, até mesmo se pensarmos apenas em democracias ocidentais. Numa sociedade como a portuguesa, as pessoas decidem ao eleger democraticamente os seus líderes,  e estes são empossados por forma a criar regras, protegê-las através das leis, em conformidade com a Constituição. Acreditamos que os avanços tecnológicos e, em particular, em soluções de Inteligência Artificial, como por exemplo o reconhecimento facial, devem ser um tema expressamente endereçado através deste processo, em instâncias próprias, de forma totalmente transparente – nomeadamente sobre como e quando a tecnologia seria usada pelo Governo.

Na sua opinião, a capacidade de identificar impressões digitais e rostos são outras das mais-valias desta nova tecnologia?

Conhecemos os benefícios, nos dias de hoje, desta tecnologia. Desde autenticações simplificadas em dispositivos digitais a mais eficientes pontos de controlo fronteiriço – fora da zona Schengen. O requerimento-chave aqui é facultar aos cidadãos a informação e garantir que se tem o seu consentimento para o uso da imagem e do reconhecimento do objeto. É preciso ainda assegurar que são estabelecidos os procedimentos legais que são seguidos, como a exigência de uma razão plausível para o pedido de um mandado de busca ou captura. O custo-benefício desta equação é diferente para cada indivíduo, mas precisa de estar em conformidade com a lei.

No entanto, a tecnologia também pode ser usada para perseguir inocentes. O que dizer sobre isto?

A resposta a esta questão é a mesma que a primeira. Os direitos dos cidadãos portugueses devem ser cumpridos em concordância com a Constituição e isso é o fator determinante para a forma como qualquer tecnologia deve ser utilizada em qualquer contexto, seja pelas autoridades ou por qualquer outra entidade.

Apesar de ser necessária uma legislação, como é que podemos assegurar que as empresas que criam estas tecnologias no setor automóvel, militar ou da saúde, não poderão criar decisões perigosas para os seres humanos?

Acreditamos que os fornecedores de tecnologia – incluindo a Microsoft – devem ter obrigações de autorregulação que, no nosso caso, cumprimos através de assessments detalhados e exaustivos sobre a forma como a nossa tecnologia vai ser usada em determinadas situações. Ao mesmo tempo, acreditamos que os Estados precisam de trabalhar em parceria com os fornecedores de tecnologia para garantir uma regulação sensata, de modo a proteger os direitos dos cidadãos e garantir o cumprimento legal. Este ano pedimos, por exemplo, ao Executivo norte-americano regulação sobre o uso de reconhecimento facial precisamente por este motivo.

Na sua opinião, uma legislação para garantir que existe ética na Inteligência Artificial deve ser feita internacionalmente ou por cada Estado? E porquê?

Recentemente, a Microsoft propôs a criação de uma Convenção Digital de Genebra, como um documento que unisse Estados de forma a implementar regras internacionais que protegessem os cidadãos na Internet. O contexto exato foi o crescimento do cibercrime e o aumento desse tipo de ataques à escala global. Ainda assim, esta premissa serve como modelo sobre a forma como a comunidade internacional e as empresas de tecnologia podem trabalhar juntas para criar um ciberespaço mais seguro. Ao mesmo tempo, existem subtis mas substantivas diferenças entre países e culturas em todo o mundo no que diz respeito às leis locais, às normas e às oportunidades que cada sociedade encontra para resolver os seus desafios sociais e económicos. Estas duas abordagens deveriam funcionar de forma coadjuvante.

Há algum tempo, a Microsoft teve vários problemas com a Tay – robô criada para conversar com utilizadores e ir aprendendo novas formas de falar de forma casual, semelhante à maneira natural que as pessoas têm de interagir nas redes sociais. Como é que vai ser possível retirar o pior da natureza humana dos ensinamentos da Inteligência Artificial?

Tay foi, de facto, uma aprendizagem para nós, mas incorporámos esse conhecimento e experiência nos chatbots que agora estão em uso público. Demos um passo no sentido de partilhar essa aprendizagem com os nossos clientes e a comunidade de developers. Ainda em novembro do ano passado libertámos uma série de guidelines para os developers que estejam a trabalhar com soluções de Inteligência Artificial conversacional – queremos garantir que o desenvolvimento de bots é feito de forma responsável.

Artigo publicado na edição nº 1974 do Jornal Económico de 1 de fevereiro