O futuro das nossas vidas está na ética dos algoritmos

Câmaras de vigilância instalada por todo o lado, como George Orwell descreveu no seu famoso romance 1984: a criação de um ‘Big Brother’. Carros autónomos que vão dominar as estradas do futuro ou robôs que dão conselhos médicos. A questão que se coloca hoje por governos, sociedade civil e empresas é se corremos o risco de perder o controlo das nossas vidas? A portuguesa Daniela Braga fundou em Seattle, nos Estados Unidos, a DefinedCrowd, uma startup especializada em dados para IA, que foi recentemente considerada uma das 100 melhores startups nesta área pela consultora CB Insights.

“Não existe um regulador, mas já andamos a falar neste tipo de questões há muitos anos. Estamos todos a trabalhar para o bem, mas este tipo de tecnologia nas mãos erradas pode fazer muitos estragos”, diz ao Jornal Económico. “Se olharmos para o caso da China, em que encontramos câmaras até nos táxis e elevadores, dizem-nos que o objetivo  é controlar o crime. Mas dá para fazer muita coisa, desde predição de comportamentos a marketing”, acrescenta.

No mês passado, a Comissão Europeia lançou um guia ético para a inteligência artificial. A União Europeia espera que as regras deem uma vantagem às empresas europeias, ao definir que os algoritmos devem sempre proteger a autonomia humana e respeitar direitos como a justiça e a igualdade.

Um rascunho inicial do documento tinha sido apresentado em Dezembro do ano passado. Baseia-se no trabalho de um grupo independente de 52 especialistas na área, criado em Junho. Inclui membros de organizações não-governamentais, académicos e representantes de algumas empresas de tecnologia. Nesta lista entraram empresas como a Airbus Defence and Space, Bosch ou a Bayer ou tecnológicas como a SAP ou a IBM.

O trabalho faz parte dos planos da Comissão para fomentar o investimento na Inteligência artificial, nos sectores público e privado da União Europeia, em pelo menos 20 mil milhões de euros até ao final de 2020. “A dimensão ética da inteligência artificial não é uma ferramenta de luxo ou um extra. Só com confiança é que a nossa sociedade pode beneficiar completamente da tecnologia”, reforçou, em comunicado, Andrus Ansip, vice-presidente da Comissão e responsável pelo Mercado Único Digital.

52 independent experts, 500+ comments, 7 essentials to achieve trustworthy #AI.
These are the new ethics guidelines for #artificialintelligence which companies can start testing this summer 👉https://t.co/QfG3xuWVOC pic.twitter.com/llFDoHvHVc

— European Commission 🇪🇺 (@EU_Commission) April 14, 2019

A Comissária para a Economia Digital e Sociedade, Mariya Gabriel, acrescentou na apresentação do guia que o foco é “fomentar a discussão internacional sobre inteligência artificial centrada no ser humano.” Ao Jornal Económico, o diretor-geral de programas de Inteligência Artificial da Microsoft, Tim O’Brien, diz que “hoje em dia é tecnicamente possível a um Governo seguir um indivíduo minuto a minuto, saber onde está, para onde vai, com quem fala ou o que está a comprar”. Este especialista também reconhece que as atitudes e opiniões em relação à privacidade tendem a variar em função das fronteiras e culturas.

“Numa sociedade como a portuguesa, as pessoas decidem ao eleger democraticamente os seus líderes, e estes são empossados por forma a criar regras, protegê-las através das leis, em conformidade com a Constituição. Acreditamos que os avanços tecnológicos e, em particular, em soluções de Inteligência Artificial, como por exemplo o reconhecimento facial, devem ser um tema expressamente endereçado através deste processo, em instâncias próprias, de forma totalmente transparente – nomeadamente sobre como e quando a tecnologia seria usada pelo Governo”, explica Tim O’Brien.

[frames-chart src=”https://s.frames.news/cards/quanto-e-investido-em-ia-na-europa/?locale=pt-PT&static” id=”881″ width=”300px” mce-placeholder=”1″ slug=”quanto-e-investido-em-ia-na-europa” thumbnail-url=”https://s.frames.news/cards/quanto-e-investido-em-ia-na-europa/thumbnail?version=1550851890849&locale=pt-PT&publisher=www.jornaleconomico.pt”]

A ética nos vários setores de atividade

A IA está presente no nosso dia-a-dia. Seja nos algoritmos de busca do Google, na recomendação de filmes e música do Netflix e Spotify, na recomendação de “amigos” do Facebook, no aplicativo Waze ou nos assistentes pessoais como a Siri, a Cortana ou a Alexa. O futuro da Saúde e da indústria automóvel são áreas onde o papel da ética ganha cada vez mais importância.

Para o investigador da Universidade Católica do Porto, António Jácomo, o uso da inteligência artificial na saúde vai possibilitar um diagnóstico “mais precoce, eficaz e assertivo”, diz o especialista do Instituto de Bioética da Católica-Porto. Hoje em dia, existe um trabalho conjunto com os investigadores da área da neuroética no sentido de criar formas de preservar a relação entre médico/pessoa doente.

“Um tema importante a ser abordado nesta questão é como equilibrar os benefícios e riscos da tecnologia da IA. Há benefícios em integrar rapidamente a tecnologia de IA ao sistema de saúde, já que a IA representa a oportunidade de melhorar a eficiência da prestação de cuidados de saúde e a qualidade do atendimento ao paciente. No entanto, existe a necessidade de minimizar os riscos éticos da implementação da IA ​​- que podem incluir ameaças à privacidade e confidencialidade, consentimento informado e autonomia do paciente – e considerar como a inteligência artificial deve ser integrada na prática clínica”, explica ao Jornal Económico.

Para o investigador, outra das grandes preocupações está associada aos dados pessoais utilizados pelas mesmas máquinas. “Esses grandes computadores têm, na sua base de dados, milhares de exames, de diagnósticos complementares, compilando mais informação do que a experiência de qualquer médico”, acrescentou. No entanto, sem acesso a essa quantidade de dados, “a máquina não pode fazer o seu trabalho”, notou, indicando que é isso que as leva a serem carregadas com “os dados de milhões de pessoas com patologias semelhantes e de meios auxiliares de diagnóstico”.

De acordo com António Jácomo, isso leva a “um inevitável extravasar dos dados pessoais, que são da propriedade das pessoas e dos doentes”. Questionado sobre uma eventual substituição total dos profissionais de saúde pela robótica e pela inteligência artificial, o investigador acredita que “as máquinas poderão fazer todo o trabalho”, caso os humanos assim o pretendam.

“O nosso trabalho, no Instituto de Bioética e noutros grupos ligados a questões da ética, é chamar a atenção de que, no final, o grande ordenador de todo este recurso tem que ser sempre o profissional de saúde”.

A discussão da indústria automóvel também passa por Portugal. O Governo criou recentemente um grupo de trabalho para estudar as alterações legislativas necessárias à introdução das novas tecnologias ligadas à condução autónoma no setor automóvel, segundo um despacho publicado em março em Diário da República.

Segundo o executivo, “a regulamentação dos testes em Portugal pode criar condições favoráveis para atração de investimento estrangeiro, criando oportunidades às empresas e às instituições de ensino superior portuguesas, permitindo-lhes apresentar as respetivas capacidades no setor, acrescentar valor e reforçar a imagem de Portugal como um país na vanguarda da evolução tecnológica”.

No entanto, o presidente da Ford, Jim Hackett, juntou-se ao grupo cada vez maior de executivos da indústria automobilística que acreditam que a massificação dos carros autónomos não vai acontecer tão cedo quanto se pensa. A indústria “sobrestimou a chegada dos veículos autónomos”, disse Hackett no início da semana, num evento automóvel em Detroit, citado pela Bloomberg. A fabricante acredita que irá produzir o seu primeiro carro sem condutor em 2021, mas “a sua utilização será muito restrita, muito limitada geograficamente, como costumamos dizer”.

Também a Apple e a Uber pensam em testar veículos com tecnologia autónoma. Carlo van de Weijer, diretor estratégico na área da mobilidade da Universidade de Eindhoven, na Holanda, considera que a Inteligência Artificial ainda tem um longo caminho a percorrer neste campo. “Não há nenhum veículo em todo o mundo sem um safety driver ou um backup driver. Este assunto tem sido muito debatido ao longo dos anos e ainda não há resposta. Um veículo autónomo mover-se para a esquerda ou para a direita se encontrar uma árvore não é assim tão difícil. Mas se encontrar uma pessoa na estrada ou alguém numa bicicleta a reação pode ser imprevisível. Por exemplo, a Google tem investido bastante em carros autónomos e ainda não obteve retorno”, diz Carlo van de Weijer ao Jornal Económico.

O que pensam as empresas? Da Tay ao Watson

Em 2016, a Microsoft realizou uma experiência que correu mal. O objetivo era o de criar uma “pessoa” artificial na internet, capaz de aprender e evoluir à medida que ia interagindo com os outros utilizadores. Mas a experiência não correu bem e Tay (nome dado ao sistema de IA criado pelo Microsoft) teve de ser “abatida”: bastaram dias para aprender a detestar pessoas no geral, feministas e judeus em particular, e apreciar Hitler.

“Acreditamos que os fornecedores de tecnologia – incluindo a Microsoft – devem ter obrigações de autorregulação que, no nosso caso, cumprimos através de ‘assessments’ detalhados e exaustivos sobre a forma como a nossa tecnologia vai ser usada em determinadas situações. Tay foi, de facto, uma aprendizagem para nós, mas incorporámos esse conhecimento e experiência nos ‘chatbots’ que agora estão em uso público”, concluiu o especialista Tim O´Brien.

https://jornaleconomico.pt/noticias/tim-obrien-tecnologicas-devem-ter-obrigacoes-de-autorregulacao-2-412288

Já a tecnológica SAP criou um painel consultivo de ética para a IA. Esta foi um das primeiras empresas a estabelecer formalmente um painel consultivo de ética para a inteligência artificial, formado por especialistas externos e mandatários públicos do mundo académico, da política e da indústria. Os princípios deste painel foram desenvolvidos com base nos debates que ocorrem atualmente na literatura académica, na indústria, no setor público, na sociedade civil, assim como nas discussões que a SAP tem mantido com clientes, parceiros e colaboradores.

“Reconhecendo o impacto significativo da IA nas pessoas, nos nossos clientes e na sociedade em geral, os princípios orientadores, pelos quais a SAP se irá reger, destinar-se-ão a guiar este desenvolvimento e a dirigir a própria implementação do nosso software de IA, com o único propósito de ajudarmos o mundo a funcionar melhor e a melhorar a vida das pessoas. Os nossos princípios orientadores serão uma reflexão evolutiva destas discussões e da própria paisagem tecnológica, que se encontra em constante mudança”, afirmou ao Jornal Económico Markus Noga, vice-presidente vice presidente sénior de ‘machine learning’ da SAP.

Por sua vez, o Watson é a plataforma de Inteligência Artificial (IA) da IBM para as empresas, impulsionada pelos dados – 90% dos dados ao dia de hoje foram criados apenas nos últimos dois anos, com 2,5 quintilhões de bytes (10 elevado a 8) a serem criados por dia, sendo que apenas 20% são pesquisáveis, os restantes são dados não estruturados. Sendo um sistema de IA, o Watson consegue transformar esse tipo de dados em insights válidos que ajudam à tomada de decisão mais efetiva e rápida.

A plataforma tem a perceção do mundo da mesma forma que os humanos – através dos sentidos, aprendendo e experimentando. Aprende em escala, gradualmente, raciocina com propósito e interage com os humanos naturalmente. Composto por avançadas tecnologias, como ‘machine learning’, ‘deep learning’, tecnologias de raciocínio e tomada de decisão, disponíveis através de ofertas de serviços e tecnologias de conversação, visão, fala, linguagem e empatia.

Neste momento, a IBM está já a ajudar empresas de 20 setores em 45 países, liderando projetos com tecnologias do Watson. Por exemplo, instituições bancárias e financeiras, como o Banco Bradesco e o Crédit Mutuel, adotaram a tecnologia Watson para impulsionar o relacionamento com o cliente, criando assistentes virtuais que respondem a solicitações de clientes. Também as grandes marcas do setor automóvel como a Volkswagen e a Daimler têm colaborado com a IBM para também desenvolver assistentes virtuais que possam responder às perguntas dos consumidores sobre seus veículos.

“O IBM Watson pode ser introduzido praticamente em qualquer fluxo de trabalho ou área, ajudando os profissionais a tomar decisões mais fundamentadas e a obter informações valiosas a partir de seus próprios dados empresariais. Atualmente, podemos encontrar o Watson nos mais diversos campos, desde o atendimento ao cliente à cibersegurança, ou na forma de um assistente online que presta apoio ao consumidor ou oferece suporte a profissionais da área jurídica para tentar revolver e cumprir as regulamentações do setor”, explica Gonçalo Costa Andrade, Enterprise Sales Director da IBM Portugal, que espera ver princípios de ética e de confiança adotados por todos os ‘players’.

A opinião dos especialistas é unânime: a Inteligência Artificial pode tornar a humanidade mais “sustentável” e “justa”. No entanto, é fundamental que sejam criados mecanismos de controlo, em que as máquinas estejam efetivamente ao serviço das pessoas.

https://jornaleconomico.pt/noticias/daniela-braga-uma-portuguesa-no-topo-da-inteligencia-artificial-394550