A tecnologia de inteligência artificial já evoluiu absurdamente. Mas como anda a aplicação de princípios éticos ao seu desenvolvimento?

Fabio Rua - 13 jul 2022
Fabio Rua, diretor de Relações Governamentais (Latam) e líder global de Políticas ESG da IBM.
Fabio Rua - 13 jul 2022
COMPARTILHE

Não há dúvidas de que nos últimos anos tivemos grandes avanços tecnológicos relacionados ao desenvolvimento da Inteligência Artificial (IA).

Entretanto, será que a aplicação dos princípios que norteiam sua ética e transparência está acompanhando — com a mesma velocidade — tamanho progresso?

A questão é complexa, envolvendo fatores regulatórios e a adoção de padrões e práticas mais criteriosas por parte das empresas.

A ideia deste breve texto é, portanto, esclarecer, informar e propor algumas recomendações para que os setores público e privado possam acelerar ainda mais, mas de maneira responsável, uma das agendas mais estratégicas e impulsionadoras de desenvolvimento econômico e social do nosso tempo.

CRIAR UMA INTELIGÊNCIA ARTIFICIAL CONFIÁVEL AINDA E O MAIOR DESAFIO DOS DESENVOLVEDORES

Como demonstração da importância que o tema já suscita em todo o ecossistema de IA, em relatório publicado recentemente pela IBM, o Global AI Adoption Index 2022, pouco mais de um terço (34%) dos entrevistados, das mais de 7 500 empresas de 19 países, afirmaram que a falta de habilidades ou treinamentos para o desenvolvimento e gerenciamento de uma IA confiável e explicável ainda é um desafio a ser vencido.

Dentre as maiores barreiras existentes para a adoção da Inteligência Artificial, esta necessidade foi a mais citada pelos profissionais participantes da pesquisa. 

Outro ponto, que reforça a importância de buscar modelos transparentes e éticos para o desenvolvimento desta tecnologia, foi a confirmação de que a maioria das organizações (61%) ainda não seguiu as etapas necessárias para garantir que sua IA seja considerada confiável a ponto de conseguir explicar o racional por trás das decisões tomadas ou sugeridas

Para além das questões de conscientização e preparo, o aspecto regulatório, que vem ganhando cada vez mais atenção dos governos no mundo todo, tem se mostrado crucial para a adoção de padrões que garantam um bom uso da Inteligência Artificial onde quer que ela toque.

COMO ESTÁ AO ASPECTO REGULATÓRIO NA EUROPA

Há mais de três anos, a Comissão Europeia, braço regulatório da União Europeia, vem estudando e debatendo com toda a sociedade uma proposta bastante abrangente que tem como objetivo não apenas regulamentar o uso da tecnologia, mas transformar a Europa em um centro global de excelência e confiança em Inteligência Artificial.

De modo geral, ela busca estabelecer os requisitos mínimos necessários para abordar os riscos ligados ao uso da tecnologia em produtos, serviços ou até setores definidos.

Para isso, os envolvidos tê tomado o cuidado denão restringir ou dificultar a inovação tecnológica ou impactar negativamente na competitividade das soluções que vão a mercado, tudo com a intenção de promover um equilíbrio entre os riscos e os inúmeros benefícios que a tecnologia, combinada com outras como a nuvem híbrida e sistemas de segurança da informação cada vez mais robustos, podem trazer para a evolução da sociedade.  

O QUE O BRASIL TEM FEITO PARA REGULAR A INTELIGÊNCIA ARTIFICIAL

No nosso país, tomando como base aspectos gerais e princípios internacionais, em 2021 foi publicada a Estratégia Brasileira de Inteligência Artificial (EBIA), que reúne as principais orientações para o desenvolvimento da IA de forma responsável e objetiva.

No mesmo ano, a Câmara dos Deputados aprovou um projeto de lei que define princípios para tecnologia, como a não discriminação e centralidade do ser humano.

O texto traz ainda fundamentos ao desenvolvimento e aplicação da tecnologia, como estímulo à autorregulação, à livre manifestação de pensamento e expressão, além da proteção de dados pessoais

O PL agora está em discussão no Senado Federal, que por orientação do seu presidente, instituiu uma Comissão de Juristas para elaborar melhorias ao projeto.

Este grupo vem trabalhando há alguns meses, promovendo audiências públicas e recebendo sugestões das mais variadas áreas de representantes da sociedade civil.

Neste mês, a Comissão realizou um seminário com especialistas e, até o final do ano, deve apresentar um novo texto para que o debate legislativo possa avançar. 

PARA VER BENEFÍCIOS NA IA, É PRECISO PRIMEIRO CONFIAR NESTA TECNOLOGIA

Neste seminário, que teve participação de especialistas de diversos países, a fala da advogada Teki Akuetteh Falconer, da Africa Digital Rights’ Hub (Gana), alertou para uma série de “lacunas e questões éticas” que precisam ser consideradas no desenvolvimento de ferramentas de IA.

Ela defendeu a atuação conjunta de especialistas de várias áreas para que direitos individuais sejam assegurados e afirmou que é preciso evitar que assimetrias econômicas e problemas de conectividade possam inviabilizar a adoção da tecnologia de maneira uniforme.

A advogada ainda lembrou que este não é apenas um debate legal ou regulatório, mas que deve considerar também a expertise de engenheiros e especialistas em privacidade e em direitos humanos, sob a pena de se produzir um texto parcial e que não leve em consideração todos os desafios que o tema traz para o desenvolvimento social.  

Do mesmo seminário, participou Christina Montgomery, vice-oresidente e Chief Privacy Officer da IBM, que reforçou o seguinte ponto: para que empresas e governos percebam os benefícios da Inteligência Artificial, primeiro eles devem confiar na tecnologia

E para isso, é fundamental que as empresas incorporem o pensamento ético em todas as etapas do ciclo de vida de desenvolvimento da IA. E com ele, quatro princípios interdependentes e determinantes são cruciais para desenvolver qualquer política e/ou algoritmo: confiança, governança de dados, diversidade e transparência.   

CONFIANÇA, GOVERNANÇA DE DADOS, DIVERSIDADE E TRANSPARÊNCIA: PILARES PARA O DESENVOLVIMENTO DE UMA IA

Sobre a confiança, ela deve ser a base, não só do relacionamento entre organizações e clientes, mas também de sistemas capazes de manter a integridade da privacidade, do sigilo de dados e das escolhas dos clientes.

Com base no relatório mencionado no início deste artigo, vale ressaltar que 85% dos entrevistados concordam que os consumidores são mais propensos a escolher serviços de empresas que ofereçam transparência e estrutura ética sobre como os dados e os modelos de IA são construídos, gerenciados e usados

Já a governança de dados precisa suplantar a lógica da programação e incorporar a construção de algoritmos humanizados, que devem ser desenvolvidos e amparados por comitês ou conselhos internos. Eles estabelecerão e revisarão, com uma abordagem multidisciplinar e multidimensional, as premissas éticas que apoiarão a construção de um determinado algoritmo.    

A diversidade também é essencial para a elaboração e gerenciamento desses códigos, que são construídos com base no aprendizado dos dados.

Como parte da estrutura de governança proposta acima, é fundamental que a força de trabalho responsável pelos mais variados softwares e sistemas de IA das empresas seja composta por profissionais com o maior número de diversidades representadas

Esta característica evita que os sistemas de Inteligência Artificial sejam distorcidos com os vieses inconscientes de quem os desenvolvem e apresentem preconceitos implícitos o que, certamente, comprometerá a habilidade de aprendizado e, consecutivamente, a precisão na geração de respostas e insights.  

Por fim, a transparência precisa permear os processos de tomada de decisão de uma IA. Estes processos precisam ser explicáveis, de maneira didática e ao alcance de qualquer usuário interessado em conhecer o racional por trás de uma recomendação, seja ela probabilística ou determinística.

O GOVERNO E O SETOR PRIVADO TÊM CHANCES DE CRIAR, JUNTOS, UM AMBIENTE QUE REVELE OS IMPACTOS POSITIVOS DA IA

No Global AI Adoption Index 2022, 56% dos profissionais de TI entrevistados disseram que manter a integridade da marca e a confiança dos consumidores é o aspecto mais importante para os negócios quando se trata de explicabilidade e confiança. 

A ética e transparência há muito deixaram de ser complementos para desenvolver aplicações com o uso de Inteligência Artificial. Atualmente, estes princípios se configuram como essenciais — além de serem diferenciais competitivos em um mercado cada vez mais exigente e conectado com o que os clientes querem

Governo e setor privado, ao trabalharem juntos nas definições acima, têm todas as condições de criarem o ambiente necessário para a adoção de uma IA segura, confiável e em larga escala — o que certamente revelaria o enorme impacto positivo que ela já tem condições de propiciar para o desenvolvimento econômico e social do nosso planeta.  

 

Fabio Rua é diretor de Relações Governamentais (Latam) e líder global de Políticas ESG da IBM.

551 Total Views 4 Views Today
COMPARTILHE

Confira Também: