Sesgos e inteligência artificial: atenção ao dado
“Erro sistemático em que se pode incorrer quando, ao realizar amostragens ou ensaios se selecionam ou favorecem umas respostas frente a outras”. Assim define a RAE o conceito de ‘sesgo’. Mas como influem estes “sesgos” na Inteligência Artificial? Quando falamos de sesgo em IA, fazemo-lo da mesma forma que em qualquer outra atividade ou área de conhecimento. Falamos de preconceitos, de concepções da realidade em base das quais tomamos decisões de forma inconsciente.
Se pararmos para pensar, os sesgos que afetam a Inteligência Artificial estão nos dados e nos próprios algoritmos. Mas quando falamos de dados não só temos em conta o sexo, a idade ou a raça, que poderiam ser os primeiros que nos vêm à mente, mas também qualquer dado referido a uma pessoa. Mas vamos um passo mais além, referindo-nos também à importância que se confere a cada um desses dados, assim como à sua utilidade quando os estruturamos, ou ao próprio algoritmo que escolhemos para operar com eles. Conceder uma hipoteca, contratar numa empresa, etc… O algoritmo criado para cada uma destas tarefas toma decisões, em que muitas vezes não se consideraram esses sesgos.
Por isso é necessário que destaquemos o grande papel de todas aquelas pessoas que trabalham com estes algoritmos, pessoas que têm o poder de trabalhar com essa “matéria prima” que são os dados. Assim como quando construímos um edifício temos em conta que materiais utilizamos (para seguir as pautas corretas de sustentabilidade ambiental e segurança e saúde para os que irão habitar nele), neste caso os nossos materiais são os dados e, por isso, é da responsabilidade destas pessoas ter um sólido conhecimento da matéria-prima com que trabalham: de onde procedem, que tipo de dados são, a sua qualidade… E devem conhecer os parâmetros em que se baseia um algoritmo para tomar uma decisão. Segundo a RGPD, qualquer decisão baseada num processo automatizado deve ser explicada, se o utilizador o solicitar, e o próprio artigo 22 do RGPD reconhece o direito de oposição a decisões automatizadas, e o direito a não ser submetido a este tipo de decisões.
“É necessário que destaquemos o papel fundamental de todas as pessoas que trabalham com estes algoritmos, pessoas que têm o poder de trabalhar com essa ‘matéria prima’ que são os dados”
Para compreender a que nos referimos, eis um exemplo: se realizamos uma pesquisa rápida em Google sobre investigadores famosos da História, aparecerão muito mais nomes de homens do que de mulheres. Este é outro caso em que também podemos culpar o algoritmo. Com efeito, vimos recentemente como uma criança propunha a Google um algoritmo que tornasse possível que em todas as pesquisas deste tipo se incluísse pelo menos uma mulher científica, treinando assim também o algoritmo. Mas retornando ao tema que nos ocupa, o dos sesgos, existe uma forma de solucionar este problema: tornar conscientes deste tema as pessoas que trabalham direta ou indiretamente com os dados. Que sejam conhecedoras, sobretudo, de que não existe uma verdade única, mas sim que é necessário fazer um balanço e estabelecer todos os dados numa equação para que dela resulte uma decisão equânime. Isto é, dentro do sesgo implícito que existe em qualquer tomada de decisão por parte de uma pessoa, por exemplo, ao selecionar que parâmetro tem ou não relevância, ou que algoritmo se vai utilizar que tenha o menor impacto negativo na pessoa afetada por essa decisão.
Mas que acontece com essas pessoas? Até agora, no referente à IT, os engenheiros informáticos eram os donos do “conhecimento absoluto”, sem ter em conta outras áreas de conhecimento, vinculadas diretamente ao usuário como sujeito, como pessoa. Com a Inteligência Artificial adotamos um rumo diferente: constatamos que as humanidades são relevantes. Pensemos, por exemplo, no papel da linguística nos sistemas conversacionais, ou na automatização da informação, ou na ética para a regulação e o bem-estar social, entre muitos outros campos. A que se deve esta mudança repentina? A mudança deve-se a que podemos responder a uma questão a que as máquinas não são capazes de responder: a criatividade, a empatia, a intuição, os valores morais…
“Os desafios que coloca a IA são tão diferentes como apaixonantes, porque o impacto desta tecnologia reflete-se tanto na esfera pessoal, como económico-social”
No referente à ética ou à responsabilidade da produção de soluções de IA, pensemos por um momento no carro sem condutor, por exemplo. De quem será a culpa no caso de se produzir um acidente? De quem desenvolveu o hardware ou o software? A quem deve atropelar o veículo no caso de haver vários peões a atravessar a via, ou se o veículo sofrer uma avaria? Aqui enfrentamo nos claramente à complexidade da ética. Por isso, qualquer pessoa que trabalhe com algoritmos, ao tomar decisões, deve ter em conta o enorme impacto social da sua tecnologia.
Mas se existe uma área em que os sesgos nos dados proliferam a cada segundo ou milésima de segundo, essa é a das redes sociais. Vivemos num momento da história da humanidade em que mais conteúdos se produzem, através do celular, cada vez que publicamos conteúdos nas nossas redes, realizamos comentários sobre artigos, etc. A pessoa que publica nestes canais fá-lo mostrando, de forma consciente ou inconsciente, os seus preconceitos e opiniões, a sua forma de ver o mundo, em suma, os seus “sesgos”. As empresas que operam com este tipo de dados para gerar produtos ou tomar decisões devem ter especial cuidado ao tratar os dados não estruturados procedentes das redes sociais ou foros abertos.
“Com a Inteligência Artificial tomamos um rumo diferente: demo-nos conta de que as humanidades são relevantes”
No que se refere ao impacto da IA no trabalho, outra das afirmações que ouvimos constantemente as pessoas que nos dedicamos a IA, e que lemos na imprensa ou nos meios de comunicação, é que a IA irá destruir muitos postos de trabalho, ao automatizar tarefas e processos repetitivos, até agora realizados por uma pessoa. É certo que vão desaparecer postos de trabalho suscetíveis de serem automatizados, como sempre aconteceu ao longo da história (por exemplo, no caso dos repartidores de gelo e leite, ou o guarda-noturno) com o avanço da tecnologia. A IA é, sem dúvida, um dos principais motores da atual revolução industrial, cujo grande detonador foi e é a transformação digital. Esta situação conduz-nos a uma autorreflexão, em que devemos perguntar-nos: que valor diferencial em comparação com uma máquina posso proporcionar ao meu trabalho ou à minha empresa? Por exemplo, num trabalho que consista em ler, compreender e extrair informação de documentos legais, algo que já pode ser realizado por uma máquina, como fazemos em Taiger. A utilização de uma máquina para automatizar processos irá permitir que essa pessoa se centre mais em proporcionar mais valor a esse processo, em especial, no que se refere ao seu cliente, pois terá mais tempo para ouvir, para desenvolver estratégias, para empatizar, em suma, para dedicar mais tempo ao serviço personalizado e às tarefas de grande impacto na esfera do pessoal e do profissional, como a estratégia, a criatividade e a resolução de problemas, entre outros.
Gostaria de convidar qualquer pessoa, relacionada ou não com a tecnologia ou o mundo digital, a conhecer o que é a Inteligência Artificial, a saber como operam os algoritmos (de seleção, de interpretação, de tomada de decisões) que se utilizam para automatizar processos ou tomar decisões e, sobretudo, saber administrar e conhecer o que contêm os dados, a principal matéria prima da atual revolução industrial. Assim como, enquanto sociedade, exigimos o “não ao plástico”, devemos talvez começar a preparar o nosso alegado de “atenção ao dado”.
Pela parte das pessoas que trabalhamos neste apaixonante campo da IA, devemos ser conscientes da natureza dos dados com que trabalhamos ou vamos trabalhar (fonte, qualidade, sesgos, etc.) e o que vamos fazer com eles para observar o seu impacto socioeconômico direto e indireto. Pela minha parte, e também de outras pessoas que são referentes na área da IA, estamos já a falar com os responsáveis governamentais e regionais, para conhecer as medidas que se estão a tomar para hackear esses sesgos, e em que marco de regulação se está a trabalhar.
Uma vez conhecido o alcance atual da IA, poderemos estar tranquilos. Por agora, as máquinas não têm essa capacidade associativa de conjugar ou intuir coisas, capacidades que possuímos como resultado da experiência. Esta situação demorará a chegar, porque requer um sistema cognitivo muito complexo, de compreensão primeiro e desenvolvimento depois, como é o caso das piadas ou da ironia: se muitas vezes uma pessoa tem dificuldade em compreendê-las, tentem imaginar uma máquina.
“Devemos ser conscientes da natureza dos dados com que trabalhamos ou vamos trabalhar […] e do que faremos com eles, para observar o seu impacto socioeconômico direto e indireto”
Resumindo, os desafios colocados pela IA são tão diversos como apaixonantes, uma vez que o impacto desta tecnologia abrange tanto a esfera do pessoal, como do económico e social. Por isso todos, seja qual for o nosso perfil, temos um lugar dentro desta tecnologia. Nunca antes uma tecnologia tinha valorizado tanto as humanidades, porque, se as empresas estão orientadas para o cliente e para a personalização dos serviços, nada melhor do que trabalhar em inovação emocional. Como afirmou Maya Angelou, “a gente esquecerá o que você disse, esquecerá o que fez, mas nunca esquecerá como a fez sentir”.
