Inteligência Artificial: mais processamento, menos ética?

Estudo da Universidade de Stanford revela que a tecnologia está cada vez mais enviesada.

Foto: Free Pik

Que a Inteligência Artificial (IA) é a nova tecnologia do momento, todo mundo sabe — inclusive e principalmente os grandes executivos do mercado. A ferramenta, na verdade, tem se feito muito útil para os negócios, sobretudo para o atendimento dos clientes e auxílio nas vendas do e-commerce. Mas ainda que ela seja revolucionária no mercado, há falhas graves que ainda precisam de conserto: como resultado de uma produção humana, a IA tem ficado… bem, cada vez mais enviesada.

É o que mostra o novo relatório do Instituto para Inteligência Artificial Centrada nos Humanos de Stanford, nos Estados Unidos. Ainda que a tecnologia tenha evoluído (e muito) nesses últimos dois anos, com ganhos impecáveis em habilidades linguísticas, ela ainda segue com “opiniões” um tanto quanto tóxicas e informações com um viés muito claro.

Esse assunto foi inclusive explorado no documentário Coded Bias, da Netflix, para refletir algumas das escolhas e reconhecimentos da Inteligência Artificial que causavam uma série de problemas a homens e mulheres negras, por exemplo.

Leia mais: Inteligência artificial: a dualidade da evolução tecnológica e do poder sobre o consumidor

Uma inteligência artificial que ainda precisa de reparos

O potencial da IA no mercado já é algo sem precedentes no mercado mundial e a tendência, conforme aponta o estudo, intitulado de “AI Index 2022 Annual Report”, é que os investimentos nela fiquem cada vez maiores. Em 2021, o investimento privado em inteligência artificial totalizou cerca de U$ 93,5 bilhões, um valor que corresponde quase ao dobro do total de 2020.

Mas mesmo que todo esse investimento se intensifique, o relatório — que avalia a inteligente artificial a partir de inúmeras camadas, entre elas a ética e a política, com o intuito de torná-la o mais neutra possível para cumprir com seus propósitos — analisou que os modelos de linguagem já estão mais capazes do que nunca, mas ainda apresentam vieses muito claros, o que traz uma nova margem de insegurança a essa tecnologia.

E o mais curioso nisso tudo é que, ao que consta no relatório, quanto maior for a quantidade de parâmetros, maior também é a possibilidade de tornar a IA mais “tóxica”. A pesquisa mostra que um modelo de 280 bilhões de parâmetros técnicos — em teoria um dos mais capazes e inteligentes do mercado —, desenvolvido em 2021, apresentou um aumento de 29% de opiniões enviesadas quando comparada a outro modelo de 2018, com 117 milhões de parâmetros, considerado um dos melhores da época.

Assine a newsletter da Consumidor Moderno e fique por dentro de todos os eventos e conteúdos do Grupo Padrão

Mas o cenário ainda é promissor

O relatório, ainda que indique essa parte mais enviesada da IA, também mostra que é possível fazer com que essa capacidade de processamento aumente e, uma vez que há mais percepção sobre as condutas antiéticas e tóxicas da tecnologia, o cenário pode ficar mais promissor em um curto período de tempo.

Para se ter ideia, o estudo mostra que pesquisadores com afiliações da indústria chegaram a contribuir com 71% a mais de publicações nos últimos anos em conferências focadas em ética para IA. E, desde 2018, o custo de treinamento para a tecnologia — em especial para a classificação de imagens — diminuiu cerca de 63,6%, ao mesmo tempo em que o tempo necessário para o treinamento ficou 94,4% melhor.

Leia mais: Inteligência artificial: o que 2022 reserva para a tecnologia do momento?

Esses detalhes, portanto, fizeram com que a recomendação, detecção de objetos e processamento de linguagem, principalmente, fiquem cada vez mais eficientes com o passar dos anos.

Vale destacar que, nesse cenário, os olhares estarão mais atentos aos Estados Unidos e à China, que tem dominado as colaborações para produção de inteligências artificiais cada vez mais sofisticadas.


+ Notícias

99 reduz episódios de assédio com uso de inteligência artificial 

Como entender onde o uso da inteligência artificial trará resultados 




Acesse a edição:

MAIS LIDAS

VEJA MAIS

ÚLTIMAS

VEJA MAIS