As frustrações do estado de bem-estar digital

Algoritmos enviesados esfriam promessas imediatas das tecnologias inteligentes

Fonte: Unsplash

Não é preciso refletir muito para se constatar a forte presença da Inteligência Artificial (IA) em nosso dia a dia. Ela está nos e-mails, redes sociais, serviços de geolocalização, streaming de música, carros inteligentes, serviços financeiros e mais. Tampouco é preciso ler muita notícia para se perceber suas incontáveis promessas de resolução de problemas, como cálculo para prever o movimento das placas tectônicas ou prever a estrutura de proteínas. Mas as promessas da IA para o estado de bem-estar digital têm se mostrado pouco animadoras quando governos buscam cumpri-las.

As tentativas de se construir um estado de bem-estar digital constantemente tropeçando em algoritmos enviesados nos tempos em que se debate o colonialismo de dados vem gerando frustrações hype da IA.

Estado de bem-estar digital

Na última década, governos em diversos países passaram a adotaram estratégias para transformar os serviços públicos por meio da tecnologia. Uma área prioritária para essas estratégias tem sido o “estado de bem-estar social”. O abrangente termo “estado de bem-estar” é usado para descrever políticas, programas e práticas que visam fornecer proteção social aos indivíduos. É uma dimensão fundamental de governos modernos, e abrange uma ampla gama de atividades e medidas que constituem as redes de proteção social que permitem os cidadãos a acessarem padrões razoáveis de saúde, bem-estar social e segurança econômica.

Segundo o Fundo de Liberdade Digital, que financia atividades e projetos ligados ao direito digital na Europa, a digitalização de serviços públicos para bem-estar social frequentemente transforma as necessidades dos mais vulneráveis em números e variáveis, e muitas vezes coloca direitos dos cidadãos em risco por conta do pouco debate público e prestação de contas.

Há diversos exemplos recentes de frustrações com as buscas de um estado de bem-estar digital nos países desenvolvidos. No começo do ano passado, por conta dos riscos de precisão e riscos aos direitos humanos, o governo holandês interrompeu seu estreante sistema que previa a probabilidade de um indivíduo de mentir, cometer fraude no sistema de benefícios ou violar leis trabalhistas. Os efeitos da decisão influenciaram o debate sobre o uso de robôs para a mesma finalidade no Reino Unido. E foi no Reino Unido que em agosto do mesmo ano a Geração Z viu algoritmos enviesados privilegiarem estudantes de escolas particulares nos exames A-level, o vestibular deles.

O clamor foi tanto que o uso dos algoritmos como alternativa da não aplicação dos exames por conta a pandemia foi cancelado.

Colonialismo de dados

Além da falta de precisão das ferramentas implementadas para a digitalização dos serviços públicos, há exemplo também da falta de clareza na relação Estado-empresas. No começo de abril, os nova-iorquinos descobriram que mais de 1.800 entidades – incluindo agências estatais, polícias municipais e estaduais – acessaram os serviços de reconhecimento facial de mais de 3 bilhões de fotos da empresa de tecnologia Clearview AI, ainda que sem contratos formais.

A questão da falta de clareza sobre o uso das tecnologias por parte das administrações públicas esbarra no chamado colonialismo de dados – outro fator que esfria os ânimos em relação às IAs.

Pela definição dos pesquisadores Ulises Ali Mejias e Nick Couldry, da State University de Nova York e da London School of Economics, respectivamente, colonialismo de dados é uma nova ordem social baseada no rastreamento contínuo de nossos dispositivos e vidas online que cria oportunidades sem precedentes para discriminação social e influência comportamental por parte das grandes corporações e governos.

Segundo os estudiosos, de fato este tipo de colonialismo não tem características pelas quais o colonialismo histórico é mais lembrado – como violência física extrema e escravidão -, mas explora recursos do mundo em uma escala completamente nova, redefinindo as relações humanas com a produção econômica.

Para o bem de quem?

No livro “Os Custos da Conexão: Como os Dados Estão Colonizando e Apropriando a Vida Humana para o Capitalismo”, Mejias e Couldry chamam a atenção para a justificativa de uma colonização em prol do conhecimento científico, marketing personalizado e gestão racional – da mesma forma que o colonialismo histórico se justificava pela missão civilizadora.

Para críticos do hackeamento das mentes dos indivíduos, como o futurólogo Yuval Harari, o dilema de dar informações a governos e empresas em troca de serviços e saúde com o consentimento de que as passarão a terceiros é um falso dilema. Para ele, esta escolha não é necessária. Em suas entrevistas sobre patrulhamento de governos e controle de pandemias, à medida que governos precisarem de mais informações sobre os indivíduos para garantirem o bem-estar social, é interessante que os indivíduos também aumentem seu conhecimento sobre os governos.

É fato que Inteligência Artificial e dados são cada vez mais importantes para o mercado e trazem benefícios para os consumidores, mas ainda há um longo caminho para entender como deve ser feito o melhor uso deles.


+ Notícias

O que é a inteligência artificial emocional e por que ela é o futuro

O que muda com a criação da Estratégia Brasileira de Inteligência Artificial (EBIA)?

A Inteligência Artificial está no meio de nós






Acesse a edição:

MAIS LIDAS

VEJA MAIS

ÚLTIMAS

VEJA MAIS