Algoritmos: é possível classificá-los como mocinhos ou vilões?

Entenda se existe algum consenso a respeito do uso dos algoritmos e seu impacto na experiência e no livre-arbítrio do consumidor

Ao contrário do que muitos podem imaginar, não são todos os consumidores que têm acesso ao mundo digital. Um estudo realizado pela PwC e pelo Instituto Locomotiva mostrou que 33,9 milhões de brasileiros não tiveram acesso à internet no último ano, enquanto 41,8 milhões tiveram acesso à conectividade por 19 dias em média, no mesmo período. Esse cenário, por si só, já evidencia um problema relacionado à conectividade: a desigualdade digital que, não por acaso, caminha de mãos dadas com a desigualdade social.

Quem tem acesso praticamente irrestrito à internet, ao mesmo tempo, também enfrenta problemáticas relacionadas à conectividade. Um exemplo disso é o uso de algoritmos que, ao mesmo tempo em que gera facilidade e conveniência no consumo de informações, produtos e serviços, pode limitar o acesso do usuário a produtos que não são recomendados para ele, por exemplo.

Mas até que ponto o cidadão e as empresas devem se preocupar com a influência das chamadas Inteligências Artificiais (IAs)? Renato Opice Blum, Chairman da Opice Blum, Bruno e Vainzof Advogados, inicia um debate sobre o tema mencionando as Três Leis da Robótica, criadas pelo escritor Isaac Asimov e muito utilizadas inclusive fora da ficção.

São elas:

  • 1ª Lei: Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal;
  • 2ª Lei: Um robô deve obedecer às ordens dadas por seres humanos exceto nos casos em que tais ordens entrem em conflito com a Primeira Lei;
  • 3ª Lei: Um robô deve proteger sua própria existência desde que tal proteção não entre em conflito com a Primeira ou a Segunda Lei.

Substituindo o termo “robô” por “sistema”, o advogado e economista ressalta que, atualmente, as IAs funcionam muito mais como sistemas do que como inteligências. Porém, uma vez que essas tecnologias podem evoluir, permitindo que esse sistema comece a, de fato, tomar decisões de forma independente, é seguro que haja uma regulação. “Hoje, o poder está nas mãos do programador, nas mãos de quem detém o código”, destaca Blum.

Bases legais da LGPD

Marcelo Santiago Guedes, coordenador-geral de Tecnologia e Pesquisa da Agência Nacional de Proteção de Dados (ANPD), defende que a Lei Geral de Proteção de Dados (LGPD) cria um ambiente seguro sem impedir o desenvolvimento do mercado. “Ela foi criada para gerar segurança jurídica para que os negócios atuem de maneira adequada e, ao mesmo tempo, para que haja a devida tutela”, explica.

Nesse sentido, ele destaca que o consentimento não é a única base legal da LGPDao contrário, existem dez possibilidades de tratamento de dados. Ainda assim, os participantes do debate realizado durante A Era do Diálogo concordam que é preciso ter cuidado durante o processo de programação das IAs, considerando que há mentes humanas (e, portanto, vieses) envolvidas nessa etapa.

Da esquerda para a direita: Marcelo Santiago Guedes, coordenador-geral de Tecnologia e Pesquisa da ANPD; Renato Opice Blum, da Opice Blum, Bruno e Vainzof Advogados; Gustavo Morais, da AeC; Danilo Doneda, do IDP

Riscos digitais

“Às vezes, esquecemos que lidamos com tecnologias desde sempre – como instrumentos usados para determinados objetivos. Uma tecnologia não é boa ou ruim, depende do uso que é feito com ela”, comenta Gustavo Morais, CDO da AeC. Ele explica de forma bem simples: da mesma forma como uma faca pode ser usada para uma refeição, ela também pode matar. “Por trás da IA, o que existe é muita estatística e matemática”, diz.

Danilo Doneda, professor do IDP, afirma: “Existe um dilema ético envolvido nessa questão pois, quanto mais se sabe sobre alguém, mais fácil é manipular, se for essa a intenção”. Porém, há dados que são compartilhados com as empresas que podem ser usados de forma muito ampla – com boas ou más intenções, considerando novamente a presença de um indivíduo por trás da máquina. “Se o algoritmo, por exemplo, limitar a compra de produtos variados e restringir o consumo a determinadas marcas, por exemplo, o efeito será negativo”, diz.

Do ponto de vista de Guedes, da ANPD, não compensa falar sobre a possibilidade de influenciar ou não o consumidor, pois ele mesmo há tem a expectativa de, por exemplo, receber indicações de compras. “A questão a ser discutida é se a aplicação prática de uma tecnologia é positiva para o consumidor”, defende.

Nesse sentido, Morais, da AeC, compara a atual realidade com o passado: “Sempre existiram armas de persuasão, o algoritmo é mais uma delas – como foi a publicidade”, defende. Ou seja, ainda que os formatos mudem, é essencial garantir que o consumidor siga tendo o direito de escolher, sem perder o acesso a uma boa experiência.

banner AED


+ Notícias

Favelas, consumo, inclusão digital e realidade brasileira: um debate inesquecível

Uma década de evolução no atendimento: quais foram os desafios?




Acesse a edição:

MAIS LIDAS

VEJA MAIS

ÚLTIMAS

VEJA MAIS