Regular ou não os algoritmos das máquinas?

Na edição de julho da Consumidor Moderno, conversamos com a publicitária e consultora Kate O’Neil. Ela conta um pouco mais sobre a sua posição em defesa da regulação de algoritmos

Por: - 3 meses atrás

Facebook

Foi no início deste ano que a publicitária e consultora de transformação digital, Kate O´Neill, recebeu um convite da revista Wired para escrever um artigo sobre a febre na internet daquele momento: o desafio dos dez anos que surgiu no Facebook. A proposta da brincadeira era publicar duas fotos, sendo uma atual e outra fotografada justamente na década passada.

A hipótese levantada por Kate era de que o desafio não era à toa. Ele teria surgido para treinar a inteligência artificial de reconhecimento facial do Facebook e, assim, aprimorar o tratamento de dados pessoais. O artigo “Facebook’s 10 Year Challenge is Just a Harmless Meme – Right?” (O Desafio de 10 Anos do Facebook é Apenas Inofensivo – Certo?) viralizou no mundo todo.

Agora, a ex-executiva da Netflix e consultora de empresas como Coca-Cola, McDonald’s e Google está às voltas com outra polêmica na mídia americana: a regulação dos algoritmos – ideia que ela defende.

Um papo honesto sobre algoritmos e Facebook

CONSUMIDOR MODERNO: O QUE PENSA SOBRE A REGULAÇÃO DE ALGORITMOS?

Kate O’Neill – É necessário existirem as regulações de coleta e uso de dados pessoais e da otimização algorítmica de experiências e interações humanas. Algoritmos determinam uma grande quantidade de experiências que consumimos na cultura contemporânea – de entretenimento que desfrutamos a compras que fazemos. Na maioria dos casos, as experiências que são criadas para nós podem ser moldadas significativamente pelo conhecimento preexistente de nosso comportamento, nossas preferências, nossos relacionamentos, e assim por diante. As regulações devem refletir os melhores esforços do governo para proteger os cidadãos, mas também incentivar o comércio e a inovação saudáveis e éticos.

CM – UM DOS PILARES DA DISCUSSÃO SOBRE A REGULAÇÃO DE ALGORITMOS DIZ RESPEITO ÀS QUESTÕES RELACIONADAS AO PRECONCEITO RACIAL. ELES SÃO REALMENTE PRECONCEITUOSOS?

KO – Os vieses nos algoritmos têm sido amplamente estudados e ocorrem dentro de uma ampla gama de negócios no mundo todo. Especialistas como Safiya Noble, Shoshana Zuboff, Cathy O´Neil, Joy Buolamwini, Virginia Eubanks, Sara Wachter-Boettcher, Zeynep Tufekci, entre outros, têm estudado o impacto sobre o uso de dados sobre os diferentes algoritmos de impacto que podem ter – e não somente dentro de sistemas como a aplicação da lei e a justiça criminal, mas em aplicações mais amplas do dia a dia, como seguro, saúde, moradia e além.

As primeiras análises indicam alguns resultados preocupantes quanto ao preconceito, sim. É preciso aprimorar o uso de algoritmos

Facebook Kate O'neill

Um sistema de regulação de dados saudável e sustentável

CM – QUAIS SÃO OS PONTOS NEGATIVOS E POSITIVOS DE UMA REGULAÇÃO DE ALGORITMOS?

KO – Um dos pontos negativos de uma regulação de dados e algoritmos seria a própria regra ser mal concebida, mal informada ou até impossível de ser aplicada. Regulamentos pouco desenvolvidos podem impedir ou retardar a adoção de regulamentações bem projetadas posteriormente.

Nesse sentido, uma regulamentação correta de coleta de dados e o uso e a otimização algorítmica de experiências e interações devem fornecer clareza e limites em torno do uso ético e produtivo dos dados pessoais. Leis apropriadas protegem melhor os consumidores – o que, por sua vez, poderia estimular uma maior confiança do consumidor. Em geral, um ecossistema de dados bem regulado deve ser saudável e sustentável, além de incentivar a inovação sem comprometer as pessoas.

CM – VOCÊ PODERIA NOS CONTAR SOBRE ESSA DISCUSSÃO EM SEU PAÍS?

KO – No início deste ano, a deputada Alexandria Ocasio-Cortez (Democrata de NY) fez comentários públicos sobre como os algoritmos podem ser tendenciosos. Algumas pessoas ridicularizaram a parlamentar, mas ela recebeu o apoio de acadêmicos e especialistas no assunto. Costumo dizer que “somos nós que codificamos as máquinas com base em nós mesmos”. De certa forma, isso resume a declaração da deputada: “Codificamos nossas decisões, nossos valores e, sim, os nossos vieses nas máquinas à medida que criamos as regras dos softwares que ajudam as pessoas em suas vidas. Ao mesmo tempo, isso também significa que temos a oportunidade de codificar o melhor de nós mesmos e desenvolver políticas que incentivem aqueles que criam experiências algorítmicas e baseadas em dados para torná-los significativos, úteis e mutuamente benéfico

LEIA TAMBÉM: AT&T é acusada de vender dados de localização dos seus clientes