A Comissão Europeia apresentou no final do primeiro semestre um novo regulamento — que ainda requer aprovação do Parlamento Europeu — de uma nova legislação relativa ao uso da Inteligência Artificial (IA). A expectativa é de que, a exemplo do Regulamento Geral de Proteção de Dados (da sigla em inglês GDPR), a iniciativa traga impactos a todo o mundo — inclusive no Brasil.
Em linhas gerais, a norma quer dar maior transparência no processo de tomada de decisão de uma inteligência artificial e se eles ocorrem a partir de critérios socialmente aceitos e até legais. Dessa forma, a ideia é evitar situações como preconceito, misoginia, entre outras, por meio das respostas automatizadas.
A proposta, segundo os legisladores europeus, pode ir além. Existe a possibilidade de criação de uma agência reguladora de IA e até a criação de um modelo de gerenciamento de risco na IA com base em quatro critérios: inaceitável, elevado, limitado e mínimo. Nessas definições, seriam enquadradas práticas de risco como brinquedos que podem atuar como manipuladores do comportamento de crianças, sistemas de ranking personalizados com base em características pessoais, envios de spam ou qualquer outro artifício que possa ferir liberdades individuais.
Para falar sobre o impacto da norma, a Consumidor Moderno conversou com o advogado Danilo Doneda, especialista em direito digital, integrante do Conselho Nacional de Proteção de Dados e da Privacidade e um dos convidados do evento A Era do Diálogo deste ano. Confira a entrevista.
Consumidor Moderno – Qual impacto tem a Inteligência Artificial nas empresas e na vida dos consumidores, inclusive mais do que qualquer outro tipo de tecnologia? É necessário discutir melhor sobre sua regulação, tanto no Brasil quanto a nível mundial?
Danilo Doneda – Em primeiro lugar, o impacto da inteligência artificial existe nas tecnologias que abrem novos modelos de negócios e que mudam as bases das quais várias engrenagens econômicas se suportam e já possuem nos dias de hoje. De certa forma, é como se fosse uma nova camada de inovação, mas que aumenta apenas a forma de comunicação que já tínhamos. Com a inteligência artificial você tem ações, novos serviços e produtos que seriam impossíveis de pensar antes em praticamente qualquer área.
Por meio da IA, você empurra o centro econômico, ou seja, as atividades que geram lucros vão gerar maior capital nesse novo ambiente tecnológico e dentro de um ambiente econômico para países que dominarem a tecnologia. Ou seja, cada vez mais, os produtos que temos em casa como o computador ou a televisão serão somente uma forma visível de modelos de negócio que serão estruturados longe das empresas.
Hoje em dia, quando a gente faz uma pergunta à Siri ou Alexa, não é mais o seu computador que processa as coisas. A pergunta vai para uma central, que segue para alguém ou uma empresa que empregou muito capital para todas as complexas tecnologias de IA que, além de serem muito caras, são sofisticadas e demandam muita informação e tempo para o desenvolvimento.
Ou seja, não existe isso de uma máquina pensar. O que ela faz é imitar esquemas e modelos de comportamento a partir da observação do que a gente faz. Isso é o que executam os sistemas mais complexos baseados no aprendizado por máquina. E para isso a máquina precisa ter dados.
Então, eu penso que é necessário discutir uma regulação. O Brasil já começou esse debate, mas esse é um tema que está em evolução no mundo todo.
O Brasil tem uma estratégia de inteligência artificial que o Ministério da Ciência e Tecnologia preparou ano passado e lançou este ano. Penso que aquilo (proposta) não ficou muito legal. Temos ainda projetos de lei que vão tocando no assunto. Mas o que acontece? Tanto é necessária uma regulação que os países que desenvolveram a IA e estão na vanguarda de desenvolvimento dessa tecnologia, vão colocar a mão em elementos fundamentais para a construção de uma nova economia com várias dinâmicas que serão fundamentais nas relações de poder.
Por exemplo: quem não produzir tecnologia (IA) vai ter que importar. À medida que você tem que importar as tecnologias, sempre é mais difícil de confiar no que ela faz, sabe? E isso tanto na eficácia quanto para saber se eventualmente dados não estão sendo repassados. Mesmo porque, até certo ponto, muito da inteligência artificial é o que chamam de caixa preta. Eles tornam os sistemas que tomam decisões sofisticadíssimas, e às vezes é impossível saber como que eles chegaram àquela conclusão e o que de fato estão fazendo.
Quem não produzir tecnologia (IA) vai ter que importar. À medida que você tem que importar as tecnologias, sempre é mais difícil de confiar no que ela faz, sabe?
Então, a regulação desse ponto é estratégica. Tanto é que, recentemente, o Congresso Norte-Americano soltou um documento justamente sobre isso. Trata-se de um documento da Comissão de Segurança Nacional para a Inteligência Artificial, que justamente faz um planejamento estratégico para os Estados Unidos tentar manter a paz com a China. O Brasil está muito atrás, mas muito atrás. Enfim, a gente se acostumou a ficar atrás de tanta coisa.
CM – A nova legislação europeia de IA pode ser enxergada como algo que terá impacto global, assim como a RGPD (ou GDPR) ? Quais seriam os mais expressivos?
D.D – Bom, eu penso que a experiência europeia com a RGPD turbinou um pouquinho as intenções e as ambições deles para se proporem como regulador, “entre aspas”, transnacional, estabelecendo padrões de fato. A União Europeia está posicionada com alguns pontos interessantes para chegar até isso. Pode ser, sim, que a legislação europeia sobre IA tenha influência forte globalmente. Não sei se igual a RGPD, mas pode ser sim.
O que acontece? Os europeus tentam se colocar, de certa forma, como um meio-termo entre as dinâmicas de China, Estados Unidos. Por exemplo: a dinâmica dos Estados Unidos é muito voltada para desenvolver a própria indústria. Lá, existe uma crista de soberania, muito maior do que a União Europeia. Claro, a ideia de desenvolvimento econômico é a razão extrema, mas isso passa pela introdução de um modelo europeu forte que gere confiança com respeito as pessoas, o que é complicado.
Pode ser, sim, que a legislação europeia sobre IA tenha influência forte globalmente. Não sei se igual a RGPD, mas pode ser sim.
Na China você tem um campo onde primeiro se desenvolve e, depois, começa a propor algumas áreas com proteção de dados, ou seja, limites para si próprio. Era de se esperar que a China também começasse a trabalhar cada vez mais com inteligência artificial, não só do ponto de vista do desenvolvimento, mas também na regulação. Inclusive, as empresas chinesas, para se colocarem na economia internacional, cada vez mais, vão ter que apresentar evidências de que trabalham com parâmetros de segurança e transparência comparáveis a outros países, até para que possam explorar esses mercados.
CM – Quais pontos dessa legislação você destaca?
D.D – Entre vários pontos da proposta europeia, o que eu destacaria é algo que está presente na proteção de dados da GDPR: o ponto de partida é considerar o cidadão como epicentro do fenômeno, da regulação e, a partir de então, estabelecer meios de incentivos, fomentos no uso da tecnologia, mas sempre resguardando o cidadão em determinados riscos. Esse é um ponto muito interessante. Muitas discussões que vem ocorrendo aqui e nos Estados Unidos discutem problemas técnicos. Por exemplo: questões sobre reconhecimento facial, sobre o uso de reconhecimento facial para reconhecer e prender criminosos evadidos e outras coisas do gênero.
Muitas vezes, esse assunto (cidadão no centro) é tratado sob um determinado ponto de vista, às vezes até regulatório, mas sem pretensão de ser universal (ou válido para tudo e todos). Na regulação europeia, você já tem várias determinações bem fortes e mais gerais, de maior amplitude em relação aos seus efeitos quanto a pontos como esse.
Então, por exemplo, o que pode acontecer é: países com um propósito semelhante (ao europeu) se vejam mais em uma posição mais avantajada para assumir posturas parecidas. Com proteção de dados foi a mesma coisa. No começo, parecia alguma coisa muito forte, mas com o tempo virou padrão.
CM – A PL propõe julgamento com base em quatro níveis de gerenciamento de risco que a tecnologia pode apresentar. O que pensa sobre isso?
D.D – O que eu queria deixar claro é que essa ideia de gerenciamento de risco nos sistemas de inteligência artificial é o ângulo da questão. Não deveríamos propor os quatro níveis. É uma proposta de aplicação de metodologia de risco, com efeitos bastante interessantes. O deputado Gustavo Fruet (PDT) tem um projeto de lei, mas acho que existem outros também sobre IA. Ele (PL) fala de uma forma muito geral e muitíssimo mais simples sobre esse gerenciamento de risco.
CM – Com a nova lei, fala-se na criação de uma autoridade da IA no Brasil, na União Europeia. Isso criaria necessidade de replicar essas autoridades no Brasil?
D.D – Bom, a discussão sobre a necessidade de uma autoridade sobre IA está presente faz tempo na União Europeia e nos Estados Unidos. Muitos autores que tratam do tema destacam há tempos a necessidade de ter uma Agência Nacional do Algoritmo, para, entre outras coisas, contrabalançar essa opacidade, a dificuldade de saber, de fato, o que o mecanismo de inteligência artificial faz.
Se vai haver necessidade ou não de fazer isso no Brasil? Isso depende do quanto a gente vai avançar em termos de maturidade e internação regulatória, e mesmo de demanda pela indústria nacional. Eu acredito que uma autoridade tem vários pontos positivos que, nesse caso, onde você tem uma disparidade muito grande de conhecimento técnico entre a tecnologia e as pessoas que vão ser afetadas pela tecnologia. Por outro lado, muitas vezes, ela (agência) terá uma dificuldade impossível de suplantar, entender e reconhecer o que está acontecendo, inclusive se está ocorrendo um abuso ou discriminação.
Muitos autores que tratam do tema (IA) destacam há tempos a necessidade de ter uma Agência Nacional do Algoritmo, para, entre outras coisas, saber o que o inteligência artificial faz. Se vai haver necessidade ou não de fazer isso no Brasil? Depende do quanto a gente vai avançar em termos de maturidade e internação regulatória
É algo parecido que acontece com uma lei que precisa de uma regulamentação e, às vezes, necessita de um órgão público para fazer atuar essa regulamentação. No caso da IA, isso é ainda importante porque são temas bastante complexos e especializados. Não adianta você colocar na lei o que deve ser feito e não ter ninguém com capacidade técnica, com autoridade para tocar isso. É preciso de uma motivação para uma ter autoridade, mas aí depende de tudo politicamente e como a questão vai avançar o Brasil.
De certa forma, a ANPD vai ter um pouquinho de ingerência sobre alguns pontos desse caso. Na aplicação do artigo 20 da LGPD, ela já tem que responder algumas questões. Hoje em dia, na falta de outra lei específica, a LGPD é a mais direta que toca no tema de IA.
CM – Qual é a importância da regulação para preparar a União Europeia para a Era Digital e para a concorrência tecnológica da China e dos Estados Unidos?
D.D – A Comissão Europeia há décadas procura manter, entre outras coisas, o padrão de vida do cidadão, de fomentar a economia e ainda colocar todo o Bloco Econômico em condições de competir com esses dois grandes mercados. Talvez não seja um enorme sucesso em termos de desenvolvimento, inovação e alguns pontos, mas em outros acabam sendo bem importantes. Em relação a GDPR, por exemplo, hoje temos uma situação quase curiosa na qual até desenvolvimentos normativos da China e nos Estados Unidos têm como parâmetro o europeu.
Então, um dos papéis que certamente a União Europeia pretende ter com essa proposta é de se apresentar como o “regulador global”. Ou como o único regulador global viável. Isso é, aquele que pode colocar os pontos mais relevantes e que não descambe tanto para o liberalismo típico norte-americano. Às vezes até um pouquinho autocentrado, né? E que não descambe, da mesma forma, para um sistema que deixe muitos pontos abertos para o “vigilantismo estatal” e que evolua para uma centralização administrativa, assim como é a China. Esses pontos, muitas vezes, impedem padrões desses países acabem tendo algumas áreas valências global.
CM – Existe a crítica de líderes do setor que temem que a alta regulação possa abrir espaços para avanços de tecnologias na China e EUA, que, por sua vez, não devem ser desenvolvidas com o mesmo rigor. Concorda?
D.D – Sim, existe essa crítica. Alguns colocam na proteção de dados a culpa pela (baixa) indústria de informática na Europa. Claro que, obviamente, existem muitos outros pontos. É preciso pensar em Instituto de Trabalho, capital e várias outras questões.
Um dos papéis que certamente a União Europeia pretende ter com essa proposta é de se apresentar como o “regulador global”. Ou como o único regulador global viável.
Eu tenho a impressão que a aposta da comissão europeia não é propriamente fazer uma regulação por si só. Veja só: os europeus estão colocando direitos no papel, quando, na verdade, isso vai assinar o seu anacronismo, a dependência tecnológica europeia para muitas coisas com a China e os Estados Unidos. Eu não sei se é tão simples assim, aliás. Vários outros fatores entram em questão e, nesse ponto, a regulação e inteligência artificial, mais do que proteção de dados, é fundamental para gerar confiança e segurança em modelos de negócio, em iniciativas, em produtos que são altamente arriscados. Você pode ter em um ambiente completamente desregulado sistemas que praticam discriminação, que favoreça estratificação, segregação social e que não possam ser facilmente identificados, controlados e regulados.
A China e os Estados Unidos têm uma força inercial enorme, pelo pacto tecnológico, pelo tamanho da população, mas que, por outro lado, nenhum deles tem legitimidade, hoje em dia, para propor regras internacionais e que será necessária.
Talvez a União Europeia esteja apostando em um novo caminho que pode dar um protagonismo maior, que é o de propor uma regulação que facilite a utilização de IA com confiança e segurança.
+ Notícias
Otimismo e inflação: 6 CEOs dos bancos falam sobre o momento econômico do País
