Erga Omnes #3
A ideia da elaboração do informativo periódico Erga Omnes (do latim, “Para Todos”) pela advogada Nathalie Pagni Diniz nasceu da necessidade de manter seus clientes - e demais interessados - informados sobre assuntos jurídicos atuais mais relevantes.
Nesta edição (Erga Omnes #3), tratarei da necessidade de regulação ética de big data e suas consequências na Inteligência Artificial (“IA”).
A Necessidade de Regulação de Normas Éticas para o Big Data e suas Consequências na IA
Em minha infância, eu e meus amigos imaginávamos como seria o mundo nos anos 2000. Afinal, éramos crianças nos anos 80 e 90 e fantasiávamos o futuro com máquinas voadoras, que realizariam boa parte do trabalho mecânico, naquela época, executado por nós, humanos.
Passados alguns anos, me vejo em 2020. Ora, estamos no futuro! E não é que temos máquinas capazes de executar determinadas atividades de forma autônoma, bastando que nós as programemos?
A bem da verdade é que a vida no futuro idealizada por nós, crianças do final século passado, está cada vez mais parecida com a que sonhávamos. O que não imaginávamos é que nos anos 20 do século XXI teríamos dois tipos de realidade para interação entre os humanos: uma física e outra virtual.
Estamos Preparados para a Sociedade Virtual?
Quando falamos da nossa realidade mais antiga (a realidade física), notamos que ela foi (é, e sempre será!) desenhada por acontecimentos históricos somados à simultânea elaboração de ordenamentos jurídicos de convívio (nem sempre pacífico e igualitário) entre os indivíduos.
Amostra disso foi a elaboração da Declaração Universal dos Direitos Humanos, regramento idealizado na ONU para ser seguido e alcançado por todos os povos no mundo, após as atrocidades de direitos humanos ocorridas na Segunda Guerra Mundial.
Em âmbito nacional, podemos citar como norma de convívio democrático o direito da liberdade de expressão, garantido pela Constituição Federal Brasileira, o qual pode (e deve!) ser plenamente exercido pelos indivíduos, sem, no entanto, que este venha a colidir com a dignidade da pessoa humana.
A 4ª Revolução Industrial
Segundo o último relatório da UNESCO, estamos vivendo a 4ª Revolução Industrial, com o advento da Inteligência Artificial, precedida da Revolução Industrial Clássica, do surgimento da internet e dos Smartphones.
No Brasil dos últimos anos, tem havido constante preocupação em regular as interações humanas no ambiente virtual:
- 2014: Marco Civil da Internet
- 2020: Lei Geral de Proteção de Dados (LGPD)
Devemos ir além: é necessário ter precaução quanto à regulação de como as informações devem ser passadas por nós às máquinas, a fim de que isso não seja um problema futuro.
O Problema do Big Data
Sabe-se que os métodos como o “reCAPTCHA”, geralmente utilizados para que o programa de computador diferencie um robô de um humano, nada mais são do que o aprimoramento de uma machine learning para reconhecimento de padrões de dados humanos pelas referidas máquinas.
Como forma de exemplificar, ao solicitar que selecionemos “imagens de festas”, a Inteligência Artificial aumenta sua base de informações sobre aquele determinado assunto, aumentando sua acurácia acerca do objeto de pesquisa (big data).
A grande questão que fica é: estamos mesmo passando informações de forma ética aos algoritmos?
Ora, a humanidade possui diversas culturas, raças, crenças. Será mesmo que as imagens ofertadas como “festas” não limitarão a Inteligência Artificial a uma parcela pequena da realidade mundial? Não estaríamos criando uma nova forma de segregação/desigualdade social virtual?
O Caso COMPAS nos EUA
Outro padrão de possível segregação já está ocorrendo nos EUA. Lá já são utilizados alguns algoritmos responsáveis por auxiliar o sistema judiciário de alguns Estados Federativos no julgamento de demandas. As penas são medidas através de questionamentos programados por empresas privadas para determinar o grau de periculosidade dos criminosos.
O sistema de perguntas utilizado é conhecido como “COMPAS” (sigla em inglês para Correctional Offender Management Profiling for Alternative Sanctions). Tal método de questionamento supostamente determina a possível reincidência de cometimento de crimes futuramente pelo indivíduo em julgamento.
Todavia, não nos esqueçamos de que a programação de algoritmos é feita por humanos, dotados de experiências de vida anteriores e pré-julgamentos.
A Necessidade de Regulação Ética
Os exemplos ora citados levantam, mais uma vez, a questão: estamos realmente nos preocupando com as informações que são passadas à Inteligência Artificial (“IA”)? Não estaríamos alimentando a big data com informações dotadas de pré-julgamentos e preconceitos contra os quais estamos lutando para nos livramos no mundo físico?
A resposta para o questionamento aqui levantado se faz uma só: precisamos estabelecer normas de regulação para o uso ético desta tecnologia.
O governo brasileiro, através do Ministério da Ciência, Tecnologia, Inovações e Comunicações (“MCTIC”) está realizando consultas para discussão sobre a Estratégia Brasileira de Inteligência Artificial (“IA”), com o objetivo de debater a elaboração de uma política que busque potencializar os benefícios da tecnologia e mitigar seus impactos negativos.
Conclusão
Tal qual na elaboração do regramento jurídico de convívio social na realidade física, devemos participar ativamente da “sociedade virtual”, a fim de que sejam elaboradas leis éticas para a coleta de dados e alimentação da big data como forma de fazermos a Inteligência Artificial trabalhar a favor da humanidade, a fim de prevenirmos e mitigamos injustiças e segregações virtuais futuras.
(09/01/2020)
AVISO: Este informativo não deve ser usado como opinião legal, não se objetivando a orientação pessoal e unilateral para fins legais. Para melhor aplicação do direito a cada caso, é necessária sempre a consulta de um advogado.
Gostou do artigo? Compartilhe ou entre em contato para mais informações.
Fale Conosco