Os desafios regulatórios da inteligência artificial

Publicado na Conjur em 16 de julho de 2023

Por Ricardo Oliveira Pereira

As dificuldades para regular a IA A automação e a digitalização do mundo permitem a formação de novas realidades, o que enseja a criação de novas relações sociais complexas com base na utilização da inteligência artificial. Segundo Ricardo Campos, na era do digital, nem a experiência, nem a expectativa, fornecem critérios para estabilização das instituições e orientação para aqueles que nela atuam de forma significativa [1].

Desse modo, a mudança de uma sociedade, pautada em organizações, para uma sociedade, cada vez mais mediada por tecnologias, ocasiona profundas alterações na estruturação e constituição do Direito Global. Isto é, o papel do direito como elemento de estabilização de expectativas acaba sendo cada vez mais questionado diante das incertezas do mundo digital [2].

Destaca-se que a inteligência artificial se apresenta cada vez mais relevante no cenário internacional, em razão do pujante desenvolvimento tecnológico dos últimos anos. Quanto mais esse desenvolvimento se apresenta, surgem questionamentos a respeito de como o Direito deve lidar com essas novas tecnologias [3].

A discussão sobre a regulação da IA é de suma importância, pois, a depender da forma como for a sua implementação, de um lado existe a possibilidade do problema da sobreutilização, com emprego de sistema de IA em situações que podem acarretar impacto negativo aos seres humanos; e, por outro lado, o medo desta possibilidade, por instrumentos legais, pode levar à subutilização da inteligência artificial, de modo a impedir que a sociedade possa aproveitar os benefícios que podem ser extraídos dessas tecnologias [4].

Segundo Juliano Maranhão, dentre os vários desafios da regulação, destaca-se a preocupação em relação aos limites da governança algorítmica em contestar e revisar decisões lastreadas em inteligência artificial, principalmente quando baseadas em técnicas computacionais opacas [5].

Consigna-se que a contestabilidade e a possibilidade de revisão pressupõem a inteligibilidade em termos humanos. Por outro lado, a opacidade é um dos maiores problemas, notadamente em relação à possibilidade de contestação [6], incorporação de decisões discriminatórias e tomadas de decisões que ignorem os direitos fundamentais.

Três são os fatores que contribuem, em diferentes graus, para que o sistema seja opaco: 1) a complexidade dos modelos matemáticos envolvidos; 2) a dificuldade de entender as operações envolvidas no processamento de larga escala e 3) a falta de clareza no contexto institucional de uso destes sistemas [7].

A dificuldade de identificar lesões no uso da inteligência artificial pode dificultar os instrumentos regulatórios em debate. Tal como alerta o jurista americano Frank Pasquale, as variadas formas de opacidade que cercam os algoritmos fazem com que estejamos no escuro em relação às decisões cruciais. Eis a dificuldade de implementar instrumentos eficazes, por meio de regulação, para reparar danos eventualmente existentes, na medida em que não sabemos se até certo ponto estaremos munidos de instrumentos para combater danos decorrentes da inteligência artificial [8].

Dentre os diversos órgãos internacionais, há alguma convergência em relação aos princípios que regem o uso da inteligência artificial, quais sejam: 1) transparência (deve estar claro para o usuário que ele interage com um sistema artificial); 2) explicabilidade (divulgação de informações ao interessado que permitam ao usuário entender os critérios de tomada de decisão); 3) não discriminação (evitar que os sistemas incorporem diretrizes que possam ofender os direitos fundamentais); 4) não maleficência (sistema de IA não podem prejudicar os seres humanos) e 5) responsabilidade e proteção de dados [9].

No entanto, a opacidade pode comprometer, sobremaneira, os princípios acima citados, pois a complexidade dos modelos matemáticos, bem como a falta de clareza, dificulta que o sistema seja transparente ao usuário, além de impossibilitar que os indivíduos compreendam os sistemas a serem utilizados, o que eventualmente pode ocasionar danos aos direitos fundamentais.

Existe outro problema, que envolve as propostas regulatórias da IA, qual seja: a pretensão de universalidade, o que torna seu conteúdo excessivamente genérico, tornando difícil a sua aplicação. Por uma perspectiva, isso é vantajoso no sentido de estabelecer normas gerais, em vez de uma regulação mais rígida e estática. Mas, por outro lado, o uso de princípios vagos, como um substituto para regras que efetivamente protegeriam os direitos individuais e coletivos, pode dificultar a proteção dos indivíduos no uso de sistemas inteligentes.

Isto é, um dos grandes desafios na regulação da inteligência artificial consiste exatamente em identificar não só os princípios cabíveis, mas também os momentos em que esses princípios devem ser implementados por regras jurídicas. Trata-se, assim, de não apenas discutir os princípios universais da ética computacional ou algorítmica, mas também contemplar princípios específicos para diferentes setores de aplicação.

Diante da constante imprevisibilidade de desenvolvimentos adicionais e da dinâmica de desenvolvimento de softwares, ressalta-se a necessidade de monitoramento contínuo, bem como as avaliações de impacto, implementadas sob a forma de autocontrole.

No entanto, as medidas para assegurar a transparência, imputabilidade e responsabilidade representam uma grande dificuldade, especialmente em sistemas inteligentes. Isto porque, segundo Thomas Wischmeyer [10], o instrumento regulatório deve promover a adaptação de normas éticas em face de áreas de aplicação e riscos que eventualmente possam surgir. Ou seja, em face da constante mudança tecnológica, muitas vezes a aplicação do direito tem de ocorrer sob grande insegurança.

Estabelecidas as referidas dificuldades, resta oportuno analisar as iniciativas regulatórias no país. É o que se passa a fazer a seguir.

As iniciativas regulatórias no Brasil O Projeto de Lei nº 5.005, de autoria do senador Styvenson Valentim (Podemos-RN), estabeleceu princípios para o uso de inteligência artificial, dentre os quais se encontram o desenvolvimento inclusivo e sustentável, o respeito à ética, aos direitos humanos e aos valores democráticos.

Malgrado seja um avanço, essa proposição não trouxe uma regulamentação efetiva do tema, pois, com apenas seis artigos, o projeto limitou-se a reiterar os princípios já previstos na Constituição, de modo a sustentar que também deveriam ser aplicados ao uso da inteligência artificial [11].

Conforme se depreende dos dispositivos, o projeto de lei faz referência à possibilidade de auditoria desses sistemas e à necessidade de vinculação à supervisão humana, sem estabelecer, todavia, uma abordagem mais inovadora, algo que a complexidade do tema requer [12].

Posteriormente, foi apresentado ao Congresso Nacional o Projeto de Lei nº 5.691/2019, também de autoria do senador Styvenson Valentim (Podemos-RN), que defendia a instituição de uma "Política Nacional da Inteligência Artificial", com o objetivo de "estimular a formação de um ambiente favorável ao desenvolvimento de tecnologias na área" [13].

Em atenção aos referidos projetos, o Poder Executivo federal, por intermédio do Ministério da Ciência, Tecnologia e Inovações, promoveu uma consulta pública entre os meses de dezembro de 2019 e março de 2020, para efetivar a chamada "Estratégia Brasileira de Inteligência Artificial" [14]. Os objetivos eram solucionar os problemas reais do país e receber contribuições para efetivar o uso da IA no Brasil.

Em 2020, também foi proposto o Projeto de Lei 21/20 [15], pelo deputado Eduardo Bismarck (PDT-CE), que visava a adequação do país aos princípios éticos da nova tecnologia, de modo a incentivar a inovação na gestão pública por intermédio da IA. Dentre os vários pontos, destacou-se que o uso da inteligência artificial deveria ter como fundamento o respeito aos direitos humanos, aos valores democráticos e à privacidade de dados, trazendo inovações significativas, tais como a previsão de agentes de IA, a necessidade de criação de relatórios de impacto e o estímulo à adoção da inteligência artificial nos serviços públicos.

O PL nº 21/2020, que criou um marco regulatório da inteligência artificial no Brasil, é de grande importância para o país e foi aprovado na Câmara do Deputados em setembro de 2021, na forma de um substitutivo. Da simples leitura do PL nº 20/2021, pode-se depreender que o texto não consegue suprir a complexidade da matéria, pois, em sua grande medida, o projeto de lei é extremamente generalista, sem estabelecer uma legislação clara acerca dos procedimentos mais rígidos para as empresas de tecnologia.

No mesmo ano de 2020, foi apresentado o Projeto nº 240/2020, de autoria do deputado Léo Moraes (Podemos-RO), que propunha criar a chamada "Lei da Inteligência Artificial", utilizando como fundamento o panorama mundial da regulamentação da IA. No entanto, tal projeto restou prejudicado em razão da aprovação do PL nº 20/2021, o que ensejou no seu posterior arquivamento [16].

Posteriormente, em 2021, foi apresentado o Projeto de Lei nº 872/2021, de autoria do senador Veneziano Rêgo (MDB-PB), que dispõe sobre o uso da inteligência artificial no Brasil. Entretanto, partindo-se de uma análise preliminar de seu conteúdo, por meio da exposição de motivos, verifica-se que o PL não trouxe inovações nas discussões sobre o uso da IA, muito menos apresenta propostas de regulamentações técnicas sobre a matéria.

Vale destacar que a maiorias dessas propostas estabelecem princípios que já se encontram previstos na Lei Geral de Proteção de Dados Pessoais (LGPD), na medida em que os insumos utilizados na inteligência artificial derivam justamente dos dados pessoais, que é objeto da Lei nº 13.709/18.

Muito embora exista uma insuficiência nos projetos acima mencionados, a comissão de juristas designada pela Presidência do Senado Federal entregou o relatório final de seus trabalhos, que foi destinado a subsidiar a apresentação do substitutivo ao PL 21/2020. Em razão das profundas discussões promovidas em audiências públicas, tal substitutivo apresenta significativos avanços, a saber: 1) a disciplina de direitos dos afetados pelo uso de inteligência artificial, de modo a prever os deveres dos agentes de inteligência artificial, contemplando os fornecedores e aplicadores dos sistemas inteligentes (artigo 4º, IV); 2) abertura para uma regulação estatal posterior, em casos de interface de programação viabilizadora de interoperabilidade (artigo 21, V); 3) presença de cláusula genérica de regulação procedimental (artigo 32, parágrafo único, VI); 4) e condições para sandbox regulatório (artigos 38 e 40).

Apesar dos avanços significativos no que tange à regulamentação do uso da IA, em conformidade com as ponderações realizadas no próprio substitutivo, considero que, ao invés de estipular princípios gerais, deve haver um modelo de regulação setorial, pois tratar a IA de forma genérica seria perigoso ou prejudicial, pois estabeleceria diretrizes iguais para setores de IA completamente distintos.

No âmbito tributário, por exemplo, vale constar que a União Europeia reconheceu a IA como uma categoria de software. O mesmo tratamento poderia ser feito no Brasil, solucionando as polêmicas de bitributação de software e de direito autorais, o que evidencia que o tratamento setorial seria mais eficaz na solução de problemas reais.

Ratificando posicionamento de Ricardo Campos, na comissão de juristas [17], destaca-se que o Brasil também não precisa ser o primeiro do mundo a regular, de forma genérica, a IA, de modo que a regulação setorial seria o melhor caminho. Assim, o modelo descentralizado conjugaria melhor as normas setoriais específicas, porque, por meio dessas regulações mais específicas feitas através de atos normativos editados por órgãos competentes, poder-se-ia criar uma espécie de autorregulação regulada.

Em suma, ao propor um marco legal de IA no Brasil, é preciso ressaltar que os sistemas de IA são diferentes entre si, de modo que, ao tentar agrupá-los, sem considerar seu uso ou potencial risco, pode ser prejudicial para o desenvolvimento da tecnologia e aplicação no Brasil. Isto é, ao diferenciar os sistemas, pode-se evitar os três problemas (anteriormente citados) que dificultam a regulação da IA: a falta de transparência (no que tange à opacidade), a regulação por meio de princípios vagos (que dificulta o necessário tratamento específico de determinadas matérias) e a necessidade monitoramento contínuo (que restaria viabilizada em razão do tratamento setorizado dos sistemas de IA).

[1] CAMPOS, Ricardo. Metamorfoses do direito global: sobre a integração do direito, tempo e tecnologia. São Paulo: Editora Contracorrente, 2022, p. 260.

[2] CAMPOS, Ricardo. Metamorfoses do direito global: sobre a integração do direito, tempo e tecnologia. São Paulo: Editora Contracorrente, 2022, p. 263.

[3] MARANHÃO, JULIANO; ABRUSIO, J.; ALMADA, M.. Inteligência artificial aplicada ao direito e o direito da inteligência artificial. Suprema - Revista de Estudos Constitucionais, v. 1, 2021, p. 154.

[4] FLORIDI, Luciano, et al. AI4People: an ethical framework for a good AI society: opportunities, risks, principles, and recommendations. Minds and Machines, v. 28, 2018.

[5] MARANHÃO, JULIANO; ABRUSIO, J. ; ALMADA, M. . Inteligência artificial aplicada ao direito e o direito da inteligência artificial. Suprema - Revista de Estudos Constitucionais, v. 1, 2021, p. 159.

[6] MARANHÃO, JULIANO; ABRUSIO, J. ; ALMADA, M. . Inteligência artificial aplicada ao direito e o direito da inteligência artificial. Suprema - Revista de Estudos Constitucionais, v. 1, 2021, p. 159.

[7] BURRELL, Jenna. How the machine ‘thinks’: understanding opacity in machine learning algorithms. Big Data & Society, v. 3, n. 1, p. 1, 2016.

[8] PASQUALE, Frank. The black box society: the secret algorithms that control money and information. Cambridge: Harvard University Press, 2015. p.2.

[9] JOBIN, Anna; IENCA, Marcello; VAYENA, Effy. The global landscape of AI ethics guidelines. Nature Machine Intelligence, v. 1, p. 389, 2019.

[10] T. Wischmeyer, Regulierung intelligenter Systeme, AöR, v. 143, p. 49, III 1-6, IV, 2018.

[11]BRASIL. Senado Federal. Projeto de Lei n° 5.051/2019. Estabelece os princípios para o uso da Inteligência Artificial no Brasil. Brasília: Senado Federal, 2019. Disponível em: <https://legis.senado.leg.br/sdleggetter/ documento?dm=8009064&ts=1630421610171&disposition=inline>. Acesso em 26 fev. 2023.

[12] BEZERRA, Lucas; SALDANHA, Vitor Maimone. Como vai a regulamentação da Inteligência Artificial no Brasil?. Jota, 2021. Disponível em: https://www.jota.info/opiniao-eanalise/ artigos/como-vai-a-regulamentacao-da-inteligencia-artificial-no-brasil-24032021. Acesso em 26 fev. 2021.

[13] BRASIL. Senado Federal. Projeto de Lei n° 5.691/2019. Institui a Política Nacional de Inteligência Artificial. Brasília: Senado Federal, 2019. Disponível em: <https://legis.senado.leg.br/sdleggetter/documento?dm=8031122&ts=1630421785830&disposition=inline>. Acesso em 26 fev. 2023.

[14] BRASIL, Governo Federal, Ministério da Ciência, Tecnologia, Inovações e Comunicações (MCTIC). Consulta Pública: Estratégia Brasileira de Inteligência Artificial. Disponível em: http://participa.br/profile/estrategia-brasileira-deinteligenciaartificial/ search?content_type=CommentParagraph Plugin::Discussion. Acesso em 26 fev. 2023.

[15] BRASIL. Câmara dos Deputados. Projeto de Lei nº 21/2020. Estabelece princípios, direitos e deveres para o uso de inteligência artificial no Brasil, e dá outras providências. Brasília: Câmara dos Deputados, 2020. Disponível em https://www.camara.leg.br/proposicoesWeb/prop_mostrarintegra?codteor=1853928. Acesso em 26 fev. 2023.

[16] BRASIL. Câmara dos Deputados. Projeto de Lei nº 240/2020. Cria a Lei da Inteligência Artificial, e dá outras providências. Brasília: Câmara dos Deputados, 2020. Disponível em https://www.camara.leg.br/proposicoesWeb/prop_mostrarintegra;jsessionid=node0hscj17ru15m7yj7nq0vbfrmt13973160.node0?codteor=1857143&filename=PL+240/2020. Acesso em 26 fev. 2023.

[17] BRASIL. Câmara dos Deputados. Projeto de Lei nº 21/2020. Estabelece princípios, direitos e deveres para o uso de inteligência artificial no Brasil, e dá outras providências. Brasília: Câmara dos Deputados, 2020. Disponível em https://www.camara.leg.br/proposicoesWeb/prop_mostrarintegra?codteor=1853928. Acesso em 26 fev. 2023.

Ricardo Oliveira Pereira é advogado, mestrando em Direito Tributário pela PUC-SP e pesquisador do Instituto de Aplicação do Tributo (IAT).