Inteligência artificial: direitos fundamentais não podem ser violados, alertam especialistas

Os sistemas de inteligência artificial (IA) não podem ultrapassar e violar os direitos dos cidadãos. Transparência, equidade e participação do Estado e da população são necessárias na definição do arcabouço legal sobre o tema. Essas são algumas das posições defendidas no seminário internacional aberto na manhã desta quinta-feira (9) pela comissão de juristas que vai elaborar proposta de regulamentação da IA no Brasil.

O seminário ajudará na produção e conclusão de uma proposta de marco regulatório, que resultará em projeto a ser relatado pelo senador Eduardo Gomes (PL-TO). A jurista Laura Schertel Mendes, professora de direito civil, é a relatora da comissão, e o presidente é o ministro Ricardo Villas Bôas Cueva, do Superior Tribunal de Justiça (STJ).

Ao abrir o seminário, Eduardo Gomes confirmou a prorrogação do prazo da comissão em mais 120 dias e disse que o trabalho do colegiado vai oferecer subsídios à elaboração do projeto substitutivo que o Senado preparará aos projetos de lei já aprovados na Câmara dos Deputados.

— É inegável a magnitude da importância que os recursos eletrônicos têm na vida humana. No Brasil, há hoje duas vezes mais dispositivos digitais do que pessoas. (...) Faz-se necessário um arcabouço robusto a dar suporte a esse incrível desenvolvimento tecnológico — apontou o senador.

Segundo o ministro Villas Bôas Cueva, o debate acerca da conveniência de se regular a inteligência artificial divide opiniões. Enquanto há “um fundado receio de que haja interferência estatal”, por outro lado “há a preocupação de que a falta de um marco legal possa perpetuar a insegurança jurídica, desencorajando investimentos”, avaliou.

Regulação da AI e democracia

O seminário internacional foi dividido em três painéis nesta quinta-feira. O primeiro tratou do tema “Democracia e direitos fundamentais: fundamentos da regulação de Inteligência Artificial”. 

Professor de direito e inovação na Bucerius Law School, em Hamburgo, Wolfgang Hoffmann-Riem disse que é preciso se organizar para trabalhar com harmonia e transparência, no intuito de criar leis que possam alcançar todas as dimensões do tema, de forma a não se correr riscos desnecessários.

Deve haver, segundo o professor, uma legislação que se oriente não apenas nos riscos, mas na questão de proteção de dados e dos cidadãos. Para Hoffmann-Riem, a autorregulamentação não pode estar presente.

— Os sistemas de inteligência artificial não podem ultrapassar os direitos dos cidadãos. (...) O Estado tem de trabalhar no controle e na cooperação com o sistema de inteligência artificial.

A professora e pesquisadora na Vrije Universiteit Brussels (VUB) Mireille Hildebrandt apresentou detalhamento para os sistemas de alto risco e tratou da importância de se regular o sistema de responsabilização.

— Temos de ter um sistema de gestão de risco, para garantir que não haja nenhum direito individual violado. Com documentação técnica detalhada e uma regulamentação do mercado.

Os impactos que a inteligência artificial pode exercer sobre os direitos humanos e individuais, seus propósitos e quem são os beneficiários dessa tecnologia foram questões levantadas pela advogada e diretora-executiva da Derechos Digitales (DD), Maria Paz Canales.

— É inalienável a obrigação que o Estado tem para a regulamentação desses sistemas. Precisamos observar uma proposta [de lei] que abranja todo os elementos que concretizem os princípios fundamentais. (...) As escolhas envolvidas na IA não podem ser tomadas sem um exercício aberto com o público — afirmou.

O professor na Universidade da Califórnia Stuart Russell fechou o painel. Ex-vice-presidente do Conselho de IA e Robótica do Fórum Econômico Mundial e ex-consultor da ONU para o controle de armas, ele lembrou que o direito mais fundamental é o direito à vida e ressaltou, assim como outros palestrantes, que o algoritmo nunca pode superar os direitos humanos.

Experiências comparadas

O segundo painel do dia tratou do tema “Desafios da regulação de Inteligência Artificial: experiências comparadas”.

A chefe da Caneles Política Setorial de IA da Comissão Europeia, Irina Orssich, e a diretora do Centro de Pesquisas em Proteção de Dados na Universidade de Frankfurt, Indra Spiecker, trouxeram ao seminário as experiências de regulamentação na Europa e os riscos associados.

Segundo Irina, em abril de 2018 a União Europeia implementou a primeira estratégia para as regras de regulamentação da IA no bloco.  

— Percebemos a IA como algo produtivo e, nesse espírito, desenvolvemos com quatro estados-membros um plano coordenado. Definimos as ações que poderíamos apoiar para contribuir para um ecossistema de inteligência artificial.

Em abril do ano passado, foi apresentado um pacote de IA, que oferece um rascunho de estrutura legal. A Comissão, o Conselho e o Parlamento Europeu elaboraram um texto final e espera-se que haja sua aprovação até o final do próximo ano.

— Queremos harmonizar as regras e as leis e, com essa abordagem de segurança, abordamos os temas de IA que estão no mercado, de forma que todos tenham de cumprir com as mesmas regras. (...) Estamos fazendo uma abordagem baseada em risco. Não queremos regular toda a tecnologia. É um ato horizontal, aplica-se igualmente a todos os setores.

Para Indra Spiecker, a IA lida com coisas que o ser humano não conseguiria, mas é uma tecnologia que tem seus efeitos colaterais. Para a professora, não se deve apenas cuidar da regulamentação, sendo preciso se preocupar também em colocá-la em vigor.

— De modo geral, o que precisamos é que tudo seja mais especifico para que possamos controlar o desenvolvimento da tecnologia — afirmou.

Membro do Conselho Futuro Global sobre Riscos de Fronteira do Fórum Econômico Mundial, o advogado e pesquisador Jake Okechukwu Effoduh destacou que o Brasil é o primeiro país na América Latina e no Caribe a elaborar uma legislação de IA e que pode vir a servir como exemplo para os países africanos.

Para Effoduh, a legislação brasileira deve reforçar os direitos fundamentais e oferecer informações sobre os impactos e danos que essa tecnologia pode causar.

Professor e chefe de departamento no Instituto Universitário Europeu (EUI), Hans Wolfgang Micklitz salientou a preocupação com o consumidor no Brasil, diferentemente do que ocorre na legislação da União Europeia.

— Aqueles que estão usando a tecnologia devem mostrar que não estão exercendo uma influência sobre o consumidor — afirmou Micklitz.

O último painel do dia tratará, a partir das 14h, da “Transparência, viés e devido processo na tomada de decisão automatizada”. Nesta sexta-feira (10), o seminário continua com mais quatro painéis, com início às 9h.

O seminário internacional está sendo transmitido pelo canal da TV Senado no YouTube.