EDPB & EDPS aprovam Proposta Conjunta para a Proibição do Uso de IA para Reconhecimento Automatizado

08.07.2021 – O Conselho Europeu de Proteção de Dados (EDPB) e a Autoridade Europeia para a Proteção de Dados (EDPS) anunciaram em 21 de junho de 2021 que aprovaram um parecer conjunto sobre a Proposta de Um Regulamento da Comissão Europeia que estabelece regras harmonizadas sobre inteligência artificial (IA).

Na verdade, as entidades querem vetar o reconhecimento facial de alguém por meio do uso da IA em um espaço público. As entidades alegam que implantar identificação biométrica remota em espaços acessíveis ao público significa o fim do anonimato nesses lugares. Aplicações como o reconhecimento facial ao vivo interferem em direitos e liberdades fundamentais a tal ponto que podem colocar em questão a essência desses direitos e liberdades.

Dessa forma, isso exigiria uma aplicação imediata da abordagem de precaução. Uma proibição geral do uso do reconhecimento facial em áreas de acesso público é o ponto de partida necessário se quisermos preservar nossas liberdades e criar um arcabouço legal centrado no ser humano para a IA. O regulamento proposto também deve proibir qualquer tipo de uso da IA para pontuação social, pois é contra os valores fundamentais da UE e pode levar à discriminação.

Todavia, o parecer das duas entidades não termina por aí, visto que existem ainda os seguintes posicionamentos:

1. a proibição de sistemas de IA que utilizam biometria para categorizar indivíduos em grupos com base na etnia, gênero, orientação política ou sexual, ou outros motivos sobre os quais a discriminação é proibida;
2. o uso da IA para inferir emoções de uma pessoa física é altamente indesejável e deve ser proibido, exceto para casos muito específicos, como alguns fins de saúde, onde o reconhecimento de emoções do paciente é importante; e
3. o uso de IA para qualquer tipo de pontuação social deve ser proibido.

O fato é que o reconhecimento facial, apesar do inegável apelo do desenvolvimento da tecnologia, tem gerado bastante controvérsia por parte de estudiosos do tema, reguladores e empresas que atuam nesse segmento. Um dos gigantes, Google, estabelece em um documento sobre o reconhecimento facial que a tecnologia relacionada ao rosto:

1. Precisa ser justo e por isso não deve reforçar ou amplificar os preconceitos existentes, especialmente onde isso possa impactar grupos sub-representados;
2. Não deve ser usada em vigilância que viole as normas internacionalmente aceitas; e
3. E precisa proteger a privacidade das pessoas, fornecendo o nível certo de transparência e controle.

Por outro lado, o próprio documento do Google exemplifica os benefícios do reconhecimento facial, como, por exemplo, que apenas a pessoa certa tenha acesso a informações confidenciais destinadas a ela ou ainda, a luta contra o tráfico de menores.

Novamente, o Google traz 5 (cinco) questões que devem ser consideradas em produtos e aplicativos envolvendo reconhecimento facial:

1. uso pretendido;
2. notificação, consentimento e controle;
3. coleta, armazenamento e compartilhamento de dados;
4. desempenho e design do modelo; e
5. interface do usuário.

A questão crucial de natureza técnica, no entanto, é que os critérios para se determinar se o software ou o equipamento que executa o reconhecimento facial é preciso ou não, são consideravelmente difíceis de se estabelecer. Porém a despeito dos aspectos técnicos, a questão relevante que se impõe é se o Estado teria o direito de rastrear alguém em espaços públicos, podendo estabelecer itinerários e acabar exercendo um controle opressivo sobre determinado indivíduo.

Seja como for, o posicionamento das entidades europeias causa preocupação na área de segurança, especialmente em locais onde procura-se identificar violadores da lei em fuga, tais como aeroportos e rodoviárias. A proibição total certamente será um duro golpe para as forças de segurança europeias.