A proteção da pessoa na era dos big data: a opacidade do algoritmo e as decisões automatizadas

Inês da Silva Costa

Palavras-chave

Algoritmo; big data; decisões individuais automatizadas; definição de perfis; aprendizagem automática; proteção de dados.

Resumo

Na era dos big data, algoritmos inteligentes e opacos tomam decisões suscetíveis de produzir efeitos jurídicos significativos na esfera dos titulares dos dados, partindo de uma identidade ficcionada em função da sua pegada digital. O propósito desta investigação é o de testar a adequação da proteção conferida às pessoas singulares pelo regime jurídico das decisões automatizadas vertido no Regulamento Geral sobre a Proteção de Dados. Apresentadas as coordenadas gerais e os potenciais efeitos jurídicos lesivos de um mundo governado pelos dados e por algoritmos, procederemos a um breve enquadramento do Regulamento Geral sobre a Proteção de Dados e analisaremos criticamente as disposições relativas às decisões automatizadas, especialmente o alcance, sentido e natureza do direito à não sujeição a decisões automatizadas. Refletiremos ainda sobre a opacidade do algoritmo e sobre o eventual papel que um princípio da transparência poderá assumir para assegurar uma tutela plena e efetiva da pessoa, concretamente a partir do reconhecimento (ou não) de um direito a obter uma explicação relativa às decisões automatizadas.

Sumário

1. Introdução
2. A era dos big data 
2.1. Algoritmos, inteligência artificial e aprendizagem automática
2.2. O mercado dos big data e a definição de perfis
2.3. Benefícios e riscos
3. O Regulamento Geral sobre a Proteção de Dados
3.1. Bases legais para o tratamento de dados pessoais
a) Consentimento
b) necessidade do tratamento para efeito dos interesses legítimos
3.2. As categorias especiais de dados
4. Regime jurídico das decisões automatizadas
4.1. Artigo 22.º
a) O absoluto afastamento da intervenção humana?
b) Os efeitos da decisão automatizada
c) Natureza jurídica do direito de não sujeição
d) Exceções e garantias
4.2. Direito de oposição 
5. Da opacidade do algoritmo e do direito a obter uma explicação
5.1. Densificação do conceito de explicação: as “informações úteis” e a “lógica subjacente”
5.2. Da existência de um direito a obter uma explicação
6. Conclusão
Bibliografia