Analysis of the Resolution of the European Parliament, from October 20th 2020, and the Proposal for a Directive Of The European Parliament and of the Council on adapting non-contractual civil liability rules to artificial intelligence (AI Liability Directive)

1. Introdução
O presente estudo debruça-se sobre dois textos comunitários. O problema geral da conexão entre inteligência artificial[1] e responsabilidade civil será analisado, pois, sob o prisma destes documentos[2], que emergiram do processo regulatório encetado pelo legislador da União e de que a recém aprovada proposta de Regulamento sobre Inteligência Artificial é um marco especialmente relevante. Não se tratam outras questões, relativas a problemas éticos ou de propriedade intelectual. 
Tão-pouco se abordarão as recentes alterações ao regime da responsabilidade do produtor[3], apesar de estas apresentarem uma particular afinidade com a matéria estudada, atendendo ao processo legislativo que lhes subjazeu. Com efeito, a ideia de reformar a Directiva 85/374, por forma a que aquela abarcasse também os sistemas de IA, antecedeu no tempo a apresentação da proposta de Regulamento IA. O objectivo de reformar a Directiva veio a resultar na proposta de revisão[4] apresentada em Setembro de 2022 (aprovada pelo Parlamento Europeu no passado dia 12 de Março) e que coincidiu com a apresentação da proposta de Directiva Responsabilidade Civil em matéria de IA. Tanto um como outro documentos surpreenderam os estudiosos e propiciariam interessante objecto de análise. Infelizmente, o tempo é escasso e a energia do autor limitada. Não querendo colocar-me fora do alcance sonoro do imperativo de Rilke[5], espero que os leitores mais críticos tenham indulgência relativamente à opção tomada.
As opiniões emitidas ficam circunscritas nos termos acima descritos. As normas referidas na secção 2 sem indicação da fonte legal provêm da Resolução; as mencionadas na secção 3, da Directiva. No mais, usaram-se as abreviaturas habituais.
 
 
2. A Resolução do Parlamento Europeu, de 20/10/2020[6]
2.1. Âmbitos Subjectivo e Objectivo
Na Resolução, o operador é o maior visado: em concretização do Considerando 8 (“… quem cria, mantém ou controla o sistema de IA, ou nele interfere, deverá ser responsável pelos danos ou prejuízos causados…”), dirigem-se-lhe a maioria das normas responsabilizantes, máxime os artigos. 4.º e 8.º. A categoria do operador é dividida em duas espécies, operador de frontend[7]e operador de backend[8]. Ambas assentam na ideia de controlo sobre o risco relacionado com o funcionamento do sistema, o que evoca os deveres no tráfego ou de prevenção do perigo[9].
O produtor[10] também é visado, embora lhe caiba apenas um dever de cooperação e de fornecimento de informações para com o operador ou o lesado (artigo 8.º, n.º 4). 
Quanto à pessoa lesada[11], a única norma que lhe é dirigida é a que se reporta à sua conduta culposa (artigo 10.º)[12]. Esta permite reduzir ou até excluir a responsabilidade do operador. 
Já o utilizador do sistema de IA está praticamente ausente da Resolução, figurando apenas no Considerando 11, que estabelece que, se ele estiver envolvido no evento danoso, só responderá se, além de utilizador, for igualmente operador.
O artigo 2.º delimita o campo de aplicação objectivo. Neste ponto, é especialmente relevante o n.º 1[13], que elenca (de forma aparentemente taxativa, até porque o artigo 5.º tem por referência estes bens jurídicos) a vida, a saúde, a integridade física e o património como os bens jurídicos cuja afectação justifica a responsabilização do operador, bem como as situações em que haja “danos não patrimoniais significativos que resultem numa perda económica verificável”[14]. A solução é similar à do BGB[15], e esclarece igualmente que o tipo de responsabilidade relevante para efeitos deste diploma é a extracontratual.
A estatuição do n.º 2 também é importante, já que comina com nulidade[16] todo o acordo entre operador do sistema e pessoa lesada que “contorne ou limite os direitos e obrigações estabelecidos no presente regulamento” [17].
Finalmente, o n.º 3 ressalva que outras acções de responsabilidade (decorrentes de relações contratuais ou de outra regulamentação) não ficam prejudicadas pelo diploma.
 
 
 
2.2. Sistemas de Alto Risco[18]
O documento dedica capítulos (e soluções) diferentes a sistemas de IA de alto risco e a outros sistemas de IA[19]. Para os primeiros, consagra uma responsabilidade objectiva (artigo 4.º, n.º 1) da qual os operadores só se podem eximir mediante prova de motivo de força maior (artigo 4.º, n.º 3). Estabelece-se, ainda, a obrigatoriedade[20] de cobertura por seguro de responsabilidade civil de todas as operações do sistema de IA e de todos os serviços prestados (artigo 4.º, n.º 4), de forma adequada aos limites indemnizatórios previstos no artigo 5.º. 
Esses montantes são elevados: dois milhões de euros, em caso de morte ou de danos à saúde ou integridade física; um milhão de euros, nas hipóteses de danos ao património e de danos não patrimoniais de que resulte perda económica verificável[21]. Estes limites aplicam-se mesmo que haja múltiplos lesados e, se ultrapassados, os valores devidos a cada um (dos lesados) são reduzidos proporcionalmente (artigo 5.º, n.º 2). Contudo, se o montante dos danos for inferior a 500 euros não há lugar a indemnização. 
Sendo possível que o justo montante indemnizatório ultrapasse significativamente estes limites (tratar-se-ão de casos excepcionais em que haja, por exemplo, danos colectivos), o Considerando 22 incentiva os Estados-Membros a criar um fundo especial para colmatar esses casos. Propõe-se também a criação de fundos de compensação para as hipóteses em que um sistema de IA ainda não classificado como sendo de alto risco e, portanto, ainda não segurado, provoque danos.
O artigo 6.º (epigrafado “Cálculo da indemnização”) deixa algumas dúvidas. Não só se aproxima de uma norma típica de acidentes de trabalho[22] como não contém, na verdade, qualquer indicação acerca de como se deve calcular o montante indemnizatório[23]. A nosso ver, a norma fixa certas prestações que devem absolutamente ser prestadas, cabendo o método do referido cálculo às legislações nacionais. 
De todo o modo, somada à obrigatoriedade de seguro e à consagração de uma responsabilidade objectiva, esta norma revela os vectores principais da Resolução: o primado da reparação do lesado e a socialização do risco inerente aos sistemas de alto risco[24].
Por último, estabelecem-se prazos de prescrição alargados: para acções relativas a danos à vida, saúde ou integridade física, 30 anos; para as demais, 10 anos desde a data em que ocorreram os danos ou 30 anos desde a data em que teve lugar a operação do sistema de IA que mais tarde os causou, aplicando-se o prazo que terminar primeiro (artigo 7.º).
 
 
2.3. Outros Sistemas de IA
Para os outros sistemas de IA, a Resolução prevê uma responsabilidade dependente de culpa, que se presume de forme ilidível (artigo 8.º, n.º 1 e 2). As formas de ilidir[25] a presunção reportam-se de novo à ideia de prevenção de perigo, pois remetem para a tomada das medidas razoáveis e necessárias e para a observação da devida diligência pelo operador. Exclui-se a responsabilidade em caso de força maior, mas não se a lesão tiver sido causada por uma actividade, dispositivo ou processo autónomos baseados no sistema de IA. Pode, como tal, falar-se numa “responsabilidade subjectiva agravada”[26].
O artigo 8.º, n.º 3, fugindo à regra, estabelece uma responsabilidade objectiva por factos alheios[27], impondo ao operador um dever de indemnizar mesmo que tenha sido um terceiro a interferir no sistema, caso este não seja localizável ou não possua recursos financeiros; mais uma vez, o risco associado aos sistemas de IA é tido como suficiente para justificar indemnizações em situações em que, à partida, ela não seria devida, recaindo sobre o operador os encargos associados a esse risco[28].
O prazo de prescrição e o cálculo e limites da indemnização devem ser fixados pela legislação nacional (art. 9.º).
 
 
2.4. Imputação de Responsabilidades
O Capítulo IV contempla disposições comuns. O artigo 10.º, como se referiu, prevê a culpa do lesado como causa de redução ou exclusão da responsabilidade do operador. 
O artigo 11.º, por seu turno, estabelece a responsabilidade solidária entre operadores, caso haja mais do que um, gozando o operador que cumprir totalmente de direito de regresso sobre os demais (artigo 12.º, n.º 2); a acção de regresso, porém, só pode ser intentada após o lesado ter recebido na íntegra a indemnização, o que novamente demonstra a importância atribuída ao ressarcimento do lesado. Nas relações internas, as proporções de responsabilidade não se baseiam na culpa de cada um (como sucede, por exemplo, ao abrigo do artigo 497.º, n.º 2 do CC), mas nos respectivos níveis de controlo sobre o risco. 
Os n. ^os 3 e 4 do artigo 12.º consagram alguns direitos em benefício de quem pagar a indemnização. Caso esta seja satisfeita pelo operador, ele pode intentar acção contra o produtor do sistema defeituoso, nos termos da Directiva 85/374/CEE e da legislação nacional relevante. Caso seja a seguradora a cumprir, fica sub-rogada em qualquer acção de responsabilidade civil do lesado contra outrem pelos mesmos danos, até ao montante em que tiver indemnizado o lesado. Fixa-se ainda a primazia da Resolução sobre a Directiva relativa à responsabilidade decorrente dos produtos.
 
 
3. A Proposta de Directiva Responsabilidade Civil em Matéria de IA, da Comissão e do Parlamento
3.1. Âmbitos Subjectivo e Objectivo
A proposta de Directiva substitui a figura do operador pela do fornecedor (artigo 2.º, n.º 3). Este é definido no artigo 3.º, n.º 2 do Regulamento IA[29] (para o qual a proposta de Directiva remete), em termos que se afastam da ideia de controlo do perigo[30] e se aproximam de uma definição mais económica, já que o que distingue o fornecedor é a colocação do sistema no mercado ou em serviço sob nome ou marca próprios. Outra mudança é o protagonismo acrescido do utilizador, também definido por remissão para o Regulamento IA (artigo 2.º, n.º 4) [31]. Com efeito, tanto o artigo 3.º como o artigo 4.º se lhe dirigem especificamente. Apagou-se, ainda, o lesado como categoria autónoma, passando a estar englobado na categoria geral de demandante[32].
Do ponto de vista subjectivo, é também de ressalvar que as remissões para o Regulamento IA obrigam a harmonizar os âmbitos dos dois documentos. O Regulamento IA aplica-se a fornecedores que coloquem no mercado ou em serviço sistemas de IA no território da União, independentemente de estarem fisicamente presentes ou estabelecidos na União ou num país terceiro; a utilizadores de sistemas de IA que estejam fisicamente presentes ou estabelecidos na União; a fornecedores e utilizadores de sistemas de IA que estejam fisicamente presentes ou estabelecidos num país terceiro, se o resultado produzido pelo sistema for utilizado na União; a importadores e distribuidores de sistemas de IA; a fabricantes de produtos que coloquem no mercado ou coloquem em serviço um sistema de IA juntamente com o seu produto e sob o seu próprio nome ou marca; a mandatários dos prestadores, que estejam estabelecidos na União.
Quanto ao âmbito objectivo, cai, na proposta, não só a enumeração dos danos relevantes[33] como, de modo geral, a ambição de estabelecer um regime completo de responsabilidade civil. De facto, resulta do artigo 1.º, n.º 1 que os únicos pontos que se pretende regular são a divulgação de elementos de prova e o ónus da prova. Além disso, fica claro no artigo 1.º, n.º 2 que o escopo da proposta de Directiva são acções de responsabilidade civil extracontratual e culposa. Fica, assim, excluída a regulação de uma responsabilidade objectiva ao nível da União. Por detrás destas alterações está um princípio de intervenção mínima, como se refere nos Considerandos 10 e 14. 
Evidentemente, permite-se aos Estados-Membros adoptar regras mais favoráveis para os demandantes (artigo 1.º, n.º 4). Todavia, não é claro se esta estipulação visa firmar um âmbito de protecção mínimo, que corresponderia ao conteúdo da proposta de Directiva, podendo os tribunais nacionais aplicar o direito interno se ele fosse mais favorável para o lesado, ou se nos casos abrangidos pelo âmbito da proposta é obrigatória a sua aplicação[34].
Merecem menção mais dois pontos. Primeiro, que este regime não prejudica a aplicação da responsabilidade do produtor ou dos prestadores intermediários de serviços (artigo 1.º, n.º 3)[35]. Segundo, que o Regulamento IA não é aplicável aos utilizadores que sejam pessoas singulares e utilizem o sistema no âmbito de uma actividade pessoal e não profissional, com excepção do disposto no artigo 52.º do Regulamento.
 
 
3.2. Divulgação de Elementos de Prova  
O artigo 3.º encarrega os Estados-Membros de assegurar que os tribunais nacionais estão habilitados a ordenar ao fornecedor ou utilizador a divulgação de elementos de prova[36], sob pena de se presumir[37] (de forma ilidível: artigo 3.º, n.º 5) que o demandado não cumpriu um dever de vigilância[38] pertinente e que os elementos de prova solicitados se destinavam a provar. Esta possibilidade conhece, contudo, restrições (excessivas). Por um lado, só é admitida se o potencial demandante já tiver feito o pedido de divulgação de forma extrajudicial, e ele tiver sido recusado, e tiver feito todas as tentativas proporcionadas para recolher os elementos em causa; este tem ainda de apresentar factos e elementos de prova suficientes para fundamentar a plausibilidade da acção de indemnização (artigo 3.º, n.º 1 e 2). Por outro, a norma salvaguarda outros interesses legítimos (como segredos comerciais e informações confidenciais), que podem limitar a divulgação (artigo 3.º, n.º 4). Já as outras “limitações” deste n.º 4, como a circunscrição da divulgação ao que for considerado necessário e proporcionado para fundamentar uma potencial acção e a necessidade de assegurar que a pessoa a quem a ordem de divulgação se dirige tem as vias de recurso adequadas, parecem razoáveis.
 

3.3. Ónus da Prova do Nexo de Causalidade
O artigo 4.º, que consagra uma presunção[39] ilidível de nexo de causalidade, retoma a dicotomia entre sistemas de IA de alto risco e outros sistemas de IA. O preceito começa, no n.º 1, por estabelecer as três condições cuja verificação é necessária para que a presunção opere. Primeiro, tem de haver culpa do demandado (que pode ser provada ou presumida, ao abrigo do artigo 3.º, n.º 5) ou de “pessoa por cujo comportamento o demandado é responsável”[40]. O juízo acerca da culpa está restringido, pela parte final da alínea, ao incumprimento de deveres de diligência (os do artigo 3.º, n.º 9) que se destinem directamente a proteger contra o dano ocorrido; parece, portanto, que considerações típicas de ilicitude contaminam a aferição da culpa. Em segundo lugar, tem de ser razoavelmente provável, com base nas circunstâncias do caso, que o facto culposo tenha influenciado o resultado. É uma condição algo esdrúxula quando comparada com as soluções adoptadas noutras áreas jurídicas em que a dificuldade de provar o nexo causal conduziu a inversões probatórias No direito ambiental, por exemplo, tem-se recorrido a uma de duas alternativas: a consagração de presunções de causalidade ou a afirmação da suficiência de um nexo probabilístico[41]. O que não é, de todo, comum (e é o que se verifica aqui) é a probabilidade de haver nexo causal ser um pressuposto da efectividade da presunção de causalidade. Deste modo, a redacção não merece a nossa aprovação. Em terceiro lugar, o demandante tem de demonstrar que o resultado produzido pelo sistema de IA (ou a incapacidade do sistema de produzir certo resultado) deu origem ao dano[42].
A partir destas condições gerais, a norma desenvolve algumas exigências adicionais. No n.º 2, dirigido a fornecedores de sistemas de risco elevado sujeitos aos requisitos estabelecidos no título III, capítulos 2 e 3, do Regulamento IA[43] e a qualquer pessoa que tenha as obrigações dedicadas neste Regulamento ao fornecedor[44], dispõe-se que a culpa do demandado só fica provada se se demonstrar que este não incumpriu as alíneas do n.º 2[45]. Estas reportam-se a exigências de transparência e de qualidade na utilização de dados, à possibilidade de supervisão humana e de exactidão, solidez e cibersegurança e à necessidade de tomar imediatamente as medidas correctivas necessárias a rectificar o sistema ou retirá-lo do mercado. Por conseguinte, inverte-se o paradigma da Resolução de 2020: se nesta havia uma responsabilidade objectiva para o operador de sistemas de IA de alto risco, na proposta de Directiva a sua responsabilidade é subjectiva e limitam-se as formas de provar a sua culpa. Igual limitação opera o n.º 3, que visa as acções intentadas contra utilizadores de sistemas de IA de alto risco sujeitos aos mesmos requisitos. Ou o utilizador não usou o sistema de IA de acordo com as instruções de utilização nem interrompeu a sua utilização ou expôs o sistema a dados de entrada que não são pertinentes à luz da finalidade do sistema. 
Os restantes n. ^os do artigo servem igualmente para limitar as condições inicialmente previstas no n.º 1, mas em relação à presunção de culpa decorrente da não divulgação de elementos de prova. Se a acção disser respeito a sistemas de alto risco, a presunção não se aplica se o demandado demonstrar que estão razoavelmente acessíveis ao demandante elementos de prova e conhecimentos especializados suficientes para provar o nexo de causalidade (artigo 4.º, n.º 4); se respeitar a outros sistemas de IA, a presunção só é aplicável se o tribunal considerar excessivamente difícil para o demandante provar o nexo de causalidade[46] (artigo 4.º, n.º 5); se for intentada contra um demandado que tenha usado o sistema de IA no âmbito de uma actividade puramente pessoal e não profissional, a presunção só é aplicável se o demandado tiver interferido substancialmente no funcionamento do sistema ou se tivesse a obrigação e a capacidade de determinar o modo de funcionamento e o não tivesse feito (artigo 4.º, n.º 6). Como já se disse, a presunção é ilidível (artigo 4.º, n.º 7).
Em balanço, diríamos que o regime é demasiado complexo, constituindo um obstáculo aos objectivos de segurança jurídica assumidos pelo legislador (Considerandos 6 e 7)[47]. Para mais, lamenta-se que se tenha abdicado de um paradigma, assente na responsabilidade objectiva e no seguro obrigatório para sistemas de alto risco, que se mostrava mais adequado à realidade com que a lei procura lidar[48].
 
 
4. Crítica Doutrinal 
O professor Henrique Sousa Antunes tomou uma posição assaz crítica da Resolução[49]. Por um lado, porque entende que ela desfavorece o lesado injustificadamente, atendendo a que a responsabilidade por veículos e do produtor não contempla qualquer distinção de regimes de responsabilidade de acordo com o grau de perigosidade do objecto[50]. Por outro, por lhe parecer que a disciplina consagrada está “dessintonizada”[51] da responsabilidade civil clássica. E, por outro ainda, porque ao contrário do que fora sugerido na Resolução de 2017[52] não prevê a consagração da personalidade electrónica (Considerando 6)[53] e só admite a intervenção de fundos de compensação em casos limitados e com competência supletiva (Considerando 22). 
Relativamente à proposta de Directiva, sublinha que os seus benefícios parecem limitados aos sistemas de IA de risco médio ou baixo, notando-se uma certa indiferença para com a protecção dos lesados em comparação com a que é conferida noutros regimes da União[54], nomeadamente a proposta de alteração à responsabilidade do produtor[55]. Questiona também porque motivo é que a Comissão seguiu uma via que contradiz a que vinha sendo trilhada pelo Parlamento e pela própria Comissão[56]. Finalmente, critica a pouca importância conferida ao princípio da precaução, excessivamente sacrificado em relação ao princípio da inovação[57].
A professora Elsa Vaz de Sequeira também se pronunciou sobre o tema, alertando para os problemas de causalidade alternativa (hipóteses em que, embora se saiba que todos os envolvidos no processo desrespeitaram as regras aplicáveis, não é possível determinar qual das condutas foi a causa do dano)[58]. Na Resolução, o artigo 11.º não os resolve de forma inequívoca; e, na proposta de Directiva, não se versou sequer sobre a questão.  Esta lacuna é especialmente gravosa no ordenamento português, que não contempla uma resposta para ela, ao contrário do que sucede, por exemplo, no alemão (§ 830 do BGB)[59].
Já a professora Mafalda Miranda Barbosa, além de propugnar a aplicação da sua tese da causalidade como imputação a partir de esferas de risco[60], assinala a importância de a responsabilidade abranger as sucessivas actualizações de segurança e software que sejam necessárias[61]. Ademais, elogia vários pontos da Resolução, como a definição de critérios de imputação baseados no risco, a consagração de um regime de responsabilidade objectiva e a criação de fundos de compensação de carácter subsidiário[62]. Quanto à proposta de Directiva, tece um comentário desfavorável sobre a forma como a presunção do nexo de causalidade está redigida[63] e sublinha a importância das disposições do Regulamento IA; é que, ao afastar-se a responsabilidade assente no risco, estas disposições fixam deveres, podendo funcionar como disposições legais de protecção de interesses alheios (o que permitiria desvelar a ilicitude, sempre que não haja violação de direitos absolutos, e facilitar a prova da culpa)[64]. Em geral, porém, a professora vinca que os modelos tradicionais de responsabilidade civil podem ser insuficientes para tratar adequadamente a IA[65] e que, em todo o caso, se impõe a previsão de uma hipótese de responsabilidade objectiva (se não pela União Europeia, pelos legisladores nacionais)[66].
Além destes Autores, também Joana Ribeiro de Faria se pronunciou negativamente sobre a proposta de Directiva, já que, no seu entender, ela não resolve o problema de evitar que a responsabilidade dependa da identificação clara, por parte do credor, de uma falha que se encontra na esfera de domínio do devedor. Para a Autora, a questão ficaria resolvida com uma inversão do ónus da prova da ilicitude[67].
Ademais, e embora não a tenhamos consultado em abundância, a doutrina estrangeira parece-nos largamente coincidente com a nacional. Mesmo havendo quem não considere a responsabilidade objectiva adequada a todos os tipos de riscos[68] ou de contextos[69], esta é claramente a modalidade preferencial (por vezes, associada a seguros)[70].
Por último, também o Supervisor Europeu de Protecção de Dados emitiu uma opinião acerca da proposta de Directiva. Começando por se mostrar agradado com o propósito da Comissão de assegurar que as vítimas de danos causados por IA tenham o mesmo nível de protecção que as demais vítimas de danos (Considerandos 3 e 7 da proposta)[71], algo que poderia não suceder ao abrigo das normais regras de responsabilidade civil (atendendo à “opacidade, autonomia, complexidade, adaptação contínua e imprevisibilidade” dos sistemas de IA), a opinião emitida procede da seguinte forma[72]: critica a proposta por não ser aplicável às instituições da União Europeia, colocando em posição desfavorável as pessoas lesadas por sistemas de IA produzidos e/ou utilizados por essas instituições; recomenda que a relação entre a proposta e o direito da protecção de dados seja clarificada; insta o legislador a eliminar a diferenciação de regimes entre sistemas de alto risco e outros sistemas, por forma a cumprir o objectivo delineado nos Considerandos 3 e 7, e a aliviar mais vincadamente o ónus da prova a cargo do lesado; sugere que seja contemplado um dever reforçado de informação para assegurar que o mecanismo de divulgação de informação (artigo 3.º) é eficaz[73]; e mostra preocupação perante a parte final do Considerando 15[74], por criar incerteza jurídica e permitir contornar as regras da proposta.
5. Conclusão
Em resumo, somos da opinião de que a orientação das instituições europeias é regressiva, no que concerne à tutela dos lesados, e contra produtiva, quanto aos fins de segurança jurídica, confiança das empresas e dos cidadãos e defesa do mercado único. Entendemos, grosso modo, que o modelo da Resolução de 2020, assente num regime de responsabilidade objectiva e secundado pela consagração de seguros obrigatórios e de um fundo de compensação de natureza subisidiária, repercutiria de forma mais justa os custos económicos do desenvolvimento de sistemas que, apesar de úteis à vida humana e à prosperidade das sociedades, implicam riscos e perigos que cabe à ordem jurídica regular.
 
 
Bibliografia
Andrade, Francisco C. P., “Análise Crítica de Alguns Aspectos da Proposta de Regulamento Europeu para a Inteligência Artificial”, inInteligência Artificial e Robótica, Coimbra, Gestlegal, 2022
Antunes, Henrique Sousa, “A Responsabilidade Civil Aplicável à Inteligência Artificial: Primeiras Notas Críticas Sobre a Resolução do Parlamento Europeu de 2020”, in Revista de Direito da Responsabilidade, Ano III, 2021, pp. 1-22
Antunes, Henrique Sousa, “Inteligência Artificial e Responsabilidade Civil: Enquadramento”, in Revista de Direito da Responsabilidade, Ano I, 2019, pp. 139-154
Antunes, Henrique Sousa, “Non-contractual liability applicable to artificial intelligence: towards a corrective reading of the European intervention”, in Social Sciences Research Network, 2023
Ataíde, Rui Paulo Coutinho de Mascarenhas, “Os Deveres no Tráfego”, in Revista de Direito da Responsabilidade, Ano 1, 2019, pp. 985-1003
Baptista, Joana Catarina Moreira, A Responsabilidade Civil pelos Danos Causados por Atos Autónomos da Inteligência Artificial, Braga, 2021
Barbosa, Mafalda Miranda, “O Futuro da Responsabilidade Civil Desafiada pela Inteligência Artificial: As Dificuldades dos Modelos Tradicionais e Caminhos de Solução”, in Revista de Direito da Responsabilidade, Ano 2, 2020, pp. 280-326
Barbosa, Mafalda Miranda, “Inteligência artificial, e-persons e direito: desafios e perspetivas”, in Direito e Robótica, Coimbra, Instituto Jurídico/Centro de Direito do Consumo, 2020, pp. 57-90
Barbosa, Mafalda Miranda, “Inteligência Artificial, Responsabilidade Civil e Causalidade”, in Revista de Direito da Responsabilidade, Ano 3, 2021, pp. 605-625
Barbosa, Mafalda Miranda, “Sistemas Autónomos e Responsabilidade: Autoria e Causalidade”, in Revista de Direito da Responsabilidade, Ano 4, 2022, pp. 1122-1173
Barbosa, Mafalda Miranda,  “Ainda o Futuro da Responsabilidade Civil pelos Danos Causados por Sistemas de IA”, in Revista de Direito da Responsabilidade, Ano 5, 2023, pp. 337-369
Barbosa, Mafalda Miranda, “Da Periferia para o Centro: Pode a Responsabilidade da IA Repercutir-se na Dogmática Delitual Geral?”, in Revista de Direito da Responsabilidade, Ano 5, 2023, pp. 754-778
Buiten, Miriam / Peitz, Martin / Streel, Alexandre de, EU liability rules in the age of Artificial Intelligence, CERRE, 2021
Cerka, Paulius / Grigiene, Jurgita / Sirbikyt, GintaRE, “Liability for damages caused by artificial intelligence”, in Computer Law and Security Review, 31, 2015, pp. 376-389
Chesterman, Simon, “Artificial Intelligence And The Limits Of Legal Personality”, in NUS Law Working Paper Series, 2020/025, 2020, pp. 819-844
Correia, Diana Filipa Duarte, O “R” de Robótica no “R” da Responsabilidade Civil: O paradigma da inteligência artificial, Lisboa, 2019
Dias, Jorge De Figueiredo et al, Comentário Conimbricense do Código Penal, Tomo I, 1.ª Edição, Coimbra, Coimbra Editora, 1999
Faria, Joana Ribeiro de, “A teoria das esferas do risco. A utilização de agentes eletrónicos no cumprimento dos contratos e a proposta de Diretiva de 28.09.2022 relativa à adaptação das regras de responsabilidade civil extracontratual à inteligência artificial”, in Revista de Direito Civil, Ano VIII, N.º 1, 2023, pp. 77-103
Ferreira, Ana Elisabete, “Responsabilidade civil extracontratual por danos causados por robôs autónomos: breves reflexões”, inRevista Portuguesa do Dano Corporal, N.º 27, 2016, pp. 39-63
Gonçalves, Anabela Susana de Sousa, “Inteligência Artificial e Responsabilidade Civil Transnacional”, in Inteligência Artificial e Robótica, Coimbra, Gestlegal, 2022, pp. 307-327
González, José A. R. L., “Responsabilidade por danos e Inteligência Artificial (IA)”, in Revista de Direito Comercial, 2020, pp. 69-112
Leitão, Luís Manuel Teles Menezes, “A Reparação de Danos Emergentes de Acidentes de Trabalho”, in Estudos do Instituto de Direito do Trabalho, Coimbra, Almedina, 2001, pp. 537 a 587
Maia, Ana Rita, “A Responsabilidade Civil na Era da Inteligência Artificial – Qual o caminho?”, Julgar, Maio de 2021
Martín Casals, Miquel, “Las propuestas de la Unión Europea para regular la responsabilidad civil por los daños causados por sistemas de inteligencia artificial”, in InDret, N.º 3, 2023, pp. 55-100
Matos, Filipe Albuquerque, “Responsabilidade por Danos Causados a Terceiros por Robôs”, in Direito e Robótica, Coimbra, Instituto Jurídico/Centro de Direito do Consumo, 2020, pp. 155-211
Muñoz García, Carmen, “Adaptar o reformular la Directiva 85/374 sobre responsabilidad por daños causados por productos defectuosos a la inteligencia artificial. Ultimas novedades”, in Rev. Crítica de Derecho Inmobiliario, N.º 793, Ano 2022, pp. 2886-2908
Navarro, María Luisa Atienza, “¿Una nueva responsabilidad por productos defectuosos? Notas a la Propuesta de Directiva del Parlamento Europeo y del Consejo sobre responsabilidad por daños causados por productos defectuosos de 28 de septiembre de 2022 (COM/2022/495)”, in InDret, N.º 2, 2023, pp. 1-53
Oliveira, Ana Perestrelo de, Causalidade e Imputação na Responsabilidade Civil Ambiental, 1.ª Edição, Coimbra, Almedina, 2007
Pagallo, Ugo, “Vital, Sophia, and Co.—The Quest for the Legal Personhood of Robots”, Information, MDPI, 2018
Pereira, Luís Gabriel Vicente Ribeiro, Responsabilidade Civil Delitual e Inteligência Artificial: (Re)Compreensão dos Requisitos do Nexo de Causalidade e da Culpa à Luz dos Danos Causados por Agentes Autónomos, Coimbra, 2023
Pires, Nuno Miguel Ramos, Inteligência Artificial no Governo das Sociedades Comerciais. Responsabilidade pelo Uso da Inteligência Artificial na Governação Societária, Coimbra, 2023
Pozzo, Barbara, “La Direttiva 2004/35/CE e il suo recepimento in Italia”, in Rivista Giuridica Dell’Ambiente, n.º 1, 2010, pp. 1-80
Sequeira, Elsa Vaz de, “Danos Causados por Sistemas de Inteligência Artificial: Contornos Gerais do Problema”, Revista de Direito da Responsabilidade, Ano 5, 2023, pp. 911-938
Silva, Nuno Sousa e, “Inteligência Artificial, Robots e Responsabilidade Civil: o que é que é diferente?”, Revista de Direito Civil, Ano IV, n.º 4, 2019, pp. 691-711
Sloterdijk, Peter, Tens de Mudar de Vida, Lisboa, Relógio D’Água Editores, 2018
Wendehorst, Christiane, “Strict Liability for AI and other Emerging Technologies”, Journal of European Tort Law, Volume 11, Issue 2, 2020, pp. 150-180
Zech, Herbert, “Liability for AI: public policy considerations”, ERA Forum, 2021, pp. 147-158
 
 
Outras Referências
Opinion 42/2023 on the Proposals for two Directives on AI liability rules, European Data Protection Supervisor (EDPS), in: https://edps.europa.eu/system/files/2023-10/23-10-11_opinion_ai_liability_rules.pdf (05.04.2024)
Ensaio de José Gil, in: https://www.publico.pt/2023/12/03/culturaipsilon/ensaio/jose-gil-ia-simples-pobres-felizes-2072038(05.04.2024)
 
 
Jurisprudência
Acórdão do STJ de 19/5/2015 (Júlio Gomes), inhttps://www.dgsi.pt/jstj.nsf/954f0ce6ad9dd8b980256b5f003fa814/307eba54a70c526980257e4a00536903?OpenDocument(05.04.2024)
Acórdão do TRC de 05/05/2015 (Maria João Areias), inhttps://www.dgsi.pt/jtrc.nsf/c3fb530030ea1c61802568d9005cd5bb/c1917ee8874cec1780257e49004e5cd5?OpenDocument(05.04.2024)