A INVESTIGAÇÃO E A INTELIGÊNCIA ARTIFICIAL. DESAFIOS ÉTICOS E JURÍDICOS

Graça Enes

Palavras-chave

investigação científica; inteligência artificial; IA; ética 

 

Resumo

A relação binómica IA-Investigação levanta alguns desafios éticos, que não devem ser ignorados pelos investigadores. Estes desafios não se limitam às questões que se colocam na utilização da IA ​​na investigação científica realizada no designado “sistema de investigação científica” ou nos diversos setores da investigação aplicada. As condições em que é realizada a investigação em IA, uma indústria dominada por um número limitado de grandes empresas tecnológicas e que é intensiva em investigação, devem também ser objeto de atenção. De facto, a indústria assumiu a liderança na investigação em IA e as duas dimensões estão cada vez mais intersecionadas, realidade ainda reforçada pela utilização dos modelos de IA de finalidade geral. O outro lado desta realidade é uma menor diversidade de investigação promovida pela indústria em relação à investigação promovida pela academia, incluindo no que diz respeito ao género. Para além dos desafios mais óbvios, como o risco de vieses, o respeito pela privacidade ou a responsabilização em sistemas de “caixa negra”, existem desafios no desenvolvimento da investigação em IA que são menos óbvios, nomeadamente uma ambivalência em relação à sustentabilidade, a exploração laboral no treino de sistemas de IA ou o desrespeito pela criação humana. A utilização da IA ​​na investigação científica tem um potencial óbvio de aceleração e precisão e é já significativa. Tanto a União Europeia, como os EUA e a China reconhecem-no e desenvolveram iniciativas para garantir que este potencial seja concretizado. Não obstante, têm sido evidenciados alguns problemas antigos, como a garantia da integridade científica, riscos para a afirmação do pensamento crítico e até riscos “apocalípticos”, como os de substituição de investigadores humanos. A resposta aos desafios, riscos e dilemas reside no escrutínio permanente e numa abordagem regulamentar multilateral e multinível ao longo de todo o ciclo de investigação e de utilização da IA, de acordo com valores humanistas.

Sumário

ISSN: 2975-836X