AI Act e o Risco de Utilização

AI Act e o Risco de Utilização

A utilização de IA será avaliada segundo um nível de risco.

A utilização de alto risco é avaliada quanto aos seus potenciais danos para a saúde, segurança, direitos fundamentais, ambiente, democracia e Estado de direito.

Como exemplos de utilização de alto risco destaca-se a área da educação e formação profissional, os serviços públicos e privados essenciais (cuidados de saúde, serviços bancários etc), justiça e controlo de fronteiras, e processos democráticos (em que se previne a manipulação de eleições).

Passa a ser essencial que se avalie e reduza riscos, se mantenham registos de utilização, haja transparência e, por último, mas não menos importante, que haja sempre uma supervisão humana.

Começa aqui a ser preconizado juridicamente o princípio de que a inteligência natural tem sempre de supervisionar a inteligência artificial.

É ainda possível que os cidadãos apresentem queixas relativamente às ferramentas de IA, tendo o direito de obter explicações quantos às decisões baseadas em sistemas de IA de alto risco que afetem os seus direitos.

A transparência passa a ser a base de tudo. Ferramentas de IA de uso geral (GPAI), tais como o ChatGPT, terão de cumprir determinados requisitos, incluindo a conformidade com a legislação europeia sobre direitos de autor, tendo também de apresentar relatórios detalhados sobre os dados a que recorrem. Tal reflete a preocupação crescente com a ética e responsabilidade no desenvolvimento e na implementação de ferramentas de IA.

O Regulamento do “AI Act” ainda está sujeito a uma verificação final jurídico-linguística sendo definitivamente adotado antes do final da legislatura (maio de 2024).

Entrará em vigor 20 dias após a sua publicação no Jornal Oficial da União Europeia e será plenamente aplicável 24 meses após a sua entrada em vigor, com exceção das proibições regulamentares impostas (uso condicionado de sistemas de identificação biométrica, entre outras) que serão aplicáveis 6 meses após a sua entrada em vigor; códigos de conduta (9 meses após a sua entrada em vigor); regras de IA genéricas (12 meses); e obrigações para sistemas de alto risco (36 meses).

O que acham? Acompanhará o Direito o crescimento da inteligência artificial?