Resumo
- A regulação divide os sistemas de IA em níveis de risco — desde os “inaceitáveis” (proibidos) até aos “mínimos” (livres de obrigações).
- Um dos pilares da legislação é a obrigatoriedade de transparência algorítmica — os utilizadores devem saber quando estão a interagir com uma IA, e as empresas devem documentar o funcionamento interno dos sistemas de alto risco.
- O Observatório Europeu da IA, criado com financiamento da UE, está a formar auditores cívicos para verificar o cumprimento da lei.
Nova legislação europeia impõe limites éticos à inteligência artificial, mas especialistas alertam: sem fiscalização robusta, os princípios não bastam.
Foi aplaudido como o mais ambicioso esforço legislativo global para domar os riscos da inteligência artificial. O AI Act, aprovado este ano pelo Parlamento Europeu, estabelece um quadro de princípios éticos, limites de risco e sanções para usos abusivos da IA. Mas há uma pergunta inquietante que ecoa em toda a União: estará a Europa pronta para aplicar o que aprovou?
A regulação divide os sistemas de IA em níveis de risco — desde os “inaceitáveis” (proibidos) até aos “mínimos” (livres de obrigações). Entre os alvos estão aplicações para reconhecimento facial em espaços públicos, sistemas de pontuação social, e modelos de linguagem usados para manipulação política. Em teoria, o continente deu um passo histórico para alinhar tecnologia com direitos humanos. Mas a prática levanta dúvidas.
Da norma ao enforcement: o caminho estreito
Para os decisores políticos, a entrada em vigor do AI Act é apenas o começo. “A lei é clara, mas falta músculo institucional para a aplicar”, admite Sophie Laurent, membro da Unidade de Regulação de IA da Comissão Europeia. Cada Estado-membro deverá designar uma autoridade nacional de fiscalização — mas nem todos o fizeram, e a formação técnica dos inspectores é escassa.
“A tecnologia evolui mais rápido do que a burocracia”, adverte o jurista português Diogo Ferreira, perito em governança digital. “Sem auditorias independentes, acesso ao código-fonte e poderes sancionatórios reais, o AI Act corre o risco de ser mais simbólico do que transformador.”
Transparência e rastreabilidade: promessa ou ilusão?
Um dos pilares da legislação é a obrigatoriedade de transparência algorítmica — os utilizadores devem saber quando estão a interagir com uma IA, e as empresas devem documentar o funcionamento interno dos sistemas de alto risco.
Na prática, isso implica a criação de registos públicos, testes de segurança e relatórios de impacto. Mas as grandes tecnológicas têm resistido, alegando segredos comerciais. “Não se pode exigir confiança cega do público e ao mesmo tempo recusar escrutínio”, argumenta Julia Fuchs, da Aliança Europeia para a IA Ética.
A batalha da soberania tecnológica
O AI Act é também um teste à soberania digital da Europa. Numa altura em que os gigantes tecnológicos são maioritariamente norte-americanos ou chineses, a capacidade de impor regras no próprio território é um acto político de afirmação.
“A Europa decidiu que não aceita o determinismo tecnológico”, diz Fuchs. “Queremos inovação, mas sem sacrificar os direitos fundamentais.” No entanto, a fragmentação regulatória e as pressões industriais ameaçam esse equilíbrio.
Vozes da academia e da sociedade civil
Nos bastidores, universidades e ONG trabalham para acompanhar o processo. O Observatório Europeu da IA, criado com financiamento da UE, está a formar auditores cívicos para verificar o cumprimento da lei. “É preciso uma nova literacia ética e digital, tanto para técnicos como para cidadãos”, afirma Teresa Pinto, investigadora do ISCTE.
Para muitos, o AI Act será tão forte quanto a vontade colectiva de o fazer cumprir. “Não se trata apenas de regular tecnologia — trata-se de proteger o que somos enquanto sociedade”, resume Pinto.
