A Europa chegou nessa sexta-feira (8) a um acordo provisório sobre regras históricas da União Europeia (UE) para reger o uso de inteligência artificial (IA), incluindo a utilização pelos governos na vigilância biométrica e a regulação sistemas como o ChatGPT.

Com o acordo político, a UE caminha para se tornar a primeira grande potência mundial a promulgar leis que regem a IA. O acordo entre os países do bloco e os membros do Parlamento Europeu foi firmado após quase 15 horas de negociações que se seguiram a um debate de quase 24 horas no dia anterior.

Os dois lados deverão discutir detalhes nos próximos dias, o que poderá mudar a forma da legislação final.

O acordo exige que modelos básicos como ChatGPT e sistemas de IA de uso geral (GPAI, na sigla em inglês) cumpram as obrigações de transparência antes de serem colocados no mercado. Essas obrigações incluem a elaboração de documentação técnica, o cumprimento da legislação da UE em termos de direitos autorais e a divulgação de resumos detalhados sobre o conteúdo utilizado nos treinamentos dos modelos.

Os modelos básicos de alto impacto com risco sistêmico terão de realizar avaliações de versões, analisar  e mitigar riscos sistêmicos, realizar testes de adversidades, reportar à Comissão Europeia incidentes graves, garantir a segurança cibernética e notificar sobre eficiência energética.

Os GPAI com risco sistêmico podem se basear em códigos de prática para cumprir o novo regulamento.

Sob o acordo, governos só podem utilizar a vigilância biométrica em tempo real em espaços públicos em casos de vítimas de determinados crimes, na prevenção de ameaças presentes ou previsíveis, como ataques terroristas, e na busca de suspeitos de crimes mais graves.

O acordo proíbe manipulação cognitivo-comportamental, eliminação indiscriminada de imagens faciais da internet ou de gravações de câmeras de segurança, criação de um ranking de pontuação social e sistemas de categorização biométrica para inferir crenças políticas, religiosas, filosóficas, orientação sexual e raça.

Os consumidores teriam sob o acordo o direito de fazer reclamações e receber explicações. As multas por violações devem variar entre 7,5 milhões de euros e 35 milhões de euros.

O grupo empresarial DigitalEurope criticou as regras como mais um ônus para as empresas, além de outra legislação recente.

“Temos um acordo, mas a que custo? Apoiamos totalmente uma abordagem baseada em risco, não na tecnologia em si, mas a tentativa de última hora de regular os modelos de base virou isto de cabeça para baixo”, afirmou a diretora-geral Cecilia Bonefeld-Dahl.

O grupo de direitos digitais European Digital Rights também fez críticas.

“É difícil ficar animado com uma lei que, pela primeira vez na União Europeia, tomou medidas para legalizar o reconhecimento facial público ao vivo em todo o bloco”, disse a conselheira política sênior, Ella Jakubowska.

“Embora o Parlamento tenha lutado muito para limitar os danos, o pacote global sobre vigilância biométrica e definição de perfis é, na melhor das hipóteses, morno.”

A legislação deverá entrar em vigor no início do próximo ano, assim que for ratificada pelas partes formalmente, e ser aplicada dois anos depois.

*É proibida a reprodução deste conteúdo.

Agência Brasil