La norma serà aplicable obligatòria en els estats membre a partir del 2 d’agost de 2026, però s’avança al 2 de febrer de 2025 en alguns casos

---

El Diari Oficial de la UE (DOUE) ha publicat el Reglament (UE) 2024/1689, de 13 de juny, conegut com la Llei Europea d’Inteligència Artificial, que vol ser un marc regulador uniforme per a la introducció, comercialització i ús de sistemes d’intel·ligència artificial (IA) a la UE, garantint al mateix temps la protecció dels drets fonamentals, la seguretat i la salut. La norma serà aplicable obligatòria en els estats membre a partir del 2 d’agost de 2026, avançant-se al 2 de febrer de 2025 en el que concerneix a les pràctiques de IA prohibides que recull el capítol II de la norma

Punts claus de la Llei: 

1. Classificació dels Sistemes de IA: 

• La llei classifica els sistemes de IA en diferents nivells de risc: mínim, limitat, alt i inacceptable. Els sistemes d’alt risc estan subjectes a requisits estrictes de seguretat, transparència i supervisió humana.

• Es prohibeixen explícitament unes certes pràctiques de IA que es consideren inacceptables, com la manipulació subliminal que podria causar danys significatius i els sistemes de puntuació social a gran escala.

2. Requisits pels Sistemes d’Alt Risc: 

• Els sistemes classificats com d’alt risc hauran de complir amb normes rigoroses abans de ser comercialitzats o utilitzats. Això inclou la necessitat de comptar amb una avaluació de conformitat prèvia, un sistema de gestió de riscos continu, i assegurar-se de la qualitat i solidesa de les dades utilitzades.
• Els sistemes de IA en sectors crítics com a salut, seguretat, transport i ocupació es consideren d’alt risc i han de complir amb els estàndards específics establerts per la normativa.

3. Transparència i drets de l’usuari: 

• Els usuaris han de ser informats quan estiguin interactuant amb un sistema de IA, i han de rebre explicacions clares sobre les decisions automatitzades que puguin afectar-los. Es reforcen les normatives de protecció de dades personals, especialment en sistemes de IA que impliquen identificació biomètrica, categorització de persones o decisions automatitzades.

• És essencial que els sistemes de IA operin de manera transparent, facilitin la traçabilitat del seu funcionament i permetin auditories externes. us sistemes de IA han de dissenyar-se i operar d’acord amb el compliment del Reglament General de Protecció de Dades (RGPD) i altres normatives rellevants de la UE.

4. Protecció de dades i drets fundamentals: 

• Es reforcen les normatives de protecció de dades personals, especialment en sistemes de IA que impliquen identificació biomètrica, categorització de persones o decisions automatitzades.

• Els sistemes de IA han de dissenyar-se i operar d’acord amb el compliment del Reglament General de Protecció de Dades (RGPD) i altres normatives rellevants de la UE.

Impacte en autònoms i empreses: 

La nova llei pot representar un canvi significatiu en l’entorn regulador de la intel·ligència artificial dins de la Unió Europea. Autònoms i empreses han d’avaluar si algun dels seus sistemes de IA entra dins de les categories regulades per la llei, sobretot si es consideren d’alt risc. En aquest cas, deuran:

• Actualitzar Protocols de Seguretat: implementar un sistema de gestió de riscos específic per a IA, garantint la protecció de les dades i la privacitat dels usuaris.
• Ajustaments en els Processos Interns: revisar i possiblement modificar els seus processos interns per a complir amb els requisits de transparència, supervisió humana i documentació tècnica que exigeix la llei.
• Avaluacions de Conformitat: per als sistemes d’alt risc, és necessari dur a terme avaluacions de conformitat abans de la seva comercialització o ús i assegurar-se que compleixen amb tots els requisits legals.

  Recomanacions:

En determinats sectors i empreses que facin un ús intensiu de la Intel·ligència Artificial, i a fi d’assegurar el compliment de les obligacions d’aquesta llei, els recomanem chequear els seus sistemes de compliment, ja que la implementació d’aquesta normativa és crucial per a evitar sancions i per a garantir que la seva empresa es mantingui competitiva i en línia amb les millors pràctiques en l’ús d’intel·ligència artificial.

Per a qualsevol consulta addicional o agendar una reunió amb el nostre equip, no dubtin a posar-se en contacte amb nosaltres. Som aquí per a donar-los suport en cada pas d’aquest procés.

Joaquim Altafaja  joaquim.altafaja@pich.bnfix.com   

Auditor CISA · Noves Tecnologíes BNFIX PICH 

 — 

Aquesta circular es basa en el Reglament (UE) 2024/1689 del Parlament Europeu i del Consell, disponible en el Diari Oficial de la Unió Europea i altres fonts oficials. Els convidem a revisar la llei detalladament i a consultar-nos per a qualsevol aclariment.

 📸 Tara Winstead per Pexels