NORMATIVA Reglament (UE) 2024/1689 del PARLAMENT EUROPEU i del CONSELL de 13 de juny de 2024 pel qual s’estableixen normes harmonitzades en matèria d’intel·ligència artificial (IA)

MEDIADORS AFECTATS Tots, Agents i Operadors banca segurs Exclusius i Vinculats, i Corredors i Corredories d’assegurances.

MODIFICACIONS A REALITZAR És recomanable que el mediador disposi d’un control sobre tots els sistemes o aplicatius d’IA, i els usos que fa amb ells, amb la finalitat d’establir correctament i de forma actualitzada en què categoria estan cadascun d’ells, per a adaptar les mesures corresponents en cada cas.

PROCESSOS AFECTATS Tots aquells en els quals faci ús de sistemes o aplicatius que utilitzin IA; especialment els sistemes d’IA destinats a ser utilitzats per a l’avaluació de riscos i la fixació de preus en relació amb les persones físiques en el cas de les assegurances de vida i de salut

ENTRADA EN VIGOR 2 d’agost de 2026

1. 1.Introducció

El Reglament (UE) 2024/1689 del PARLAMENT EUROPEU i del CONSELL de 13 de juny de 2024 pel qual s’estableixen normes harmonitzades en matèria d’intel·ligència artificial (IA) és la primera norma jurídica del món que regula l’ús de la intel·ligència artificial.

El seu objectiu és garantir que els sistemes d’intel·ligència artificial es desenvolupin i utilitzin de manera responsable, és a dir, que siguin segurs, ètics i fiables, garantint al mateix temps un elevat nivell de protecció de la salut, la seguretat i els drets fonamentals recollits en la Carta dels Drets Fonamentals de la Unió Europea.

Per a aconseguir aquest objectiu s’estableixen una sèrie de requisits i obligacions tant per als desenvolupadors com per als usuaris de sistemes d’IA. Aquests requisits s’estructuren en funció del nivell de risc que representen les aplicacions d’IA. La norma classifica els sistemes d’intel·ligència artificial en funció del seu risc i imposa obligacions als proveïdors i als responsables del desplegament de tecnologies d’IA en el mercat únic de la UE. A més d’abordar els possibles riscos, el Reglament també promou la innovació i fomenta l’adopció d’una IA ètica i sostenible.

Les aplicacions o sistemes d’IA es categoritzen en quatre nivells: risc inacceptable, alt risc, risc limitat i risc mínim.

El reglament exigeix, entre altres, el compliment d’actuar amb total transparència, i per transparència s’entén que els sistemes d’IA es desenvolupen i utilitzen d’un mode que permeti una traçabilitat i explicabilitat adequades, i que, al mateix temps, faci que les persones siguin conscients que es comuniquen o interactuen amb un sistema d’IA i informe degudament als responsables del desplegament sobre les capacitats i limitacions d’aquest sistema d’IA i a les persones afectades sobre els seus drets

1. 2.Les empreses, professionals o sectors afectats

Aquest reglament afecta principalment a proveïdors, responsables del desplegament, importadors, distribuïdors i representants autoritzats de sistemes d’IA, tant si estan establerts a la Unió Europea (UE) com quan, fins i tot estant fos d’ella, introdueixen sistemes en el mercat de la UE o els seus resultats s’utilitzen en aquest.

Segons aquesta norma es consideren responsable de desplegament tota persona física o jurídica, o autoritat pública, òrgan o organisme que utilitzi un sistema d’IA sota la seva pròpia autoritat, excepte quan el seu ús s’emmarqui en una activitat personal de caràcter no professional.

La afectació en el sector d’assegurances se centra en les entitats asseguradores, que segons el reglament queden obligades “A fi de garantir eficaçment la protecció dels drets fonamentals, els responsables del desplegament de sistemes d’IA d’alt risc que siguin organismes de Dret públic, o les entitats privades que prestin serveis públics i els responsables del desplegament de determinats sistemes d’IA d’alt risc enumerats en un annex del present Reglament, com les entitats bancàries o d’assegurances, han de dur a terme una avaluació d’impacte relativa als drets fonamentals abans de la seva posada en funcionament.”

1. 3.Els sistemes d’IA d’alt risc

En el Reglament es consideraran Sistemes d’IA d’alt risc, i per tant estan sotmesos al màxim control per aquest Reglament, els “Sistemes d’IA destinats a ser utilitzats per a l’avaluació de riscos i la fixació de preus en relació amb les persones físiques en el cas de les assegurances de vida i de salut”, perquè poden afectar d’un mode considerable als mitjans de subsistència de les persones i, si no es dissenyen, desenvolupen i utilitzen degudament, poden vulnerar els seus drets fonamentals i poden tenir greus conseqüències per a la vida i la salut de les persones, com l’exclusió financera i la discriminació.

També s’inclouen dins dels sistemes d’IA d’alt risc aquells sistemes destinats a ser utilitzats per a la contractació o la selecció de persones físiques, en particular per a publicar anuncis d’ocupació específics, analitzar i filtrar les sol·licituds d’ocupació i avaluar als candidats, així com els que siguin utilitzats per a prendre decisions que afectin les condicions de les relacions d’índole laboral o a la promoció o rescissió de relacions contractuals d’índole laboral, per a l’assignació de tasques a partir de comportaments individuals o trets o característiques personals o per a supervisar i avaluar el rendiment i el comportament de les persones en el marc d’aquestes relacions.

Els sistemes d’IA destinats a ser utilitzats per a avaluar la solvència de persones físiques o establir la seva qualificació creditícia, excepte els sistemes d’IA utilitzats a fi de detectar fraus financers, també seran considerats d’alt risc.

1. 4.Mediadors afectats

Els mediadors d’assegurances també quedaran sotmesos a aquestes obligacions, sobretot quan utilitzin sistemes d’IA que siguin facilitats per les companyies d’assegurances amb les quals col·laborin, encara que en diferent grau de responsabilitat segons siguin agents o corredors d’assegurances.

En general, els mediadors que utilitzin sistemes d’IA, per a garantir el correcte compliment de les seves obligacions es procedirà a la vigilància de mercat a través de les autoritats competents, o les que cada Estat designi de manera expressa, i “Per a evitar solapaments, també s’han de contemplar excepcions limitades en relació amb el sistema de gestió de la qualitat dels proveïdors i l’obligació de vigilància imposada als responsables del desplegament de sistemes d’IA d’alt risc, en la mesura en què aquests s’apliquin a les entitats de crèdit regulades per la Directiva 2013/36/UE.

El mateix règim ha d’aplicar-se a les empreses d’assegurances i reassegurances i a les societats de cartera d’assegurances regulades per la Directiva 2009/138/CE, als intermediaris d’assegurances regulades per la Directiva (UE) 2016/97 i a altres tipus d’entitats financeres subjectes a requisits sobre governança, sistemes o processos interns establerts conformement al Dret pertinent de la Unió en matèria de serveis financers a fi de garantir la coherència i la igualtat de tracte en el sector financer.”

Això significa que les entitats asseguradores i els mediadors d’assegurances que vagin a utilitzar aquests sistemes d’IA hauran de confirmar que els seus proveïdors de sistemes d’IA d’alt risc compleixen plenament el citat reglament.

1. 5.Entrada en vigor

Encara que el Reglament va entrar en vigor l’1 d’agost de 2024 la seva aplicació és gradual, i no és aplicable de manera general fins al 2 d’agost de 2026. Ja en el 2025 van entrar en vigor algunes obligacions com les relacionades amb l’alfabetització en matèria d’IA o les pràctiques d’IA prohibides.

Algunes referències als sistemes d’IA d’alt riscos, i les condicions que han de complir per a ser considerats com a tal, no entressin en vigor fins al 2 d’agost de 2027, data en la qual finalitzarà l’entrada en vigor i aplicació del Reglament íntegrament.

1. 6.Altres normes relacionades

El Reial decret 729/2023, de 22 d’agost, pel qual s’aprova l’Estatut de l’Agència Espanyola de Supervisió d’Intel·ligència Artificial està directament relacionat amb el Reglament Europeu, en crear una Agència especifica en l’àmbit de la IA.

Aquest Reial decret atorga a aquesta Agència tasques de supervisió, l’assessorament, la conscienciació i la formació dirigides a entitats de dret públic i privat per a l’adequada implementació de tota la normativa nacional i europea entorn de l’adequat ús i desenvolupament dels sistemes d’intel·ligència artificial, més concretament, dels algorismes. A més, l’Agència tindrà la funció d’inspecció, comprovació, sanció i altra que li atribueixi la normativa europea que li resulti d’aplicació i, especialment, en matèria d’intel·ligència artificial.

FUTURA NORMATIVA NACIONAL

El govern ha aprovat recentment l’avantprojecte de llei per al bon ús i la governança de la intel·ligència artificial que establirà el règim jurídic sancionador per l’incompliment del Reglament europeu, i on s’inclouen sancions que podran arribar als 35 milions d’euros.

Aquesta nova norma, que fins i tot està en tràmit parlamentari establirà que la Direcció General d’Assegurances i Fons de Pensions serà l’autoritat de vigilància del mercat assegurador i competent per a l’exercici de la potestat sancionadora per a sistemes d’IA en l’àmbit d’assegurances de vida i de salut.

1. Conclusiones

L’impacte d’aquest Reglament en el sector assegurador està relacionat principalment amb l’ús que es faci de la IA i les decisions o processos que es basin en aquesta, i que puguin afectar directament o indirectament els clients i assegurats.

És recomanable que el mediador disposi al més aviat possible d’un control sobre tots els sistemes o aplicatius d’IA, i els usos que fa amb ells, amb la finalitat d’establir correctament i de forma actualitzada en què categoria estan cadascun d’ells, per a adaptar les mesures corresponents en cada cas.

També pot resultar necessari realitzar auditories internes per a avaluar-los i confirmar que està actuant conforme a la norma, per a adequar-se als requeriments de transparència exigits i les obligacions futures.

També és important la relació amb els proveïdors que subministrin aquests sistemes, perquè es tracta d’una norma que va especialment dirigida a les empreses que introdueixin en el mercat o posin en servei sistemes d’IA.

No sols cal pensar en el present, perquè el desenvolupament i aplicació d’aquesta mena de sistemes es generalitzarà i desenvolupar en els pròxims anys, per la qual cosa s’han d’establir, al més aviat possible, els protocols i marcs de control i seguiment perquè estigui sempre adaptat al compliment normatiu.

J. Carlos Solis

Assessor tècnic jurídic

Doctor en Dret – Advocat

Email: assessories@elcol-legi.org