{"id":23609,"date":"2025-06-04T08:35:28","date_gmt":"2025-06-04T06:35:28","guid":{"rendered":"https:\/\/www.elcol-legi.org\/w\/compliance-la-gran-asignatura-pendiente-de-los-agentes-de-ia\/"},"modified":"2025-06-05T12:36:18","modified_gmt":"2025-06-05T10:36:18","slug":"compliance-la-gran-asignatura-pendiente-de-los-agentes-de-ia","status":"publish","type":"post","link":"https:\/\/www.elcol-legi.org\/w\/compliance-la-gran-asignatura-pendiente-de-los-agentes-de-ia\/","title":{"rendered":"Compliance, la gran assignatura pendent dels agents de l’IA"},"content":{"rendered":"

[vc_row][vc_column width=”3\/4″][vc_column_text css=””]<\/p>\n

LEGAL<\/pre>\n
Compliance, la gran assignatura pendent dels agents de l’IA<\/b><\/h2>\n
[\/vc_column_text][vc_column_text css=””]El gran repte \u00e9s garantir que es compleixi totalment la normativa vigent<\/strong>[\/vc_column_text][vc_single_image source=”featured_image” img_size=”850×350″][vc_column_text css=”.vc_custom_1749119839674{margin-bottom: 20px !important;}”]Introducci\u00f3: l’impuls dels agents d’IA<\/strong><\/p>\n
Els \u00faltims anys, els agents d’intel\u00b7lig\u00e8ncia artificial han irromput amb for\u00e7a al m\u00f3n de les assegurances. Aquestes solucions, capaces d’executar tasques de manera aut\u00f2noma o semiaut\u00f2noma, estan transformant des de la gesti\u00f3 interna fins a la relaci\u00f3 amb els clients. Un corredor d’assegurances pot confiar avui en un agent d’IA per resumir les cobertures d’una p\u00f2lissa complexa, generar un correu electr\u00f2nic personalitzat en q\u00fcesti\u00f3 de segons o elaborar un informe de riscos amb un nivell de detall impensable fins fa poc. La promesa \u00e9s clara: optimitzar processos de back-office, elevar la qualitat de l’atenci\u00f3 al client i alliberar els professionals de les tasques repetitives perqu\u00e8 puguin dedicar-se al que \u00e9s veritablement estrat\u00e8gic.<\/p>\n
Tot i aix\u00f2, aquesta revoluci\u00f3 tecnol\u00f2gica ve acompanyada d’un repte maj\u00fascul: garantir que el seu \u00fas respecti la normativa vigent. A Espanya i la Uni\u00f3 Europea, el RGPD i l’acabada d’aprovar Llei d’Intel\u00b7lig\u00e8ncia Artificial (AI Act, agost 2024) estableixen requisits estrictes en mat\u00e8ria de protecci\u00f3 de dades, transpar\u00e8ncia i control de riscos. Per als corredors d’assegurances, que manegen informaci\u00f3 especialment sensible, entendre aquestes regles \u00e9s tan important com dominar qualsevol t\u00e8cnica de venda o gesti\u00f3 de p\u00f2lisses.<\/p>\n
A continuaci\u00f3, recorrerem tres escenaris d’implantaci\u00f3 d’agents d’IA, ordenats de menor a major grau de control i compliance. L’objectiu \u00e9s oferir una visi\u00f3 clara i accessible, que ajudi a identificar quines pr\u00e0ctiques s\u00f3n viables, quins comporten riscos i com aprofitar tot el potencial de la IA de manera segura.<\/p>\n
1. \u00das directe d’eines p\u00fabliques d’IA<\/strong><\/p>\n
El primer nivell explica la situaci\u00f3 m\u00e9s senzilla: fer servir eines obertes al p\u00fablic, com ara versions gratu\u00eftes o de baix cost de ChatGPT, Make o altres plataformes d’automatitzaci\u00f3, sense un filtre ni supervisi\u00f3 interna. L’avantatge \u00e9s immediat: qualsevol corredor, sense necessitat de grans coneixements t\u00e8cnics, pot experimentar la generaci\u00f3 de text o la connexi\u00f3 entre aplicacions en q\u00fcesti\u00f3 de minuts. La barrera d’entrada \u00e9s gaireb\u00e9 inexistent.<\/p>\n
No obstant aix\u00f2, aquesta drecera cont\u00e9 diversos perills. En introduir dades de clients \u2014noms, n\u00fameros de p\u00f2lissa, detalls de sinistres o qualsevol informaci\u00f3 personal\u2014, aquestes dades viatgen a servidors de prove\u00efdors externs, sovint fora de la UE, i poden quedar exposats o fins i tot ser usats per entrenar futurs models. A m\u00e9s, els models gen\u00e8rics poden reproduir biaixos no desitjats o generar informaci\u00f3 inexacta, cosa que en un sector tan regulat i delicat com l’assegurador pot donar lloc a errors greus o decisions err\u00f2nies. D’altra banda, tamb\u00e9 hi ha el risc d’infringir drets d’autor si es publiquen textos sense la revisi\u00f3 adequada.<\/p>\n
En definitiva, rec\u00f3rrer sense control a aquestes eines p\u00fabliques \u00e9s jugar amb foc: \u00e9s f\u00e0cil provar-ne el potencial, per\u00f2 tamb\u00e9 ho \u00e9s inc\u00f3rrer en incompliments del RGPD o de l’AI Act, que es poden traduir en sancions econ\u00f2miques i danys reputacionals. Per aix\u00f2 qualsevol corredor que vulgui explorar la IA ha d’evitar l’\u00fas espontani d’aquestes solucions i, almenys, sotmetre-les a les pol\u00edtiques internes de compliance abans de posar-les en producci\u00f3.<\/p>\n
2. Plataformes cloud amb garanties per part del prove\u00efdor<\/strong><\/p>\n
El segon nivell fa un pas endavant: es tracta de contractar serveis d’intel\u00b7lig\u00e8ncia artificial al n\u00favol \u2014per exemple, Azure OpenAI Service, Amazon Bedrock o Google Vertex AI\u2014 que ofereixen els models m\u00e9s avan\u00e7ats (GPT-4, Gemini, etc.) per\u00f2 sota un marc contractual que garanteix el compliment de la normativa europea. Amb aquest enfocament, les dades poden romandre f\u00edsicament a centres de dades de la UE, s’apliquen xifrats robustos i hi ha acords formals de protecci\u00f3 de dades.<\/p>\n
Per a una corredoria, aix\u00f2 es tradueix en una gran tranquil\u00b7litat: les grans empreses de cloud solen comptar amb certificacions de seguretat (ISO 27001, SOC 2), auditories regulars i cl\u00e0usules espec\u00edfiques per no aprofitar les dades dels clients a l’entrenament dels seus models. A m\u00e9s, ofereixen suport t\u00e8cnic especialitzat i eines per auditar i controlar qui accedeix a la informaci\u00f3. Aix\u00ed, es combina la pot\u00e8ncia de la IA d’\u00faltima generaci\u00f3 amb una implementaci\u00f3 alineada al RGPD i l’AI Act.<\/p>\n
Aquest nivell tamb\u00e9 facilita complir les exig\u00e8ncies de la nova llei quan els agents d’IA s’utilitzen en \u00e0mbits considerats d’alt risc, com ara la tarifaci\u00f3 d’assegurances de salut o vida. El prove\u00efdor s’encarrega de gran part de la documentaci\u00f3, la gesti\u00f3 de riscos del model i les proves de robustesa, mentre que la corredoria aporta la supervisi\u00f3 humana i la integraci\u00f3 als seus processos. El resultat \u00e9s un balan\u00e7 \u00f2ptim entre innovaci\u00f3 i compliance.<\/p>\n
La consideraci\u00f3 principal aqu\u00ed \u00e9s el cost i la depend\u00e8ncia d’un prove\u00efdor. Les tarifes per \u00fas poden ser elevades si no se n’optimitza el consum, i migrar a una altra plataforma pot requerir un esfor\u00e7 addicional. Tot i aix\u00f2, per a la majoria de corredories mitjanes, suposa la millor relaci\u00f3 entre seguretat, agilitat i compliment.<\/p>\n
3. Desplegament local: m\u00e0xim control, m\u00e0xima responsabilitat<\/strong><\/p>\n
El tercer nivell assoleix el m\u00e0xim grau de control: instal\u00b7lar els agents d’IA i els models directament a la infraestructura pr\u00f2pia (on premis). Aix\u00ed, totes les dades romanen dins de l’organitzaci\u00f3 i no hi ha cap transfer\u00e8ncia a tercers. Aquest enfocament \u00e9s especialment valu\u00f3s en casos de gran sensibilitat, per exemple, l’an\u00e0lisi d’historials m\u00e8dics per a assegurances de salut.<\/p>\n
En disposar del model en local, la corredoria el pot auditar, ajustar per eliminar biaixos i gestionar la governan\u00e7a de dades sense intermediaris. A m\u00e9s, pot personalitzar l’entrenament amb la seva pr\u00f2pia documentaci\u00f3 (p\u00f2lisses, hist\u00f2rics de sinistres, manuals interns), aconseguint una soluci\u00f3 hiperespecialitzada a la seva cartera de clients.<\/p>\n
Aix\u00f2 s\u00ed, implica inversions fortes: maquinari amb GPU, personal expert per entrenar i mantenir els models, i processos interns s\u00f2lids per complir totes les obligacions de l’AI Act, tant les de prove\u00efdor com les d’usuari. La corredoria passa a ser responsable directa del desenvolupament, la validaci\u00f3, la supervisi\u00f3 humana i la tra\u00e7abilitat de les decisions automatitzades, cosa que exigeix \u200b\u200bun elevat grau de maduresa digital.<\/p>\n
Al mercat s’estan desenvolupant alternatives interm\u00e8dies, com ara serveis europeus que ofereixen models open source amb suport i adaptats al RGPD, per\u00f2 l’opci\u00f3 on-premises pura continua sent un cam\u00ed reservat a organitzacions amb amplis recursos i necessitats molt espec\u00edfiques.<\/p>\n
Aprofitar la IA amb responsabilitat: dues grans apostes<\/strong><\/p>\n
Sigui quin sigui el nivell que una corredoria esculli, complir les normes no s’ha de veure com un obstacle, sin\u00f3 com la base que permet aprofitar dues oportunitats clau:<\/p>\n