Benvinguts a aquesta entrada del blog on analitzarem l’article ‘La regulació de la intel·ligència artificial a la Unió Europea’. Aquesta peça, publicada a la plataforma de formació oberta de l’EAPC, ens ofereix una visió detallada sobre com la Unió Europea està abordant la complexa tasca de regular l’ús i el desenvolupament de la intel·ligència artificial. Ens endinsarem en els detalls més rellevants i les implicacions d’aquesta regulació.

Podeu llegir l’article que analitzaré aquí:

Priego Garcia, D. La regulació de la intel·ligència artificial a la Unió Europea. Gestió de la informació: transparència i protecció de dades. Consultat l’11 de juliol de 2023, de https://formaciooberta.eapc.gencat.cat/espaistematics/gestio-dades/la-regulacio-de-la-intelligencia-artificial-a-la-unio-europea.html

Claus de la proposta de normativa europea

El projecte de Reglament d’IA del Parlament Europeu i del Consell està dissenyat per establir normes harmonitzades sobre la IA a la Unió Europea. Les seves característiques principals són les següents:

1. Enfocament basat en el risc: El projecte de Reglament classifica els sistemes d’IA en funció del nivell de risc que representen. Això inclou pràctiques d’IA prohibides que generen un risc inacceptable, IA d’alt risc que ha de complir requisits específics, IA de baix risc o de risc limitat que ha de complir obligacions de transparència, i la resta de sistemes d’IA que no estan subjectes a cap obligació en particular.
2. Governança de dades: El projecte de Reglament estableix que els sistemes d’IA han de ser desenvolupats i utilitzats de conformitat amb les normes existents de privacitat i protecció de dades. Això inclou assegurar que les dades utilitzades compleixin uns certs estàndards de qualitat i que es realitzi una supervisió adequada.
3. Transparència: El projecte de Reglament exigeix que els sistemes d’IA siguin transparents en el seu funcionament. Això inclou revelar les característiques del funcionament del sistema i la identitat i les dades del proveïdor.
4. Supervisió humana: El projecte de Reglament estableix que sempre ha d’haver una persona amb capacitat de control per mitigar riscos eventuals.
5. Certificació: Els sistemes d’IA d’alt risc han de superar una avaluació de conformitat abans de ser implementats i han de ser inscrits en una base de dades creada i gestionada per la Comissió Europea.
6. Prohibicions específiques: El projecte de Reglament estableix una llista de pràctiques prohibides que inclouen tots els sistemes d’IA i quin ús es considera inacceptable pel fet de ser contrari als valors de la Unió, perquè, per exemple, violen drets fonamentals.
7. Complementarietat amb altres normatives: El projecte de Reglament d’IA està dissenyat per complementar altres normatives existents, com el Reglament General de Protecció de Dades (RGPD) i la Directiva sobre protecció de dades en l’àmbit penal.
8. Participació de tots els actors de la cadena de valor: Cada operador de la cadena de valor està sotmès a una sèrie d’obligacions específiques, des dels desenvolupadors fins als usuaris finals.

Cal tenir en compte que aquest projecte de Reglament encara està en procés de negociació i pot ser subjecte a canvis.

Analitzem l’article

L’article “La regulació de la intel·ligència artificial a la Unió Europea” proporciona una visió general sobre com la Unió Europea està intentant regular l’ús de la IA. L’article comença destacant la importància creixent de la IA en la transformació digital de la societat i els desafiaments que això comporta. A continuació, es detalla el treball que està realitzant la Unió Europea per regular aquesta tecnologia, incloent la publicació del Llibre Blanc sobre la IA per part de la Comissió Europea i la proposta de Reglament del Parlament Europeu i del Consell per establir normes harmonitzades sobre la IA.

L’article també esmenta exemples específics de sistemes d’IA, com ChatGPT d’OpenAI i BARD de Google, i els riscos potencials que aquests poden comportar, com la parcialitat, la incitació a l’odi, les notícies falses, les violacions de la propietat intel·lectual, els ciberatacs i la línia cada cop més difusa entre el que és humà i el que és artificial. També es discuteixen les preocupacions sobre la privacitat i la protecció de dades relacionades amb aquests sistemes.

L’article conclou amb una discussió detallada sobre el projecte de Reglament d’IA de la Unió Europea, incloent la seva estructura, els diferents nivells de risc que identifica i les obligacions que estableix per als proveïdors i usuaris d’IA. També es menciona que el text amb les esmenes va ser ratificat el passat 14 de juny pel Ple del Parlament, però encara pot ser modificat durant els diàlegs a tres o negociacions entre les institucions europees.

Ara bé, per a una anàlisi crítica més profunda, cal considerar alguns aspectes:

1. Visió global de la regulació de la IA: L’article se centra principalment en la regulació de la IA a la Unió Europea. Tot i que això és comprensible donat el tema, una visió més completa podria incloure una comparació amb com altres regions o països estan tractant aquesta qüestió. Per exemple, quines són les diferències i similituds entre la regulació de la IA a la Unió Europea i als Estats Units o a la Xina?
2. Implicacions pràctiques de la regulació: L’article proporciona una visió detallada de la proposta de regulació de la IA a la Unió Europea, però podria aprofundir més en les implicacions pràctiques d’aquesta regulació. Com afectarà aquesta regulació a les empreses que desenvolupen IA? Quines seran les conseqüències per als usuaris d’IA? Com es garantirà el compliment de la regulació?
3. Visió equilibrada dels beneficis i riscos de la IA: L’article esmenta alguns dels riscos associats a la IA, com la parcialitat i les preocupacions sobre la privacitat. No obstant això, també seria útil discutir més detalladament els beneficis potencials de la IA i com la regulació pot ajudar a maximitzar aquests beneficis al mateix temps que es minimitzen els riscos.
4. Participació dels actors interessats en el procés de regulació: Finalment, una visió més completa del tema també podria incloure una discussió sobre com es poden involucrar diferents actors interessats en el procés de regulació. Com es poden tenir en compte les opinions i interessos de les empreses de tecnologia, els usuaris d’IA, els experts en ètica, els defensors de la privacitat i altres grups rellevants en el procés de formulació de polítiques?

L’article no fa referències directes a l’educació. No obstant això, es menciona l’ús de sistemes d’IA que poden tenir aplicacions en l’àmbit educatiu. També es mencionen les preocupacions sobre la privacitat i la protecció de dades relacionades amb aquests sistemes, que podrien ser rellevants per a l’ús de la IA en l’educació.

A més, es destaca la prohibició d’usos específics de la IA que podrien afectar grups vulnerables, com els menors, que són una població clau en l’educació. També es fa referència a la prohibició de l’ús de sistemes de reconeixement d’emocions en les institucions educatives en les esmenes proposades al projecte de Reglament.

---

Aquesta obra està subjecta a una llicència de Reconeixement-NoComercial 4.0 Internacional de Creative Commons