Logo UAB

Regulació de la IA

Codi: 106560 Crèdits: 6
2024/2025
Titulació Tipus Curs
2504392 Intel·ligència Artificial / Artificial Intelligence OB 3

Professor/a de contacte

Nom:
Noelia Igareda Gonzalez
Correu electrònic:
noelia.igareda@uab.cat

Equip docent

Susana Navas Navarro

Idiomes dels grups

Podeu consultar aquesta informació al final del document.


Prerequisits

Aquesta assignatura no té prerequisits

Aquesta assignatura s'impartirà amb perspectiva dels Objectius de Desenvolupament Sostenible.


Objectius

Els objectius de l’assignatura son:

  • Donar uns coneixements bàsics del paper del dret en el camp de la intel·ligència artificial
  • Conèixer el marc legal aplicable de la intel·ligència artificial
  • Entendre els principals aspectes legals relacionats amb la intel·ligència artificial a nivell estatal, europeu i mundial.

Competències

  • Actuar amb responsabilitat ètica i amb respecte pels drets i deures fonamentals, la diversitat i els valors democràtics.
  • Comunicar-se de manera efectiva, tant oralment com per escrit, utilitzant adequadament els recursos comunicatius necessaris i adaptant-se a les característiques de la situació i de l’audiència.
  • Desenvolupar pensament crític per analitzar de manera fonamentada i argumentada alternatives i propostes tant pròpies com alienes.
  • Identificar, analitzar i avaluar l’impacte ètic i social, el context humà i cultural i les implicacions legals del desenvolupament d’aplicacions d’intel·ligència artificial i de manipulació de dades en diferents àmbits.
  • Que els estudiants tinguin la capacitat de reunir i interpretar dades rellevants (normalment dins de la seva àrea d'estudi) per emetre judicis que incloguin una reflexió sobre temes destacats d'índole social, científica o ètica.
  • Treballar de manera autònoma, amb responsabilitat i iniciativa, planificant i gestionant el temps i els recursos disponibles i adaptant-se a les situacions imprevistes.

Resultats d'aprenentatge

  1. Analitzar críticament els principis, valors i procediments que regeixen l’exercici de la professió. 
  2. Analitzar la propietat intel·lectual en relació amb la IA.
  3. Analitzar l’aplicació de la normativa de protecció de dades i el dret a la intimitat en el disseny i desenvolupament de la IA.
  4. Comprendre les implicacions socials, ètiques i legals de la pràctica professional en IA.
  5. Comunicar-se de manera efectiva, tant oralment com per escrit, utilitzant adequadament els recursos comunicatius necessaris i adaptant-se a les característiques de la situació i de l’audiència.
  6. Desenvolupar pensament crític per analitzar de manera fonamentada i argumentada alternatives i propostes tant pròpies com alienes.
  7. Explicar el codi deontològic, explícit o implícit, de l’àmbit de coneixement propi. 
  8. Identificar els supòsits de responsabilitat civil en l’ús de la IA.
  9. Que els estudiants tinguin la capacitat de reunir i interpretar dades rellevants (normalment dins de la seva àrea d'estudi) per emetre judicis que incloguin una reflexió sobre temes destacats d'índole social, científica o ètica.
  10. Saber analitzar casos d’aplicació de la IA des d’un punt de vista ètic, legal i social.
  11. Treballar de manera autònoma, amb responsabilitat i iniciativa, planificant i gestionant el temps i els recursos disponibles i adaptant-se a les situacions imprevistes.
  12. Valorar les dificultats, els prejudicis i les discriminacions que poden incloure les accions o projectes, a curt o llarg termini, en relació amb determinades persones o col·lectius.

Continguts

1a part Noelia Igareda

 

  1. Introducció al Dret /Fonaments del Dret

1.1.         Diferències entre dret, ètica, moral i altres normes

1.2.         Dret International, dret europeu i dret estatal

1.3.         Com el dret s’elabora, s’aplica i l’accés a la justícia.

 

 2. Intel·ligència Artificial i Drets Humans

2.1.         Diferències entre drets humans, drets fonamentals i altres drets

2.2.         Protecció legal i estàndards dels drets humans i la seva aplicació en el camp de la intel·ligència artificial

 

3. Intel·ligència artificial i dret anti-discriminatori

3.1.         Marcs legals internacional, europeu i estatal per a combatre la discriminació

3.2.         IA i el biaix discriminatori: eines legals i obligacions jurídiques

3.3. Moderació de continguts i codis de conducta

4. 

Intel·ligència artificial, Gènere i Menors

4.1.         Igualtat de gènere, perspectiva de gènere i anti-gènere.

4.2.         IA com a tecnologia del gènere: eines legals i conseqüències jurídiques.

4.3.         IA i els menors

5. Drets digitals

5.1.         Definició i implicacions legals en el camp de la IA

5.2.         La Carta dels Drets Digitals

6. Protecció de dades personals i IA

6.1.         L’impacte de la Regulació de Protecció de Dades Personals (GDPR) en la intel·ligència artificial

6.2.         Com utilitzar la IA i les dades personals de forma correcta i legal

 

2a part Susana Navas

 

7.  Fundaments

7.1.   Dret de contractes. Drets dels consumidors

7. 1.1.Dret de contractes

7. 1.2.Drets dels consumidors

7. 2.     Contractes de provisió de serveis i continguts digitals

7. 3.     Responsabilitat civil. responsabilitat extracontractual

7.4.     Reglament de Serveis Digitals

7.4.1. Introducció

7.4.2. Canvi de paradigma dels serveis digitals 

8. AI Regulation

8.1.     Decada digital per 2030

8.2.     Regulació de la IA basada en els riscos

8.2.1. Ambit d'aplicació

8. 2.2. Definicions legals

8.3.     Sistemes de IA. Requisits legals 

8.4.     Objectius dels models de IA. Requisits legals

8.5.     IA Generativa

8.6.     Cibersecuritat

9.      Regulació de datos

9.1.       Què es un dato i com classificar-ho

9.2.       El texto i la excpeció de data mining de la legislació de drets d'autor 

9.3.       La governanza dels datos

9.4.       La Regulació europea dels Datos (Data Act)

10. Responsabilitat extracontractual per danys causats persistemes de IA 

10.1.       La proposta de Regulació europea sobre responsabilitat extracontractual

10.2.       La proposta europea de regulació de la responsabilitat dels productors de sistemes de IA

11. La protecció legal dels sistemes de IA

11.1.       Bàsics de drets d'autor

11.2.       La regulació de Software

11.3.       El dret Sui generis de les bases de dades

11.4.       La regualció dels secrets comercials en Europa


Activitats formatives i Metodologia

Títol Hores ECTS Resultats d'aprenentatge
Tipus: Dirigides      
Assistència i participació en clase 44 1,76 10, 3, 5, 1, 6, 12, 9, 4
Estudi de casos 50 2 10, 3, 2, 1, 6, 12, 8, 9, 4, 11
Pràctiques i exercicis 50 2 10, 3, 2, 1, 6, 12, 8, 9, 4, 11

L'orientació del curs és predominantment pràctica. Cada classe començarà generalment amb la presentació d'un cas o problema real, que donarà lloc a una discussió grupal. A continuació, s'introduiran i explicaran els conceptes legals, el marc legal aplicable i els reptes legals per a la intel·ligència artificial.

Nota: es reservaran 15 minuts d'una classe, dins del calendari establert pel centre/titulació, per a la complementació per part de l'alumnat de les enquestes d'avaluació de l'actuació del professorat i d'avaluació de l'assignatura/mòdul.


Avaluació

Activitats d'avaluació continuada

Títol Pes Hores ECTS Resultats d'aprenentatge
Avaluació cas pràctic 25% 3 0,12 10, 3, 2, 6, 12, 7, 8, 9, 4, 11
Avaluació de una noticia 25% 3 0,12 10, 5, 1, 6, 12, 9, 4, 11

La nota final s'obtindrà a partir dels següents elements:

1  Avaluació continuada de les classes. (40% de la nota)

Entrega de evidències de cada classe de la primera part (Noelia Igareda ) (20% de la nota final)

Entrega de evidències de cada classe de la segona part (Susana Navas( (20% de la notal final)

Les evidències serán el resultat de casos pràctics introduits per la professora.

S’aconsella als/les estudiants l’assistència continuada a classe i la realització de les activitats programades al llarg del curs (lectures, comentaris de legislació, anàlisi de jurisprudència, etc.)

2. Examen parcial (20 % de la nota final)

La materia aprobada serà liberatoria sempre i quan la nota sea com a míim un 6

2  Examen final. (40% de la nota)

L'examen final s'ha de superar amb una nota de 5 o més per fer mitja amb la resta de qualificacions de l'avaluació continuada.

REAVALUACIÓ

Es realitzarà reavaluació de la part relativa a l'examen final. La nota final en aquest cas no serà superior a 6.

L’alumnat serà avaluable sempre que hagi realitzat un conjunt d’activitats el pes de les quals equivalgui a un mínim de 2/3 parts de la qualificació total de l’assignatura. Si el valor de les activitats realitzades no arriba a aquest llindar, el professor/a de l’assignatura pot considerar l’estudiant com a no avaluable

AVALUACIÓ ÚNICA

Constirá en:

Examen final (50% de la nota final)

Realització de 4 casos pràctics (50 % de la nota final)

S’aplicarà el mateix criteri de no avaluable que per l’avaluació continuada


Bibliografia

AEPD (2017): Protección de datos. Guía para el Ciudadano https://www.aepd.es/es/documento/guia-ciudadano.pdf

 

AEPD, APDCAT, AVPD (2018): Guía del Reglamento General de Protección de Datos para responsables de tratamiento (Document en línia) https://www.aepd.es/es/documento/guia-rgpd-para-responsables-de-tratamiento.pdf-0

 

Barrio, Moisés (2021): Manual de Derecho digital, Tirant Lo Blanch, Valencia, 2021.

 

Council of Europe (2023): Human rights by design future-proofing human rights  protection in the era of AI, disponible en : chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://rm.coe.int/follow-up-recommendation-on-the-2019-report-human-rights-by-design-fut/1680ab2279

 

Custers, Bart and Fosch-Villaronga, Eduard (eds.) (2022): Law and Artificial Intelligence. Regulating AI and Applying AI in Legal Practice, The Hague, Springer.

 

Ebers, Martin; Navas, Susana (eds.) (2020): Algorithms and Law, Cambridge University Press.

 

Fournier-Tombs, Eleonore y Castets-Renard, Celine (2021): Algorithms and the Propagation of Gendered Cultural Norms, disponible en:

https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3980113

 

FRA (European Union Agency for Fundamental Rights) (2018):  #BigData: Discrimination in data-supported decision making. Disponible en: https://fra.europa.eu/en/publication/2018/bigdata-discrimination-data-supported-decision-making

 

FRA (2020): Gettingthe future right – Artificial intelligence and fundamental rights Disponible en: https://fra.europa.eu/en/publication/2020/artificial-intelligence-and-fundamental-rights

Llorente Sánchez-Arjona, M. (25/03/2021) “Big Data, Inteligencia Artificial y Violencia de Género”. Diario La Ley. Ciberderecho

 

Presno Linera, Miguel Angel (2022): “Derechos fundamentales e inteligencia artificial en el estado social, democrático y digital de derecho”, El Cronista del Estado social y democrático de Derecho, núm. 100, 2022, disponible en: https://www.academia.edu/89821366/Derechos_fundamentales_e_inteligencia_artificial_en_el_Estado_social_democrático_y_digital_de_Derecho?email_work_card=title.

 

https://www.gov.uk/government/publications/ai-regulation-a-pro-innovation-approach/white-paper.

 

https://www.whitehouse.gov/ostp/ai-bill-of-rights/

 

https://commission.europa.eu/system/files/2020-02/commission-white-paper-artificial-intelligence-feb2020_en.pdf


Programari

L'assignatura no exigeix un programari especific


Llista d'idiomes

Nom Grup Idioma Semestre Torn
(PAUL) Pràctiques d'aula 1 Anglès primer quadrimestre tarda
(PLAB) Pràctiques de laboratori 1 Anglès primer quadrimestre tarda
(TE) Teoria 1 Anglès primer quadrimestre tarda