Logo UAB
2022/2023

Ética

Código: 106559 Créditos ECTS: 6
Titulación Tipo Curso Semestre
2504392 Inteligencia Artificial / Artificial Intelligence FB 2 1

Contacto

Nombre:
David Jorge Casacuberta Sevilla
Correo electrónico:
david.casacuberta@uab.cat

Uso de idiomas

Lengua vehicular mayoritaria:
inglés (eng)
Algún grupo íntegramente en inglés:
Algún grupo íntegramente en catalán:
No
Algún grupo íntegramente en español:
No

Equipo docente

Miquel Domenech Argemi

Prerequisitos

Esta asignatura no tiene pre-requisitos

Objetivos y contextualización

Esta asignatura tiene como objetivo familiarizar al alumnado del Grado con aquellos problemas éticos, sociales y políticos que pueden surgir al utilizar algoritmos de inteligencia artificial para tomar decisiones que afectan a las personas y cómo pueden detectarse a tiempo.

La asignatura huye así de problemas que están todavía muy lejos a nivel tecnológico como la idea de la singularidad o la superinteligencia y se centra más en problemas éticos reales que nos afectan como personas aquí y ahora.

Exploraremos así cuestiones como los sesgos en algoritmos, la erosión a la privacidad causada por la búsqueda de perfiles personalizados y cómo pueden utilizarse para manipular nuestras decisiones, pero también analizaremos cómo estos problemas pueden detectarse y solucionarse presentando así marcos de referencia como las auditorías éticas o explorar métricas en algoritmos que incluyan conceptos de equidad y justicia.

Competencias

  • Actuar con responsabilidad ética y con respeto por los derechos y deberes fundamentales, la diversidad y los valores democráticos.
  • Actuar en el ámbito de conocimiento propio evaluando las desigualdades por razón de sexo/género. 
  • Comunicarse de manera efectiva, tanto de forma oral como escrita, utilizando adecuadamente los recursos comunicativos necesarios y adaptándose a las características de la situación y de la audiencia.
  • Concebir, diseñar, analizar e implementar agentes y sistemas ciber-físicos autónomos capaces de interactuar con otros agentes y/o personas en entornos abiertos, teniendo en cuenta las demandas y necesidades colectivas.
  • Desarrollar pensamiento crítico para analizar de forma fundamentada y argumentada alternativas y propuestas tanto propias como ajenas.
  • Identificar, analizar y evaluar el impacto ético y social, el contexto humano y cultural, y las implicaciones legales del desarrollo de aplicaciones de inteligencia artificial y de manipulación de datos en diferentes ámbitos.
  • Que los estudiantes tengan la capacidad de reunir e interpretar datos relevantes (normalmente dentro de su área de estudio) para emitir juicios que incluyan una reflexión sobre temas relevantes de índole social, científica o ética.
  • Trabajar de forma autónoma, con responsabilidad e iniciativa, planificando y gestionando el tiempo y los recursos disponibles, adaptándose a las situaciones imprevistas.

Resultados de aprendizaje

  1. Analizar críticamente los principios, valores y procedimientos que rigen el ejercicio de la profesión. 
  2. Analizar las desigualdades por razón de sexo/género y los sesgos de género en el ámbito de conocimiento propio.  
  3. Comprender las implicaciones sociales, éticas y legales de la práctica profesional en IA.
  4. Comunicarse de manera efectiva, tanto de forma oral como escrita, utilizando adecuadamente los recursos comunicativos necesarios y adaptándose a las características de la situación y de la audiencia.
  5. Desarrollar pensamiento crítico para analizar de forma fundamentada y argumentada alternativas y propuestas tanto propias como ajenas.
  6. Explicar el código deontológico, explícito o implícito, del ámbito de conocimiento propio. 
  7. Identificar las principales desigualdades y discriminaciones por razón de sexo/géneros presentes en la sociedad. 
  8. Identificar los sesgos sociales, culturales y económicos de los algoritmos.
  9. Que los estudiantes tengan la capacidad de reunir e interpretar datos relevantes (normalmente dentro de su área de estudio) para emitir juicios que incluyan una reflexión sobre temas relevantes de índole social, científica o ética.
  10. Saber analizar casos de aplicación de la IA desde un punto de vista ético, legal y social.
  11. Ser capaz de incorporar los principios de la investigación e innovación responsable en los desarrollos basados en la IA.
  12. Ser capaz de incorporar valores adecuados a las necesidades de las personas en el diseño de dispositivos dotados de IA.
  13. Trabajar de forma autónoma, con responsabilidad e iniciativa, planificando y gestionando el tiempo y los recursos disponibles, adaptándose a las situaciones imprevistas.
  14. Valorar cómo los estereotipos y los roles de género inciden en el ejercicio profesional. 
  15. Valorar las dificultades, los prejuicios y las discriminaciones que pueden incluir las acciones o proyectos, a corto o largo plazo, en relación con determinadas personas o colectivos.

Contenido

1. Introducción a la ética y sus marcos teóricos

1.1 El utilitarismo

1.2 La ética deontológica

1.3 Teoría de la justicia

1.4 Ética de las virtudes

2. Privacidad y perfiles personalizados

2.1 Principios para la protección de datos

2.2 Anonimización y reidentificación

2.3 Privacidad diferencial

2.4 perfiles y manipulación

2.5 la burbuja de los filtros

3. Sesgos algorítmicos

3.1 Causas de los sesgos en una base de datos

3.2 Cómo detectar sesgos

3.3 exactitud versus justicia

4. Auditorías éticas

4.1 Principios básicos para una auditoría ética

4.2 La matriz ética

4.3 El pre-mortem

4.4 Algoritmos y métricas equitativas

5. Ciencia, tecnología y ética
5.1. Impacto social de las innovaciones
5.2. La mediación tecnológica
5.3. La moral materializada
5.4. Ética y diseño

6. RRI e IA
6.1. ¿Qué es la RRI?
6.2. La RRI aplicada a la IA

7. Ética y robótica
7.1. Los robots y la sociedad
7.2. Preocupaciones éticas en la robótica
7.3. Robots asistenciales/robots asesinos

 

Metodología

La asignatura combinará clases magistrales con ejercicios de debate y discusión en el aula. Se trabajará desde un proyecto concreto de aplicación de la IA a la esfera humana y se estudiarán progresivamente de qué forma su aplicación puede generar distintos problemas éticos y sociales, buscando tanto las causas de estos problemas como las posibles soluciones .

Nota: se reservarán 15 minutos de una clase dentro del calendario establecido por el centro o por la titulación para que el alumnado rellene las encuestas de evaluación de la actuación del profesorado y de evaluación de la asignatura o módulo.

Actividades

Título Horas ECTS Resultados de aprendizaje
Tipo: Dirigidas      
Asistencia a clase y participación activa 22 0,88 3, 4, 5, 9, 10, 11, 12, 13
Clases magistrales 64 2,56 2, 5, 6, 7, 9, 10, 12, 13, 15
Seminarios 42 1,68 1, 3, 5, 8, 7, 11, 14

Evaluación

La evaluación se organiza en torno a tres pruebas

Un estudio de caso en el que se examinarán las implicaciones éticas de un proyecto específico de inteligencia artificial así como las posibles soluciones a los problemas que su aplicación pueda comportar (60%).
Un trabajo grupal. Los alumnos tendrán que escribir un texto que evidencie que han adquirido los conceptos trabajados en la segunda parte de la asignatura. (30%)
La participación en clase en actividades de discusión y debate en grupo (10%)

 

Podrán presentarse a reevaluación aquellos estudiantes que hayan suspendido o no se hayan presentado ni en la prueba 1 o la prueba 2. No es necesario presentarse a ninguna prueba para poder optar a la reevaluación. Una prueba está aprobada con una nota mínima de 5.

 

Los estudiantes que finalmente no se presenten ni en la prueba 1 ni en la prueba 2 constarán como no evaluable.

Actividades de evaluación

Título Peso Horas ECTS Resultados de aprendizaje
Asistencia a clase y participación activa 20% 2 0,08 4, 5, 10, 12, 13, 14, 15
Estudio de casos 50% 10 0,4 3, 6, 8, 9, 10, 11, 12
Trabajo escrito en grupo 30% 10 0,4 1, 2, 4, 5, 7, 13, 14, 15

Bibliografía

Crawford, K. (2021). The atlas of AI: Power, politics, and the planetary costs of artificial intelligence. Yale University Press.

Dubber, M. D., Pasquale, F., & Das, S. (Eds.). (2020). The Oxford handbook of ethics of AI. Oxford Handbooks.

Latour, B. (1999) La esperanza de Pandora. Ensayos sobre la realidad de los estudios de la ciencia. Barcelona: Gedisa, 2022.

O'neil, C. (2016). Weapons of math destruction: How big data increases inequality and threatens democracy. Broadway books.

Mepham, B. (2013). Ethical principles and the ethical matrix. Practical Ethics for Food Professionals: Ethics in Research, Education and the Workplace, 52.

Pariser, E. (2011). The filter bubble: How the new personalized web is changing what we read and how we think. Penguin.

Rajkomar, A., Hardt, M., Howell, M. D., Corrado, G., & Chin, M. H. (2018). Ensuring fairness in machine learning to advance health equity. Annals of internal medicine, 169(12), 866-872.

Sparrow, R. (2007) ‘Killer robots’, Journal of Applied Philosophy, 24(1), pp. 62–77.

Vallès-Peris N and Domènech M (2020) Roboticists’ Imaginaries of Robots for Care: The Radical Imaginary as a Tool for an Ethical Discussion. Engineering Studies, 12 (3): 156-176.

Vallès-Peris, N., Domènech, M. (2021) Caring in the in-between: a proposal to introduce responsible AI and robotics to healthcare. AI & Society.

van de Poel, I. (2020) ‘Embedding Values in Artificial Intelligence (AI) Systems’, Minds and Machines, 30(3), pp. 385–409.

van Wynsberghe, A. (2013) ‘Designing Robots for Care: Care Centered Value-Sensitive Design’, Science and Engineering Ethics, 19(2), pp. 407–433.

Verbeek, P.-P. (2006) ‘Materializing Morality: Design Ethics and Technological Mediation’, Science, Technology & Human Values, 31(3), pp. 361–380. 

Software

Lenguaje de programación Python