Logo UAB

Aprenentatge Automàtic Avançat

Codi: 106575 Crèdits: 6
2024/2025
Titulació Tipus Curs
2504392 Intel·ligència Artificial / Artificial Intelligence OT 3
2504392 Intel·ligència Artificial / Artificial Intelligence OT 4

Professor/a de contacte

Nom:
Andrey Barsky
Correu electrònic:
Desconegut

Idiomes dels grups

Podeu consultar aquesta informació al final del document.


Prerequisits

Es recomana haver cursat les assignatures de Fonaments d'Aprenentatge Automàtic i de Xarxes Neuronals i Aprenentatge Profund


Objectius

This subject aims to give a detailed overview of techniques that enhance and optimise neural network models beyond the implementation of task-specific architectures. Building upon the foundation of previous subjects, this course focuses on meta-objectives that transfer, extend, or analyse the operation of existing models. 

Students will push their existing understanding of the mechanics of deep learning and address a range of practical challenges in deploying and scaling neural network models in realistic settings. They will learn to train models in resource-constrained settings; probe the behaviour of models to understand their failure cases; learn to subvert models as an adversary, and design models that are secure against subversion. 

By the end of this subject, students should have developed skills and expertise to think about secondary objectives in the development of deep models, and be able to reason about the behaviour of neural networks at a high level. They will also have practical experience with these advanced deep learning techniques, equipping them with the knowledge to create systems that are more adaptable, efficient, and robust. 


Competències

    Intel·ligència Artificial / Artificial Intelligence
  • Analitzar i resoldre problemes de manera efectiva, i generar propostes innovadores i creatives per aconseguir els objectius.
  • Conèixer, comprendre, utilitzar i aplicar adequadament els fonaments matemàtics necessaris per desenvolupar sistemes de raonament, aprenentatge i manipulació de grans volums de dades.
  • Desenvolupar pensament crític per analitzar de manera fonamentada i argumentada alternatives i propostes tant pròpies com alienes.
  • Elaborar estratègies per formular i solucionar diferents problemes d’aprenentatge de manera científica, creativa, crítica i sistemàtica, coneixent les capacitats i limitacions dels diferents mètodes i eines existents.
  • Introduir canvis en els mètodes i els processos de l’àmbit de coneixement per donar respostes innovadores a les necessitats i demandes de la societat. 
  • Que els estudiants tinguin la capacitat de reunir i interpretar dades rellevants (normalment dins de la seva àrea d'estudi) per emetre judicis que incloguin una reflexió sobre temes destacats d'índole social, científica o ètica.

Resultats d'aprenentatge

  1. Adaptar i reutilitzar models existents en dominis diferents.
  2. Analitzar críticament diferents models de sèries temporals i aplicar-los per a l’anàlisi i modelatge de dades seqüencials i sèries temporals.
  3. Analitzar i resoldre problemes de manera efectiva, i generar propostes innovadores i creatives per aconseguir els objectius.
  4. Conèixer diferents paradigmes d’aprenentatge automàtic i decidir el mètode d’aprenentatge més adequat segons les característiques de les dades a analitzar.
  5. Desenvolupar pensament crític per analitzar de manera fonamentada i argumentada alternatives i propostes tant pròpies com alienes.
  6. Identificar i modelar distribucions estadístiques.
  7. Ponderar els riscos i les oportunitats de les propostes de millora tant pròpies com alienes.
  8. Proposar nous mètodes o solucions alternatives fonamentades.
  9. Que els estudiants tinguin la capacitat de reunir i interpretar dades rellevants (normalment dins de la seva àrea d'estudi) per emetre judicis que incloguin una reflexió sobre temes destacats d'índole social, científica o ètica.

Continguts

Aprenentatge eficient i adaptatiu  

  • Transferència d'aprenentatge  

  • Distil·lació  

  • Aprenentatge semi-supervisat  

  • Meta-aprenentatge  

  • Aprenentatge continu 

IA responsable i fiable  

  • Explicabilitat i interpretabilitat  

  • Robustesa adversària 

  • Seguretat i privadesa 

Arquitectures i paradigmes avançats  

  • Xarxes neuronals de grafs  

  • Equacions diferencials ordinàries neuronals  

  • Models de difusió 


Activitats formatives i Metodologia

Títol Hores ECTS Resultats d'aprenentatge
Tipus: Dirigides      
Classes de Teoria 24 0,96 6, 9, 4
Sessions de laboratori 21 0,84 1, 3, 2, 5, 8, 7
Tipus: Supervisades      
Treball en projectes/exercicis 42 1,68 1, 3, 5, 8, 7
Tipus: Autònomes      
Estudi individual 20 0,8 3, 6, 9, 4
Treball en projectes/exercicis 30 1,2 1, 3, 5, 8, 7

El disseny de xarxes neuronals és guia pèls tipus de problemes que pretenen resoldre. A l'llarg d'aquesta assignatura serà aquesta tipologia de problemes la que proporcionarà la motivació de cada apartat i orientarà l'organització dels continguts. 

Hi haurà dos tipus de sessions: 

Classes de teoria: L'objectiu d'aquestes sessions és que el professor expliqui a els antecedents teòrics de l'assignatura. Per a cadascú dels temes estudiats s'explica la teoria i la formulació matemàtica, així com les solucions algorítmiques corresponents. 

Sessions de laboratori: les sessions de laboratori tenen com a objectiu facilitar la interacció, el treball col·laboratiu i reforçar la comprensió dels temes vistos a les classes de teoria. Durant les sessions de laboratori els estudiants treballaran casos pràctics que requereixen el disseny de solucions mitjançant els mètodes estudiats a les classes de teoria. La resolució de problemes s’iniciarà a la classe i es complementarà amb un conjunt setmanal de problemes per treballar a casa. 

Les activitats anteriors es complementaran amb un sistema de tutories i consultes fora de l’horari de classes. 

Projecte de l'Assignatura: Durant el semestre es farà un projecte, on els alumnes hauran de resoldre un problema específic de certa complexitat. Es treballarà en grups de 2-3 alumnes, on cada membre del grup haurà de contribuir de la mateixa manera a la solució final. Aquests grups de treball es mantindran fins al final del semestre i s'hauran d'autogestionar quant a distribució de rols, planificació del treball, assignació de tasques, gestió dels recursos disponibles, conflictes, etc. Per desenvolupar el projecte, els grups treballaran de forma autònoma, mentre que algunes de les sessions de laboratori es faran servir (1) perquè el professor presenti la temàtica dels projectes i discuteixi els possibles enfocaments, (2) per monitoritzar l'estat del projecte i (3) perquè els equips presentin els resultats finals. 

Tota la informació de l’assignatura i els documents relacionats que necessiten els estudiants estaran disponibles al campus virtual (cv.uab.cat). 

Nota: es reservaran 15 minuts d'una classe, dins del calendari establert pel centre/titulació, per a la complementació per part de l'alumnat de les enquestes d'avaluació de l'actuació del professorat i d'avaluació de l'assignatura/mòdul.


Avaluació

Activitats d'avaluació continuada

Títol Pes Hores ECTS Resultats d'aprenentatge
Lliurament de problemes 10% 5 0,2 1, 3, 2, 5
Proves escrites 50% 4 0,16 6, 9, 4
Proves pràctiques 40% 4 0,16 1, 3, 2, 5, 8, 7

Per avaluar el nivell d'aprenentatge de l'alumne, s'estableix una fórmula que combina l'adquisició de coneixements teòrics i pràctics, i la capacitat de resolució de problemes. 

Nota final 

La nota final es calcula ponderada de la següent manera i segons les diferents activitats que es duen a terme: 

Nota final = 0.5 * Nota de teoria + 0.1 * Nota de problemes + 0.4 * Nota de Projecte 

Aquesta fórmula s'aplicarà sempre que la qualificació de l'avaluació teòrica i pràctica sigui superior a 5. No hi ha restricció en la qualificació de la cartera de problemes. Si al fer el càlcul de la fórmula s'obté> = 5 però la nota de teoria o la nota de l'avaluació pràctica no arriba al mínim exigit, s'atorgarà una nota final de 4,5. 

Nota de teoria 

La nota de teoria té com a objectiu avaluar les habilitats individuals de l'alumne pel que fa al contingut teòric de l'assignatura, això es realitza de forma contínua durant el curs a través de dos exàmens parcials. La qualificació general de teoria és la mitjana de les qualificacions dels dos exàmens parcials. 

L'examen parcial # 1 es realitza a meitat de semestre i serveix per eliminar part de la matèria si s'aprova. L'examen parcial # 2 es realitza al final del semestre i serveix per eliminar la part del temari que ve després del parcial 1 si s'aprova. 

Aquests exàmens tenen com a objectiu avaluar les habilitats de cada alumne de forma individualitzada, tant en la resolució de problemes utilitzant les tècniques explicades a classe, com valorant el nivell de conceptualització que ha fet l'alumne de les tècniques vistes. Per obtenir una nota de teoria es requerirà que les qualificacions de tots dos exàmens parcials siguin superiors a 4. Si al fer el càlcul de la fórmula s'obté> = 5 però les qualificacions de qualsevol dels dos exàmens parcials no arriben al mínim requerit, llavors la nota final de teoria serà de 4.5. 

Examen de recuperació. En cas que la nota de teoria no arriba al nivell adequat per aprovar, els alumnes poden realitzar un examen de recuperació, destinat a recuperar la part reprovada (1, 2 o ambdues) del procés d'avaluació contínua. 

Nota de Problemes 

L'objectiu dels problemes és que l'alumne s'entreni de manera continuada amb els continguts de l'assignatura i es familiaritzi amb l'aplicació dels conceptes teòrics. Com a prova d'aquest treball se sol·licita el lliurament d'un portafoli amb lessolucions als problemes setmanals. Per obtenir una nota de problemes es requereix que l'alumne lliuri un mínim del 70% dels problemes. En cas contrari, la qualificació de problemes serà 0. 

Nota de Projecte 

El projecte d’assignatura té un pes essencial en la nota global de l’assignatura. Desenvolupar el projecte requereix que els estudiants treballin de manera col·laborativa i dissenyin una solució integral al repte definit. A més, els estudiants han de demostrar les seves habilitats de treball en equip i presentar els resultats a classe. 

El projecte s'avalua a través dels lliurables, una presentació oral que els estudiants realitzaran a classe i un procés d'autoavaluació. La participació dels estudiants a les tres activitats (preparació del lliurable, presentació i autoavaluació) és necessària per obtenir la qualificació dels projectes. La qualificació es calcula de la manera següent: 

Nota Projecte = 0.6 * Nota Lliurable + 0.3 * Nota Presentació + 0.1 * Nota Autoavaluació 

Si en fer el càlcul anterior s'obté >= 5 però l'estudiant no va participar en cap de les activitats (lliurables, presentació, autoavaluació), aleshores s'atorgarà una qualificació final de 4.5 al projecte del curs. 

En cas de no assolir la nota mínima, el grup podrà recuperar el projecte, amb una nota màxima restringida a 7/10. 

Notes importants 

Sense perjudici d'altres mesures disciplinàries que s'estimin oportunes, i d'acord amb la normativa acadèmica vigent, les activitats d'avaluació seran suspeses amb zero (0) sempre que un alumne cometi alguna irregularitat acadèmica que pugui alterar aquesta avaluació (per exemple, plagi, còpia, cessió de còpia, ...). Les activitats d'avaluació qualificades d'aquesta forma i per aquest procediment no seran recuperables. Si es necessita aprovar alguna d'aquestes activitats d'avaluació per aprovar l'assignatura, aquesta assignatura es suspendrà directament, sense possibilitat de recuperar-la en el mateix curs. 

En cas que l'alumne no faci cap lliurament de problemes, no participi en cap avaluació pràctica i en cap dels exàmens, la nota corresponent serà "no avaluable". En qualsevol altre cas, els "no presentats" computen com un 0 per al càlcul de la mitjana ponderada. 

Per obtenir matrícula d'honor, la qualificació final ha de ser igual o superior a 9 punts. A causa que el nombre d'estudiants amb aquesta distinció no pot excedir el 5% de l'nombre total d'estudiants inscrits al curs, se li atorga a qui tingui la qualificació final més alta. En cas d'empat, es tindran en compte els resultats dels exàmens parcials. 

 

Més detalls sobre el procés d'avaluació es faran a classe durant les primeres setmanes del semestre. En cas de discrepància entre aquesta guia i la informació donada a classe, prevaldrà la informació proporcionada a classe. 

 


Bibliografia

Libros / llibres: 

  • Deep Learning, Ian Goodfellow, Yoshua Bengio, and Aaron Courville, MIT Press, 1st Ed. 2016 

  • Deep learning with Python, François Chollet, Manning Publications, 2nd Ed., 2022 

  • Pattern Recognition and Machine Learning, Christopher Bishop, Springer, 2011 

libros online / llibres en línia: 

  • Zhang, Z.C. Lipton, M. Li, A.J. Smola, “Dive into Deep Learning”, 2021 
    https://d2l.ai/ 


Programari

Per a les activitats pràctiques del curs utilitzarem Python (NumPy, MatPlotLib, SciKit Learn) i PyTorch 


Llista d'idiomes

Nom Grup Idioma Semestre Torn
(PAUL) Pràctiques d'aula 1 Anglès segon quadrimestre matí-mixt
(TE) Teoria 1 Anglès segon quadrimestre matí-mixt