Logo UAB
2023/2024

Reconeixement Visual

Codi: 44777 Crèdits: 9
Titulació Tipus Curs Semestre
4318299 Visió per Computador OB 0 2

Professor/a de contacte

Nom:
Maria Isabel Vanrell Martorell
Correu electrònic:
maria.vanrell@uab.cat

Idiomes dels grups

Podeu accedir-hi des d'aquest enllaç. Per consultar l'idioma us caldrà introduir el CODI de l'assignatura. Tingueu en compte que la informació és provisional fins a 30 de novembre de 2023.

Equip docent

Joan Serrat Gual
Ernest Valveny Llobet
Petia Ivanova Radeva
Adriana Romero Soriano
Dimosthenis Karatzas
Sergio Escalera Guerrero
Luis Gomez Bigorda

Equip docent extern a la UAB

Julio Silveira
Michal Drodzal

Prerequisits

Grau en enginyeria, matemàtiques, física o similar.
Assignatura C3: "Machine learning for computer vision"


Objectius

Coordinador del mòdul: Dr. Joan Serrat Gual

En visió per computador, el reconeixement visual correspon a la tasca d’explicar el contingut d’una imatge en termes de “Què és?” “On és això?”. La resposta a aquestes preguntes és habitualment una etiqueta de classe corresponent als tipus d'objectes o objectes de la imatge, una caixa de delimitació estreta que conté l'objecte en qüestió o, a un nivell més fi, la regió (píxels) que és el seu esquema. Aquestes tasques s’anomenen, respectivament, classificació d’imatges, detecció d’objectes i segmentació semàntica. La pregunta és "doneu-me objectes com aquest", que requereix aprendre una mètrica similar entre imatges, fins i tot en el cas que provenen de diferents modalitats, com esbossos i fotografies, a través de les anomenades arquitectures de codificador-descodificador. El mòdul VR cobreix arquitectures de xarxes neuronals que aborden aquests quatre tipus de tasques. I, com a complement pràctic, mètodes per implementar-los.

En concret, en aquest mòdul oferim a l’alumne una visió general dels mètodes més recents basats en tècniques d’aprenentatge profund per resoldre problemes de reconeixement visual. L’objectiu final és comprendre escenes complexes per construir sistemes factibles per a la comprensió automàtica d’imatges capaços de respondre a la pregunta complexa de quins objectes i on es troben aquests objectes en una escena complexa.

Després d’haver abordat la tasca de classificació al mòdul M2, els estudiants aprendran una gran família d’arquitectures d’èxit de xarxes profundes convolucionals que s’han demostrat per resoldre les tasques visuals dedetecció i segmentació i reconeixement. A més d’aquestes dues tasques visuals, aquest mòdul també aborda temes avançats d’aprenentatge profund com ara arquitectures per a la generació d’imatges (GANs i VAEs) i arquitectures de codificadors i decodificadors per a aplicacions multimodals.


Resultats d'aprenentatge

  • CA02 (Competència) Dissenyar tots els components i la seva interconnexió per a un sistema complet de reconeixement visual.
  • CA06 (Competència) Aconseguir els objectius d'un projecte de visió fet en equip.
  • KA05 (Coneixement) Identificar els problemes bàsics que cal solucionar en un problema de reconeixement visual d'una escena.
  • KA13 (Coneixement) Proporcionar la millor modelització d'un problema de reconeixement visuals, com ara la classificació, la detecció o la segmentació semàntica.
  • SA05 (Habilitat) Resoldre un problema de reconeixement visual entrenant una arquitectura de xarxa neuronal profunda i avaluar-ne els resultats.
  • SA11 (Habilitat) Definir els millors conjunts de dades per entrenar arquitectures de reconeixement visual.
  • SA15 (Habilitat) Preparar un informe que descrigui, justifiqui i il·lustri el desenvolupament d'un projecte de visió.
  • SA17 (Habilitat) Preparar presentacions orals que permetin debatre els resultats del desenvolupament d'un projecte de visió.

Continguts

  1. Atenció pròpia i Transformers
  2. Detecció d'Objectes
  3. Segmentació Semàntica i d'instàncies
  4. Aprenentatge per Transferència: pre-entrenament, adaptació de domini, no-supervisat, auto-supervisat.
  5. Aprenentatge de mètriques
  6. Arquitectures per a la generació d'imatges: GANs i VAEs
  7. Aprenentatge per Reforçament
  8. Aprenentage Continu.
  9. Xarxes Neuronals Gràfiques
  10. Llenguatge i Visió
  11. Aprenentatge profund multimodal
  12. Models de difusió
  13. Reconeixement centrat en humans
  14. IA afectiva i fiable.

Metodologia

La metodologia d’aprenentatge es basa en les conferències i exercicis, però principalment en el projecte, que es desenvolupa durant tot el mòdul. Consisteix a resoldre algunes tasques de comprensió d’escenes aplicades a la conducció autònoma. L’objectiu és aprendre els conceptes i tècniques bàsiques per construir xarxes neuronals profundes per detectar, segmentar i reconèixer objectes específics, centrant-se en imatges enregistrades per una càmera de vehicles a bord per a la conducció autònoma.

Els objectius d'aprenentatge utilitzen diferents marcs de programació d'aprenentatge profund (DL) (actualment, PyTorch) i mètodes bàsics de DL com ara xarxes de transmissió avançades (MLP) i xarxes neuronals convolutives (CNN). Inclou la comprensió de xarxes estàndard de detecció (RCNN, Fast RCNN, Faster RCNN, YOLO) i segmentació (FCN, SegNet, UNET). Els estudiants aprendran mitjançant una metodologia basada en un projecte utilitzant eines col·laboratives modernes en totes les etapes del desenvolupament del projecte.

Els estudiants adquiriran les habilitats per a les tasques de dissenyar, entrenar, afinar i avaluar xarxes neuronals per resoldre el problema de comprensió automàtica de la imatge.

Tot això es realitza mitjançant tres formats:

  •     Sessions supervisades: conferències on els instructors explicaran continguts generals sobre els diferents temes. S’utilitzaran per resoldre el projecte i / o exercicis proposats.
  •     Sessions dirigides:
  • Sessions de projectes, on es presentaran i discuteixen els problemes i objectius dels projectes, els estudiants interactuaran amb el coordinador del projecte sobre problemes i idees sobre la resolució del projecte. A més, els estudiants fan exposicions orals sobre com han resolt el projecte i informen dels resultats (aproximadament una vegada per setmana)
  • Sessió d’exàmens, on els estudiants s’avaluen individualment. Assoliments de coneixements i habilitats de resolució de problemes
  •     Treball autònom:
  • estudiar i treballar amb els materials derivats de les conferències, a més de resoldre alguns petits exercicis pràctics per entendre millor els lectors teòrics que no participen directament en la solució del projecte
  • treballar en grup per resoldre els problemes dels projectes amb lliuraments: codi, informes, presentacions orals, exercicis

Nota: es reservaran 15 minuts d'una classe, dins del calendari establert pel centre/titulació, per a la complementació per part de l'alumnat de les enquestes d'avaluació de l'actuació del professorat i d'avaluació de l'assignatura/mòdul.


Activitats formatives

Títol Hores ECTS Resultats d'aprenentatge
Tipus: Dirigides      
classes de teoria 35 1,4 KA05, KA13
Tipus: Supervisades      
projecte 10 0,4 CA02, CA06, SA05, SA11, SA15, SA17
Tipus: Autònomes      
estudi, exercicis 170 6,8 CA02, CA06, SA05, SA11, SA15, SA17

Avaluació

La nota final es calcularà mitjançant la següent fórmula :

Nota final = 0.4 x Examen + 0.55 x Projecte + 0.05 x Assistència

on

Examen: és la nota obtinguda de l'examen (ha de ser >=3). Pot ésser incrementada per punts extra corresponents als exercicis proposats en les classes d'alguns temes, però només si la nota de l'examen és com a mínim 3.

Assistència: nota derivada del control d'assistència a les classes (mínim 70%)

Projecte: nota atorgada pel coordinador del projecte basada en el seguiment que fa setmanalment i en els lliuraments del projecte (ha de ser >=5). Tot això d'acord amb criteris específics com ara:

  • Participació i discusió a les sessions i treball en grup (avaluacions intre pars)

  • Lliurament de parts obligatòries i opcionals

  • Codi desenvolupat (estil, comentaris, etc.)

  • Informe escrit (justificació de les decisions de desenvolupament)

  • Presentació oral i demostració

     

Només els estudiants que han suspès (Nota final < 5.0) poden fer l'examen de recuperació.

 


Activitats d'avaluació continuada

Títol Pes Hores ECTS Resultats d'aprenentatge
assistència a les sessions 0.05 0,5 0,02 CA06, KA05, KA13
examen 0.4 2,5 0,1 KA05, KA13
projecte 0.55 7 0,28 CA02, CA06, SA05, SA11, SA15, SA17

Bibliografia

Referències genèriques :

  1. Deep Learning. Ian Goodfellow, Yoshua Bengio, Aaron Courville. MIT Press, 2016.

  2. Neural networks and deep learning. Michael Nielsen. http://neuralnetworksanddeeplearning.com

La majoria dels continguts està relacionat amb l'estat de l'art en els diferents temes així que no hi ha llibres publicats sinó articles de reivisió (surveys) i de recerca de cada un dels temes, que seran seleccionats pels professors.


Programari

Entorn de programació en Python amb especial atenció a les llibreries de visió per computador i Pythorch