Reconeixement Visual
Codi: 44777 Crèdits: 9| Titulació | Tipus | Curs | Semestre |
|---|---|---|---|
| 4318299 Visió per Computador | OB | 0 | 2 |
Professor/a de contacte
- Nom:
- Maria Isabel Vanrell Martorell
- Correu electrònic:
- maria.vanrell@uab.cat
Idiomes dels grups
Podeu accedir-hi des d'aquest enllaç. Per consultar l'idioma us caldrà introduir el CODI de l'assignatura. Tingueu en compte que la informació és provisional fins a 30 de novembre de 2023.
Equip docent
- Joan Serrat Gual
- Ernest Valveny Llobet
- Petia Ivanova Radeva
- Adriana Romero Soriano
- Dimosthenis Karatzas
- Sergio Escalera Guerrero
- Luis Gomez Bigorda
Equip docent extern a la UAB
- Julio Silveira
- Michal Drodzal
Prerequisits
Grau en enginyeria, matemàtiques, física o similar.
Assignatura C3: "Machine learning for computer vision"
Objectius
Coordinador del mòdul: Dr. Joan Serrat Gual
En visió per computador, el reconeixement visual correspon a la tasca d’explicar el contingut d’una imatge en termes de “Què és?” “On és això?”. La resposta a aquestes preguntes és habitualment una etiqueta de classe corresponent als tipus d'objectes o objectes de la imatge, una caixa de delimitació estreta que conté l'objecte en qüestió o, a un nivell més fi, la regió (píxels) que és el seu esquema. Aquestes tasques s’anomenen, respectivament, classificació d’imatges, detecció d’objectes i segmentació semàntica. La pregunta és "doneu-me objectes com aquest", que requereix aprendre una mètrica similar entre imatges, fins i tot en el cas que provenen de diferents modalitats, com esbossos i fotografies, a través de les anomenades arquitectures de codificador-descodificador. El mòdul VR cobreix arquitectures de xarxes neuronals que aborden aquests quatre tipus de tasques. I, com a complement pràctic, mètodes per implementar-los.
En concret, en aquest mòdul oferim a l’alumne una visió general dels mètodes més recents basats en tècniques d’aprenentatge profund per resoldre problemes de reconeixement visual. L’objectiu final és comprendre escenes complexes per construir sistemes factibles per a la comprensió automàtica d’imatges capaços de respondre a la pregunta complexa de quins objectes i on es troben aquests objectes en una escena complexa.
Després d’haver abordat la tasca de classificació al mòdul M2, els estudiants aprendran una gran família d’arquitectures d’èxit de xarxes profundes convolucionals que s’han demostrat per resoldre les tasques visuals dedetecció i segmentació i reconeixement. A més d’aquestes dues tasques visuals, aquest mòdul també aborda temes avançats d’aprenentatge profund com ara arquitectures per a la generació d’imatges (GANs i VAEs) i arquitectures de codificadors i decodificadors per a aplicacions multimodals.
Resultats d'aprenentatge
- CA02 (Competència) Dissenyar tots els components i la seva interconnexió per a un sistema complet de reconeixement visual.
- CA06 (Competència) Aconseguir els objectius d'un projecte de visió fet en equip.
- KA05 (Coneixement) Identificar els problemes bàsics que cal solucionar en un problema de reconeixement visual d'una escena.
- KA13 (Coneixement) Proporcionar la millor modelització d'un problema de reconeixement visuals, com ara la classificació, la detecció o la segmentació semàntica.
- SA05 (Habilitat) Resoldre un problema de reconeixement visual entrenant una arquitectura de xarxa neuronal profunda i avaluar-ne els resultats.
- SA11 (Habilitat) Definir els millors conjunts de dades per entrenar arquitectures de reconeixement visual.
- SA15 (Habilitat) Preparar un informe que descrigui, justifiqui i il·lustri el desenvolupament d'un projecte de visió.
- SA17 (Habilitat) Preparar presentacions orals que permetin debatre els resultats del desenvolupament d'un projecte de visió.
Continguts
- Atenció pròpia i Transformers
- Detecció d'Objectes
- Segmentació Semàntica i d'instàncies
- Aprenentatge per Transferència: pre-entrenament, adaptació de domini, no-supervisat, auto-supervisat.
- Aprenentatge de mètriques
- Arquitectures per a la generació d'imatges: GANs i VAEs
- Aprenentatge per Reforçament
- Aprenentage Continu.
- Xarxes Neuronals Gràfiques
- Llenguatge i Visió
- Aprenentatge profund multimodal
- Models de difusió
- Reconeixement centrat en humans
- IA afectiva i fiable.
Metodologia
La metodologia d’aprenentatge es basa en les conferències i exercicis, però principalment en el projecte, que es desenvolupa durant tot el mòdul. Consisteix a resoldre algunes tasques de comprensió d’escenes aplicades a la conducció autònoma. L’objectiu és aprendre els conceptes i tècniques bàsiques per construir xarxes neuronals profundes per detectar, segmentar i reconèixer objectes específics, centrant-se en imatges enregistrades per una càmera de vehicles a bord per a la conducció autònoma.
Els objectius d'aprenentatge utilitzen diferents marcs de programació d'aprenentatge profund (DL) (actualment, PyTorch) i mètodes bàsics de DL com ara xarxes de transmissió avançades (MLP) i xarxes neuronals convolutives (CNN). Inclou la comprensió de xarxes estàndard de detecció (RCNN, Fast RCNN, Faster RCNN, YOLO) i segmentació (FCN, SegNet, UNET). Els estudiants aprendran mitjançant una metodologia basada en un projecte utilitzant eines col·laboratives modernes en totes les etapes del desenvolupament del projecte.
Els estudiants adquiriran les habilitats per a les tasques de dissenyar, entrenar, afinar i avaluar xarxes neuronals per resoldre el problema de comprensió automàtica de la imatge.
Tot això es realitza mitjançant tres formats:
- Sessions supervisades: conferències on els instructors explicaran continguts generals sobre els diferents temes. S’utilitzaran per resoldre el projecte i / o exercicis proposats.
- Sessions dirigides:
- Sessions de projectes, on es presentaran i discuteixen els problemes i objectius dels projectes, els estudiants interactuaran amb el coordinador del projecte sobre problemes i idees sobre la resolució del projecte. A més, els estudiants fan exposicions orals sobre com han resolt el projecte i informen dels resultats (aproximadament una vegada per setmana)
- Sessió d’exàmens, on els estudiants s’avaluen individualment. Assoliments de coneixements i habilitats de resolució de problemes
- Treball autònom:
- estudiar i treballar amb els materials derivats de les conferències, a més de resoldre alguns petits exercicis pràctics per entendre millor els lectors teòrics que no participen directament en la solució del projecte
- treballar en grup per resoldre els problemes dels projectes amb lliuraments: codi, informes, presentacions orals, exercicis
Nota: es reservaran 15 minuts d'una classe, dins del calendari establert pel centre/titulació, per a la complementació per part de l'alumnat de les enquestes d'avaluació de l'actuació del professorat i d'avaluació de l'assignatura/mòdul.
Activitats formatives
| Títol | Hores | ECTS | Resultats d'aprenentatge |
|---|---|---|---|
| Tipus: Dirigides | |||
| classes de teoria | 35 | 1,4 | KA05, KA13 |
| Tipus: Supervisades | |||
| projecte | 10 | 0,4 | CA02, CA06, SA05, SA11, SA15, SA17 |
| Tipus: Autònomes | |||
| estudi, exercicis | 170 | 6,8 | CA02, CA06, SA05, SA11, SA15, SA17 |
Avaluació
La nota final es calcularà mitjançant la següent fórmula :
Nota final = 0.4 x Examen + 0.55 x Projecte + 0.05 x Assistència
on
Examen: és la nota obtinguda de l'examen (ha de ser >=3). Pot ésser incrementada per punts extra corresponents als exercicis proposats en les classes d'alguns temes, però només si la nota de l'examen és com a mínim 3.
Assistència: nota derivada del control d'assistència a les classes (mínim 70%)
Projecte: nota atorgada pel coordinador del projecte basada en el seguiment que fa setmanalment i en els lliuraments del projecte (ha de ser >=5). Tot això d'acord amb criteris específics com ara:
-
Participació i discusió a les sessions i treball en grup (avaluacions intre pars)
-
Lliurament de parts obligatòries i opcionals
-
Codi desenvolupat (estil, comentaris, etc.)
-
Informe escrit (justificació de les decisions de desenvolupament)
-
Presentació oral i demostració
Només els estudiants que han suspès (Nota final < 5.0) poden fer l'examen de recuperació.
Activitats d'avaluació continuada
| Títol | Pes | Hores | ECTS | Resultats d'aprenentatge |
|---|---|---|---|---|
| assistència a les sessions | 0.05 | 0,5 | 0,02 | CA06, KA05, KA13 |
| examen | 0.4 | 2,5 | 0,1 | KA05, KA13 |
| projecte | 0.55 | 7 | 0,28 | CA02, CA06, SA05, SA11, SA15, SA17 |
Bibliografia
Referències genèriques :
-
Deep Learning. Ian Goodfellow, Yoshua Bengio, Aaron Courville. MIT Press, 2016.
-
Neural networks and deep learning. Michael Nielsen. http://neuralnetworksanddeeplearning.com
La majoria dels continguts està relacionat amb l'estat de l'art en els diferents temes així que no hi ha llibres publicats sinó articles de reivisió (surveys) i de recerca de cada un dels temes, que seran seleccionats pels professors.
Programari
Entorn de programació en Python amb especial atenció a les llibreries de visió per computador i Pythorch