Logo UAB
2020/2021

Teoria de la Informació

Codi: 104405 Crèdits: 3
Titulació Tipus Curs Semestre
2503740 Matemàtica Computacional i Analítica de Dades OB 3 1
La metodologia docent i l'avaluació proposades a la guia poden experimentar alguna modificació en funció de les restriccions a la presencialitat que imposin les autoritats sanitàries.

Professor/a de contacte

Nom:
Cristina Fernández Córdoba
Correu electrònic:
Cristina.Fernandez@uab.cat

Utilització d'idiomes a l'assignatura

Llengua vehicular majoritària:
català (cat)
Grup íntegre en anglès:
No
Grup íntegre en català:
Grup íntegre en espanyol:
No

Equip docent

Joan Serra Sagristà
Joan Bartrina Rapesta

Prerequisits

No hi ha prerequisits. En tot cas és aconsellable que es tingui domini de les qüestions més bàsiques d'àlgebra lineal fonamental i teoria de probabilitats.

Objectius

Estudiar la teoria matemàtica de la informació, en el cas discret, basada en les publicacions de C.E. Shannon l'any 1948. Estudiar les fonts de dades, la codificació de la font, la compressió de dades i la codificació del canal, amb la finalitat d'obtenir una transmissió o emmagatzematge eficient de dades.

 

Competències

  • Demostrar una elevada capacitat d'abstracció i de traducció de fenòmens i comportaments a formulacions matemàtiques.
  • Formular hipòtesis i imaginar estratègies per confirmar-les o refutar-les.
  • Relacionar objectes matemàtics nous amb altres de coneguts i deduir-ne les propietats.

Resultats d'aprenentatge

  1. Avaluar els avantatges i els inconvenients de l'ús del càlcul i de l'abstracció.
  2. Contrastar, si és possible, l'ús del càlcul amb l'ús de l'abstracció per resoldre un problema.
  3. Conèixer els conceptes d'entropia i compressió de dades, informació mútua i capacitat i la seva aplicació a la transmissió de dades.
  4. Conèixer els resultats bàsics i les propietats fonamentals de l'entropia i la informació mútua.
  5. Desenvolupar estratègies autònomes per a la resolució de problemes propis del curs, discriminar els problemes rutinaris dels no-rutinaris i dissenyar i avaluar una estratègia per resoldre un problema.
  6. Explicar idees i conceptes matemàtics propis del curs, així com comunicar a tercers raonaments propis.
  7. Llegir i comprendre un text de matemàtiques del nivell del curs.

Continguts

  1. Conceptes bàsics de teoria de la informació (4 hores)

    1. Mesura de la informació.

    2. Model de Shannon de font discreta sense memòria.

    3. Entropia d’una variable aleatòria discreta.

    4. Informació mútua entre dues v.a. discretes. Capacitat d’un canal.

  2. Codificació de la font (3 hores)

    1. Codis de longitud fixa, variable, a descodificació única i instantanis.

    2. Primer teorema de Shannon. Existència de codis òptims.

    3. Construcció de codis òptims: mètode de Huffman.

  3. Compressió de dades (4 hores)

    1. Tipus de compressió.

    2. Mètodes estadístics i tècniques de diccionari.

  4. Codificació del canal (1 hores)

    1. Models importants de canals discrets sense memòria.

    2. Regles de descodificació.

Metodologia

Les classes de teoria es basaran en lliçons magistrals, si bé s’intentarà fomentar la participació de l’alumnat en la resolució d’exemples, etc. Aquestes classes poden ser en format presencial o a través de vídeos penjats al CV.  A les classes de problemes, se seguirà una llista d’exercicis que l'estudiant intentarà resoldre pel seu compte. Es fomentarà l’exposició de la resolució de problemes per part de l'alumnat. En les sessions de pràctiques es tractaran en profunditat temes relacionats: plantejament de casos reals, ampliació de determinats temes amb tècniques i algorismes alternatius als ja vistos. Es farà servir el Campus Virtual com a mitjà de comunicació del professorat cap a l'alumnat (material, notícies, etc.).

Activitats formatives

Títol Hores ECTS Resultats d'aprenentatge
Tipus: Dirigides      
Classes de teoria 12 0,48 1, 2, 3, 4, 7
Proves i activitats d'avaluació 12 0,48 1, 2, 3, 4, 5, 6, 7
Pràctiques 6 0,24 1, 2, 3, 4, 5
Seminaris 7 0,28 1, 2, 3, 4, 5, 6, 7
Tipus: Supervisades      
Tutories i consultes 6 0,24 1, 2, 3, 4, 7
Tipus: Autònomes      
Preparació de les proves d'avaluació i estudi independent 10 0,4 3, 4, 5, 7
Preparació de problemes i pràctiques 10 0,4 5, 7

Avaluació

Les dates d'avaluació continuada es publicaran al Campus Virtual i a les transparències de presentació de l'assignatura i poden estar subjectes a canvis de programació per motius d'adaptació a possibles incidències. Sempre s'informarà al Campus Virtual sobre aquests canvis ja que s'entén que aquesta és la plataforma habitual d'intercanvi d'informació entre professorat i alumnat.


L'avaluació de l'assignatura, sobre 10 punts, es farà de la forma següent:

  • Prova individual, 4 punts. La prova es farà en la data especificada per la coordinació en finalitzar tots els capítols del curs. Cal obtenir almenys 2 punts (dels 4 punts) per poder superar l'assignatura.
  • Presentació d'activitats, 1 punt. S'haura de lliurar i presentar una activitat relacionada amb alguns del temes de l'assignatura. Es realitzarà a l'horari destinat per la coordinació en els horaris de les proves parcials.
  • Resolució d'exercicis, 2.5 punts. Com a part de l'avaluació continuada, s'hauran de realitzar activitats o resoldre exercicis via qüestionaris en línia. En algun cas es podria programar alguna altra activitat d'avaluació i es posarà en coneixement de l'alumnat a traves del Campus Virtual.
  • Pràctiques obligatòries, 2.5 punts. Com a part de l'avaluació continuada, s'hauran de realitzar algunes pràctiques. Cal obtenir almenys 1 punt (dels 2.5 punts) per poder superar l'assignatura.
  • Examen final, 4 punts. Qui no hagi superat l'assignatura arran de la prova individual tindrà l'opció de presentar-se a l'examen final per recuperar tota la matèria de l'assignatura. Cal obtenir almenys 2 punts per poder superar l'assignatura.

No es podran recuperar lessegüents activitats:

  • Resolució d'exercicis.
  • Pràctiques obligatòries.
  • Presentació d'activitat.

Sense perjudici d'altres mesures disciplinàries que s'estimin oportunes, i d'acord amb la normativa acadèmica vigent, les activitats d'avaluació (pràctiques, problemes o exàmens) amb irregularitats comeses per un estudiant que puguin conduir a una variació de la qualificació es qualificaran íntegrament amb un zero (0). Les activitats d'avaluació qualificades d'aquesta forma i per aquest procediment no seran recuperables. Si és necessari superar qualsevol d'aquestes activitats d'avaluació per aprovar l'assignatura, aquesta quedarà suspesa directament, sense oportunitat de recuperar-la en el mateix curs. Aquestes irregularitats inclouen, entre d'altres:

  • la còpia total o parcial d'una pràctica, informe, o qualsevol altra activitat d'avaluació;
  • deixar copiar;
  • presentar un treball de grup no fet íntegrament pels membres del grup;
  • presentar com a propis materials elaborats per un tercer, encara que siguin traduccions o adaptacions, i en general treballs amb elements no originals i exclusius de l'estudiant;
  • tenir dispositius de comunicació (com telèfons mòbils, smart watches, etc.) accessibles durant les proves d'avaluació teorico-pràctiques individuals (exàmens).

Per aprovar és necessari que l'avaluació de cadascuna de les parts superi el mínim exigit i que l'avaluació total superi els 5 punts. En cas deno superar l'assignatura degut a que alguna de les activitats d'avaluació noarriba a la nota mínima requerida, la nota numèrica de l'expedient serà el valor menor entre 4.5 i la mitjana ponderada de les notes. Amb les excepcions de que s'atorgarà la qualificació de "no avaluable" a qui no participi en cap de les activitats d'avaluació, i de que la nota numèrica de l'expedient serà el valor menor entre 3.0 i la mitjana ponderada de les notes en cas que s'hagi comès irregularitats en un acte d'avaluació (i per tant no serà possible l'aprovat per compensació). Per poder obtenir una MH la nota final ha de ser igual o superior als 9 punts. Com que el nombre de MH no pot superar el 5% del nombre d'estudiants matriculats, es concediran a qui tingui les notes finals més altes. En cas d'empat, es tindran en compte les resolucions de les
proves parcials. És important tenir en compte que no es farà cap activitat d'avaluació a cap alumne en un horari diferent de l'establert si no existeix una causa justificada, s'ha avisat amb anterioritat a l'activitat i el professorat ha donat
el seu consentiment. En qualsevol altre cas, si l'estudiant no ha assistit a una activitat, aquesta no es pot recuperar. En el cas d'avaluacions en línia de qüestionaris, es podrà demanar una revisió posteriorment a la data de tancament del qüestionari. Per a la resta d'activitats d'avaluació, s'indicarà un lloc, data i hora de revisió en la que l'estudiant podrà revisar l'activitat amb el/la professor/a. En aquest context, es podran fer reclamacions sobre la nota de l'activitat, que seran avaluades pel professorat responsable de l'assignatura. Si l'estudiant no es presenta a aquesta revisió, no es revisarà posteriorment aquesta activitat.


Podeu consultar la normativa acadèmica de la UAB aprovada pel Consell de Govern de la UAB:http://webs2002.uab.es/afers_academics/info_ac/0041.htm

Activitats d'avaluació

Títol Pes Hores ECTS Resultats d'aprenentatge
Examen final 4 3 0,12 1, 2, 3, 4, 5, 6, 7
Presentació d'activitats 1 3 0,12 1, 2, 5, 6, 7
Prova individual 4 3 0,12 1, 2, 3, 4, 5, 6, 7
Pràctiques obligatòries 2.5 1,5 0,06 1, 2, 3, 4
Resolució d'exercicis 2.5 1,5 0,06 2, 3, 4, 5, 7

Bibliografia

Bibliografia bàsica

  • L. Huguet i J. Rifà. Comunicación Digital. Ed. Masson, 1991.
  • D. Salomon: Data compression - The Complete Reference, 4th Edition. Springer 2007.
  • R.B. Ash. Information Theory. John Wiley and Sons Inc, 1965.
  • G. Alvarez. Teoría matemática de la información. Ediciones ICE, 1981.
  • T.C. Bell, J.G. Cleary i I.H. Witten. Text Compression. Prentice Hall, 1990.

Bibliografia complementària

  • C.E. Shannon, "A mathematical theory of communications," Bell Syst. Tech. J., 27, 379-423, 1948.
  • B. McMillan, "The basic theorems of Information Theory," Ann. Math. Stat., 24, 196-219, 1953.
  • A.I. Khinchin. Mathematical foundations of Information Theory. Dover Publications, Inc., 1957.
  • R. W. Hamming. Coding and Information Theory. Prentice Hall, Inc., 1980.
  • M. Mansuripur. Introduction to Information Theory. Prentice Hall, Inc., 1987.
  • G.J. Chaitin. Algorithmic Information Theory. Cambridge University Press., 1987.
  • V. Shoup. A computational Introduction to number theory and Algebra. http://shoup.net/ntb/