Logo UAB
2022/2023

Teoria de la Informació

Codi: 104405 Crèdits: 3
Titulació Tipus Curs Semestre
2503740 Matemàtica Computacional i Analítica de Dades OB 3 1

Professor/a de contacte

Nom:
Adrià Figuerola Torrell
Correu electrònic:
adria.figuerola@uab.cat

Utilització d'idiomes a l'assignatura

Llengua vehicular majoritària:
català (cat)
Grup íntegre en anglès:
No
Grup íntegre en català:
Grup íntegre en espanyol:
No

Equip docent

Joan Serra Sagristà

Prerequisits

No hi ha prerequisits. En tot cas és aconsellable que es tingui domini de les qüestions més bàsiques d'àlgebra lineal fonamental i teoria de probabilitats.

Objectius

Estudiar la teoria matemàtica de la informació, en el cas discret, basada en les publicacions de C.E. Shannon l'any 1948. Estudiar les fonts de dades, la codificació de la font, la compressió de dades i la codificació del canal, amb la finalitat d'obtenir una transmissió o emmagatzematge eficient de dades.

 

Competències

  • Demostrar una elevada capacitat d'abstracció i de traducció de fenòmens i comportaments a formulacions matemàtiques.
  • Formular hipòtesis i imaginar estratègies per confirmar-les o refutar-les.
  • Relacionar objectes matemàtics nous amb altres de coneguts i deduir-ne les propietats.

Resultats d'aprenentatge

  1. Avaluar els avantatges i els inconvenients de l'ús del càlcul i de l'abstracció.
  2. Contrastar, si és possible, l'ús del càlcul amb l'ús de l'abstracció per resoldre un problema.
  3. Conèixer els conceptes d'entropia i compressió de dades, informació mútua i capacitat i la seva aplicació a la transmissió de dades.
  4. Conèixer els resultats bàsics i les propietats fonamentals de l'entropia i la informació mútua.
  5. Desenvolupar estratègies autònomes per a la resolució de problemes propis del curs, discriminar els problemes rutinaris dels no-rutinaris i dissenyar i avaluar una estratègia per resoldre un problema.
  6. Explicar idees i conceptes matemàtics propis del curs, així com comunicar a tercers raonaments propis.
  7. Llegir i comprendre un text de matemàtiques del nivell del curs.

Continguts

  1. Conceptes bàsics de teoria de la informació

    1. Mesura de la informació.

    2. Model de Shannon de font discreta sense memòria.

    3. Entropia d’una variable aleatòria discreta.

    4. Informació mútua entre dues v.a. discretes. Capacitat d’un canal.

  2. Codificació del canal

    1. Models importants de canals discrets sense memòria.

    2. Regles de descodificació.

  3. Codificació de la font

    1. Codis de longitud fixa, variable, a descodificació única i instantanis.

    2. Primer teorema de Shannon. Existència de codis òptims.

    3. Construcció de codis òptims: mètode de Huffman.

  4. Compressió de dades

    1. Tipus de compressió.

    2. Mètodes estadístics i tècniques de diccionari.

 

Metodologia

Les classes de teoria es basaran en lliçons magistrals, si bé s’intentarà fomentar la participació de l’alumnat en la resolució d’exemples, etc. Aquestes classes poden ser en format presencial o a través de vídeos penjats al CV.  A les classes de problemes, se seguirà una llista d’exercicis que l'estudiant intentarà resoldre pel seu compte. Es fomentarà l’exposició de la resolució de problemes per part de l'alumnat. Es farà servir el Campus Virtual com a mitjà de comunicació del professorat cap a l'alumnat (material, notícies, etc.).

Nota: es reservaran 15 minuts d'una classe, dins del calendari establert pel centre/titulació, perquè l'alumnat empleni les enquestes d'avaluació de l'actuació del professorat i d'avaluació de l'assignatura/mòdul.

Activitats formatives

Títol Hores ECTS Resultats d'aprenentatge
Tipus: Dirigides      
Classes de teoria 13 0,52 1, 2, 3, 4, 7
Seminaris 12 0,48 1, 2, 3, 4, 5, 6, 7
Tipus: Supervisades      
Tutories i consultes 6 0,24 1, 2, 3, 4, 7
Tipus: Autònomes      
Preparació de les proves d'avaluació i estudi independent 16 0,64 3, 4, 5, 7
Preparació de problemes 16 0,64 5, 7

Avaluació

Les dates d'avaluació continuada es publicaran al Campus Virtual i a les transparències de presentació de l'assignatura i poden estar subjectes a canvis de programació per motius d'adaptació a possibles incidències. Sempre s'informarà al Campus Virtual sobre aquests canvis, ja que s'entén que aquesta és la plataforma habitual d'intercanvi d'informació entre professorat i alumnat.


L'avaluació de l'assignatura, sobre 10 punts, es farà de la forma següent:

  • Dues proves parcials individuals, 3 punts cadascuna. Com a part de l’avaluació continuada la primera prova es farà durant la setmana d'exàmens intersemestrals acordades per la coordinació. La segona prova parcial es farà l'últim dia del curs. Cal obtenir almenys 1.2 dels 3 punts en cadascuna de les proves individuals per poder superar l'assignatura.
  • Lliurament d'activitats, 1.5  punt. S'haurà de lliurar una activitat relacionada amb alguns dels temes de l'assignatura.
  • Resolució d'exercicis, 2.5 punts. Com a part de l'avaluació continuada, s'hauran de realitzar activitats o resoldre exercicis via qüestionaris en línia. En algun cas es podria programar alguna altra activitat d'avaluació i es posarà en coneixement de l'alumnat a través del Campus Virtual.
  • Examen final, 6 punts. Qui no hagi superat l'assignatura arran de les proves individuals tindrà l'opció de presentar-se a l'examen final per recuperar tota la matèria de l'assignatura. Cal obtenir almenys 2.4 sobre 6 punts per poder superar l'assignatura.

No es podran recuperar les següents activitats:

  • Resolució d'exercicis.
  • Presentació d'activitat.

Sense perjudici d'altres mesures disciplinàries que s'estimin oportunes, i d'acord amb la normativa acadèmica vigent, les activitats d'avaluació (pràctiques, problemes o exàmens) amb irregularitats comeses per un estudiant que puguin conduir a una variació de la qualificació es qualificaran íntegrament amb un zero (0). Les activitats d'avaluació qualificades d'aquesta forma i per aquest procediment no seran recuperables. Si és necessari superar qualsevol d'aquestes activitats d'avaluació per aprovar l'assignatura, aquesta quedarà suspesa directament, sense oportunitat de recuperar-la en el mateix curs. Aquestes irregularitats inclouen, entre d'altres:

  • la còpia total o parcial de qualsevol activitat d'avaluació;
  • deixar copiar;
  • presentar un treball de grup no fet íntegrament pels membres del grup;
  • presentar com a propis materials elaborats per un tercer, encara que siguin traduccions o adaptacions, i en general treballs amb elements no originals i exclusius de l'estudiant;
  • tenir dispositius de comunicació (com telèfons mòbils, smart watches, etc.) accessibles durant les proves d'avaluació individuals (exàmens).

Per aprovar és necessari que l'avaluació de cadascuna de les parts superi el mínim exigit i que l'avaluació total superi els 5 punts. En cas de no superar l'assignatura degut a que alguna de les activitats d'avaluació no arriba a la nota mínima requerida, la nota numèrica de l'expedient serà el valor menor entre 4.5 i la mitjana ponderada de les notes. S'atorgarà la qualificació de "no avaluable" a qui no participi en cap de les activitats d'avaluació, i de què la nota numèrica de l'expedient serà el valor menor entre 3.0 i la mitjana ponderada de les notes en cas que s'hagi comès irregularitats en un acte d'avaluació (i, per tant, no serà possible l'aprovat per compensació). Per poder obtenir una MH la nota final ha de ser igual o superior als 9 punts. Com que el nombre de MH no pot superar el 5% del nombre d'estudiants matriculats, es concediran a qui tingui les notes finals més altes. En cas d'empat, es tindran en compte les resolucions de les
proves parcials. És important tenir en compte que no es farà cap activitat d'avaluació a cap alumne en un horari diferent de l'establert si no existeix una causa justificada, s'ha avisat amb anterioritat a l'activitat i el professorat ha donat el seu consentiment. En qualsevol altre cas, si l'estudiant no ha assistit a una activitat, aquesta no es pot recuperar. En el cas d'avaluacions en línia de qüestionaris, es podrà demanar una revisió posteriorment a la data de tancament del qüestionari. Per a la resta d'activitats d'avaluació, s'indicarà un lloc, data i hora de revisió en la qual l'estudiant podrà revisar l'activitat amb el/la professor/a. En aquest context, es podran fer reclamacions sobre la nota de l'activitat, que seran avaluades pel professorat responsable de l'assignatura. Si l'estudiant no es presenta a aquesta revisió, no es revisarà posteriorment aquesta activitat.


Podeu consultar la normativa acadèmica de la UAB aprovada pel Consell de Govern de la UAB:http://webs2002.uab.es/afers_academics/info_ac/0041.htm

Activitats d'avaluació

Títol Pes Hores ECTS Resultats d'aprenentatge
Examen final 6 3 0,12 1, 2, 3, 4, 5, 6, 7
Lliurament d'activitats 1.5 1,5 0,06 1, 2, 5, 6, 7
Proves individuals 6 6 0,24 1, 2, 3, 4, 5, 6, 7
Resolució d'exercicis 2.5 1,5 0,06 2, 3, 4, 5, 7

Bibliografia

Bibliografia bàsica

  • L. Huguet i J. Rifà. Comunicación Digital. Ed. Masson, 1991.
  • D. Salomon: Data compression - The Complete Reference, 4th Edition. Springer 2007.
  • R.B. Ash. Information Theory. John Wiley and Sons Inc, 1965.
  • G. Alvarez. Teoría matemática de la información. Ediciones ICE, 1981.
  • T.C. Bell, J.G. Cleary i I.H. Witten. Text Compression. Prentice Hall, 1990.

Bibliografia complementària

  • C.E. Shannon, "A mathematical theory of communications," Bell Syst. Tech. J., 27, 379-423, 1948.
  • B. McMillan, "The basic theorems of Information Theory," Ann. Math. Stat., 24, 196-219, 1953.
  • A.I. Khinchin. Mathematical foundations of Information Theory. Dover Publications, Inc., 1957.
  • R. W. Hamming. Coding and Information Theory. Prentice Hall, Inc., 1980.
  • M. Mansuripur. Introduction to Information Theory. Prentice Hall, Inc., 1987.
  • G.J. Chaitin. Algorithmic Information Theory. Cambridge University Press., 1987.
  • V. Shoup. A computational Introduction to number theory and Algebra. http://shoup.net/ntb/

Programari

Els programaris MATLAB, Excel, Python, entre d'altres són adequats per dur a terme les activitats.