Logo UAB

Teoria de la Informació

Codi: 104405 Crèdits: 3
2024/2025
Titulació Tipus Curs
2503740 Matemàtica Computacional i Analítica de Dades OB 3

Professor/a de contacte

Nom:
Adrià Figuerola Torrell
Correu electrònic:
adria.figuerola@uab.cat

Equip docent

Joan Serra Sagrista

Idiomes dels grups

Podeu consultar aquesta informació al final del document.


Prerequisits

No hi ha prerequisits. En tot cas és aconsellable que es tingui domini de les qüestions més bàsiques d'àlgebra lineal fonamental i teoria de probabilitats.


Objectius

Estudiar la teoria matemàtica de la informació, en el cas discret, basada en les publicacions de C.E. Shannon l'any 1948. Estudiar les fonts de dades, la codificació de la font, la compressió de dades i la codificació del canal, amb la finalitat d'obtenir una transmissió o emmagatzematge eficient de dades.

 


Resultats d'aprenentatge

  1. CM21 (Competència) Triar la compressió de dades adequada en cada cas per a conservar les propietats desitjades.
  2. KM19 (Coneixement) Identificar els conceptes d'entropia i compressió de dades, informació mútua i capacitat, i la seva aplicació a la transmissió de dades.
  3. KM19 (Coneixement) Identificar els conceptes d'entropia i compressió de dades, informació mútua i capacitat, i la seva aplicació a la transmissió de dades.
  4. KM19 (Coneixement) Identificar els conceptes d'entropia i compressió de dades, informació mútua i capacitat, i la seva aplicació a la transmissió de dades.

Continguts

  1. Conceptes bàsics de teoria de la informació

    1. Mesura de la informació.

    2. Model de Shannon de font discreta sense memòria.

    3. Entropia d’una variable aleatòria discreta.

    4. Informació mútua entre dues v.a. discretes. Capacitat d’un canal.

  2. Codificació del canal

    1. Models importants de canals discrets sense memòria.

    2. Regles de descodificació.

  3. Codificació de la font

    1. Codis de longitud fixa, variable, a descodificació única i instantanis.

    2. Primer teorema de Shannon. Existència de codis òptims.

    3. Construcció de codis òptims: mètode de Huffman.

  4. Compressió de dades

    1. Tipus de compressió.

    2. Mètodes estadístics i tècniques de diccionari.

 


Activitats formatives i Metodologia

Títol Hores ECTS Resultats d'aprenentatge
Tipus: Dirigides      
Classes de teoria 13 0,52
Seminaris 12 0,48
Tipus: Supervisades      
Tutories i consultes 6 0,24
Tipus: Autònomes      
Preparació de les proves d'avaluació i estudi independent 16 0,64
Preparació de problemes 16 0,64

Les classes de teoria es basaran en lliçons magistrals, si bé s’intentarà fomentar la participació de l’alumnat en la resolució d’exemples, etc. Aquestes classes seran en format presencial, tot i que també es podran facilitar vídeos publicats al CV. A les classes de problemes, se seguirà una llista d’exercicis que l'estudiant intentarà resoldre pel seu compte. Es fomentarà l’exposició de la resolució de problemes per part de l'alumnat. Es farà servir el Campus Virtual com a mitjà de comunicació del professorat cap a l'alumnat (material, notícies, etc.).

Nota: es reservaran 15 minuts d'una classe, dins del calendari establert pel centre/titulació, per a la complementació per part de l'alumnat de les enquestes d'avaluació de l'actuació del professorat i d'avaluació de l'assignatura/mòdul.


Avaluació

Activitats d'avaluació continuada

Títol Pes Hores ECTS Resultats d'aprenentatge
Examen final 6 3 0,12 CM21, KM19
Lliurament d'activitats 1.5 1,5 0,06 CM21, KM19
Proves individuals 6 6 0,24 CM21, KM19
Resolució d'exercicis 2.5 1,5 0,06 CM21, KM19

Les dates d'avaluació continuada es publicaran al Campus Virtual i a les transparències de presentació de l'assignatura i poden estar subjectes a canvis de programació per motius d'adaptació a possibles incidències. Sempre s'informarà al Campus Virtual sobre aquests canvis, ja que s'entén que aquesta és la plataforma habitual d'intercanvi d'informació entre professorat i alumnat.


L'avaluació de l'assignatura, sobre 10 punts, es farà de la forma següent:

  • Dues proves parcials individuals, 3 punts cadascuna. Com a part de l’avaluació continuada la primera prova es farà durant la setmana d'exàmens intersemestrals acordades per la coordinació. La segona prova parcial es farà l'últim dia del curs. Cal obtenir almenys 1.2 dels 3 punts en cadascuna de les proves individuals per poder superar l'assignatura.
  • Lliurament d'activitats, 1.5  punt. S'haurà de lliurar una activitat relacionada amb alguns dels temes de l'assignatura.
  • Resolució d'exercicis, 2.5 punts. Com a part de l'avaluació continuada, s'hauran de realitzar activitats o resoldre exercicis via qüestionaris en línia. En algun cas es podria programar alguna altra activitat d'avaluació i es posarà en coneixement de l'alumnat a través del Campus Virtual.
  • Examen final, 6 punts. Qui no hagi superat alguna de les proves individuals tindrà l'opció de presentar-se a l'examen final per recuperar els parcials de l'assignatura que no hagi superat. Cal obtenir almenys 2.4 sobre 6 punts en cada examen parcial per poder superar l'assignatura.

No es podran recuperar les següents activitats:

  • Resolució d'exercicis.
  • Lliuramentd'activitats.

Sense perjudici d'altres mesures disciplinàries que s'estimin oportunes, i d'acord amb la normativa acadèmica vigent, les activitats d'avaluació (pràctiques, problemes o exàmens) amb irregularitats comeses per un estudiant que puguin conduir a una variació de la qualificació es qualificaran íntegrament amb un zero (0). Les activitats d'avaluació qualificades d'aquesta forma i per aquest procediment no seran recuperables. Si és necessari superar qualsevol d'aquestes activitats d'avaluació per aprovar l'assignatura, aquesta quedarà suspesa directament, sense oportunitat de recuperar-la en el mateix curs. Aquestes irregularitats inclouen, entre d'altres:

  • la còpia total o parcial de qualsevol activitat d'avaluació;
  • deixar copiar;
  • presentar un treball de grup no fet íntegrament pels membres del grup;
  • presentar com a propis materials elaborats per un tercer, encara que siguin traduccions o adaptacions, i en general treballs amb elements no originals i exclusius de l'estudiant;
  • tenir dispositius de comunicació (com telèfons mòbils, smart watches, etc.) accessibles durant les proves d'avaluació individuals (exàmens).

Per aprovar és necessari que l'avaluació de cadascuna de les parts superi el mínim exigit i que l'avaluació total superi els 5 punts. En cas de no superar l'assignatura degut a que alguna de les activitats d'avaluació no arriba a la nota mínima requerida, la nota numèrica de l'expedient serà el valor menor entre 4.5 i la mitjana ponderada de les notes. S'assignarà la designació de 'no avaluable' als estudiants que no hagin participat en cap activitat avaluadora. En el cas que un estudiant hagi incorregut en alguna irregularitat durant una de les avaluacions, la seva nota finalestarà limitada al valor més baix entre 3.0 o la mitjana calculada a partir de les seves notes. Això implica que l'aprovat per compensació de notes no serà una opció disponible.. Per poder obtenir una MH la nota final ha de ser igual o superior als 9 punts. Com que el nombre de MH no pot superar el 5% del nombre d'estudiants matriculats, es concediran a qui tingui les notes finals més altes. En cas d'empat, es tindran en compte les resolucions de les
proves parcials. És important tenir en compte que no es farà cap activitat d'avaluació a cap alumne en un horari diferent de l'establert si no existeix una causa justificada, s'ha avisat amb anterioritat a l'activitat i el professorat ha donat el seu consentiment. En qualsevol altre cas, si l'estudiant no ha assistit a una activitat, aquesta no es pot recuperar. En el cas d'avaluacions en línia de qüestionaris, es podrà demanar una revisió posteriorment a la data de tancament del qüestionari. Per a la resta d'activitats d'avaluació, s'indicarà un lloc, data i hora de revisió en la qual l'estudiant podrà revisar l'activitat amb el/la professor/a. En aquest context, es podran fer reclamacions sobre la nota de l'activitat, que seran avaluades pel professorat responsable de l'assignatura. Si l'estudiant no es presenta a aquesta revisió, no es revisarà posteriorment aquesta activitat.


Podeu consultar la normativa acadèmica de la UAB aprovada pel Consell de Govern de la UAB:http://webs2002.uab.es/afers_academics/info_ac/0041.htm


Bibliografia

Bibliografia bàsica

  • L. Huguet i J. Rifà. Comunicación Digital. Ed. Masson, 1991.
  • D. Salomon: Data compression - The Complete Reference, 4th Edition. Springer 2007.
  • R.B. Ash. Information Theory. John Wiley and Sons Inc, 1965.
  • G. Alvarez. Teoría matemática de la información. Ediciones ICE, 1981.
  • T.C. Bell, J.G. Cleary i I.H. Witten. Text Compression. Prentice Hall, 1990.

Bibliografia complementària

  • C.E. Shannon, "A mathematical theory of communications," Bell Syst. Tech. J., 27, 379-423, 1948.
  • B. McMillan, "The basic theorems of Information Theory," Ann. Math. Stat., 24, 196-219, 1953.
  • A.I. Khinchin. Mathematical foundations of Information Theory. Dover Publications, Inc., 1957.
  • R. W. Hamming. Coding and Information Theory. Prentice Hall, Inc., 1980.
  • M. Mansuripur. Introduction to Information Theory. Prentice Hall, Inc., 1987.
  • G.J. Chaitin. Algorithmic Information Theory. Cambridge University Press., 1987.
  • V. Shoup. A computational Introduction to number theory and Algebra. http://shoup.net/ntb/

Programari

Els programaris MATLAB, Python, entre d'altres són adequats per dur a terme les activitats. 


Llista d'idiomes

Nom Grup Idioma Semestre Torn
(SEM) Seminaris 1 Català primer quadrimestre matí-mixt
(TE) Teoria 1 Català primer quadrimestre matí-mixt