CODIFICA E COMPRESSIONE DELL'INFORMAZIONE

Stefano MARANO CODIFICA E COMPRESSIONE DELL'INFORMAZIONE

0622700032
DIPARTIMENTO DI INGEGNERIA DELL'INFORMAZIONE ED ELETTRICA E MATEMATICA APPLICATA
CORSO DI LAUREA MAGISTRALE
INGEGNERIA INFORMATICA
2015/2016

ANNO CORSO 1
ANNO ORDINAMENTO 2015
SECONDO SEMESTRE
CFUOREATTIVITÀ
990LEZIONE
Obiettivi
OBIETTIVO DEL CORSO È DI FORNIRE GLI ELEMENTI TEORICI E METODOLOGICI PER COMPRENDERE LA GENESI E LE APPLICAZIONI DELLE TECNICHE DI CODIFICA E DI COMPRESSIONE DELL’INFORMAZIONE.


- CONOSCENZE E CAPACITÀ DI COMPRENSIONE: MODELLI MATEMATICI E STATISTICI DEL CONCETTO DI INFORMAZIONE. PRINCIPI DI TEORIA DELL'INFORMAZIONE. RIDONDANZA E RAPPRESENTAZIONE DELL'INFORMAZIONE. LIMITI ULTIMI DEI SISTEMI DI COMPRESSIONE E DI TRASMISSIONE DELL'INFORMAZIONE.

- CONOSCENZA E CAPACITÀ DI COMPRENSIONE APPLICATE: CAPACITÀ DI MODELLARE ED ANALIZZARE SISTEMI DI CODIFICA DI SORGENTE E CODIFICA DI CANALE. CAPACITÀ DI PROGETTARE E REALIZZARE ALGORITMI DI CODIFICA E COMPRESSIONE DELL'INFORMAZIONE.

- AUTONOMIA DI GIUDIZIO: SAPER INDIVIDUARE LE METODOLOGIE APPROPRIATE PER L'ANALISI E IL PROGETTO DEI SISTEMI DI CODIFICA E COMPRESSIONE DELL'INFORMAZIONE.

- ABILITÀ COMUNICATIVE: SAPER ESPORRE ORALMENTE GLI ARGOMENTI DEL CORSO ED ACQUISIRE PADRONANZA DELLA TERMINOLOGIA TECNICA DELLA TEORIA DELL'INFORMAZIONE E DEI SISTEMI DI CODIFICA E COMPRESSIONE DELL'INFORMAZIONE.

- CAPACITÀ DI APPRENDERE: SAPER APPLICARE LE CONOSCENZE ACQUISITE A CONTESTI DIFFERENTI DA QUELLI PRESENTATI DURANTE IL CORSO, ED APPROFONDIRE GLI ARGOMENTI TRATTATI USANDO MATERIALI DIVERSI DA QUELLI PROPOSTI.







Prerequisiti
PER IL PROFICUO RAGGIUNGIMENTO DEGLI OBIETTIVI PREFISSATI È RICHIESTO IL POSSESSO DI STRUMENTI METODOLOGICI DI BASE NEL CAMPO MATEMATICO E PROBABILISTICO, NONCHÉ ELEMENTI DI TRASMISSIONE DIGITALE DELL'INFORMAZIONE.
Contenuti
- CODIFICA DI SORGENTE

RICHIAMI DI TEORIA DELL’INFORMAZIONE.
ENTROPIA DIFFERENZIALE. RELAZIONE FRA ENTROPIA DIFFERENZIALE ED ENTROPIA DELLA VARIABILE QUANTIZZATA. DIVERGENZA E MUTUA INFORMAZIONE PER VARIABILI ALEATORIE CONTINUE.
FUNZIONE R(D) (TASSO VS. DISTORSIONE). CALCOLO DI R(D): CASO DELLA VARIABILE GAUSSIANA. CENNI SUL TEOREMA DI SEPARAZIONE E SULLE TRASMISSIONI NON CODIFICATE.


- QUANTIZZAZIONE


QUANTIZZATORE SCALARE. DISTORSIONE, RUMORE GRANULARE E DI SOVRACCARICO, RAPPORTO SEGNALE-RUMORE. QUANTIZZAZIONE UNIFORME. QUANTIZZAZIONE NON UNIFORME.
QUANTIZZAZIONE OTTIMA: REGOLA “NEAREST NEIGHBOR” E REGOLA DEL CENTRO DI MASSA. ALGORITMO DI LLOYD. PREDIZIONE OTTIMA NON LINEARE E LINEARE; PRINCIPIO DI ORTOGONALITÀ. PREDIZIONE LINEARE CON MEMORIA FINITA. CODIFICA PER TRASFORMATE IL PROBLEMA DELL’ALLOCAZIONE DEI BIT.
QUANTIZZAZIONE PER PROBLEMI DI INFERENZA STATISTICA IN RETI DISTRIBUITE. QUANTIZZATORI ALEATORI À LA LUO. APPLICAZIONI: APPRENDIMENTO DISTRIBUITO IN RETI DI SENSORI CON VINCOLI DI COMUNICAZIONE.


- COMPRESSED SENSING

INTRODUZIONE AL COMPRESSED SENSING (CS): MOTIVAZIONI, APPLICAZIONI E POTENZIALITÀ. CS COME SUPERAMENTO DELLA VISIONE CLASSICA DEL TEOREMA DEL CAMPIONAMENTO. CAMPIONAMENTO DI SEGNALI SPARSI. DEFINIZIONE DI “MISURE” E MATRICI DI ACQUISIZIONE. LA PROPRIETÀ DI ISOMETRIA RISTRETTA (RIP) E SUA RILEVANZA PER IL PROBLEMA DELLA RICOSTRUZIONE.
CONDIZIONI PER LA RICOSTRUZIONE ATTRAVERSO MINIMIZZAZIONE DELLA NORMA L0. EQUIVALENZA CON IL PROBLEMA DI MINIMIZZAZIONE DELLA NORMA L1. ROBUSTEZZA E STABILITÀ.


- CODIFICA DI CANALE

IL II TEOREMA DI SHANNON E IL CONCETTO DI CAPACITÀ DI CANALE. RIDONDANZA DI CODIFICA E TASSO DEL CODICE. GUADAGNO DI CODIFICA. CODIFICA ALEATORIA. CANALE GAUSSIANO E CANALE BINARIO SIMMETRICO. DECODIFICA HARD E DECODIFICA SOFT. CODIFICA LINEARE A BLOCCHI. CODICI CONVOLUZIONALI. ALGORITMO DI VITERBI E DECODIFICA SU GRAFI A TRALICCIO. CODICI LDPC E DECODIFICA ITERATIVA SU GRAFI BIPARTITI.
Metodi Didattici
L’INSEGNAMENTO CONTEMPLA LEZIONI TEORICHE DI ANALISI DELLE PRINCIPALI METODOLOGIE MATEMATICO-PROBABILISTICHE, LEZIONI APPLICATIVE SUI RELATIVI SVILUPPI TECNOLOGICI, RELATIVE ESERCITAZIONI IN CLASSE. SONO PREVISTE PROVE SOTTO FORMA DI SET DI PROBLEMI ED ESERCIZI AL CALCOLATORE, DA RISOLVERE SIA IN CLASSE CHE A CASA.
Verifica dell'apprendimento
LA PROVA DI ESAME È FINALIZZATA A VALUTARE: LA CONOSCENZA E LA CAPACITÀ DI COMPRENSIONE DEI CONCETTI PRESENTATI AL CORSO; LA CAPACITÀ DI APPLICARE TALI CONOSCENZE PER LA RISOLUZIONE DI PROBLEMI DI CODIFICA E COMPRESSIONE DELL'INFORMAZIONE NEI SISTEMI DI TELECOMUNICAZIONE; LA CAPACITÀ DI APPRENDIMENTO, LA PADRONANZA DEL METODO SCIENTIFICO PER LA RISOLUZIONE DI PROBLEMI COMPLESSI E L'ATTITUDINE ALL'ANALISI CRITICA.
LA VALUTAZIONE CONSISTE PRINCIPALMENTE IN UN COLLOQUIO ORALE, CHE VERTERÀ SU TUTTI GLI ARGOMENTI DEL CORSO E LA VOTAZIONE (ESPRESSA IN TRENTESIMI) TERRÀ CONTO, IN AGGIUNTA AI CRITERI MENZIONATI, DELLA QUALITÀ DELL’ESPOSIZIONE.
Testi
- T. M. COVER, J. A. THOMAS, ELEMENTS OF INFORMATION THEORY, JOHN WILEY & SONS, 1991

- A. GERSHO, R. GRAY: VECTOR QUANTIZATION AND SIGNAL COMPRESSION, KLUWER, 1991

- E. BIGLIERI, CODING FOR WIRELESS CHANNELS, SPRINGER-VERLAG, 2008

- JOHN G. PROAKIS, DIGITAL COMMUNICATIONS, MCGRAW-HILL, 2008
  BETA VERSION Fonte dati ESSE3 [Ultima Sincronizzazione: 2016-09-30]