2. Docenti
  3. Didattica

DEEP LEARNING

LOREDANA CARUCCIO DEEP LEARNING

0522500149
DIPARTIMENTO DI INFORMATICA
CORSO DI LAUREA MAGISTRALE
INFORMATICA
2024/2025

ANNO ORDINAMENTO 2016
SECONDO SEMESTRE
CFUOREATTIVITÀ
432LEZIONE
216LABORATORIO
GIUSEPPE POLESE T Curriculum
LOREDANA CARUCCIO Curriculum
Obiettivi
LO STUDENTE ACQUISIRÀ:
•CONOSCENZA DEI PRINCIPI TEORICI E GLI ALGORITMI DI BASE DEL DEEP LEARNING, CON PARTICOLARE ENFASI SULLE RETI NEURALI ARTIFICIALI ED ARCHITETTURE TRANSFORMERS
•CONCETTI FONDAMENTALI INERENTI AL FUNZIONAMENTO DELLE RETI NEURALI ARTIFICIALI E DEI DIVERSI PARADIGMI DI APPRENDIMENTO PROFONDO.
•CONOSCENZA DEI PRINCIPALI MODELLI ED ALGORITMI DI DEEP LEARNING DA APPLICARE SU DATI MULTIMEDIALI E TESTUALI
•SPIEGARE I DIVERSI ALGORITMI DI APPRENDIMENTO PER LE RETI NEURALI, INCLUSI MODELLI BASATI SU ARCHITETTURE TRANSFORMERS E A GRAFO
LO STUDENTE SARÀ IN GRADO DI:
•ANALIZZARE PROBLEMI REALI E SCEGLIERE LE PIÙ OPPORTUNE TECNICHE DI DEEP LEARNING PER LA LORO RISOLUZIONE, SVILUPPANDO AL CONTEMPO LA CAPACITÀ DI IMPLEMENTARLE;
•APPLICARE MODELLI DI DEEP LEARNING A PROBLEMI REALI IN SVARIATI DOMINI, COME LA VISIONE ARTIFICIALE, L'ELABORAZIONE DEL LINGUAGGIO NATURALE, LA ROBOTICA E LA BIOINFORMATICA.
•PROGETTARE, IMPLEMENTARE E ADDESTRARE MODELLI DI DEEP LEARNING UTILIZZANDO LIBRERIE E FRAMEWORK SOFTWARE DIFFUSI.
•VALUTARE LE PRESTAZIONI DEI MODELLI DI DEEP LEARNING E OTTIMIZZARNE LE PRESTAZIONI.
•FAMILIARIZZARE RAPIDAMENTE CON NUOVE TEMATICHE DI DEEP LEARNING E DI INTERAGIRE CON COMUNITÀ DI SVILUPPATORI ED ESPERTI DI QUEST’AREA.
LO STUDENTE ACQUISIRÀ UNA AUTONOMIA DI GIUDIZIO IN QUANTO DOVRÀ ESSERE IN GRADO DI:
•STUDIARE CONCETTI TEORICI ED APPLICARLI IN VARI DOMINI APPLICATIVI ATTRAVERSO LA RISOLUZIONE DI ESERCIZI CHE CONSENTANO DI GIUDICARE IL LIVELLO DI COMPRENSIONE RAGGIUNTO ED EVENTUALMENTE DI ACCRESCERLO;
•VALUTARE LA GIUSTA ARCHITETTURA E MODELLO DI DEEP LEARNING DA UTILIZZARE PER PROBLEMI SPECIFICI DI DIVERSA NATURA.
•VALUTARE SORGENTI DATI IDONEE PER AFFRONTARE PROBLEMI REALI CON MODELLI DI DEEP LEARNING.
•VALUTARE LA BONTÀ DI METODOLOGIE DI DEEP LEARNING E LA CORRETTEZZA DEI RISULTATI OTTENUTI DAI MODELLI DI DEEP LEARNING E TRARRE CONCLUSIONI SIGNIFICATIVE.
LO STUDENTE SARÀ IN GRADO DI:
•COMUNICARE EFFICACEMENTE I CONCETTI DI DEEP LEARNING A UN PUBBLICO DI ESPERTI E NON ESPERTI.
•DESCRIVERE, ATTRAVERSO UN’OPPORTUNA DOCUMENTAZIONE DI PROGETTO, LE SCELTE PROGETTUALI INTRAPRESE DURANTE LE FASI DI PROGETTAZIONE E SVILUPPO, ARGOMENTANDOLE E MOTIVANDOLE.
•PRESENTARE I RISULTATI DI SCIENTIFICI OTTENUTI DALL’APPLICAZIONE DI MODELLI DI DEEP LEARNING IN PROBLEMI SPECIFICI IN MODO EFFICACE IN CONTESTI ACCADEMICI E PROFESSIONALI.
•COLLABORARE EFFICACEMENTE CON ALTRI PROFESSIONISTI PER SVILUPPARE E IMPLEMENTARE SOLUZIONI BASATE SU DEEP LEARNING.
LO STUDENTE SARÀ IN GRADO DI:
•ACQUISIRE CAPACITÀ NELLO STUDIO DELLE CARATTERISTICHE DI DIVERSI MODELLI DI DEEP LEARNING, IMPARANDO A CONFRONTARLI IN MODO CRITICO ED INDIVIDUANDO QUELLI PIÙ IDONEI PER UN DETERMINATO PROBLEMA.
•ACQUISIRE LA CAPACITÀ DI VALUTARE LE PRESTAZIONI DI MODELLI DI DEEP LEARNING E DI INDIVIDUARE LA ATTIVITÀ DI TUNING NECESSARIE PER IL LORO MIGLIORAMENTO.
•APPRENDERE AUTONOMAMENTE I PIÙ RECENTI CONCETTI E TECNICHE DI DEEP LEARNING.
Prerequisiti
È PREFERIBILE AVER SEGUITO UN CORSO DI FONDAMENTI INTELLIGENZA ARTIFICIALE, MACHINE LEARNING O UN QUALSIASI CORSO IN CUI SONO STATI ACQUISITI I CONCETTI FONDAMENTALI DI MACHINE LEARNING.
Contenuti

IL CORSO SI CONCENTRERÀ SUI SEGUENTI ARGOMENTI:
•INTRODUZIONE AI MODELLI DI DEEP LEARNING E SCENARI APPLICATIVI (2 ORE)
•FORWARD E BACKPROPAGATION: INTRODUZIONE ALLE RETI NEURALI; FORWARD PROPAGATION; FUNZIONI DI ATTIVAZIONE NON LINEARI; LOSS FUNCTIONS; ALGORITMI DI BACKPROPAGATION; GRADIENT DESCENT E OPTIMIZATION (4 ORE)
•PROBLEMI DI OTTIMIZZAZIONE: CLASSI DI PROBLEMI DI OTTIMIZZAZIONE; GRADIENT-BASED OPTIMIZATION METHODS; FIRST-ORDER VS SECOND-ORDE; HYPERPARAMETER TUNING (5 ORE)
•RETI NEURALI CONVOLUZIONALI (CNN): INTRODUZIONE ALLE CNN; OPERAZIONI DI CONVOLUZIONE; POOLING LAYERS; CNN ARCHITECTURES; APPLICAZIONI DELLE CNN (4 ORE)
•INTRODUZIONE AL NATURAL LANGUAGE PROCESSING (NLP); RECURRENT NEURAL NETWORKS (RNN); GATED RECURRENT UNIT (GRU); LONG SHORT-TERM MEMORY (LSTM); SEQUENCE-TO-SEQUENCE LEARNING CON LE RNN; INTRODUZIONE ED APPLICAZIONI DI EMBEDDING (5 ORE)
•GRAPH NEURAL NETWORKS (GNN): INTRODUZIONE AI GRAPH DATA; GRAPH EMBEDDING; GRAPH CONVOLUTION NETWORK (GCN) (4 ORE)
•TRANSFORMER: TRANSFER LEARNING; ATTENTION MECHANISM; ARCHITETTURA TRANSFORMER; APPLICAZIONI TRANSFORMERS (E.G., BERT, GPT) (4 ORE)
•ADVANCED E COLLABORATIVE LEARNING: ACTIVE LEARNING; FEDERATED LEARNING; LEARNING DA DATA STREAM E DATA SERIES (4 ORE)
LE LEZIONI DI LABORATORIO SI CONCENTRERANNO SUI SEGUENTI ARGOMENTI:
•INTRODUZIONE A PYTHON (4 ORE)
•SCIKIT-LEARN (2 ORE)
•SUITE DI LIBRERIE TRANSFORMER PER NLP (2 ORE)
•KERAS E TENSORFLOW (2 ORE)
•INTRODUZIONE A CUDA ED OPENCV (4 ORE)
•CASI DI STUDIO (2 ORE)
Metodi Didattici
IL METODO DIDATTICO PREVEDE 32 ORE DI DIDATTICA FRONTALE INTEGRATE DA 16 ORE DI LABORATORIO SUI PRINCIPALI STRUMENTI ED APPLICAZIONI PER LO SVILUPPO DI MODELLI DI DEEP LEARNING. GLI STUDENTI SONO GUIDATI AD APPRENDERE IN MANIERA CRITICA E RESPONSABILE TUTTO CIÒ CHE IL DOCENTE PRESENTA DURANTE LE LEZIONI FRONTALI CON L’OBIETTIVO DI PROGETTARE E SVILUPAPRE MODELLI DI DEEP LEARNING. LA FREQUENZA DELLE LEZIONI È FORTEMENTE CONSIGLIATA. GLI ARGOMENTI DEL PROGRAMMA VENGONO PRESENTATI CON L’AUSILIO DI PRESENTAZIONI POWERPOINT, STIMOLANDO DISCUSSIONI CRITICHE CON LA CLASSE. PER OGNI ARGOMENTO TRATTATO, VENGONO ILLUSTRATI POSSIBILI TASK CHE POSSONO ESSERE OGGETTO DI UN PROGETTO DI CORSO DA PARTE DI UNO O PIÙ STUDENTI. PER QUANTO RIGUARDA GLI STRUMENTI APPLICATIVI, OLTRE ALL’UTILIZZO DI PRESENTAZIONI POWERPOINT, NELLE QUALI VENGONO PRESENTATI CONCETTI ED EVENTUALI LINK A FORUM, MANUALI E PIATTAFORME DI APPROFONDIMENTO, LE QUALI POSSONO ESEGUITE ANCHE DAGLI STUDENTI DALLA PROPRIA POSTAZIONE, AVENDO ESSI LA POSSIBILITÀ DI CHIEDERE CHIARIMENTI E RISOLVERE EVENTUALI PROBLEMI TECNICI AL DOCENTE.
Verifica dell'apprendimento
IL RAGGIUNGIMENTO DEGLI OBIETTIVI DELL’INSEGNAMENTO E CERTIFICATO MEDIANTE IL SUPERAMENTO DI UN ESAME CON VALUTAZIONE IN TRENTESIMI. L'ESAME PREVEDE LO SVILUPPO DI UN PROGETTO ED UNA PROVA ORALE. IL PROGETTO PUÒ ESSERE INDIVIDUALE O DI GRUPPO ED È FINALIZZATO AD ACCERTARE LA CAPACITA DI APPLICARE LE CONOSCENZE ACQUISITE. ESSO PUÒ ESSERE SVOLTO SCEGLIENDO TRA UN VENTAGLIO DI PROPOSTE FATTE DAL DOCENTE, CON LA POSSIBILITÀ DI SVOLGERE UN PROGETTO CONGIUNTO CON ALCUNI DEGLI ALTRI CORSI DELLA LAUREA MAGISTRALE O DI PARTECIPARE A DELLE COMPETIZIONI INTERNAZIONALI DI DEEP LEARNING. DURANTE LO SVOLGIMENTO DEL PROGETTO GLI STUDENTI DOVRANNO INTERAGIRE CON IL DOCENTE DEL CORSO AL FINE DI COMUNICARE GLI STATI DI AVANZAMENTO DELLO STESSO E LE EVENTUALI CRITICITÀ EMERSE, CONCORDANDO OBIETTIVI E MODALITÀ DI PROSECUZIONE DEL PROGETTO. AL TERMINE DEL PROGETTO GLI STUDENTI DEVONO CONSEGNARE AL DOCENTE UNA TESINA CONTENENTE LA DOCUMENTAZIONE DI PROGETTO ED UNA PRESENTAZIONE POWERPOINT DEL PROGETTO DELLA DURATA DI CIRCA 30 MINUTI. SUCCESSIVAMENTE ALLA PRESENTAZIONE DEL PROGETTO GLI STUDENTI DEVONO SOSTENERE UNA PROVA ORALE INDIVIDUALE. TALE PROVA CONSISTE IN UN COLLOQUIO CON DOMANDE E DISCUSSIONE SUI CONTENUTI TEORICI E METODOLOGICI TRATTATI A LEZIONE ED E FINALIZZATA AD ACCERTARE LA CAPACITA DI CONOSCENZA E COMPRENSIONE, NONCHÉ LA CAPACITA DI ESPOSIZIONE DEI CONCETTI. LA PROVA ORALE PUÒ ESSERE SVOLTA NELLA STESSA DATA DELLA PRESENTAZIONE DEL PROGETTO, OPPURE IN ALTRA DATA CHE I SINGOLI MEMBRI DEL GRUPPO POSSONO CONCORDARE CON IL DOCENTE. IL VOTO FINALE SCATURISCE, GENERALMENTE, DALLA MEDIA DEI VOTI IN TRENTESIMI CONSEGUITI IN CIASCUNA DELLE DUE PROVE.
Testi
•I. DRORI (2022) “THE SCIENCE OF DEEP LEARNING”, CAMBRIDGE UNIVERSITY PRESS.
•C. M. BISHOP (2024) “DEEP LEARNING FOUNDATIONS AND CONCEPTS”, SPRINGER.
•A. GERON (2019) “HANDS-ON MACHINE LEARNING WITH SCIKIT-LEARN, KERAS, AND TENSORFLOW: CONCEPTS, TOOLS, AND TECHNIQUES TO BUILD INTELLIGENT SYSTEMS”, O REILLY MEDIA.
•P. DEITEL, H. DEITEL (2021) INTRODUZIONE A PYTHON – PER L’INFORMATICA E LA DATA SCIENCE, PEARSON.
Altre Informazioni
LA FREQUENZA DEL CORSO È FORTEMENTE CONSIGLIATA. GLI STUDENTI DEVONO ESSERE PREPARATI A TRASCORRERE UNA CONGRUA QUANTITÀ DI TEMPO NELLO STUDIO AL DI FUORI DELLE LEZIONI. UNA PREPARAZIONE SODDISFACENTE RICHIEDE IN MEDIA 1 ORA DI STUDIO PER CIASCUNA ORA TRASCORSA IN AULA E CIRCA 80 ORE PER LO SVILUPPO DEL PROGETTO. IL MATERIALE DELLE LEZIONI SARÀ DISPONIBILE SULLA PIATTAFORMA E-LEARNING DIPARTIMENTALE HTTP://ELEARNING.INFORMATICA.UNISA.IT/EL-PLATFORM/
  BETA VERSION Fonte dati ESSE3 [Ultima Sincronizzazione: 2024-11-18]