Enrica PIROZZI
Insegnamento di STOCHASTIC MODELS AND SIMULATION
Corso di laurea magistrale in DATA SCIENCE
SSD: MAT/06
CFU: 6,00
ORE PER UNITÀ DIDATTICA: 48,00
Periodo di Erogazione: Primo Semestre
Italiano
| Lingua di insegnamento | INGLESE |
| Contenuti | Simulazione di processi stocastici continui. Sistemi di servizio. Leggi di Little. Processo di Poisson. Processi di Nascita-Morte. Variabili aleatorie di particolare interesse tra cui variabile gamma, iperesponenziale, chi-quadrato. Catene di Markov. Ergodicità. Code: M/M/1, M/M/1/K, M/M/s, M/M/, M/D/1, M/G/1, GI/M/s. Code con distribuzione di Erlang. Cenni alla teoria degli stimatori e della verifica di ipotesi statistiche. Applicazioni di test statistici. Istanze specifiche del metodo Monte Carlo. Simulazione di variabili aleatorie. Simulazione di sistemi di servizio e relativa analisi statistica. Cenni alle equazioni differenziali stocastiche e loro simulazione. Uso di R per l’implementazione di algoritmi di simulazione e di analisi statistica. |
| Testi di riferimento | Gross D. and Harris C.M., Fundamentals of Queueing Theory , Wiley Series in Probability and Statistics. S.M. Ross, Introduction to probability models, Academic Press S.M. Ross, Simulation, Academic Press. G. Dall’Aglio, Calcolo delle probabilità. Zanichelli. Sono disponibili appunti e slides del corso (da richiedere al docente del corso). |
| Obiettivi formativi | L'insegnamento intende introdurre lo studente allo studio di processi stocastici in tempo continuo e con spazio degli stati discreto e alla loro simulazione. Il corso include anche la trattazione della simulazione di processi continui soluzioni di equazioni differenziali stocastiche e all’analisi dell’errore di approssimazione di metodi presentati. Il corso tratta di processi discreti nello spazio degli stati. Infatti, si pone particolare attenzione ai processi di nascita-morte e alla teoria delle code attraverso la formulazione e l'analisi di modelli matematico-probabilistici e di simulazione atti a descrivere sistemi reali. Lezioni dedicate all’implementazione di algoritmi di simulazione e applicazione di tecniche di analisi statistiche completano il corso. Ulteriore obiettivo è quello di far cogliere agli studenti le questioni rilevanti insite nella costruzione di modelli stocastici di fenomeni fisici, biologici ed economici e nella loro analisi statistica, nonché le problematiche inerenti alla costruzione di simulazioni numeriche. |
| Prerequisiti | Elementi di base di un corso di calcolo di probabilità e statistica previsto in un corso di laurea triennale. |
| Metodologie didattiche | Lezioni frontali. |
| Metodi di valutazione | Prova orale con discussione di un elaborato progettuale con quesiti teorici, simulazioni ed esercizi. |
| Altre informazioni | Ricevimento studenti dopo ogni lezione o su appuntamento. |
| Programma del corso | Definizione e classificazione dei processi stocastici. Modelli stocastici discreti. Sistemi di servizio Introduzione ai sistemi di servizio. Meccanismo degli arrivi. Meccanismo degli arrivi di tipo deterministico, uniforme, esponenziale, di Erlang, iperesponenziale. Meccanismo degli arrivi di tipo GI. Meccanismo di servizio. Meccanismo di servizio di tipo deterministico, uniforme, esponenziale, di Erlang, iperesponenziale. Meccanismo di servizio di tipo GI. Notazioni utilizzate nella teoria delle file di attesa: stato del sistema, il tempo di permanenza nella fila di attesa di un utente, il tempo di attesa di un utente nel sistema, il periodo di occupazione, tempi di interarrivo, tempi di servizio, il tempo di ozio, disciplina. Misure prestazionali: intensità di traffico, fattore di utilizzazione del sistema. Leggi di Little. Formula di Little per l’intero sistema. Formula di Little per la fila di attesa. Periodo di occupazione e periodo di ozio in un sistema con unico servitore. Modelli di sistemi di servizio Processo stocastico di Poisson. Processi stocastici di nascita morte. Esempi. Processi stocastici nascita–morte: equilibrio statistico. Diagramma delle transizioni. Sistema di servizio M/M/1. Sistema di servizio con svendita. Sistema di servizio M/M/1/K. Sistema di servizio M/M/s. Sistema di servizio M/M/∞. Sistema di servizio con accelerazione del servizio. Sistema di servizio a capacità inifinita con scoraggiamento. Modelli di Markov. Definizione di catena di Markov, matrice di transizione, probabilità di occupazione, relazione di Chapman-Kolmogorov, distribuzione invariante, distribuzione limite. Esempi. Catene regolari: definizioni ed esempi. Classificazione degli stati. Numero medio dei ritorni. Tempo medio di ricorrenza. Catene irriducibili: caratterizzazione ed esempi. Insieme essenziale di stati. Catene ergodiche. Teorema generale di ergodicità. Insieme essenziale e distribuzione invariante (esistenza ed unicità). La passeggiata aleatoria come catena di Markov. Sistemi a coda singola con distribuzione degli arrivi/servizi di tipo generale. La coda M/D/1: probabilità di transizione. La coda M/G/1: probabilità di transizione, numero medio di utenti nel sistema. La coda G/M/s: probabilità di transizione. Code con distribuzioni di Erlang. Analisi statistica Introduzione all’uso dell’analisi statistica nella simulazione delle file di attesa: formulazione del problema e del modello di simulazione, acquisizione dei dati del sistema reale, stima e verifica dei parametri e delle caratteristiche operative del sistema reale, formulazione del programma di simulazione, progettazione degli esperimenti e analisi dei risultati. Cenni di inferenza statistica: stima dei parametri e verifica delle ipotesi. Proprietà degli stimatori: correttezza, correttezza con varianza uniformemente minima, disuguaglianza di Cramer-Rao, correttezza asintotica, consistenza. Esempi. Metodi per la ricerca degli stimatori: metodo dei momenti, metodo della massima verosimiglianza. Esempi. Metodi di Monte Carlo: primo metodo di Monte Carlo, esempi; secondo metodo di Monte Carlo: successo e insuccesso, esempi. Verifica delle ipotesi: ipotesi semplici e composte, test di ipotesi, funzione potenza, misura della regione critica, livello di significatività. La distribuzione chi-quadrato: proprietà e applicazioni. Test del chi-quadrato o test del buon adattamento. Criterio del chi–quadrato. Test bilaterale. Numeri Pseudocasuali, Simulazione. Principali caratteristiche di un metodo per la generazione di numeri pseudo-casuali. Metodo congruenziale moltiplicativo. Esempi. Altri tipi di generatori congruenti. Esempi. Test statistici applicati alle sequenze pseudocasuali generate. Esempi. Test di uniformità o delle frequenze. Test seriale. Esempi. Generazione di variabili aleatorie assolutamente continue: metodi generali. Metodo di inversione della funzione di distribuzione: Generazione di una sequenza uniformemente distribuita in (a,b). Generazione di una sequenza esponenzialmente distribuita. Metodo di reiezione. Generazione di una sequenza normalmente distribuita. Generazione di particolari variabili aleatorie assolutamente continue: generazione di una variabile aleatoria normale standard, generazione di una variabile aleatoria di Erlang di ordine k, generazione di una variabile aleatoria iperesponenziale. Metodi per la generazione di variabili aleatorie discrete. Generazione di una variabile aleatoria geometrica. Simulazioni di processi stocastici continui. Generazione della distribuzione di equilibrio del modello M/M/1. Generazione di una variabile aleatoria binomiale di parametri (n,p). Generazione di una variabile aleatoria di Poisson. Simulazione di un sistema di servizio singolo servitore singola coda a capacità infinita. Esempi e algoritmi. |
English
| Teaching language | English |
| Contents | Simulation of continuous stochastic processes. Service systems. Little's laws. Poisson process. Birth-death processes. Random variables of particular interest, including gamma, hyperexponential, chi-square. Markov chains. Ergodicity. Queues: M/M/1, M/M/1/K, M/M/s, M/M/, M/D/1, M/G/1, GI/M/s. Queues with Erlang distribution. Introduction to the theory of estimators and statistical hypothesis testing. Applications of statistical tests. Specific instances of the Monte Carlo method. Simulation of random variables. Simulation of service systems and related statistical analysis. Essentials on stochastic differential equations and their simulation. Use of R for the implementation of simulation and statistical analysis algorithms. |
| Textbook and course materials | Gross D. and Harris C.M., Fundamentals of Queueing Theory , Wiley Series in Probability and Statistics. S.M. Ross, Introduction to probability models, Academic Press S.M. Ross, Simulation, Academic Press. G. Dall’Aglio, Calcolo delle probabilità. Zanichelli. Notes of the professor are also available. |
| Course objectives | The course aims to introduce students to the study of stochastic processes in continuous time and discrete state space, and their simulation. The course also includes the simulation of continuous processes, solutions of stochastic differential equations, and the analysis of the approximation error of the methods presented. The course covers discrete processes in state space. Particular attention is paid to birth-death processes and queueing theory through the formulation and analysis of mathematical probabilistic and simulation models designed to describe real systems. Lectures dedicated to the implementation of simulation algorithms and the application of statistical analysis techniques complement the course. A further objective is to introduce students to the relevant issues inherent in the construction of stochastic models of physical, biological, and economic phenomena and their statistical analysis, as well as the problems inherent in the construction of numerical simulations. |
| Prerequisites | Basic notion of probability theory and statistics. |
| Teaching methods | Lectures in presence. |
| Evaluation methods | Oral exam with discussion of a project with theoretical questions, simulations and exercises. |
| Other information | Student assistance: after each lecture or by appointment. |
| Course Syllabus | Definition and classification of stochastic processes. Discrete stochastic models. Service systems Introduction to service systems. Arrivals mechanism. Mechanism of arrivals of deterministic, uniform, exponential, Erlang, hyperexponential type. Mechanism of GI arrivals. Service mechanism. Deterministic, uniform, exponential, Erlang, hyperexponential service mechanism. GI type service mechanism. Notations used in queue theory: system status, the time a user is in the queue, the time a user waits in the system, the period of occupation, inter-arrival times, service times, time of idleness, discipline. Performance measures: traffic intensity, system utilization factor. Little's Laws. Little's formula for the whole system. Little's formula for the waiting line. Period of occupation and period of idleness in a single-servant system. Service system models Stochastic Poisson process. Stochastic processes of birth and death. Examples. Stochastic birth-death processes: statistical equilibrium. Transition diagram. Service system M / M / 1. Service system with discounts. Service system M / M / 1 / K. Service system M / M / s. Service system M / M / ∞. Service system with service acceleration. Infinite capacity service system with discouragement. Markov models. Definition of Markov chain, transition matrix, occupation probability, Chapman-Kolmogorov relation, invariant distribution, limit distribution. Examples. Regular chains: definitions and examples. State classification. Average number of returns. Average time of recurrence. Irreducible chains: characterization and examples. Essential set of states. Ergodic chains. General ergodicity theorem. Essential set and invariant distribution (existence and uniqueness). The random walk as a Markov chain. Single queue systems with distribution of arrivals / general services. The M / D / 1 queue: transition probability. The M / G / 1 queue: probability of transition, average number of users in the system. The queue G / M / s: transition probability. Queues with Erlang distributions. Statistic analysis Introduction to the use of statistical analysis in the simulation of waiting lines: formulation of the problem and of the simulation model, acquisition of data of the real system, estimation and verification of parameters and operational characteristics of the real system, formulation of the simulation program, design of experiments and analysis of results. Basics of statistical inference: parameter estimation and hypothesis testing. Properties of estimators: correctness, correctness with uniformly minimal variance, Cramer-Rao inequality, asymptotic correctness, consistency. Examples. Methods for finding estimators: moments method, maximum likelihood method. Examples. Monte Carlo methods: a first Monte Carlo method, examples; a second Monte Carlo method: success and failure, examples. Hypothesis testing: simple and compound hypotheses, hypothesis tests, power function, measurement of the critical region, level of significance. The chi-square distribution: properties and applications. Chi-square test or good fit test. Chi-square criterion. Bilateral test. Pseudorandom Numbers, Simulation. Main features of a method for generating pseudo-random numbers. Multiplicative congruential method. Examples. Other types of congruent generators. Examples. Statistical tests applied to the generated pseudorandom sequences. Examples. Uniformity or frequency test. Serial test. Examples. Generation of absolutely continuous random variables: general methods. Method of inversion of the distribution function: Generation of a uniformly distributed sequence in (a, b). Generation of an exponentially distributed sequence. Rejection method. Generation of a normally distributed sequence. Generation of particular absolutely continuous random variables: generation of a standard normal random variable, generation of an Erlang random variable of order k, generation of a hyperexponential random variable. Methods for the generation of discrete random variables. Generation of a geometric random variable. Simulation of continuous stochastic processes. Generation of the equilibrium distribution of the M / M / 1 model. Generation of a binomial random variable of parameters (n, p). Generation of a Poisson random variable. Simulation of an infinite capacity single queue single servant service system. Examples and algorithms. |








