INF563 — Introduction à la Théorie de l'Information
Responsable : Thomas Debris-Alazard (thomas.debris@inria.fr)
Objectifs :
La théorie de l'information consiste à trouver les limites fondamentales de la compression d'un signal, du stockage des données ou de la communication des informations de manière fiable sur un canal bruyant par exemple. Il s'avère que toutes ces limites peuvent être exprimées en termes d'une seule quantité, qui est l'entropie. Les fondements de ce domaine ont été posé par Shannon qui a quantifié de manière très élégantes ces limites.
Nous aborderons pendant ce cours ses résultats principaux et nous donnerons également une réponse moderne à ce type d'enjeu qui fournissent des schémas très efficaces pour compresser ou protéger les données contre les bruits. Ajourd'hui cette théorie a aussi trouvé des applications dans de nombreux autres secteurs tels que la cryptographie, la biologie, l'informatique quantique, la linguistique, la détection de plagiat ou la reconnaissance des formes. Nous aborderons certains de ces auters applications pendant le cours.
Lecture suggérée : T. Cover, J. Thomas, "Elements of Information Theory". Wiley Series in Telecommunications, 1991.
Langue : Le support de cours est en anglais. Les cours peuvent être donnés en frnaçais ou en anglais, à la convenance des étudiants.
Evaluation : Le cours se valide par un examen oral.
Prérequis :
-
Des connaissances de base en statistiques ou en théorie des probabilités est recommandée mais pas obligatoire.
-
En informatique : des connaissance en algorithmique et en programmation comme INF411 ou INF421.
INF563 — Introduction to Information Theory
Coordinator : Thomas Debris-Alazard (thomas.debris@inria.fr)
Objectives :
Information theory deals with finding the fundamental limits for compressing a signal, storing data or communicating information reliably over a noisy channel for instance. It turns out that all these limits can be expressed in terms of a single quantity which is entropy. The foundations of this domain were laid by Shannon who quantified in a very elegant way these limits.
We will cover during this course his major results and will also give the modern answers to this kind of issue that give very effective schemes for compressing or protecting data against noise. Now this theory has also found applications in many other areas such as cryptography, biology, quantum computing, linguistics, plagiarism detection or pattern recognition. We will cover some of those other applications during the course.
Suggested readings:
T. Cover, J. Thomas, "Elements of Information Theory". Wiley Series in Telecommunications, 1991.
Language :
The course material is in English. Lectures can be taught either in French or in English, at the students' convenience.
Evaluation :
The course is validated by an oral examination.
Prerequisites :
-
Some basic background in statistics or probability theory is desirable but not mandatory.
-
in computer science: some knowledge of algorithms and programming such as INF411 or INF421.
- Teaching coordinator: Debris Thomas