Teorie informace
Přihlásit se

Moderní teorie informace

Moderní matematická teorie informace a její aplikace v počítačových algoritmech.

Tento obsah spravuje Daniel Hollas.

49 minut

Modulační rychlost 5 m

Úvod do modulační rychlosti.

Kapacita přenosového média 6 m

Úvod do kapacity přenosového média.

Jak měříme informace? 10 m

Představení myšlenek Nyquista & Hartleyho jednoduchou hrou s ANO / NE otázkami. Na jejich teorii později navázal Claude Shannon.

Úvod do Markovových řetězců 7 m

Úvod do Markovových řetězců. Dostaneme se přes Platona k Bernoulliho zákonu velkých čísel, k centrální limitní větě a ke zjištění, že i závislé náhodné jevy konvergují k průměrným distribucím.

Matematická teorie komunikace 4 m

Claude Shannon ve svém slavném článku z roku 1948 demonstroval, jak generovat anglický text pomocí Markovovských řetězců. Tento systém potom dále využil k definování informačních zdrojů a "změření" informace. Originální článek najdete zde: http://www.mast.queensu.ca/~math474/shannon1948.pdf

Informační entropie 7 m

Entropie je míra nejistoty náhodné proměnné (zdroje zprávy). Claude Shannon definuje "bit" jako jednotku entropie (což je nejistota hodu mincí). V tomto videu je informační entropie představena intuitivně za použití strojů a ano/ne otázek.

Komprese a Huffmanovo kódování 4 m

Na jakém principu funguje komprese informací? Existuje hranice, kdy už informace dále nejde zkomprimovat?

Opravné kódy 5 m

Jak můžeme bezpečně přenést informaci, i když je signál rušen prostředím?