Quellencodierung

Im Kapitel 6 werden zunächst die Grundbegriffe der Codierung als Abbildung eingeführt und im weiteren die Quellencodierung — also Codierung zur Reduktion von Redundanz - behandelt. Der Begriff der Decodierbarkeit führt zur notwendigen Bedingung von Kraft- McMillan, welche wiederum die Existenz von gleichwertigen Präfix-Codes nach sich zieht. Der Huffman-Algorithmus für optimale Präfix-Codes, der nun eingeführt wird, liefert damit auch einen optimalen decodierbaren Code. Der Fundamentalsatz der Quellencodierung, der als nächstes bewiesen wird, zeigt die Existenz eines optimalen Codes auf, dessen Codewortlänge im Mittel beliebig nahe der Quellenentropie gebracht werden kann.