Shannon, Claude: Mathematische Grundlagen der Informationstheorie, Oldenburg, München.(1948/1976)
Orig: Mathematical Theory of Communication

enthält: Weaver, Warren: "Some Recent Contributions to the Mathematical Theory of Communication" (Vorwort, S. 1-29)

Volltext engl.
Volltext deutsch
W. Weavers Vorwort (Volltext deutsch)
W. Weavers Vorwort (Volltext engl.)

Anmerkungen:
Der Text von C. Shannon hiess: "The Mathematical Theory of Communication", in der Übersetzung heisst er "Mathematische Grundlagen der Informationstheorie", Communication wird also mit Information übersetzt - der perfekte Unsinn.
siehe auch: M. Mahner: Warum Shannons "Informationstheorie" keine Informationstheorie ist

Es handelt sich um eine Codierungs-Lehre, die mit Information gar nichts und mit Kommunikation sehr wenig zu tun hat. Kommunikation heisst darin Signalübertragung (was auch ein unsinniges Wort ist: gemeint ist die Rekonstruktion der Zeichen, die im Sigal moduliert sind.)

Neben Information ist auch von Entropie auf eine unsinnige Weise die Rede, die vielleicht noch grössere Missverständnisse hervorgebracht hat - insbesondere auch zur Entropie
W. Weaver hat in seinem Vorwort das begriffliche Chaos populär gemacht. Er schreibt dort, wie C. Shannon die Entropie - aufgrund der Formel, die er für "H" verwendet hat - eigenartig gedeutet hat:
Dr. Shannons Arbeit geht, wie von Neumann bemerkt hat, auf Boltzmanns Beobachtung in einigen seiner Arbeiten über statistische Physik (1894) zurück, dass Entropie mit "fehlender Information" zusammenhängt, insofern als sie mit der Anzahl der Alternativen zusammenhängt, die einem physikalischen System möglich bleiben, nachdem alle makroskopisch beobachtbaren Informationen über dieses System aufgezeichnet worden sind. L. Szilard (Zsch. f. Phys. Vol. 53, 1925) dehnte diese Idee auf eine allgemeine Diskussion der Information in der Physik aus, und von Neumann (Math. Foundation of Quantum Mechanics, Berlin, 1932, Kap. V) behandelte die Information in der Quantenmechanik und der Teilchenphysik.

In Bezug auf "Information" hat W. Weaver den Text sehr stark aufgeladen. In Bezug auf Entropie scheint die Sache etwas komplizierter.

W. Weaver's Interpretation:

siehe auch Anmerkungen unter C. Shannon

Ein Aspekt der Shannon-Theorie im Crashkurs