Informationsreduktion (Übersicht)

Wollen wir möglichst wenig wissen?

Natürlich nicht, je mehr wir wissen, umso besser, werden Sie denken. Doch so ganz möchte ich Ihnen nicht zustimmen. Es gibt Details, die mich nicht interessieren und in meinem Kopf ist nicht unbeschränkt Platz. Also muss ich haushalten. Dazu ist eine Reduktion der verfügbaren Informationsmenge hilfreich. Je kleiner sie ist, umso mehr Platz ist für weiteres Wissen und umso schneller wird der Denkvorgang.

Schon aus diesem Grund ist das Thema Informationsreduktion bedenkenswert. Bei näherem Hinsehen erweist sich der Gedanke, die Informationsmenge zu reduzieren, in der Praxis als ausserordentlich nützlich. Jeder, den ich kenne, tut es. Wir ordnen die Information in unserem Kopf und lassen dabei Irrelevantes durch ein Sieb fallen, das die Spreu vom Weizen trennt. Wir reduzieren z.B. die Informationsmenge immer dann, wenn wir aus vielen ungeordneten Teilinformationen eine neue Erkenntnis herausschälen und uns so neues Wissen erarbeiten.

Informationsreduktion ist Teil jeder Gewinnung von Information

Dieser Gedanke mag auf den ersten Blick befremden, doch weniger ist hier wirklich mehr. Um mehr zu wissen, müssen wir auf unnötige Informationen verzichten und die vorhandenen Informationen so ordnen, dass das Unwichtige wegfällt und nur noch das Relevante bleibt.

Informationsreduktion ist der Schlüssel für unseren Umgang mit Information

Auf vielfältige Weise zeigt sich, dass wir Information reduzieren müssen, um sinnvoll mit ihr umzugehen.

Kodierung

Das ist mein persönlicher Einstieg ins Thema. Ich habe 1989 damit begonnen, Programme zu schreiben, um medizinische Diagnoseformulierungen – also Texte – von Rechnern kodieren zu lassen. Dabei wurde mir schnell klar: Diese Art Kodierung ist immer eine Informationsreduktion.  Und die Informationsreduktion macht durchaus Sinn. Nur so gewinnt man Übersicht.

Kodierung kann die Informationsmenge ändern – oder auch nicht:

-> Zwei Arten von Kodierung

Die Informationsreduktion gehört erstaunlicherweise zu jedem Erkenntnisvorgang. Ganz grundsätzlich:

-> vier Thesen

Quantifizierung der Informationsreduktion bei der Kodierung

Bei der Automatisierung der Diagnosekodierung wurde mir auch klar:

Das Ausmass der Reduktion der Datenmenge bei der Diagnosekodierung von medizinischen Fällen ist immens.

-> Quantifizierung einer Informationsreduktion

Informationsreduktion bedeutet Selektion

Sobald die Informationsmenge reduziert wird, stellt sich die Frage, welche Information behalten wird und welche verloren geht. Eine Frage der Selektion also. Gleichzeitig wird klar: Es sind unterschiedliche Selektionen möglich.

-> Selektion

Framing

Informationsreduktion hat Konsequenzen. Hier ein Beispiel aus einem ganz anderen Gebiet, der Politik nämlich. Es zeigt, wie die Informationsreduktion und die entsprechende Selektion unsere Wahrnehmung bestimmen kann.

-> Framing

Der Rahmen, in dem die Information vermittelt wird, beeinflusst die Wahrnehmung.

Wärmelehre und Entropie

Das klassische Exempel für Informationsreduktion findet sich in der Wärmelehre. Wie hängt die Information über die Bewegungen der Moleküle in einem Wasserglas (genauer: in einem idealen Gas) mit der Information über die Temperatur zusammen? Die Antwort auf diese Frage führt über die Konzepte von Mikro- und Makrozustand.

-> Informationsreduktion in der Physik

Die Informationsreduktion ist ein Effekt der Entropie. Entropie ist die Informationsdifferenz (Spannung) zwischen Übersicht (Makrozustand) und Detailsicht (Mikrozustand). Ludwig Boltzmann hat Temperatur und Entropie in einem Gas untersucht und dabei den eindeutigen Bezug zwischen den Molekülbewegungen im Gas (Mikrozustand) und der Temperatur (Makrozustand) gezeigt.

Das Wasserglas, revisited

Die Überlegungen zum Wasserglas werden präzisiert.

-> Das Wasserglas, revisited

Mikro- und Makrozustand

Der detailreichere Mikrozustand ist näher bei der Realität, aber der informationsärmere Makrozustand interessiert uns mehr. Die Unterscheidung von Mikro- und Makrozustand ist nicht nur in der Wärmelehre, sondern auch in der Informationstheorie anwendbar.

-> Mikro-und Makrozustand

Unterschiedliche Makrozustände

In der Wärmelehre wird der Makrozustand vollständig vom Mikrozustand bestimmt. Ist das aber auch für andere Mikro-/Makrozustände so? Neben dem klassischen thermodynamischen Fall (wo das so ist) können zwei weitere beschrieben werden, in denen der Makrozustand wesentlich «eigenmächtiger» erscheint. In der Biologie zum Beispiel.

-> Unterschiedliche Makrozustände

Entropie

Informationsreduktion reduziert die Entropie.

-> Übersichtsseite Entropie

Kombinatorische Explosion

Das Prinzip der Notwendigkeit der Informationsreduktion ist vielfach begründbar. Z.B. durch die kombinatorische Explosion. Es gibt immer mehr Kombinationen als Objekte. Dadurch gibt es immer sehr viel mehr zu Wissen (Kombinationen) als es einzelne Objekte gibt. Wie aber gehen wir mit dem vielen potentiellen Wissen um?

-> Kombinatorische Explosion