Zur KI: Schnaps und Panzer

By |2. Oktober 2019|Categories: Information, Künstliche Intelligenz, Logik|Tags: , , , , , , , , , , , , , |

KI im letzten Jahrhundert KI ist heute ein grosses Schlagwort, war aber bereits in den 80er und 90er Jahren des letzten Jahrhunderts ein Thema, das für mich auf meinem Gebiet des Natural Language Processing interessant war. Es gab damals zwei Methoden, die gelegentlich als KI bezeichnet wurden und die unterschiedlicher nicht hätten sein können. Das Spannende daran ist, dass diese beiden unterschiedlichen Methoden heute noch existieren und sich weiterhin essenziell voneinander unterscheiden. KI-1: Schnaps Die erste, d.h. die Methode, die bereits die allerersten Computerpioniere verwendeten, war eine rein algorithmische, d.h. eine regelbasierte. Beispielhaft für diese Art Regelsysteme sind die Syllogismen des Aristoteles: Prämisse

Informationsreduktion 8: Unterschiedliche Makrozustände

By |29. September 2019|Categories: Information, Informationsreduktion, Informationsreduktion, Mikro / Makro|Tags: , , , , , , , , , |

Zwei Zustände gleichzeitig Im Vorbeitrag habe ich dargestellt, wie ein System auf zwei Ebenen beschrieben werden kann, auf der Ebene des Mikro- und auf der des Makrozustandes. Auf der Ebene des Mikrozustandes finden sich alle Detailinformationen, auf derjenigen des Makrozustandes finden sich weniger, dafür stabilere Informationen. Das klassische Beispiel ist das Wasserglas, wo der Mikrozustand die Bewegung der einzelnen Wassermoleküle beschreibt, der Makrozustand dafür die Temperatur der Flüssigkeit kennt. In diesem Beitrag möchte ich darauf eingehen, wie unterschiedlich die Beziehung zwischen Mikro- und Makrozustand sein kann. Hängt der Makrozustand vom Mikrozustand ab? Der Makrozustand ist informatisch, d.h. bezüglich seines Informationsgehaltes,

Informationsreduktion 7: Mikro- und Makrozustand

By |5. Juli 2019|Categories: Entropie, Information, Informationsreduktion, Informationsreduktion, Mikro / Makro|Tags: , , , , |

Beispiele von Informationsreduktion Für das normale Funktionieren ist es in vielen Gebieten üblich oder sogar nötig, die Menge an Information zu reduzieren. Das betrifft so unterschiedliche Gebiete wie: Kodierung / Klassifizierung Sinneswahrnehmung Fallpauschalen Meinungsbildung Wärmelehre Was ist allen diesen Beispielen gemeinsam? Mikro- und Makrozustand Allen diesen Beispielen ist gemeinsam, dass wir bezüglich Informationen zwei Zustände haben, einen Mikrozustand mit vielen Details und einen Makrozustand mit wesentlich weniger Information. Sehr anschaulich und den meisten noch aus der Schule bekannt, ist das Verhältnis der beiden Ebenen in der Wärmelehre. Beide Zustände existieren gleichzeitig. Sie betreffen weniger das betrachtete Objekt, als vielmehr die

Informationsreduktion 6: Das Wasserglas, revisited

By |5. Juli 2019|Categories: Information, Informationsreduktion, Informationsreduktion, Mikro / Makro|Tags: , , , , , , , |

Eine Vereinfachung In meinem Beitrag Informationsreduktion 5: Das klassische Wasserglas habe ich als Beispiel für die Informationsreduktion das Wasserglas erwähnt. Dort reduziert sich die komplexe und detailreiche Information über die Bewegungsenergie der Wassermoleküle (Mikroebene) zur simplen Information über die Temperatur des Wassers. Ein Physiker könnte dieses Beispiel auch kritisieren. Zu Recht, denn das Wasserglas ist viel komplizierter. Die Berechnungen von Boltzmann gelten nur für das ideale Gas, also für ein Gas, dessen Moleküle keine Interaktionen untereinander haben, ausser den Stössen, die sie untereinander erfahren und dabei ihre individuellen Bewegungsinformationen untereinander austauschen. Ein ideales Gas Ein solches Gas existiert auf der

Two Types of Coding 2

By |6. Juni 2019|Categories: Information, Informationsreduktion, Semantik|Tags: , , |

The two types of coding in set diagrams I would like to return to the subject of my article Two types of coding 1 and clarify the difference between the two types of coding using set diagrams. I believe this distinction is so important for the field of semanticsand for information theory in general, that it should be generally understood. Information-preserving coding The information-preserving type of coding can be represented using the following diagram Fig 1: Information-preserving coding (1:1, all codes reachable) The original form is shown on the left and the encoded form on the right. The red dot

Two Types of Coding 1

By |5. Juni 2019|Categories: Information, Informationsreduktion, Semantik|Tags: , , , , , |

A simple broken bone In the world of healthcare, medical diagnoses are encoded to improve transparency. This is necessary because they can be formulated in such a wide variety of different ways. For example, a patient may suffer from the following: - a broken arm - a distal radius fracture - a fractura radii loco classico - a closed extension fracture of the distal radius - a Raikar’s fracture, left - a bone fracture of the left distal forearm - an Fx of the dist. radius l. - a Colles fracture Even though they are constructed from different words and

Informationsreduktion 5: Das klassische Wasserglas

By |29. Mai 2019|Categories: Entropie, Information, Informationsreduktion, Informationsreduktion, Mikro / Makro|Tags: , , , , |

Informationsreduktion in der Wärmelehre In der Wärmelehre findet sich ein ganz besonderes Beispiel für die Informationsreduktion. Das Beispiel ist deshalb besonders, weil es so einfach ist. Es zeigt das Grundgerüst der Informationsreduktion in aller Deutlichkeit, ohne die Komplexität anderer Beispiele, z.B. solchen aus der Biologie. Es ist vielen von uns auch aus dem Physikunterricht bereits bestens bekannt. Was ist Temperatur? Ein Wasserglas enthält viele Wassermoleküle, die sich mit unterschiedlichen Geschwindigkeiten in unterschiedlichen Richtungen bewegen, dabei immer wieder mit anderen Wassermolekülen zusammenstossen und bei jedem Stoss Geschwindigkeit und Bewegungsrichtung ändern. Mit anderen Worten: Das Wasserglas ist der typische Fall eines realen

Informationsreduktion 4: Framing

By |23. Mai 2019|Categories: Information, Informationsreduktion, Informationsreduktion, Mikro / Makro|Tags: , , , , , |

Framing macht den Unterschied Aktuell [2019] wird der Framing-Effekt häufig erwähnt. Es geht bei dem Effekt darum, dass die gleiche Botschaft ganz unterschiedlich wahrgenommen wird, je nachdem, welche Zusatzinformationen mit der Botschaft mitgesendet werden. Diese zusätzlichen Informationen dienen dazu, der Botschaft den passenden Rahmen (Frame) zu geben, sodass die Empfänger der Botschaft entsprechend reagieren. Auch wenn die eigentliche Botschaft neutral gesehen die gleiche wäre und die Zusatzinformationen der Wahrheit entsprechen, kann der Empfänger mit Framing gehörig manipuliert werden - nur schon durch die Auswahl der (an sich korrekten) Details. Framing wird selbstverständlich in der Werbung verwendet, ganz besonders aktuell und

IF-THEN / statisch oder dynamisch?

By |9. Mai 2019|Categories: Bits, Information, Logik|Tags: , , , , |

Die meisten glauben, dass das IF-THEN in der Logik eine klare Sache sei. Meiner Ansicht nach wird dabei übersehen, dass es vom IF-THEN zwei Varianten gibt, eine statische und einen dynamische. Die beiden unterscheidet , ob sie eine innere zeitliche Komponente enthalten oder nicht. Je nachdem verhält sich das IF-THEN im Gefüge der Logik unterschiedlich. Dynamisches (reales) IF-THEN Für viele von uns ist das IF-THEN dynamisch, d.h. es besitzt eine spürbare zeitliche Komponente. Bevor wir zum Schluss, d.h. zum THEN gelangen, schauen wir das IF genau an, d.h. die Bedingung, die anschliessend den Schluss erlaubt. Mit anderen Worten: Die

Go to Top