What a Model Actually Does

Das Wort "Modell" leistet viel stille Arbeit, und es lohnt sich, es auseinanderzunehmen, denn die meisten Auseinandersetzungen über Technik sind in Wahrheit Auseinandersetzungen darüber, was ein Modell ist.

Ein Modell ist eine verdichtete Beschreibung eines Musters. Man gibt ihm eine große Zahl von Beispielen, es findet Regelmäßigkeiten darin, und was es behält, sind nicht die Beispiele, sondern eine Zusammenfassung, die kompakt genug ist, um nützlich zu sein, und allgemein genug, um auf etwas zuzutreffen, das es nicht gesehen hat.

Diese letzte Eigenschaft ist der ganze Sinn, und sie ist zugleich die ganze Gefahr. Ein System, das nur seine Beispiele wiederholen könnte, wäre ein Aktenschrank. Ein System, das verallgemeinert, kann neue Fragen beantworten — und kann aus einem Muster verallgemeinern, das für die Beispiele galt, aber für die Welt nicht gilt.

Deshalb ist die Frage "ist es genau?" meistens die falsche. Genau worin? Ein Modell ist genau auf der Verteilung, aus der es gelernt hat, und die interessanten Fehler geschehen alle an den Rändern dieser Verteilung: der ungewöhnliche Fall, die neue Lage, die Bevölkerungsgruppe, die in den Beispielen unterrepräsentiert war.

Die ehrliche Art, eines dieser Systeme zu beschreiben, ist deshalb bedingt. Es ist hier zuverlässig, unter diesen Bedingungen, für diese Art von Frage, und seine Zuversicht sagt Ihnen, wie vertraut die Eingabe aussah, nicht wie richtig die Antwort ist. Diese beiden Dinge werden leicht verwechselt, und fast jeder ernste Fehler im Umgang mit einem Modell kommt aus dieser Verwechslung.