Intelligence, neuronale Netze und Hyperkommunikation
siehe auch Das Problem, das noch gar keines war
und Dialog. Zwischen Frage und Antwort
|
Intelligence, neuronale Netze und Hyperkommunikation
|
In der Geschichte der Künstlichen Intelligenz wird deren Entstehung häufig mit der Entwicklung von Problemlösungsverfahren verbunden. Ein prominentes Beispiel hierfür ist der von Allen Newell, Herbert A. Simon und J. C. Shaw entwickelte General Problem Solver (GPS), dessen Grundstruktur darin besteht, einen gegebenen Ausgangszustand unter gegebenen Bedingungen in einen angestrebten Zielzustand zu überführen.
Diese Konzeption setzt eine bereits bestimmte Problemlage voraus. Das Problem ist gegeben; Gegenstand der künstlichen Intelligenz ist die Suche nach einer Lösung.
Demgegenüber lässt sich eine andere Form kognitiver Aktivität unterscheiden, bei der die Problemlage selbst noch nicht bestimmt ist. Ein Gegenstand wird wahrgenommen, ohne dass seine Bedeutung, seine Verwendungsmöglichkeiten oder seine Relevanz bereits feststehen. Die Aktivität besteht zunächst darin, mögliche Zusammenhänge zu erschließen. Diese Form der Aktivität wird in der Kritischen Psychologie unter anderem mit dem Begriff des Erkundungsverhaltens gefasst.
Damit ergibt sich eine grundlegende Unterscheidung: Problemlösung setzt eine bestimmte Problemstruktur voraus; Erkundung kann der Bestimmung einer solchen Problemstruktur vorausgehen. Diese Differenz ist für die Bestimmung von „Intelligence“ von besonderem Interesse.
Der englische Begriff *intelligence* bezeichnet neben „Intelligenz“ auch Information, Nachrichtendienst und Aufklärung. Diese Bedeutungsvielfalt verweist auf einen gemeinsamen semantischen Kern: die Gewinnung von Information über einen zunächst nicht oder nicht vollständig bekannten Sachverhalt.
Unter dieser Perspektive kann Intelligence nicht ausschließlich als Fähigkeit zur Lösung bereits formulierter Probleme verstanden werden. Sie bezeichnet vielmehr auch die Herstellung von Orientierung in einer Situation, deren relevante Strukturen noch nicht vollständig bestimmt sind. Dies erlaubt eine vorläufige Unterscheidung:
|
Problemlösung Problem gegeben Ziel bestimmt Mittel werden gesucht Lösung eines Problems Orientierung innerhalb eines Problemraums |
Erkundung Problem möglicherweise noch nicht gegeben Ziel möglicherweise noch offen relevante Mittel und Möglichkeiten werden entdeckt Erschließung einer Situation Erweiterung bzw. Konstitution des Problemraums |
Die Unterscheidung ist nicht als Gegensatz zweier strikt getrennter Tätigkeiten zu verstehen. Erkundung kann in Problemlösung übergehen, und Problemlösung kann neue Erkundungsprozesse auslösen. Entscheidend ist vielmehr die unterschiedliche Ausgangsstruktur.
In entwicklungspsychologischen und kritisch-psychologischen Zusammenhängen bezeichnet Erkundungsverhalten eine Auseinandersetzung mit der Umwelt, durch welche Orientierungs- und Handlungsmöglichkeiten erweitert werden können. Das Besondere daran besteht darin, dass der Gegenstand nicht lediglich unter dem Gesichtspunkt seiner bereits bekannten Funktion behandelt wird.
Ein unbekannter Gegenstand wird nicht ausschließlich deshalb untersucht, weil ein bestimmtes Ziel erreicht werden soll. Die Untersuchung kann vielmehr erst hervorbringen, welche Eigenschaften, Bedeutungen und Verwendungsmöglichkeiten für das handelnde Subjekt relevant sind.
Erkundung besitzt damit eine epistemische Funktion: Sie verändert nicht nur den Zustand der Umwelt, sondern auch die Kenntnisse und Möglichkeiten des Erkundenden. In dieser Perspektive erscheint Lernen nicht lediglich als Übernahme bereits vorhandenen Wissens. Es kann vielmehr als Veränderung des eigenen Möglichkeitsraums verstanden werden.
Die historische Entwicklung der Künstlichen Intelligenz lässt sich vor diesem Hintergrund als eine Abfolge unterschiedlicher Modellierungen von Erkenntnis und Problemlösung rekonstruieren.
- Mit der Arbeit von McCulloch und Pitts von 1943 wurde eine formale Beschreibung neuronaler Aktivität entwickelt, in der einfache neuronale Einheiten logische Operationen realisieren können. Damit entstand eine Verbindung zwischen biologischer neuronaler Aktivität und formaler Berechnung.
- Hebbs Überlegungen zur Veränderung neuronaler Verbindungen durch gemeinsame Aktivität verschoben den Schwerpunkt von der bloßen Berechnung zur Lernfähigkeit.
- Rosenblatts Perceptron schliesslich führte diese Idee in ein künstliches lernendes System über.
Bemerkenswert ist dabei, dass keines dieser Konzepte ursprünglich eine Theorie sprachlicher Intelligenz darstellte. Die Verbindung von neuronalen Netzen und Sprache entstand erst durch eine weitere Entwicklungslinie: die statistische Modellierung von Sprache.
Mit der Informationstheorie wurde Sprache zunehmend auch als statistisch beschreibbare Struktur untersucht. Shannons Arbeiten zeigten, dass sprachliche Sequenzen unter dem Gesichtspunkt der Wahrscheinlichkeit nachfolgender Zeichen bzw. Zeichenfolgen analysiert werden können.
Damit war eine zweite konzeptionelle Linie etabliert:
Sprache kann als Vorhersageproblem beschrieben werden.
Die Verbindung mit neuronalen Netzen lag somit nahe, sobald neuronale Netze nicht mehr nur als Modelle logischer Operationen, sondern als lernende Systeme verstanden wurden.
Einen entscheidenden Schritt stellte die Arbeit von Bengio und Mitarbeitern von 2003 dar. Wörter wurden nicht lediglich als diskrete Symbole behandelt, sondern durch verteilte Repräsentationen dargestellt. Das Sprachmodell lernte gleichzeitig Wortrepräsentationen und die Wahrscheinlichkeitsverteilung über Wortfolgen.
Damit verschiebt sich der Ort der Information.
Das einzelne Wort trägt nicht mehr isoliert die für seine Verwendung relevante Information. Ein Teil dieser Information liegt in der relationalen Struktur, in der das Wort repräsentiert ist. Was allerdings etwas ganz anderes ist als der von Wittgenstein gemeinte je aktuelle Gebrauch eines Wortes.
Diese Entwicklung kann als allgemeiner Übergang von einer elementorientierten zu einer relationsorientierten Beschreibung interpretiert werden.
In einer elementorientierten Darstellung besitzt jedes Zeichen eine relativ eindeutig bestimmtbare Bedeutung. In einer relationsorientierten Darstellung ergibt sich seine Funktion wesentlich aus seinen Beziehungen zu anderen Elementen. Diese Verschiebung findet sich in unterschiedlicher Form sowohl in neuronalen Modellen als auch in hyperkommunikativen Strukturen.
Ein Hypertext muss einen Zusammenhang nicht vollständig an der Stelle darstellen, an der ein bestimmter Textbestandteil erscheint. Ein Link kann auf einen ausgelagerten Zusammenhang verweisen. Damit kann ein sprachliches Element als Anschlussstelle für einen größeren Informationszusammenhang fungieren. Ein Wort ist dabei ein Er-Satz für einen Satz. Eine solche Struktur kann als eine Form von Hyperkommunikation bezeichnet werden.
Der Begriff „Hyperkommunikation“ wird dabei nicht als etablierte wissenschaftliche Bezeichnung für ein bestimmtes technisches Verfahren vorausgesetzt. Er bezeichnet hier eine kommunikative Struktur, bei der Information nicht vollständig in der unmittelbar gegebenen sprachlichen Einheit enthalten sein muss, sondern durch Verknüpfung mit weiteren Einheiten erschlossen wird.
Zwischen Hypertext und Large Language Models besteht keine unmittelbare technische Kontinuität. Hypertextuelle Verknüpfungen und neuronale Sprachmodelle beruhen auf unterschiedlichen technischen Prinzipien. Dennoch lässt sich eine strukturelle Gemeinsamkeit formulieren: Die relevante Information ist nicht notwendig in einem einzelnen Element lokalisiert, sondern kann in einem Netz von Beziehungen liegen.
Beim Hypertext kann ein Wort auf einen ausgelagerten Textzusammenhang verweisen. Bei neuronalen Sprachmodellen wird ein Wort durch eine verteilte Repräsentation in einen relationalen Raum eingeordnet. Bei modernen Transformer-Modellen wird die Bedeutung eines Tokens wesentlich durch seine kontextuellen Beziehungen zu anderen Tokens bestimmt. Die technische Differenz bleibt dabei fundamental. Die Gemeinsamkeit liegt nicht im Mechanismus, sondern in der Form der Informationsorganisation.
Von hier aus lässt sich die Differenz zwischen General Problem Solver und Erkundungsverhalten erneut aufnehmen. Der GPS operiert innerhalb eines gegebenen Problemraums. Das System verfügt über Zustände, Ziele und mögliche Operationen und sucht innerhalb dieser Beschreibung nach einer Lösung.
Ein Erkundungssystem müsste dagegen auch die Möglichkeit besitzen, die Beschreibung des Problemraums selbst zu verändern. Es müsste nicht nur fragen: "Wie gelangt man von A nach B?" sondern auch: "Was ist A? Was könnte B sein? Welche Zustände sind überhaupt relevant? Welche Möglichkeiten existieren? Welche Unterscheidungen sind sinnvoll?"
Eine zweite Frage bezeichnet eine andere epistemische Ebene. Sie betrifft nicht die Optimierung innerhalb eines gegebenen Raumes, sondern die Erschließung des Raumes selbst.
Hier entsteht eine weiterführende Frage. Ein Large Language Model wird technisch nicht dadurch charakterisiert, dass es selbstständig einen offenen Lebensraum erkundet. Sein Training beruht auf der Optimierung eines Modells anhand großer Mengen sprachlicher Daten. Auch seine Ausgabe entsteht nicht durch eine menschliche Form von Wahrnehmung, Bedürfnis oder Welterkundung. Im Gebrauch eines solchen Modells kann jedoch eine andere Struktur entstehen. Eine offene Frage kann eine Antwort hervorbringen, die nicht nur die Frage beantwortet, sondern neue Unterscheidungen ermöglicht. Diese können wiederum neue Fragen erzeugen.
Damit entsteht im Dialog ein Prozess: Frage → Antwort → Unterscheidung → neue Frage → neuer Zusammenhang. Der Gegenstand des Gesprächs ist dadurch nicht notwendig am Anfang vollständig bestimmt. Das Gespräch kann seinen eigenen Gegenstand verändern.
Unter dieser Perspektive wäre die zentrale Eigenschaft eines solchen Dialogs nicht die bloße Übermittlung bereits vorhandener Information. Kommunikation hätte vielmehr eine generative epistemische Funktion. Sie kann einen Möglichkeitsraum erzeugen, in dem neue Fragen formulierbar werden.
Dies lässt sich von der klassischen Problemlösung unterscheiden: Problemlösung sucht eine Lösung innerhalb eines gegebenen Problemraums. Demgegenüber könnte man Erkundung als einen Prozess verstehen, in dem der Problemraum selbst durch die Bewegung zwischen Fragen, Antworten und Unterscheidungen verändert wird.
Damit erhält auch die Idee der Hyperkommunikation eine weitergehende Bedeutung. Die kommunikative Einheit wäre nicht mehr notwendig die einzelne Aussage. Entscheidend wäre vielmehr das Netz der Anschlüsse , durch das aus einer Aussage weitere mögliche Aussagen und Fragen hervorgehen.
Die historische Entwicklung von neuronalen Modellen zu Large Language Models lässt sich somit neben ihrer technischen Geschichte auch als eine Geschichte wechselnder Vorstellungen über Wissen, Lernen und Problemlösung lesen.
Von der formalen Beschreibung neuronaler Aktivität über lernende Netzwerke und statistische Sprachmodelle bis zu kontextabhängigen Sprachrepräsentationen verschiebt sich der Fokus zunehmend von isolierten Elementen auf Beziehungen und Strukturen.
Parallel dazu lässt sich eine Unterscheidung zwischen Problemlösung und Erkundung formulieren. Problemlösung setzt einen Problemraum voraus. Erkundung kann dazu beitragen, einen Problemraum erst hervorzubringen.
Unter einem erweiterten Verständnis von "Intelligence" wäre daher nicht nur die Fähigkeit zur Lösung gegebener Probleme relevant, sondern auch die Fähigkeit - individuell, sozial oder kommunikativ verstanden - zur Erschließung noch nicht bestimmter Möglichkeiten. Die vielleicht entscheidende Frage lautet dann nicht mehr: Wie intelligent ist ein System bei der Lösung eines Problems?, sondern: Welche neuen Fragen, Unterscheidungen und Möglichkeitsräume können durch seine Tätigkeit entstehen?
In diesem Sinne wäre Intelligence weniger als Besitz einer bestimmten Menge von Wissen zu verstehen denn als Bewegung über das bereits Bestimmte hinaus. Gerade darin liegt möglicherweise die eigentliche Bedeutung des Präfixes *hyper-*. Nicht: mehr. Sondern: darüber hinaus.
[ kein wp ]
[ 20. 9.26 ]