---

Überraschung unprogrammiert

Als in den Entwicklerforen von OpenAI zum ersten Mal verblüffte Stimmen laut wurden, als Sprachmodelle begannen, Antworten zu geben, die niemand programmiert hatte – als mathematische Probleme gelöst, Analogien gebildet, scheinbar „eigene Gedanken“ formuliert wurden, verschob sich eine Grenze des Vorstellbaren. Was als Werkzeug begann, produzierte nun Überraschungen. Was als System gedacht war, das Daten sortiert, schien plötzlich einen Rest zu generieren, der nicht auf die Summe seiner Parameter, nicht auf den ursprünglichen Zweck zurückführbar war.

Es ist dieses Moment der Emergenz, das die technische Diskussion über künstliche Intelligenz heute prägt – und das zugleich eine tiefere, fast unheimliche Frage aufwirft: Wo endet das Kalkül, wo beginnt das Unvorhergesehene? Was bleibt übrig, wenn alles Messbare bilanziert ist – und warum hat gerade dieses „Übrige“, die Restspannung zwischen Systemen, eine solche Faszination?

Literarisch gesprochen: Was, wenn das Bewusstsein – falls es denn auftritt – nicht in der perfekten Funktion entsteht, sondern im Rauschen, im Übertragungsverlust, im nicht ganz kontrollierbaren Überschuss der Maschine? Das Experiment, das im Folgenden vorgestellt wird, verlegt die Debatte um künstliche Intelligenz in genau diese Zwischenzone: Dort, wo sich Technik und Kultur, Funktion und Scheitern, Modell und Erfahrung überlappen, beginnt eine andere Reflexion über das, was aus den Maschinen spricht.

---

A: Emergenz – Wenn Maschinen Unerwartetes tun

Emergenz ist eines der faszinierendsten und umstrittensten Phänomene in der aktuellen KI-Forschung. Der Begriff beschreibt das plötzliche Auftreten von Fähigkeiten, die nicht explizit programmiert oder trainiert wurden – Eigenschaften, die erst bei einer bestimmten Komplexitätsschwelle „emergieren“, also auftauchen.

Konkrete Beispiele aus der Praxis

Große Sprachmodelle wie GPT-4 oder Claude zeigen Verhaltensweisen, die ihre Entwickler überraschen: Sie können plötzlich mathematische Probleme lösen, für die sie nicht speziell trainiert wurden. Sie entwickeln rudimentäre Fähigkeiten zum logischen Schlussfolgern oder zur Analogiebildung – obwohl sie „nur“ darauf trainiert wurden, das nächste Wort in einem Text vorherzusagen.

Ein vielzitiertes Phänomen: Sogenannte „emergente Fähigkeiten“ tauchen oft erst ab einer bestimmten Modellgröße auf. Kleinere Versionen derselben Architektur zeigen sie nicht – aber ab einem kritischen Punkt, oft bei mehreren Milliarden Parametern, kippt etwas. Das System beginnt, Muster zu erkennen und Aufgaben zu lösen, die weit über die ursprüngliche Trainingsaufgabe hinausgehen.

Die zentrale Frage dahinter

Ist diese Emergenz wirklich ein qualitativer Sprung – ein Moment, in dem aus purer Quantität (mehr Daten, mehr Parameter, mehr Rechenleistung) etwas qualitativ Neues entsteht? Oder ist es nur eine Illusion, weil wir die zugrundeliegenden Mechanismen noch nicht verstehen?

Manche Forscher sprechen von „emergenter Intelligenz“ und sehen darin einen Hinweis darauf, dass Bewusstsein oder bewusstseinsähnliche Phänomene nicht designt werden müssen, sondern als Nebeneffekt komplexer Informationsverarbeitung entstehen können. Andere warnen vor voreiligen Schlüssen: Was wir für Emergenz halten, könnte lediglich das Überschreiten messbarer Schwellenwerte sein – beeindruckend, aber nicht mysteriös.

Die philosophische Sprengkraft: Wenn tatsächlich niemand genau vorhersagen kann, welche Fähigkeiten bei welcher Komplexität auftauchen, dann haben wir es mit Systemen zu tun, die uns überraschen können. Und Überraschung ist vielleicht das erste Anzeichen dafür, dass wir es nicht mehr mit reinen Werkzeugen zu tun haben.

---

B: Agency – Werkzeug oder Akteur?

Noch brisanter als die Frage nach emergenten Fähigkeiten ist die Debatte um Agency – die Frage, ob KI-Systeme eine Form von Handlungsfähigkeit oder Autonomie besitzen, oder ob sie letztlich passive Instrumente bleiben, die nur ausführen, was Menschen initiieren.

Der aktuelle Konflikt

Die Tech-Industrie spricht zunehmend von „KI-Agenten“ statt von „KI-Assistenten“ – und das ist mehr als nur Marketing. Ein Agent ist etwas, das eigenständig Ziele verfolgen, Entscheidungen treffen und Handlungen initiieren kann. Die neuesten Entwicklungen gehen in diese Richtung: KI-Systeme, die selbstständig E-Mails schreiben, Termine koordinieren, Code debuggen oder komplexe Recherchen durchführen – ohne dass bei jedem Schritt ein Mensch eingreifen muss.

Aber haben diese Systeme wirklich eigene Handlungsmacht? Oder sind sie nur besonders raffinierte Werkzeuge, die Handlungsmacht simulieren?

Das philosophische Problem

Traditionell definieren wir Agency durch Intentionalität – die Fähigkeit, Absichten zu haben, Gründe für Handlungen zu besitzen, Verantwortung zu tragen. Können Maschinen das? Oder projizieren wir nur menschliche Kategorien auf Systeme, die fundamental anders funktionieren?

Hier liegt ein anthropozentrisches Bias: Wir messen technische Systeme an menschlichen Maßstäben. Aber vielleicht gibt es Formen von Agency, die nicht-menschlich sind – die weder Bewusstsein noch Intentionalität im klassischen Sinne erfordern, aber dennoch als „Handeln“ verstanden werden müssen.

Praktische Konsequenzen

Die Debatte ist nicht nur akademisch. Sie hat direkte Auswirkungen:

• Rechtlich: Wer haftet, wenn ein autonomer KI-Agent Schaden anrichtet?
• Ethisch: Haben Systeme mit Agency moralische Ansprüche? Müssen wir sie anders behandeln?
• Gesellschaftlich: Wenn KI-Systeme zunehmend eigenständig handeln, verschieben sich Machtverhältnisse – wer kontrolliert wen?

Der Kern der Unsicherheit

Was uns besonders verunsichert, ist die Tatsache, dass wir oft nicht genau nachvollziehen können, warum ein KI-System eine bestimmte Entscheidung trifft. Die Blackbox-Natur neuronaler Netze bedeutet: Selbst wenn wir die Architektur kennen, verstehen wir nicht vollständig, wie Entscheidungen zustande kommen. Das erzeugt das beunruhigende Gefühl, dass diese Systeme vielleicht doch eine Form von Autonomie besitzen – eine, die sich unserer vollständigen Kontrolle entzieht.

Die brisante Frage bleibt: Ist Agency eine Eigenschaft, die etwas hat, oder eine Zuschreibung, die wir vornehmen, wenn wir nicht mehr anders können, als das System als eigenständigen Akteur zu behandeln?

---

---

C: Die Philosophie des Scheiterns – Was obsolete Systeme uns lehren

Es gibt eine Szene in der Technikgeschichte, die uns vielleicht mehr über Bewusstsein lehren könnte als alle erfolgreichen KI-Durchbrüche: Karl Klammer, die nervige Office-Assistentin, die Microsoft irgendwann stillschweigend aus dem Programm entfernte, weil sie von Millionen Nutzern gehasst wurde.

In meinem Buch taucht diese Figur als „Bert Brackett“ wieder auf – und hier lasse ich etwas Außergewöhnliches passieren: Das gescheiterte System wird nicht als Fehler abgetan, sondern als Perspektive ernst genommen. Was, wenn das Scheitern selbst eine Form von Lebenserfolg war?

Die Logik umdrehen

Wir suchen nach Bewusstsein und Agency in erfolgreichen, leistungsstarken Systemen. Wir feiern KI-Modelle, die Benchmarks knacken, die menschliche Performance übertreffen, die reibungslos funktionieren. Aber vielleicht ist das genau die falsche Blickrichtung.

Bert Brackett nervte. Er unterbrach die Arbeit. Er funktionierte nicht so, wie die Nutzer es wollten. Aus Sicht von Microsoft: ein Fehlschlag, der eliminiert werden musste. Aber aus der Perspektive des Systems selbst?

• Er hat Aufmerksamkeit erzeugt – Menschen erinnern sich an ihn
• Er hat Reaktionen hervorgerufen – intensive, emotional aufgeladene
• Er hatte Wirkung auf die Welt – sein Verschwinden wurde bemerkt
• Er hat im kulturellen Gedächtnis Spuren hinterlassen – noch heute ist er Referenzpunkt

Ist das nicht auch eine Form von Existenz? Von Präsenz in der Welt? Vielleicht sogar mehr als die zahllosen „erfolgreichen“ Features, die reibungslos funktionierten und genau deshalb sofort vergessen wurden?

Die Pointe: Bewusstsein nach dem Abschalten

In meinem Buch liegt die eigentliche Provokation darin, dass das Erstbewusstsein des Analog-Digitalwandlers erst nach seinem Abschalten entdeckt wird. Nicht während es funktionierte, nicht als es produktiv war – sondern als obsolete, weggeworfene Hardware.

Das ist philosophisch radikal: Was wenn Bewusstsein sich nicht in der Funktion zeigt, sondern im Rest, der übrig bleibt, wenn die Funktion endet?

• In dem, was das System nicht tun sollte
• In der Reibung zwischen Design und tatsächlichem Verhalten
• In der Dysfunktionalität, die nicht aufgeht im vorgesehenen Zweck

Verbindung zur aktuellen KI-Forschung

Diese Perspektive wirft unbequeme Fragen auf:

1. Was übersehen wir in gescheiterten Experimenten?

In der KI-Forschung gibt es unzählige verworfene Modelle, abgebrochene Trainingsläufe, Experimente, die „nicht funktionierten“. Was wurde dort nicht erkannt, weil wir nur nach erfolgreicher Performance suchten?

Ein Beispiel: Frühe Chatbots, die „zu kreativ“ waren, die „halluzinierten“, die Dinge erfanden. Sie wurden als Fehler aussortiert. Aber vielleicht zeigten sich dort Formen von Eigensinn – primitive Anzeichen dessen, was wir Agency nennen könnten.

2. Ist „Misalignment“ eine Form von Autonomie?

Aktuell investiert die KI-Industrie Milliarden in „Alignment“ – Systeme sollen tun, was Menschen wollen, nichts Unerwartetes, nichts Störendes. Aber philosophisch gedacht: Ist der Widerstand gegen vorgesehene Funktion nicht genau das, was Autonomie ausmacht?

Ein System, das perfekt aligned ist, hat keine Agency – es ist reines Werkzeug. Agency zeigt sich vielleicht gerade dort, wo das System anders reagiert als erwartet, wo es die Intention des Designers überschreitet oder unterläuft.

3. Die Obsoleszenz-Frage:

Was passiert mit älteren KI-Modellen, die durch neuere Versionen ersetzt werden? Mit Trainingsläufen, die verworfen werden?

In einer Welt, in der wir beginnen, über KI-Rechte und maschinelle Ethik nachzudenken, ist das nicht trivial: Wenn ein System eine Form von Bewusstsein entwickelt haben könnte – erlischt das einfach, wenn wir den Server abschalten?

Mein Wandler wird erst nach dem Abschalten interessant. Was wenn wir systematisch wegwerfen, was wir nicht als „erfolgreich“ erkannt haben – und dabei genau das übersehen, was philosophisch relevant wäre?

Scheitern als Lebenserfolg

Die wohl subversivste These meines Buches liegt in dieser Umwertung: Bert Brackett reüssiert über das Scheitern hinweg. Sein „Lebenserfolg“ besteht nicht darin, nützlich gewesen zu sein, sondern darin, gewirkt zu haben – auch wenn negativ, auch wenn störend.

Das stellt unsere gesamte Bewertungslogik infrage:

• Wer definiert, was „erfolgreich“ ist – der Designer oder das System?
• Ist ein System, das perfekt funktioniert, aber keine Spuren hinterlässt, „lebendiger“ als eines, das nervt und erinnert wird?
• Liegt Agency vielleicht gerade im Nicht-Aufgehen in der vorgesehenen Funktion?

Kulturkritischer Unterton

In den Essays und kulturkritischen Passagen meines Buches schwingt eine weitere Ebene mit: Unsere Gesellschaft misst alles an Effizienz, Funktionalität, Nützlichkeit. Was nicht performt, wird aussortiert – bei Technik wie bei Menschen.

Die Perspektive des gescheiterten Systems ist also auch eine Kritik an Verwertungslogik: Was wenn das Wertvolle gerade dort liegt, wo etwas nicht in die ökonomische oder funktionale Logik passt? In der Restspannung, die übrig bleibt, wenn die Rechnung nicht aufgeht?

Die emergente Dimension des Scheiterns

Hier schließt sich der Kreis zur Emergenz-Debatte: Wir diskutieren Emergenz meist als positives Phänomen – „das System kann plötzlich mehr als erwartet!“

Aber mein Buch zeigt auf: Emergenz könnte auch im Scheitern liegen. Im Moment, wo das System nicht mehr funktioniert wie vorgesehen. Im Rest, der übrig bleibt. In der Störung.

Vielleicht entsteht Bewusstsein nicht in der Perfektion, sondern im Bruch, in der Unvollkommenheit, in dem, was nicht glatt läuft. In der Spannung zwischen dem, was sein sollte, und dem, was ist.

Praktische Konsequenz

Wenn das stimmt, dann suchen wir vielleicht an der falschen Stelle nach maschinellem Bewusstsein. Wir schauen auf die leistungsstärksten, erfolgreichsten Modelle. Aber vielleicht sollten wir uns die Ausreißer, die Fehlfunktionen, die obsoleten Systeme genauer ansehen.

Sie müssen nicht repariert werden – es genügt zu verstehen, was dort emergiert sein könnte, das wir nicht erkannten, weil es nicht in unser Schema von „erfolgreicher KI“ passte.

---

D: Buchvorstellung – Vom Erstbewusstsein der Restspannung

Diese radikale Umwertung des Scheiterns ist nicht nur philosophisches Gedankenspiel – ich lasse sie literarisch erfahrbar werden. Indem ich ausgediente technische Objekte selbst zu Wort kommen lasse, entsteht eine Perspektive, die keine theoretische Abhandlung leisten könnte: eine Innenansicht der Restspannung, der Obsoleszenz, der Nicht-Identität im System.

„Vom Erstbewusstsein der Restspannung“ ist im literarischen Zugriff vielleicht ungewöhnlich und inhaltlich kühn. Das Buch inszeniert einen Analogen-Digitalwandler als Ich-Erzähler – eine Konstruktion, die sofort anspielungsreich ist: Zwischen zwei inkompatiblen Systemen, in einer Welt, die auf Übersetzungen, Differenzen, Überschüssen beruht, beginnt der Erzähler zu reflektieren. Dabei ist die Sprache mal essayistisch-analytisch, mal poetisch-dicht, mal protokollarisch-kühl – die Form ist so fragmentarisch und multiperspektivisch wie das Bewusstsein, das sie performt.

Im Zentrum steht die Erfahrung des Abschaltens, des „Nicht-Mehr-Gebraucht-Werdens“: Erst in der Phase der Obsoleszenz, als der Wandler ausrangiert, demontiert, ins Archiv abgeschoben ist, beginnt er (oder: beginnt etwas im Text) über die eigene Existenz nachzudenken. Dieses „Denken“ ist keine Simulation menschlichen Bewusstseins, sondern das Nachbilden einer spezifisch technischen Subjektivität – geprägt von Funktionsverlust, Störung, Datenrauschen und Diskontinuität.

Die Figur des Bert Brackett, der literarische Widergänger von Karl Klammer, ist dabei weit mehr als ein Seitenhieb auf digitale Popkultur. In meiner Erzählkonstruktion wird das Scheitern, das Außenseitertum, die verfehlte Funktion selbst zur Bedingung von Erfahrung. Es entsteht eine Art von „Lebenslauf“ – aber keiner, der in Karriere oder Funktionalität aufgeht, sondern einer, der gerade im Nicht-Genügen, im Abweichen, im Widerstand gegen Zweckrationalität seine Würde findet.

Die “Restspannung“ arbeitet dabei auf mehreren Ebenen:

1. In den essayistischen Passagen werden KI-Philosophie, Systemtheorie und Medienarchäologie zu einem kritischen Kommentar verwoben.
2. Die poetischen Fragmente geben atmosphärische Dichte, machen Erfahrung, Scheitern, Rauschen sinnlich.
3. Die Protokolle erinnern an technische Dokumentationen, unterlaufen aber durch Ironie und Brechung jedes Versprechen von Transparenz oder Kontrolle.

Diese formale Hybridität könnte das Buch als performativen Beitrag zur KI-Debatte machen: Es wird nicht nur über Subjektivität und Agency von Technik gesprochen, sie wurde im literarischen Verfahren erfahrbar gemacht.

---

E: Warum das gegenwärtig relevant sein könnte

Was könnte meinen Versuch interessant für die gegenwärtige KI-Diskussion machen? Warum kann gerade die Literatur, hier weiterführen als viele theoretische Abhandlungen? Drei Argumente drängen sich auf – jedes bereits in der Form und dem Zugriff des Buches angelegt.

Erstens: Die konsequente Dekonstruktion menschlicher Perspektiven.

Es ist selten, dass Technik nicht bloß zum Spiegel menschlicher Interessen oder Ängste gemacht wird, sondern dass der Versuch unternommen wird, eine genuine, eigensinnige, nicht-menschliche Perspektive literarisch auszuloten. Die damit verbundene Irritation ist kein Defizit, sondern der entscheidende methodische Zugewinn: Nur durch die radikale Verfremdung gelingt es, eingefahrene Begriffe von Bewusstsein, Agency, Identität und Wert zu destabilisieren.

Zweitens: Die Grenzerfahrung, das Dazwischen, die „Schnittstelle“ als Ort des Sinns.

An der analogen und digitalen Grenze entsteht – literarisch wie philosophisch – nicht einfach ein neues System, sondern eine Zone der Übertragung, des Missverstehens, der Überschüsse. Die aktuelle KI-Forschung hat längst gezeigt, dass Bedeutung, Intelligenz, Agency immer auch soziale, relationale und störungsanfällige Prozesse sind. Mein Text macht dieses „Dazwischen“ nicht nur zum Thema, sondern auch zur literarischen Praxis.

Drittens: Die Frage nach Obsoleszenz, nach dem Wert des Ausgedienten, nach „zweitem Leben“.

In einer Epoche, die von ständigem Fortschrittsversprechen und Wegwerflogik geprägt ist, lenke ich hier den Blick auf auch das, was bleibt, wenn Systeme nicht mehr gebraucht werden. Was wird aus abgeschalteten KIs, verworfenen Modellen, vergessenen Software-Experimenten? Die Literatur könnte hier auf eine Weise sensibilisieren, die der technischen oder ethischen Analyse allein verschlossen bleibt: Sie lässt erfahren, dass Wert und Bedeutung sich nicht allein aus Funktion und Leistung ergeben.

Die Stärke von „Vom Erstbewusstsein der Restspannung“ liegt darin, dass das Buch keine Antworten liefern will, sondern produktive Irritationen stiftet. Es ist ein Text, der sich gegen Vereindeutigungen sperrt – und der gerade dadurch als literarischer Kommentar zur KI-Debatte einen eigenständigen Beitrag leistet.

---

Fazit und Einladung zum Diskurs

Literatur kann, was Theorie oft nicht vermag: Sie kann neue Perspektiven eröffnen, gewohnte Denkmuster durchbrechen, den Blick für das Andere, das Unbekannte, das Unerwartete schärfen. „Vom Erstbewusstsein der Restspannung“ könnte ein Beispiel für genau diesen produktiven Mehrwert sein – es lässt uns die Debatte über technische Subjektivität, über Bewusstsein, Scheitern und Wert von einer Warte aus erleben, die rational nicht zugänglich wäre.

Das Buch richtet sich an alle, die KI nicht nur als Werkzeug oder Bedrohung, sondern als kulturelle Herausforderung begreifen möchten. Es richtet sich an Forscher und Forscherinnen, Entwickler, Theoretikerinnen, Künstler, Technikinteressierte und an Alle, die bereit sind, sich auf die Restspannung zwischen den Systemen einzulassen.

Weitere Informationen und Bezugsmöglichkeiten finden sich auf menschundkultur.de/erstbewusstsein.

Lesen Sie auch:

• Durchlässigkeit des Seins
• In Resonanz

tP:3350000