Lerneffekt mit KI

In einem Internetforum gerate ich mit einem mir zuvor unbekannten Mitdiskutanten in einen Disput über die Frage, ob in Baden-Württemberg eine Minderheitsregierung möglich wäre. Hintergrund sind die zähen Verhandlungen zwischen Grünen und der CDU zur Bildung einer Koalition mit noch ungewissem Ausgang. Ich behaupte, dass eine solche Minderheitsregierung grundsätzlich möglich wäre, sofern der grüne Kandidat Özdemir im dritten Wahlgang mit einfacher Mehrheit gewählt werden würde.

Zuvor hatte ich mich in dieser Frage per ChatGPT schlau gemacht, ob dies denn in Baden-Württemberg so möglich wäre. ChatGPT beantwortete diese Frage klar und eindeutig mit „Ja, die Wahl des Ministerpräsidenten in Baden-Württemberg ist im dritten Wahlgang mit einfacher Mehrheit möglich“. Mein Gegenüber hielt dagegen und mir vor, entweder zu lügen oder nicht richtig lesen zu können, nämlich die Verfassung des Landes Baden-Württemberg.

Abgesehen von dem Umstand, dass der Ton in den Internetforen sehr schnell ein rauer, wenn nicht beleidigender wird, hatte ChatGPT in seiner Antwort ausdrücklich noch darauf hingewiesen, dass die Wahl im dritten Wahlgang mit einfacher Mehrheit gemäß Verfassung möglich sei.

Ich rieb mir also die Hände und wollte geharnischt zurückschreiben. Jedoch befragte ich vorsichtshalber ChatGPT nochmals und bat diesmal um Quellenangabe. Und siehe da: In der Verfassung selbst, auf die das KI-Programm verwies, bzw. im betreffenden Artikel 46 stand nichts über einen dritten Wahlgang und eine einfache Mehrheit, sondern lediglich: „Der Ministerpräsident wird vom Landtag mit der Mehrheit seiner Mitglieder ohne Aussprache in geheimer Abstimmung gewählt.“ Also wohl doch mit absoluter Mehrheit. ChatGPT verwies nun allerdings auf die Geschäftsordnung des Landtages. Dieser sei zu entnehmen, dass, wenn zwei Wahlgänge mit dem Ziel einer absoluten Mehrheit scheitern würden, in einem dritten Wahlgang auch die einfache Mehrheit ausreiche.

Voila!, dachte ich und wollte schon meine Replik aufsetzen, war nun aber doch skeptisch geworden. Im Internet suchte und fand ich die Geschäftsordnung des Landtags von Baden-Württemberg, durchsuchte sie von vorne bis hinten und retour – und fand keine Regelung zu den Wahlgängen!

Ich fragte nun ChatGPT, wo denn genau die Stelle in der Geschäftsordnung sei. Genauso schnell, wie die bisherigen Antworten auf meinem Bildschirm erschienen, räumte ChatGPT nun ein, verziert mit einem dicken Ausrufenzeichen, völlig danebengelegen zu haben! „Du hast recht“, hieß es ganz unumwunden, „das steht nicht in der Geschäftsordnung.“ Es folgte eine Ausführung, wonach das Prozedere eines dritten Wahlgangs zwar in manchen Bundesländern und auch im Bund möglich sei bzw. in den entsprechenden Verfassungen stünde, aber eben nicht in Baden-Württemberg.

Kleinlaut schrieb ich meinem Gegenüber im Internet-Forum, dass ich mich getäuscht habe bzw. habe täuschen lassen, er recht und ich unrecht habe.

Es ist ja nicht so, dass ich nicht wusste, dass Rechercheergebnisse auf Basis der sogenannten „Künstlichen Intelligenz“, inzwischen (fast) jedem vertraut in der Abkürzung KI oder AI für „Artificial Intelligence“, nicht rundum zuverlässig sind. Es hatte sich auch bis zu mir, der ich nicht gerade eine digitale Leuchte bin, herumgesprochen, dass KI auch danebenliegen, ja, wie es heißt, „halluzinieren“, also grotesk falsche Auskünfte geben kann. Daher habe ich mir grundsätzlich das Prinzip „Double-Check“ angewöhnt, vor allem, wenn ich Beiträge für unseren Blog „Zeitenwende“ schreibe. Das heißt, eine Information muss mindestens von einer anderen Seite bestätigt werden, besser noch ist es, wenn man sich die Mühe macht und die, so greifbar, die Thema oder ein Faktum betreffenden Original-Dokumente heranzieht. Im vorliegenden Fall habe ich dieses Prinzip vernachlässigt und mir prompt ein blaues Auge geholt.

Der Zufall will es, dass ich in diesen Tagen den Beitrag von Athanasios Karafillidis, Dozent an der RWTH Aachen, für die neueste Ausgabe der Zeitschrift „Merkur“ zu lesen bekam. Unter dem Titel „Containment eines Laborunfalls. Über die Regulierung Künstlicher Intelligenz“ setzt sich der Soziologe dort überaus kritisch mit ChatGPT und Co. auseinander.

Den speziellen Gag seines Textes platziert Karafillidis gleich in der Überschrift: Er vergleicht den Aufschlag der KI in der sozialen Sphäre der Menschheit mit dem Ausbruch des Corona-Virus. Sprich: Dass die KI-gestützten „Chatbots“ (noch so ein Wort, an das man sich gewöhnen musste) plötzlich da waren und vor allem dass sie eine riesige Nachfrage und infolgedessen eine ungeheure Welle an Erwartungen und Befürchtungen auslösten, waren von den dahinterstehenden Leute – insbesondere vom CEO Sam Altman des zuvor so gut wie unbekannten Unternehmens und ChatGPT-Entwicklers Open AI – in der Form gar nicht geplant gewesen.

Denn was der ganzen Sache aufgrund dessen nun fehle, so Karafillidis, sei die Regulierung einer insgesamt betrachtet überaus gefährlichen Technologie. Der Autor listet eine Reihe von Fehlermöglichkeiten auf, die bei Weitem nicht so trivial enden können wie das sachliche Danebenliegen in einer privaten Debatte. Es geht vielmehr um die Frage der Anwendung von KI in großen Zusammenhängen, vorneweg Wissenschaft und Forschung, aber auch in die Steuerung von sozialen Systemen in Wirtschaft und Verwaltung. Es gehe, wie Karafillidis festhält, dabei um die Übernahme von Kerntätigkeiten dieser Systeme durch die KI.

KI, das haben wir vor vielen Jahren schon gelernt, kann für Normalsterbliche sehr beeindruckend sein, wenn es um bestimmte Anwendungsbereiche geht. Es gibt mittlerweile Schach- oder Go-Programme, die es locker mit Großmeistern aufnehmen und diese auch bezwingen können. Aber diese Art von KI kann man nicht zum Maßstab nehmen für all die Anwendungen, von denen seit dem „Ausbruch“ von ChatGPT etc. gesprochen wird. Denn, so Karafillidis: „Die Maschinen können zwar sprechen, aber eben auch viel schwafeln.“

Und dieses „Schwafeln“ bzw. die von den Maschinen produzierten kleinen Ungenauigkeiten oder gar großen Fehler können, wenn KI ins Zentrum der Wissenschaft und der sozialen Systeme gestellt wird, dazu führen, dass eben diese Ungenauigkeiten und Fehler sich im Laufe der Zeit kumulieren. Denn KI lebt davon, dass sie ständig mit Daten von außen gefüttert bzw. „trainiert“ wird, wie die Fachleute gerne sagen. Und wenn diese Daten wiederum von KI produziert worden und dabei unkorrekt sind, dann wird die Ungenauigkeit oder der Fehler weiter und immer weiter getragen, ruft schlimmstenfalls weitere Ungenauigkeiten und Fehler hervor, so dass eine endlose Spirale an Ungenauigkeiten und Fehlern entsteht.

Natürlich waren die betreffenden sozialen Systeme auch schon vor KI fehleranfällig. Einmal ein Name oder Begriff falsch geschrieben, und etwas landete in der falschen Datei, einmal ein Zahlendreher, und die Dosierung eines Medikaments konnte böse Folgen haben. Daher wurden in die sozialen Systeme an verschiedenen Punkten Kontrollen eingebaut, die laufend versuchten, Fehler zu identifizieren und auszuschalten. Hier sind wie wieder bei der Methode „Double Check“ oder beim allseits bewährten Vier-Augen-Prinzip usw.

Das könnte man auch im Falle der KI machen. Oft unterbleibt das jedoch, vor allem dann, wenn sich nun viele Organisation vom Einsatz der KI-Modelle große Kostenersparnisse versprechen, indem massiv Personal abgebaut wird.

Ein Bekannter von mir, der als Berater im KI-Bereich tätig ist, erzählte mir neulich stolz, dass er für ein Ingenieur-Büro eine KI-System aufgesetzt habe, das nun die technische Planungsarbeit übernehme. Er „trainierte“ die KI mit dem Datenbestand aller bisherigen von dem Büro getätigten Planungen. Statt dass nun für jeden neuen Auftrag eine penible Planung von Hand, die viele Arbeitsstunden kostet, vorgenommen werden muss, genügt nun der berühmte Knopfdruck, und schon ist die neue Planung da. Ich kann nur hoffen, dass die Ingenieure des Büros sich nicht blind auf das Ergebnis verlassen, sondern es vor Ausführung genau unter die Lupe nehmen.

Karafillidis wird jedoch noch grundsätzlicher. Denn er weist darauf hin, dass in der Vergangenheit alle wichtigen, vom Grundsatz her jedoch riskanten Technologien öffentlicher Kontrolle unterworfen wurden. Darunter befinden sich, wie Karafillidis festhält, „Automobil- und Flugverkehr, Telekommunikation, Container-Handel, Atomenergie, die Pharma- und Lebensmittelindustrie“. Alle diese Bereiche seien durch staatliche Regulierung erst möglich geworden, denn es gelten jeweils strenge Sicherheitsvorgaben.

Für den Bereich KI gibt es indessen nichts dergleichen. Karafillidis zu den Folgen:

„Blöd nur, dass KI-Systeme jetzt schon (…) in vielen sozialen Arrangements genutzt werden und mindestens das Potenzial haben, das dafür erforderliche Vertrauen und die Sicherheit zu erschüttern oder komplett zu unterlaufen. Akzelerationisten und Disruptivisten mögen das.

In einer differenzierten Sozialwelt ist ein Regulierungsprozess für ein aufkommende technologisches Feld die Chance, mit dem Netz der existierenden Infrastruktur zu verschmelzen – in ihr aufzugehen, zu einer Selbstverständlichkeit zu werden. Eine rein dezentrale Regulierung reicht dazu nicht aus.

(…)

Die Frage kann also nicht sein, ob, sondern wie KI reguliert wird.“

Denn:

„Die Gefahr ist eben nicht, wie der Soziologe Harry Collins es auf den Punkt gebracht hat, dass uns superintelligente Maschinen unterwerfen könnten, sondern dass wir ohne Not vor dummen Maschinen kapitulieren – ihnen also das Feld überlassen, weil wir ihnen leichtfertig überlegene Intelligenz zuschreiben.“

Dezentrale Regulierung – das meint die Haltung, es den Tech-Unternehmen im Grunde selbst zu überlassen, wie weit sie gehen können und wo sie zwingend Kontrollen in ihre Chatbots einbauen müssten. Für Karafillidis steht fest: Demokratische Gesellschaften dürfen diesen Weg nicht gehen, sie stehen zwingend vor der Aufgabe, die Regulierung des hoch-riskanten Bereichs der KI selbst zu übernehmen.

Keine Frage, dass dieses Ansinnen den vor allem US-amerikanischen Tech-Oligarchen, ihren Masterminds aus dem Lager Trumps, den Ultra-Libertären vom Schlag eines Peter Thiel und all den von Karafillidis so bezeichneten Akzelerationisten und Disruptivisten misshagt.

Trotz seiner tiefgreifenden Kritik ist Karafillidis keinesfalls gegen die Einführung bzw. Verwendung von KI, auch in den erwähnten sozialen Systemen. Es komme, so sein Fazit, allerdings darauf an, dass diese Systeme bereit sind, den Umgang mit KI zu lernen, anstatt sich dieser Technologie blind auszuliefern. Karafillidis unterstreicht:

„Es geht um die Neuausrichtung menschlicher Interaktionskompetenz: auf die Wahrnehmung und Interpretation von Situationen mit Maschinen.“

Das heißt auch, aus Fehlern, den eigenen und denen der KI, lernen, wie bei meiner unvollständigen Recherche nach den Wahlmodalitäten im baden-württembergischen Landtag.

---

Athanasios Karafillidis, Containment eines Laborunfalls. Über die Regulierung Künstlicher Intelligenz, Merkur Nr. 923, April 2026

Harry Collins, Artifictional Intelligence. Against Humanity’s Surrender to Computers. Cambridge: Polity 2018

Abbildung: KI … 😉