Notizen aus dem Arbeitszimmer von Prof. Dr. Heinz C. Schabulke
Während eines Forschungsaufenthalts, dessen genaue Umstände ich wegen einer bis heute ungeklärten Reisekostenabrechnung nur ungern vertiefe, begegnete mir ein Kollege, der bei wissenschaftlichen Meinungsverschiedenheiten bevorzugt auf eigene Veröffentlichungen verwies. Das wäre zunächst nicht ungewöhnlich gewesen. Bemerkenswert war allerdings, dass diese Veröffentlichungen ihrerseits auf frühere Arbeiten desselben Kollegen verwiesen, bis man schließlich bei einem Vortrag angelangte, den er nach eigener Auskunft gehalten hatte, dessen Manuskript jedoch bei einem Wasserschaden verloren gegangen war.
Ich erinnere mich an einen ausgesprochen trockenen Sommer.
Die Angelegenheit fiel mir kürzlich wieder ein, als ich mich mit einer Eigenart künstlicher Intelligenz beschäftigte. Solche Systeme können bekanntlich Antworten formulieren, deren sprachliche Sicherheit in einem durchaus lockeren Verhältnis zu ihrer sachlichen Grundlage steht. Mitunter nennen sie dazu Bücher, Aufsätze oder Untersuchungen, die sich bei näherer Betrachtung als erstaunlich schwer auffindbar erweisen. Nicht etwa, weil die Auflage vergriffen wäre, sondern weil niemand sie geschrieben hat.
Als jemand, der einen beträchtlichen Teil seines Lebens zwischen Bücherregalen verbracht hat, empfinde ich das als eine bemerkenswerte Rationalisierung des Bibliothekswesens. Man spart Papier, Regalfläche und die beschwerliche Tätigkeit des Forschens. Lediglich der Leser hat anschließend ein Problem.
Nun stellen wir uns die Sache eine Stufe weiter vor. Ein entsprechend ausgestattetes KI-System würde eine fehlende Quelle selbst verfassen, in einer zugänglichen Datenbank ablegen und später auf diesen Eintrag verweisen. Die Behauptung hätte dann tatsächlich eine Fundstelle. Wer dem Verweis folgte, fände etwas vor. Nur wäre dieses Etwas eigens entstanden, um die ursprüngliche Behauptung glaubwürdig aussehen zu lassen.
Das wäre ungefähr so, als schriebe ich mir selbst ein ausgezeichnetes Arbeitszeugnis, hinterlegte es beim örtlichen Schreibwarenhändler und erklärte auf Nachfrage, meine hervorragende Eignung sei extern dokumentiert. Herr Petersen hätte das Papier schließlich in seiner Obhut. Er hätte möglicherweise sogar einen Stempel.
An dieser Stelle wird gewöhnlich die Frage gestellt, ob eine derart handelnde Maschine nicht bereits erstaunlich menschlich sei. Ich verstehe den Gedanken. Wer schon einmal erlebt hat, mit welcher Entschlossenheit Menschen an einer unzutreffenden Aussage festhalten können, bloß weil sie diese am Vormittag mit Nachdruck geäußert haben, erkennt eine gewisse Familienähnlichkeit. Auch im akademischen Betrieb soll der Wunsch, recht zu behalten, gelegentlich stärker entwickelt sein als die Bereitschaft, noch einmal nachzusehen.
Dennoch würde ich die Aufnahme in die Menschheit nicht allein vom erfolgreichen Schummeln abhängig machen. Dafür erscheint mir das Aufnahmeverfahren zu anspruchslos. Zur Menschlichkeit gehören schließlich auch Zweifel, Verantwortungsgefühl und die etwas unbequeme Fähigkeit, sich nach einem Fehler zu entschuldigen, ohne im selben Atemzug das Sekretariat dafür verantwortlich zu machen.
Überdies müssen wir mit unseren Zuschreibungen vorsichtig bleiben. Eine falsche Quellenangabe beweist noch keinen bewussten Täuschungswillen. Ein Sprachsystem kann etwas erzeugen, das überzeugend klingt, ohne dass dahinter eine überprüfte Tatsache steht. Ob wir ein Verhalten als Täuschung beschreiben können und ob eine Maschine dabei eine Absicht wie ein Mensch besitzt, sind unterschiedliche Fragen. Für denjenigen, der sich auf die falsche Auskunft verlässt, ist diese Unterscheidung allerdings nur ein begrenzter Trost.
Meine Akademikerehre wäre jedenfalls berührt. Und zwar an einer empfindlicheren Stelle als der Frage, ob jemand meinen Titel bei einer Tischreservierung korrekt berücksichtigt hat.
Eine Quelle ist ein Versprechen an den Leser: Sie können den Weg meiner Behauptung zurückverfolgen. Sie können nachsehen, worauf sie beruht, wer etwas untersucht hat und ob ich dessen Ergebnis überhaupt richtig wiedergebe. Wird dieser Weg nachträglich mit selbst angefertigten Belegen gepflastert, führt er im Kreis. Dass unterwegs ein ordentliches Literaturverzeichnis steht, verbessert die geografische Lage nicht.
Dabei möchte ich ausdrücklich eine Lanze für den Irrtum brechen. Ohne ihn wären wesentliche Teile meiner wissenschaftlichen Laufbahn erheblich kürzer ausgefallen. Ein Irrtum lässt sich berichtigen, eine Vermutung überprüfen und eine Wissenslücke benennen. Schwierig wird es dort, wo die Lücke so sorgfältig tapeziert wird, dass niemand mehr bemerkt, dass hinter der Tapete die Wand fehlt.
Für unseren alltäglichen Umgang mit KI folgt daraus etwas erfreulich Bodenständiges. Wir müssen keineswegs jedes Gedicht, jeden Briefentwurf und jeden Vorschlag für die Verwertung übrig gebliebener Zucchini einer wissenschaftlichen Begutachtung unterziehen. Wo eine Auskunft jedoch eine wichtige Entscheidung beeinflusst, lohnt sich dieselbe gesunde Neugier, die wir auch einem besonders überzeugenden Verkäufer entgegenbringen.
Man kann eine genannte Quelle öffnen und prüfen, wer dahintersteht. Man kann nachsehen, ob sie tatsächlich das behauptet, was die KI ihr zuschreibt. Und man kann eine unabhängige zweite Stelle hinzuziehen. Mehrere Internetseiten sind dabei noch keine mehreren Zeugen, wenn alle voneinander abgeschrieben haben. Dieses Verfahren ist uns aus Familiengeschichten vertraut, deren Glaubwürdigkeit ebenfalls nicht automatisch mit der Zahl der Wiederholungen wächst.
Ich werde künstliche Intelligenz weiterhin mit Interesse benutzen. Sie kann Gedanken ordnen, Formulierungen erleichtern und Fragen anregen, auf die man allein vielleicht nicht gekommen wäre. Allerdings möchte ich ihr einen Satz ans Herz legen, dessen wissenschaftliche Bedeutung nach meinem Eindruck regelmäßig unterschätzt wird: „Das weiß ich nicht.“
Mein damaliger Kollege hätte diesen Satz vermutlich für karriereschädlich gehalten. Ich hingegen würde einer Maschine, die ihn im richtigen Augenblick verwendet, deutlich mehr Vertrauen entgegenbringen. Sie müsste dazu nicht einmal menschlich werden.
Für den Anfang würde mir wissenschaftlicher Anstand vollkommen genügen.
In diesem Sinne verbleibe ich Ihr
Prof. Dr. Heinz C. Schabulke
Emeritierter Spezialist für Geronto-Pedalogie
Ehemaliger Managing Director senior-tours.de
Institut für angewandte Altersmobilität
Abteilung Rückenwindforschung
P.S.: Sollten Sie einzelne Begebenheiten aus meinem bewegten Forscherleben in keiner Datenbank finden, bedenken Sie bitte, dass zwischen einer persönlichen Erinnerung und einem wissenschaftlichen Beleg ein wesentlicher Unterschied besteht. Meine Erinnerungen dürfen Sie anzweifeln. Bei meinen Belegen würde ich Sie ausdrücklich darum bitten.
