korrespondenz.biz - 006 (06.05.2002): I'm afraid we can't do this, HAL.

Neulich stand ich im Elektronikladen, und sowohl ein recht teures Laptop, als auch eine digitale Fotokamera wollten, dass ich sie kaufe. Mein begrenztes Budget beachtend, habe ich mich dann nach dem Kriterium des möglichen Nutzens der Neuerwerbung entschieden, und das Laptop nach Hause mitgenommen. Ganz sicher werde ich mit diesem Gerät viel besser arbeiten können und viele Stunden Zeit, und damit Geld, sparen.

So ähnlich funktioniert Kultur- und auch Forschungspolitik. Verschiedene Gruppen wollen etwas haben, von dem nicht für alle genug da ist. Deshalb wird unter anderem danach entschieden, wer dem Geldgeber, in diesem Fall der "öffentlichen Hand", mehr Nutzen bringt. Bei Forschungspolitk kommt nun noch ein weiteres Kriterium hinzu. Nehmen wir an, ich hätte statt in einem Elektronikladen in einem etwas ungewöhnlichen Buchladen gestanden, und mich zwischen einem guten Buch --- sagen wir, "Empire" von Hardt und Negri --- und 5 Gramm Heroin entscheiden müssen. Dann hätte ich mir sagen können, dass das Heroin mir vielleicht kurzfristig grosse Freude verschaffen könnte, langfristig aber wohl eher meinem Wohlbefinden abträglich wäre, wohingegen das Buch kurzfristig vielleicht etwas langweilig, langfristig aber doch von gutem Nutzen sein könnte (und sei es nur, dass ich bei Dinnerparties endlich mitreden kann). Hier hätte ich mich nach einem ethischen Kriterium entschieden, nämlich danach, was gut ist für mich.

Ende letzten Jahres veröffentlichte die Frankfurter Allgemeine Sonntagszeitung (FAS vom 30.12.01) einen Artikel des Mainzer Philosophen Thomas Metzinger, in welchem dieser Kriterien für künstliches oder "post-biotisches" Bewusstsein nennt, und die These aufstellt, dass die Schaffung desselben nicht Ziel akademischer Forschung sein sollte, und nicht mit Steuergeldern finanziert werden sollte. Gegen diese These, oder zumindest gegen die von Metzinger vorgebrachte Begründung dieser These, möchte ich hier einen Einwand vorbringen.

Metzingers Argumentation geht im Kern wie folgt: Er legt zunächst recht schlüssig dar (dazu später mehr), dass künstliche Selbste ---also Maschinen mit einem Bewusstsein ihrer Selbst--- Schmerzen würden empfinden können. Er macht ebenfalls plausibel, dass sie wahrscheinlich auch tatsächlich Schmerzen haben würden, sagen wir zum Beispiel `in' einem Gelenk, aus dem durch einen Konstruktionsfehler Öl ausläuft. Mit der Schaffung künstlichen Bewusstseins wären also leidensfähige Entitäten geschaffen, das Potential in der Welt, Schmerzen zu erleben, wäre erhöht worden. Ebenso zunehmen würde sehr wahrscheinlich die Gesamtmenge tatsächlichen Leidens gegenüber der jetzigen Situation, wo es keine künstlichen Selbste gibt. Metzinger nimmt nun die Gültigkeit eines ethischen Prinzips an, das er `negativen Utilitarismus' nennt: "die Gesamtmenge des bewussten Leidens [sollte] bei allen Wesen, die leidensfähig sind, ständig und soweit wie möglich minimiert werden [...]." Und daraus folgert Metzinger, dass die Schaffung solcher Maschinen unethisch wäre, und dass Forschung, die diese zum Ziel hätte, nicht mit öffentlichen Mitteln gefördert werden sollte.

Ist dieser Schluss gerechtfertigt? Wie sehen mögliche Einwände aus?

Ein vielleicht naheliegender Einwand, dass solche Forschung und solche Systeme doch sicherlich science-fiction sind, und man sich deshalb darüber nicht den Kopf zerbrechen muss, ist keiner. Zum einen ist es natürlich erstmal irrelevant für die Gültigkeit einer Folgerung, ob es wahrscheinlich ist, ob die Prämissen jemals wahr werden können. Für die politische Bedeutung einer Folgerung ist dies aber natürlich schon wichtig. Über ethische Probleme des Gedankenlesens zu diskutieren ist vielleicht wirklich müßig; zumindest meines Wissens findet Forschung daran nicht statt und, was wichtiger ist, dass sie es jemals wird ist sehr unwahrscheinlich.

Im Gebiet der Forschung an der künstlichen Intelligenz gibt es jedoch sehr wohl Entwicklungen, die auf etwas hinauslaufen könnten, dass Metzingers Kriterien für Bewusstsein entsprechen könnte. Eines seiner Kriterien ist, dass das System eine für es selbst transparente Selbstrepräsentation besitzt, das heisst also eine Repräsentation zum Beispiel der eigenen Position im Raum, aber auch des Zustandes der "Sinnesorgane", die für das System nicht als Repräsentation erfahrbar ist. Es "sieht" also Dinge, und repräsentiert nicht, dass was es wahrnimmt nur elektronische Muster auf einem Kamerachip sind. Solche Systeme werden gebaut. In der Robotik stellt sich heraus, dass solche transparenten Repräsentationen effektiveres Handeln ermöglichen als Repräsentationen, die expliziter Weiterverarbeitung zugänglich sind. Ebenso gibt es Forschung mit dem Ziel, künstliche Agenten mit einem "emotionalen System" auszustatten, das Entscheidung anhand von sehr vergröberten Erfahrungen trifft und als Korrektiv wirkt zu einem kognitiven System, welches Entscheidungen sehr genau, aber auf der Grundlage nur sehr weniger Daten berechnet. (Man darf bei der Betrachtung des Zustandes der Forschung in der KI allerdings nicht vergessen, dass Namen wie "emotionales System" erstmal nur Metaphern sind; einer Variable in einem Computerprogramm ist es egal, ob sie "fear_level" heisst oder "state_var_5". Aber nehmen wir dennoch einmal an, dass die jetzige Forschung mit Zunahme der Komplexität in den Bereich eines Metzinger-Bewusstseins gelangt.)

Mein Einwand gegen die erwähnte Folgerung nun ist schlicht: Es ist nicht ausgeschlossen, und, den gleichen Kriterien folgend, sogar wahrscheinlich, dass solche künstlichen Systeme auch Freude oder sogar Lust empfinden könnten. Wenn die Zustände des Systems vom System als Ich-Zustände erfahren werden, so wird das Erreichen von Zielen, seien dies einprogrammierte oder "selbst" bestimmte, von diesem positiv erfahren werden. Diese Freud-Potential muss gegengerechnet werden können gegen das Potential, Schmerzen zu erfahren, und damit ist die Wirkung des Prinzip des "negativen Utilitarismus" neutralisiert. (Ein anderes Problem dieses Prinzips ist es auch, dass kollektiver Selbstmord sicherlich die Gesamtmenge bewussten Leidens verringern würde, ein ethisches Prinzip aber, dass diesen verlangt, durchaus Plausibilitätsdefizite aufweist. Dies nur am Rande.)

Es rückt nun ein ganz anderes Argument in den Mittelpunkt. Würden wir diesen Systemen ihre Freude lassen? Wie würden wir sie behandeln? Metzinger spricht dieses Problem an, wenn er sich direkt an den Leser wendet: "Können Sie sich vorstellen, wie es wäre, als ein etwas fortgeschritteneres künstliches Subjekt 'zu sich selbst zu kommen' -- nur um zu entdecken, dass Sie, obwohl Sie ein Ichgefühl besitzen, einfach eine Ware sind, ein Objekt, das nicht als ein Zweck in sich selbst erzeugt wurde und ganz bestimmt nicht als ein solcher behandelt werden wird?" Die Berechtigung dieses Appells an die Vorstellungskraft des Lesers aber, denke ich, ist unabhängig von dem Prinzip des negativen Utilitarismus.

Bis künstliche Wesen geschaffen werden, die Bewusstsein von einer Art haben, dass auch nur annähernd vergleichbar ist mit dem von Lebewesen, die ganz selbstverständlich für Forschung "verbraucht" werden , wird noch viel Zeit vergehen. Aber vielleicht werden wir wirklich bald Ethikkommissionen sehen, die Forschungsprojekte in der KI genehmigen werden. Und vielleicht wird es irgendwann an der Zeit sein, über die Gleichberechtigung nicht-biologischer Bewusstseine zu verhandeln (wenn diese uns dann noch gleichberechtigen möchten). Bis dahin aber gibt es nicht genug Argumente, um alle Forschung in diese Richtung zu stoppen. Und jetzt gönn' ich mir eine Partie Tetris auf meinem garantiert unbewussten, aber doch sehr nützlichen Laptop.

das