Herr de Rachewiltz, das Manhattan-Projekt hat mit der Entwicklung der Atombombe gezeigt, welche schreckliche Zerstörungskraft Wissenschaft hervorbringen kann. Wie weit darf Forschung gehen?

Michael de Rachewiltz: Das kommt ganz darauf an, was in der Gegenwart passiert und mit welcher Ausgangslage sich Forschende konfrontiert sehen. Die Grenzen der Forschung hängen stark von der aktuellen gesellschaftlichen oder politischen Situation ab. Wenn wir uns Robert Oppenheimer und das Manhattan-Projekt anschauen, das ja nicht umsonst als Geburtsstunde der modernen Wissenschaftsethik gilt, so wurde die Entwicklung der Atombombe mit der existenziellen Bedrohung durch die Nazis gerechtfertigt. In der Wissenschaftsethik sprechen wir von interner und externer Verantwortung.

Erstere bezieht sich auf die Verantwortung innerhalb des Forschungsprozesses selbst. Dazu gehören Überlegungen zur Methodik und die Einhaltung moralischer und rechtlicher Vorgaben, wie etwa bei Tierversuchen oder im Umgang mit Versuchspersonen. Die externe Verantwortung hingegen bezieht sich auf die möglichen Auswirkungen von Forschungsergebnissen auf die Gesellschaft. Diese externe Verantwortung ist oft schwieriger einzuordnen, insbesondere in der Grundlagenforschung, wo die Anwendungsmöglichkeiten von Ergebnissen einfach noch sehr unklar sind.

Die externe Verantwortung der Wissenschaft bezieht sich auf die möglichen Auswirkungen von Forschungsergebnissen auf die Gesellschaft. So, wie es bei Machbarkeitsstudien erst einmal darum geht, zu sehen, was überhaupt möglich wäre? 

de Rachewiltz: Genau. Ein klassisches Beispiel ist die Kernspaltung: Diese Entdeckung führte letzten Endes zur Atombombe, mit weitreichenden Konsequenzen für die Menschheit. Wir wissen etwa von Otto Hahn, der mit Lise Meitner und anderen die Kernspaltung entdeckt hat, dass er sich mitverantwortlich fühlte für das Sterben in Hiroshima und Nagasaki. Er und Meitner traten zeitlebens für eine friedliche Nutzung der Kernspaltung und für internationale Verständigung ein. Hahn hat im Ersten Weltkrieg aber auch an Giftgas geforscht und Soldaten im Umgang damit geschult. Es war ihm also durchaus bewusst, welche Auswirkungen wissenschaftliche Erkenntnisse haben können. Doch Verantwortung und Weitsicht kommen nicht automatisch.

Auch Werner Heisenberg, Begründer der Quantenmechanik und federführend im deutschen Uranprojekt, hatte wohl aus Stolz das Gefühl, er hätte derjenige sein müssen, der die Atombombe erfindet – selbst wenn es für die Nazis gewesen wäre.

Am Manhattan-Projekt waren an die 160.000 Menschen beteiligt. Viele wussten nicht, woran genau gearbeitet wurde. Wo kann in so einem Fall überhaupt Verantwortung beginnen?

de Rachewiltz: Hier stellt das Manhattan-Projekt einen besonderen Fall dar. Zumindest den beteiligten Forscherinnen und Forschern war ja klar, welches Ziel die Grundlagenforschung hatte, nämlich die Nutzung einer der fundamentalen Naturgewalten und die Freisetzung der bis dato kaum vorstellbaren Kraft des Atomkerns in Form von Kernenergie.

Das Manhattan-Projekt ist auch deshalb so faszinierend, weil trotz des schrecklichen Resultats bewiesen wurde, wozu Menschen in kürzester Zeit fähig sind, wenn so viel Brainpower zusammenkommt und eine existenzielle Angst da ist – in dem Fall die Angst, dass Hitler die Welt in Schutt und Asche legen könnte.

Genauso faszinierend ist, wie viele kleine Schritte für den Erfolg notwendig waren. Wenn etwa Enrico Fermi nicht die Berechnung der kritischen Masse gelungen wäre, hätten auch die anderen nicht mehr weiterarbeiten können. Hier trägt jede und jeder auch eine individuelle Teilverantwortung. Wie beim Klimawandel, wo die Teilverantwortung auf Milliarden von Menschen aufgeteilt ist, bis hin zu Entwicklungs- und Forschungsabteilungen.

Sie beschäftigen sich aus philosophischer Sicht mit der Debatte. Welche Rolle nimmt die Philosophie in der Wissenschaftsethik ein?

de Rachewiltz: In der Wissenschaftsphilosophie interessieren wir uns dafür, was Wissenschaft zu Wissenschaft macht. Wie sie funktioniert. Ob und warum sie verlässliches Wissen ermöglicht. Als Teilbereich der Wissenschaftsphilosophie beschäftigt sich die Wissenschaftsethik mit der Wissenschaftspraxis. Sie bietet Hilfestellung und Orientierungswissen für moralische Fragestellungen innerhalb und außerhalb der Forschung.

Ein klassisches wissenschaftsinternes Problem wäre die Fälschung von Forschungsergebnissen. Mögliche Folgen der CRISPR/Cas-Methode – umgangssprachlich auch als Genschere bekannt – wären hingegen wissenschaftsextern einzuordnen.

Und wer macht nun Wissenschaftsethik?

de Rachewiltz: Neben den Kommissionen an Universitäten oder Forschungseinrichtungen kaum jemand. Zwar versuchen einige Philosophen, das Thema in die Öffentlichkeit zu tragen, aber wirkliche Diskussionen entstehen oft erst im Nachhinein.

Dolly, das geklonte Schaf, wird der Weltöffentlichkeit präsentiert – erst dann wird öffentlich über das Klonen und die ethischen Bedenken dazu diskutiert. Dabei wurden in der Medizin- und Bioethik die meisten Überlegungen schon angestellt – es hat nur sehr wenige interessiert.

Ein ähnliches Problem haben wir beim Klimawandel. Die Klimaethik ist klar, aber bevor die Auswirkungen nicht am eigenen Leib spürbar sind, ändert sich nicht viel. Nach den Ergebnissen der evolutionären Psychologie ist der Mensch – und Rauchen ist hier das beste Beispiel – einfach extrem schlecht darin, langfristige Risiken einzuschätzen, die schleichend daherkommen und einem eben nicht kausal über die Rübe hauen, um es salopp auszudrücken. Bei einer Bombe ist das anders. Diese Gefahr ist unmittelbar vorstellbar. Wissenschaftsethik hat also oft einen eher lehrenden Charakter für spätere, möglicherweise ähnliche Probleme und moralische Dilemmata.

Mit dem Thema sind Sie auch in Schulen zu Gast. Wie reagieren Jugendliche denn auf Fragen der Wissenschaft und Verantwortung?

de Rachewiltz: Die Ereignisse rund um das Manhattan-Projekt haben einen hohen moralisch-edukativen Wert. Den Anschluss an die Fragestellung nach der Verantwortung der Wissenschaft finden die meisten Jugendlichen dann aber doch über aktuelle Probleme. In Zusammenhang mit künstlicher Intelligenz etwa die Sorge, später noch Arbeit finden zu können. Existenzielle Ängste um die Zukunft der Menschheit oder des Planeten werden aus meiner Erfahrung weniger thematisiert.

Es mag eine triviale Feststellung sein, aber Wissenschaft spielt in unser aller Leben, auch über den verlängerten Arm der Technik, eine ganz wesentliche Rolle. Gerade junge Menschen beschäftigen sich aber auch mit der ganz generellen Frage, welchen Beitrag Wissenschaft überhaupt für die Gesellschaft leisten sollte.

Sie haben KI angesprochen. Mit welchen Themen und Fragestellungen setzt sich die Wissenschaftsethik denn derzeit auseinander?

de Rachewiltz: Die künstliche Intelligenz ist aktuell sicher eines der am kontroversesten diskutierten Themen. Apokalyptische Szenarien, wie wir sie aus Science-Fiction, Terminator usw. kennen, sind zwar unwahrscheinlich, aber die Nutzung von KI birgt schon erhebliche Gefahren.

Das reicht von der Verzerrung öffentlicher Diskurse oder Eingriffe in politische Systeme bis hin zur Einflussnahme auf das Wahlverhalten. Eine ethische Herausforderung ist die Dezentralisierung von KI-Systemen. Große Unternehmen zu reglementieren ist eine Sache. Wenn Einzelpersonen oder kleinere Gruppen eigenständig KIs entwickeln und nutzen, wird die Kontrolle schwieriger.

Erst vor kurzem hat eine Mutter in den USA nach dem Tod ihres Sohnes Klage gegen ein KI-Unternehmen eingereicht, mit dem Vorwurf, der Chatbot habe ihrem Sohn Suizidgedanken eingeflüstert.

Die Mathematikerin Hannah Fry vom University College London hat bereits vor einigen Jahren einen Hippokratischen Eid für Forschende in den Bereichen Mathematik und Informatik gefordert. Richtlinien in der Forschung sind allerdings schwer umzusetzen, weil der internationale Kontext unterschiedliche ethische Standards zulässt.

Hier haben wir wieder das Spannungsfeld zwischen moralischer Verantwortung und dem praktischen Druck, dass andere möglicherweise ohne solche Einschränkungen forschen. Gerade die Grundlagenforschung verfolgt nicht immer konkrete Ziele, und es ist für die einzelnen Forschenden schwierig vorherzusagen, welche – auch unbeabsichtigten – Folgen ihre Arbeit mit sich bringen könnte. Auch im Bereich der Gentechnik und der synthetischen Biologie verstehen wir die potenziellen Gesundheitsfolgen oder die Risiken der Kommerzialisierung solcher Techniken noch zu wenig.

Kann Wissenschaft die Weichen für eine lebenswerte, friedliche Zukunft legen?

de Rachewiltz: Noch ist nicht aller Tage Abend. Ich möchte die Frage also mit einem hoffnungsvollen „Ja“ beantworten. Je mehr ich mich mit der Geschichte der Wissenschaft beschäftige, desto mehr fasziniert mich, was wir Menschen erreichen können, wenn wir uns verantwortungsvolle Ziele setzen und zusammenarbeiten – und das nicht in einem anthropozentrischen, sondern in einem holistischen Sinn, wo wir uns als Teil der Biosphäre betrachten, in der wir Lebewesen alle voneinander abhängen.

Wissenschaft ist das größte Abenteuer der Menschheit. Die Wissenschaftsethik fungiert letztendlich als ethisch-soziale Richtschnur für die Verantwortung gegenüber der Menschheit und dem Leben insgesamt.

About the Interviewed

---

Michael de Rachewiltz hat Umweltwissenschaft in North Carolina und Philosophie in Innsbruck studiert. Er forscht am Center for Advanced Studies von Eurac Research zu angewandter Ethik, Wissenschaftstheorie und zur Philosophie des Geistes. Darüber hinaus beschäftigt er sich mit Kulturanthropologie und Transhumanismus und war verantwortlich für die Organisation zweier futurologischer Kongresse mit Schwerpunkten auf Energie sowie der Zukunft der Menschheit im Zeitalter der künstlichen Intelligenz. Gemeinsam mit dem Historiker Josef Prackwieser hält er Workshops und Vorträge zu Verantwortung und Wissenschaft in Oberschulen in ganz Südtirol.