Prof. Dr. Johann Behrens: Die Dual Use Forschung und die Verantwortung der Wissenschaft (VDW)

Wirkten die enormen Anstrengungen der Leopoldina, der DFG und der Forschungsministerien zur Handhabung der „Dual Use“-Forschung?

I Verantwortung der Wissenschaft

Im Wort „Verantwortung“ steckt „Antwort“. Wer verantwortlich ist, soll selbst Antwort geben können über sein Tun und vor allem dessen Folgen – und seine Verantwortung nicht auf seinen Boss, den Gesetzgeber, die ganze Gesellschaft oder gar auf Gott abwälzen. Im französischen „responsabilité“ und im englischen „responsibility“ ist – wie in vielen anderen Sprachen auch – der Aspekt der Verantwortungs-Fähigkeit besonders deutlich. Denn das Wort für Verantwortung endet dort auf „ability/abilité“ = Fähigkeit. Wer Verantwortung hat, hat nicht nur eine Last, sondern auch die Fähigkeit, sie zu übernehmen. (Vgl. im Deutschen das Wort „ministrabel“ = fähig, Minister zu sein.)

Dieser Gedanke ist von den Wissenschaftsorganisationen der Leopoldina, der Deutschen Forschungsgemeinschaft und vielen anderen sowie von den Forschungsministerien wohl an keinem anderen Problem gründlicher durchdekliniert worden als am alltäglichen praktischen Problem der ‚Dual Use‘- Forschung. Denn dabei kann sich aus ganz einfachen Gründen kein Wissenschaftler und keine Wissenschaftlerin darauf herausreden, die Verantwortung für ihre Forschung läge bei ihren Vorgesetzten oder ihren Geldgebern. Denn Geldgeber und Vorgesetzte erkennen Dual-Use-Risiken nicht als erste. Zuerst erkennt sie der Wissenschaftler und die Wissenschaftlerin, die gerade an einer neuen Entwicklung arbeiten. Das sehen die Wissenschaftsorganisationen, wie zu zeigen sein wird, sehr zutreffend. Und zutreffend scheint auch deren Schlussfolgerung, verantwortliche Wissenschaftlerinnen und Wissenschaftler könnten sich nicht damit begnügen, das zu meiden, was im Gesetz verboten ist. Denn sie wissen, was die konkreten Fälle angeht, immer mehr als das Gesetz. Sie allein müssen und können die ‚unbestimmten Rechtsbegriffe‘, die das Gesetz klugerweise verwendet, konkret ausfüllen.

Das gilt selbstverständlich nicht nur für Wissenschaftlerinnen und Wissenschaftler im öffentlichen Dienst. Jede Person, die in Forschung und Entwicklung, in Lehre und Bildung arbeitet, ist nach Meinung der VDW eine Wissenschaftlerin und trägt die Verantwortung der Wissenschaft, ob sie in einer Firma oder im öffentlichen Dienst beschäftigt ist. Das sehen die Ministerien der Forschungsförderung exakt genauso: Die Ministerien für Wissenschaft und Forschung richten ihre Ausschreibungen explizit an forschende Firmen genauso wie an Forschungseinrichtungen im öffentlichen Dienst. Es gibt so gut wie keine Firma oder Initiative in der Forschung und Entwicklung, die nicht zu irgendeinem Zeitpunkt im Entwicklungsprozess öffentliche Mittel bekam, besonders in den frühen Phasen der sogenannten Grundlagenforschung.  Und wenn die wissenschaftlichen Antragstellenden einer innovativen kleinen oder großen Firma bei einem Drittmittelantrag nicht zum Zuge kamen, heißt das nie, dass ihre Wissenschaftlerinnen und Wissenschaftler damit aufgehört hätten, Wissenschaftlerinnen und Wissenschaftler zu sein. Die Quelle der Finanzierung oder die Art der Anstellung ist für die Eigenschaft, in der Wissenschaft tätig zu sein, völlig unerheblich.

Selbst um einen Antrag auf Förderung bei der Deutschen Forschungsgemeinschaft stellen oder ein Projekt durchführen zu dürfen, bedarf es weder eines Gehaltszettels noch eines formalen Bildungs-Abschlusses wie Habilitation, Promotion, Gräkum, großes oder kleines Latinum oder Abitur: Es reicht der Nachweis wissenschaftlicher Befähigung durch den Text des Antrags und die Texte der eigenen Vorarbeiten. Das ist in Branchen wie der IT besonders offensichtlich. In diesen Branchen haben studierende Wissenschaftlerinnen und Wissenschaftler oft auf einen Studienabschluss verzichtet und sind stattdessen gleich in Firmen eingetreten oder haben Firmen gegründet.

In der Militärforschung mit der sogenannten künstlichen „Intelligenz“ sind, so vermutet der Verfasser und nicht nur er, eher mehr Firmen als öffentliche Institute und Universitäten tätig. Niemand wird den in diesen Firmen wissenschaftlich Tätigen unterstellen, sie seien von aller wissenschaftlichen Verantwortung entbunden und dürften eine Wissenschaft ohne Verantwortung betreiben.

Das Problem der Dual-Use-Forschung nehmen die Nationale Akademie der Wissenschaften ‚Leopoldina‘, die Deutsche Forschungsgemeinschaft (DFG), die Leibniz-Gemeinschaft und sicher auch viele Fachgesellschaften und Forschungsförderer daher sehr ernst. Unter Dual-Use (zuweilen auch unter ähnlichen Begriffen) wird vereinfacht gesagt erfasst, dass sich Ergebnisse eines Forschungsprojekts für Angriffskriege eignen, die gar nicht das Ziel der Forschung waren. Die Hauptherausforderung des Problems der Dual-Use-Forschung sehen die Leopoldina und die DFG darin, dass das Problem mit rechtlichen Mitteln, also auch mit internationalen Verträgen, allein nicht zu kontrollieren ist.  Daher kommt es, wie Leopoldina und DFG völlig überzeugend schreiben, auf den „einzelnen Wissenschaftler“ an, dessen Verantwortung sich nicht auf die Einhaltung von Recht und Gesetz beschränken kann. Denn die oder der einzelne Forschende merkt zuerst und oft allein, dass die Forschungsergebnisse diese unerwünschten Eignungen erfüllen. Sie oder er hat „eine besondere Verantwortung, die über die rechtliche Verpflichtung hinausgeht“ (Leopoldina/DFG 2014, ebenso auch 2020). Eine solche Forderung an einzelne Bürger:innen ist – zugegeben – ungewöhnlich. Weder im Strafrecht noch im Zivilrecht gibt es sie. Eine solche Forderung würde unter gesetzestreuen Bürgern von Gemeinwesen als Zumutung angesehen.  Dennoch kommt man auch nach Meinung des Autors um eine solche Forderung wie die von Leopoldina, DFG und BMBF gar nicht herum – und zwar unabhängig davon, ob die Forschenden in privaten Firmen oder im öffentlichen Dienst angestellt sind. Sie entspricht auch völlig dem für die VDW identitätsstiftenden Hauptthema, mit dem der sie nach dem Memorandum der 18 Physiker von 1957 gegen die Atombewaffnung der Bundeswehr im Jahren 1959 gegründet wurde, und dass sie seitdem beherzigte und vertrat: Es kommt auf die Verantwortung nicht nur der Wissenschaft, sondern der einzelnen Wissenschaftler:in an. Deswegen sollte sich die VDW dieses ihres alten Kernthemas in den kommenden zwei Jahren am Fall der alle Natur-, Sozial- und Geisteswissenschaften betreffenden Problems der Dual-Use-Forschung unter spezifischen Aspekten der Qualitätssicherung in den Lebenswissenschaften und den IT-Wissenschaften annehmen (z.b. synthetische Biologie, Biowaffen, IT, angeblich „künstliche Intelligenz“ und viele andere).  Die Leopoldina, die DFG, Fachgesellschaften, Ministerien und Forschungförderer haben seit 2014 erheblich in die Bewältigung des Dual-Use-Problems investiert, mit Selbstverpflichtungen der einzelnen Wissenschaftler:innen, mit Ethik-Kommissionen, mit Ombudsleuten. Nach diesen 10 Jahren ist es an der Zeit, zurückzublicken, ob diese enormen Investitionen wirksam waren. Woran, an welchen Indikatoren, würde man das merken?

II Dual Use Forschung,  Art. 5 GG und die Verantwortung der Wissenschaftler:innen

Der Artikel 5 des Grundgesetzes (GG), der die Freiheit der Wissenschaft garantiert, verursacht die hauptsächlichen Herausforderungen der Dual-Use-Forschung keineswegs allein, wie manchmal angenommen wird. Das Grundgesetz untersagt jede Unterstützung und damit auch jede forscherische Unterstützung eines „Angriffskrieges“. Artikel 5 GG deckt daher nicht die Freiheit der Forschung für einen Angriffskrieg. Allerdings belegt schon die Wahl des Wortes „Angriffskrieg“, dass die Väter und Mütter des Grundgesetzes das Verbot des Krieges vermieden. Ihnen stand als Angriffskrieg der Zweite Weltkrieg vor Augen. Verteidigungskriege sind mit dem Grundgesetz vereinbar und damit prinzipiell auch die freie Forschung für defensive Waffen. Selbstverständlich sind die Grenzen zwischen Verteidigungs- und Angriffswaffen fließend. Manchmal erscheint der Angriff, wie das Sprichwort sagt, als beste Verteidigung. Seit dem Einmarsch der russischen Streitkräfte in die Ukraine ist die Rechtfertigung der Waffengewalt zur Verteidigung wieder ein Gemeinplatz in der Öffentlichkeit. Aber damit ist „Dual-Use-Forschung“ für niemanden harmlos geworden. Jede Forscher:in in der synthetischen Biologie, in der Psychologie, in den Agrarwissenschaften, in der Medizin, in der IT- oder in der Literaturwissenschaft kann es jederzeit klar sein, ob die eigene Forschung zu kriegerischen Zwecken genutzt werden kann. Und um diese Klarheit geht es bei der Dual-Use-Forschung.

Keine Forscher:in kann sich damit begnügen zu wissen, ihre Forschung werde nicht vom Verteidigungsministerium finanziert. Die Art der Finanzierung sagt fast gar nichts. Der Autor hat 1980 in den USA erlebt, wie alle Humanwissenschaftler:innen, ob es um die Bindung zwischen Mutter und Säugling oder die Gesundheit Jugendlicher ging, beim Pentagon Forschungsmittel beantragten mit der Begründung, gesunde Menschen (auch als spätere Soldat:innen) seien doch wohl sicher im Interesse des Pentagons. Das Pentagon hatte einfach einen riesigen Forschungsetat. Ob Forschung vom Verteidigungsministerium oder vom Gesundheitsministerium, vom Kultusministerium, von der selbstverwalteten DFG oder von der Pharma- und Agrarindustrie gefördert wird, sagt allein nichts Verlässliches darüber aus, ob es sich um Dual-Use-Forschung handelt oder nicht. Das kann und muss die einzelne Forscher:in selbst erkennen.

III Überfordert die Verantwortung die einzelnen Wissenschaftler:innen?

Die Notwendigkeit einer so weitgehenden Verantwortung einzelner Wissenschaftler:innen, die weit über die rechtliche Verpflichtung hinausgeht, ist funktional begründet, eben weil Dual-Use-Forschung nie allein mit rechtlichen Mitteln zu kontrollieren ist. Nur die beteiligten Wissenschaftler:innen können, sofern sie das überhaupt wollen und nicht lieber die Augen und Ohren verschließen, erkennen, was sie tun und mit welchen möglichen Folgen. So schreiben Leopoldina und DFG treffend: „Der einzelne Wissenschaftler darf sich allerdings nicht mit der Einhaltung der gesetzlichen Regelungen begnügen. Er hat aufgrund seines Wissens, seiner Erfahrung und im Rahmen der ihm eingeräumten Freiheit eine besondere Verantwortung, die über die rechtliche Verpflichtung hinausgeht“.

Niemandem unter den Bürger:innen, die keine Wissenschaftler:innen sind, ist es allerdings völlig zu verdenken, wenn ihnen bei diesen Sätzen ein Schreckensschauder über den Rücken läuft. Müssen nicht auch Wissenschaftler:innen ihre Miete bezahlen, ihre Familien durchbringen; sind sie nicht auf ihre Jobs angewiesen und auf ihre Karrieren? Wie sicher ist es, dass Wissenschaftler:innen in diesen existentiellen Nöten freiwillig auf Studien, Drittmittel, Jobs und Ruhm verzichten weil sie sich etwas klarmachen, vor dem sie auch die Augen verschließen könnten?

IV Die ‚input‘-Strategie von DFG und Leopoldina und mögliche Wirksamkeits- Indikatoren (‚outcomes‘)

Auf dieses nicht völlig unverständliche Bedenken gehen Leopoldina, DFG und Ministerien durchaus ein. Ihre seit 2014 propagierten Maßnahmen zielen alle hauptsächlich auf eine einzige Strategie: Den Wissenschaftler:innen ins Gewissen zu reden und durch Schulung und Aufklärung, durch Ethikkommissionen, Ombudsleute und Abfragen ihr Bewusstsein zu erweitern.  In der Tat kommt es auf das Bewusstsein der eigenen Verantwortung entscheidend an. Denn gerade, weil der Bereich rechtlich nicht konkret genug zu normieren ist, helfen Erklärungen wenig weiter, man sei sich keiner bisher nicht hinreichend geprüften Dual-Use-Risiken bewusst. Man kann immer die Augen vor den Folgen des eigenen Tuns verschließen.

Alle diese Maßnahmen der Leopoldina und der DFG würde man in der Qualitätssicherung und Produktionstheorie als input-Faktoren fassen: Es sind inputs in Bewusstseinsbildung und Strukturen (z.B. Ethikkommissionen, Ombudsleute) oder Prozesse (z.b. unterschriebene Erklärungen bei der Beantragung von Forschungsmitteln). Ob diese inputs tatsächlich die gewünschte Wirkung zeigen oder nur symbolische Politik sind, kann man nur an Wirksamkeits-Indikatoren, also an Outcome-Indikatoren erkennen. Nachdem die Input-Maßnahmen von Leopoldina,  DFG, Ministerien  und anderen für Forschende in Firmen und im öffentlichen Dienst seit mehr als zehn Jahren  laufen, ist es Zeit für die Frage: An welchen Outcome-Indikatoren würde man erkennen, dass diese Strategie in den vergangenen  Jahren wirksam war? Input-Indikatoren (Verbreitung von Selbstverpflichtungs-Erklärungen von Wissenschaftler*innen, Zahl der Schulungen pro Wissenschaftler*in, Verbreitung der vorgeschlagenen Ethik-Kommissionen in Instituten) ersetzen die Outcome-Indikatoren nie, wenn es um Wirksamkeit geht. (In der Medizin sagt die Menge der verabreichten Salben, Pillen und durchgeführten Operationen auch nichts darüber aus, ob sie wirksam waren.)

Während die Input-Indikatoren der DFG ziemlich gut dokumentiert sind, sind die Outcome-Indikatoren weniger klar. Auch darum wird es bei der Jahrestagung der VDW 2025 gehen. Der Autor selbst denkt in folgende Richtung: Wenn die DFG entsprechend der DFG/Leopoldina/BMBF- Strategie seit zehn Jahren in Input-Faktoren zu Bewusstseinsbildung und Achtsamkeit investierte, dann müsste es inzwischen eine nennenswerte Anzahl von Forscher:innen geben, die ihre Forschungen wegen zuerst von ihnen selbst zu erkennender Dual-Use-Risiken meldeten, öffentlich erörterten, vielleicht sogar abbrachen. Zumindest der DFG und dem BMBFT, die die Forschung förderten, müsste in den vergangenen zehn Jahren eine beeindruckende Anzahl gerade erkannter Dual-Use-Risiken von den Forscher:innen gemeldet worden sein. Das sind relativ einfache Indikatoren. Meldungen von Forschungsprojekten wegen erkannter Dual-Use-Risiken lassen sich relativ leicht zählen und dann fallverstehend besprechen.

Vor der Erörterung und vergleichenden Illustration dieser einfachen Outcome-Indikatoren füge ich hier ein ganz einfaches, aus dem Qualitätsmanagement vertrautes Schema des Gesagten ein:

Input-Indikatoren (sogenannte Struktur- sowie Prozessqualität)

•  Zahl der Schulungen pro Wissenschaftler:in,
• Verbreitung von Selbstverpflichtungs-Erklärungen von Wissenschaftler:innen zum Dual-Use, in Prozent geschätzt für die letzte Jahre
• Zahl/Verbreitung der vorgeschlagenen Ethik-Kommissionen und der Ombudsleute in Instituten und Firmen
• weitere

 Outcome-Indikatoren (sogenannte Ergebnis-Qualität)

• Anzahl von Forscher:innen, die ihre Forschungen von sich aus wegen Dual-Use-Risiken abbrechen wollten. 
• Anzahl neu erkannter Dual-Use-Risiken, die der DFG oder den Forschungsministerien während eines laufenden Projekts von Forscher:innen gemeldet wurden.

V Veranschaulichendes Beispiel aus dem Qualitätsmanagement

Die Achtsamkeit für Outcome-Indikatoren ist im Qualitätsmanagement selbstverständlich. Zur Illustration ein Beispiel: Als ausgebildeter „European Foundation for Quality Management (EFQM)“-Assessor fragte der Verfasser schon in den 1980er Jahren in Organisationen, Kliniken, Betrieben und Institutionen, die alle enorm in Schulungen und Qualitäts-Beauftragte investierten, nach aktuellen Fehlerstatistiken. In Fertigungsbetrieben bekommt man Fehlerstatistiken sofort, wenn sie auch teilweise geschönt sein mögen. In Kliniken (und manchmal auch in Forschungseinrichtungen) gab es in den 1980er Jahren dagegen oft überhaupt keine. Begründung: In der Klinik seien keine Fehler vorgekommen. Komplikationen bei Heilungsprozessen seien natürlich. Sie seien nie auf Behandlungs- oder andere Fehler zurückzuführen gewesen. Aus diesen Antworten schlossen wir nicht, dass in Kliniken das Qualitätsmanagement hervorragend funktionierte und in Fertigungsbetrieben grottenschlecht. Eher umgekehrt. Ein Qualitätsmanagement ist auf Fehler angewiesen, aus denen Einrichtungen lernen und an die sie Maßnahmen anknüpfen können. Wenn eine Einrichtung für das letzte Jahr keine Fehler und keine Verbesserungsmaßnahmen dokumentiert, erweckt das den Verdacht, dass es an Bewusstheit und Achtsamkeit für Fehler fehlt und ein effektives System des Qualitätsmanagements – trotz aller Schulungen und Qualitätsbeauftragten – nicht wirksam vorhanden ist. Selbstverständlich ist es in der Humanmedizin schwer, Fehler zuzugeben, wahrscheinlich schwerer als in der Fertigung. Aber auch da ist es nicht leicht. Vorgesetzte müssen daher darauf achten, dass die Dokumentation eines eigenen Fehlers nie sanktioniert wird, im Gegenteil.

Die Erkenntnis eines Dual-Use-Risiko der eigenen Forschung ist für eine Forscher:in belastend, aber sicher nicht so kränkend wie das Zugeben eines Fehlers. Deshalb sollten die vielen Maßnahmen der Bewusstseinsbildung, in die die DFG mit der Leopoldina und die Ministerien in Firmen und Instituten in den vergangenen zehn Jahren investierte, in einigen wenigen Fällen den Abbruch von Forschungen und viel häufiger die Meldung neu erkannter Risiken durch die Forschenden bewirkt haben. Ohne diese zu erwartenden Outcomes würde man an der Wirksamkeit der Schulungsmaßnahmen zweifeln. Der Abbruch von Studien ist selbst z.B. in der Pharmaindustrie gang und gäbe, wenn auch nicht wegen Dual-Use-Risiken, sondern wegen des Nicht-Erreichens eines klaren Ergebnisses. Dann sollte die Meldung und auch der Abbruch von Forschungen bei der Erkenntnis von Dual-Use-Risiken auch öfter vorkommen.

VI Wirksamkeit einzelner Struktur- und Prozess-Maßnahmen: Ethik-Kommissionen, Ombudsleute

Erst wenn man plausible Wirksamkeitsindikatoren (‚Outcome-Indikatoren‘) hat, kann man die Eignung von Prozessen und Strukturen überhaupt beurteilen. Ob Schulungen, Ethik-Kommissionen, Ombudsleute, eidesstattliche Absichts-Erklärungen in Anträgen und andere Strukturen und Prozesse sinnvolle Maßnahmen sind oder nicht, lässt sich erst an den Outcome-Indikatoren, also an der Ergebnis-Qualität erkennen.

Bis dahin sprechen für diese Maßnahmen nur hypothetische, noch ungeprüfte Wirksamkeitsvermutungen. Man antizipiert für Schulungs-Prozesse und organisatorische Strukturen eine mögliche Wirkung hypothetisch, die an den Outcome-Indikatoren erst zu testen ist. Für den nächsten Podcast wollen wir daher abschätzen, zu wieviel Meldungen und Maßnahmen (Outcome) die enormen Input-Anstrengungen von Leopoldina, DFG und BMFT zur „Bewusstseinsbildung“ der Wissenschaftlerinnen und Wissenschaftler in privaten Firmen und im öffentlichen Dienst führten.

Die erwähnte VDW-Jahrestagung 2025 wird gemeinsam mit der Konrad-Adenauer-Stiftung unter dem Titel Frieden und Sicherheit in Zeiten der Künstlichen Intelligenz, am 13. und 14.11.2025, in Berlin, in den Räumen der Konrad-Adenauer-Stiftung (Tiergartenstraße 35) stattfinden.

Detaillierte Informationen zu Programm und Anmeldung finden Sie auf der Veranstaltungswebsite.

Johann Behrens, Halle-Wittenberg, 04.09.2025

Für hilfreiche Kommentare zu diesem Beitrag dankt der Autor:  Hartmut Graßl,  Kathryn Nixdorff,  Götz Neuneck, Eberhard Göpel, Dieter Korczak. Die Verantwortung trägt der Autor trotzdem allein.

Quellen:

2014_06_DFG_Leopoldina_Wissenschaftsfreiheit_-verantwortung_bilingual.pdf

Nationale Akademie der Wissenschaften Leopoldina und Deutsche Forschungsgemeinschaft (2020): Gemeinsamer Ausschuss zum Umgang mit sicherheitsrelevanter Forschung von DFG und Leopoldina – Dritter Tätigkeitsbericht zum 1. November 2020. Halle (Saale), 64 Seiten.

Behrens J, 1999 Evaluation of OHS as a system of incentives – a German example; in: Menckel E, Westerholm P. (Hrsg.) Evaluation in Occupational Health Practice, Butterworth-Heinemann, Oxford, ISBN 075064303X

Behrens, J., Theorie der Pflege und der Therapie. Bern, Göttingen, Toronto: Hogrefe 2019