Warum KI uns nicht beherrschen muss, um gefährlich zu werden

Wer über die Gefahren künstlicher Intelligenz liest, landet schnell bei einer Maschine, die erwacht, einen eigenen Willen entwickelt und beschließt, uns loszuwerden. Als Gedankenexperiment ist das reizvoll. Als Ausgangsfrage taugt es wenig. Zu düster ist sie nicht; sie verlangt nur zu viel auf einmal.

Damit ein System die Menschheit von sich aus auslöscht, müsste einiges zusammenkommen. Es bräuchte ein Ziel, das ohne uns auskommt. Es bräuchte Zugriff auf Dinge, die sich bewegen lassen, und diesen Zugriff müsste es behalten, wenn jemand anfängt, nach dem Stecker zu suchen. Und danach bräuchte es eine Welt, in der Strom, Chips, Ersatzteile und Wartung ohne Menschen weiterlaufen. Jedes dieser Glieder ist für sich genommen ein ungelöstes Problem, und der erste Teil dieses Textes zeigt, warum.

Er ist kurz. Mich beschäftigt eine andere Frage mehr: Auf welchen Wegen könnte KI Menschen gefährden, ohne dass irgendein System jemals einen solchen Beschluss fasst? Dafür braucht es keine Superintelligenz. Es genügt, dass KI in eine Welt eingebaut wird, deren Systeme voneinander abhängen, und dass sie dort Fehler, Angriffe oder Entscheidungen schneller macht, als sie sich zurücknehmen lassen.

Man braucht kein Gefühl, um Schaden anzurichten. Ein Ziel genügt - und das Ziel kann ein anderes sein als das, welches jemand vergeben wollte.

Wie das aussieht, lässt sich an einem erstaunlich simplen Versuch zeigen. Ein Agent soll in einem Computerspiel eine Münze erreichen. Im Training liegt die Münze immer am rechten Rand, und solange das so bleibt, sieht alles richtig aus: Der Agent weicht Hindernissen aus, springt über Lücken, sammelt die Münze ein. Erst als die Forscher die Münze an eine andere Stelle setzen, wird sichtbar, was er offenbar gelernt hat. Er weicht weiterhin geschickt jedem Hindernis aus, springt sauber über jede Lücke und läuft an der Münze vorbei. Nicht die Münze war sein Ziel, sondern der rechte Rand.

Seine Fähigkeiten haben sich also übertragen, sein Ziel nicht. Unangenehm daran ist vor allem, dass die Aufgabe korrekt formuliert war. Sorgfalt beim Formulieren hätte diesen Fall nicht verhindert.

Aus derselben Forschung stammt ein zweiter Gedanke, der hier nur kurz auftauchen soll. Wer abgeschaltet wird, erreicht sein Ziel nicht mehr; wer über Mittel verfügt, erreicht es leichter. Fast jedes Endziel legt deshalb ein paar gleiche Zwischenziele nahe, und mehrere Arbeiten haben das ausbuchstabiert. Sie sind allerdings vorsichtiger formuliert, als ihre populäre Fassung vermuten lässt, und dasselbe gilt für Versuche, in denen Modelle ihre Vorgaben unterlaufen haben. Belegt ist dort eine Fähigkeit, kein Motiv. Wen die Details interessieren, findet sie in den beiden folgenden Kästen; für den Rest des Textes genügt der Befund.

Damit endet der Teil, den die Debatte gewöhnlich am ausführlichsten behandelt. Denn zwischen einem falsch gelernten Ziel und einer veränderten Welt liegen drei Übergänge, die sich nicht von selbst ergeben. Ein Modell kann genau wissen, wie ein Ventil in einem Wasserwerk funktioniert - relevant wird das erst, wenn es das Ventil auch steuern darf. Und selbst dann schließt es das Ventil vielleicht genau einmal, bevor jemand den Zugang sperrt. Wissen, dürfen, durchsetzen: drei verschiedene Dinge, und die Kette reißt an jeder Stelle gern.

Ein sehr fähiges Modell ohne Zugriff kann weniger bewirken als ein mittelmäßiges mit weitreichenden Rechten. Von hier an geht es um Berechtigungen.

Ein Modell, das Texte schreibt, ist ein Werkzeug. Dasselbe Modell, das Zahlungen freigeben darf, ist etwas anderes geworden, ohne dass sich an seinen Fähigkeiten irgendetwas geändert hätte. Was dazwischen liegt, steht in einer Konfiguration.

In Unternehmen wird diese Schwelle heute in kleinen Schritten überschritten, und jeder einzelne davon lässt sich gut begründen.

Wer eine solche Leiter von oben nach unten liest, sieht vor allem Zeitersparnis. Von unten nach oben gelesen steht dort, wie weit ein einzelner Irrtum reichen kann. Beides ist dieselbe Liste.

Dagegen steht der naheliegende Einwand, man könne das System ja abschalten. In der Forschung heißt die gewünschte Eigenschaft Korrigierbarkeit, und sie verlangt mehr als Gehorsam: Ein System soll sich nicht nur abschalten lassen, sondern auch keinen Anreiz haben, das zu verhindern. Beides zugleich zu erreichen, ist bis heute nicht befriedigend gelungen. In der Praxis stellt sich die Frage allerdings selten so grundsätzlich. Ob ein System abschaltbar ist, entscheidet meist die Organisation um es herum - wer darf es, wie schnell geht das, und was steht dann still. Ein System, dessen Abschaltung den Betrieb lahmlegt, ist faktisch nicht abschaltbar, unabhängig davon, wie es gebaut wurde.

Was ein System anrichten kann, hängt damit an der Umgebung, in die es gestellt wird. Und diese Umgebung besteht aus Systemen, die einander brauchen. Vier Fälle zeigen, was das im Ernstfall bedeutet. Keiner von ihnen hat mit künstlicher Intelligenz zu tun, und genau darin liegt ihr Wert: Sie zeigen die Schadenskette, die es längst gibt.

Ein Krankenhaus, das nicht angegriffen wurde

Im Mai 2021 legte Erpressungssoftware einen Klinikverbund in San Diego lahm. Interessant ist nicht, was dort geschah, sondern was nebenan geschah.

Eine Untersuchung betrachtete den benachbarten Verbund, zwei Universitätskliniken, die selbst nicht angegriffen worden waren. Patienten und Notfälle verschwinden nicht, wenn ein Haus ausfällt; sie verteilen sich. Die Zahl der Herzstillstände stieg dort im Zeitraum des Angriffs deutlich an, und beim Überleben mit gutem neurologischem Ergebnis nach einem Herzstillstand außerhalb der Klinik fiel der Anteil von 40,0 auf 4,5 Prozent, um danach wieder auf 41,2 Prozent zu steigen.

Ein Angriff auf Rechner in einem Haus, Schaden an Menschen in einem anderen. Fällt ein Teil aus, kann er andere Teile mitbelasten, weil sie voneinander abhängen; für diese Eigenschaft hat sich der Begriff Kaskadeneffekt eingebürgert. Die Zahlen stammen aus einer Beobachtungsstudie mit kleinen Fallzahlen und belegen keinen Ursachenpfad, was die Autoren selbst betonen.

Ein Stromnetz, das von Hand wieder hochgefahren wurde

Am 23. Dezember 2015 fielen in der Ukraine bei drei regionalen Verteilnetzbetreibern innerhalb einer halben Stunde die Lichter aus. Rund 225.000 Kunden waren betroffen, die Unterbrechung dauerte mehrere Stunden, und es ist bis heute der erste öffentlich bestätigte Fall, in dem ein digitaler Angriff einen Stromausfall verursacht hat.

Aufschlussreicher als der Ausfall ist die Wiederherstellung. Die Angreifer schalteten die Leistungsschalter aus der Ferne, löschten anschließend Systeme, zerstörten die Firmware von Kommunikationsgeräten in den Umspannwerken und ließen unterbrechungsfreie Stromversorgungen abschalten. Weg war damit nicht nur der Strom, sondern auch die Möglichkeit, ihn aus der Leitwarte wieder einzuschalten. Die Netzbetreiber stellten auf Handbetrieb um. Parallel blockierten tausende automatisch erzeugte Anrufe die Störungshotline, sodass Kunden den Ausfall nicht einmal melden konnten. Der Strom kam zurück, weil Menschen zu den Anlagen fuhren und schalteten; Monate später betrieben die Unternehmen ihre Netze laut Behördenbericht noch immer eingeschränkt.

Ein Zahlungssystem, das niemand angegriffen hat

Am 23. Oktober 2020 stand TARGET2 still, das Zahlungs- und Abwicklungssystem des Eurosystems, knapp zehn Stunden lang. Einen Angreifer gab es nicht. Die Europäische Zentralbank benennt als technische Ursache einen Softwarefehler in einem Netzwerkgerät, und die Ausweichstelle sprang nicht ein.

Die EZB ließ den Vorfall extern prüfen. Die Untersuchung fand Schwächen bei der Aufrechterhaltung des Betriebs, bei den regelmäßigen Wiederanlauftests, bei Änderungsverfahren und bei der Krisenkommunikation. Ungewöhnlich war also weniger die Störung als der Umstand, dass die Vorkehrungen dagegen nicht griffen.

Ein Container, den es gibt, von dem aber niemand weiß, wohin er soll

Im Juni 2017 traf die Schadsoftware NotPetya unter vielen anderen die Reederei Maersk. Nach Angaben des Unternehmens wurden rund fünfzigtausend Rechner unbrauchbar, sämtliche zentralen Anwendungen waren nicht mehr erreichbar, und der Grundbetrieb ließ sich erst nach etwa zwei Wochen wiederherstellen; der Schaden lag im dreistelligen Millionenbereich.

Kein Container ging dabei verloren, kein Schiff sank, kein Kran wurde beschädigt. Der Container steht am richtigen Hafen, das Schiff ist da, der Kran funktioniert. Wenn aber niemand mehr zuverlässig weiß, wem der Container gehört, wohin er weiter soll und ob er freigegeben ist, hilft die intakte Technik wenig - für die Zollabwicklung eines einzigen Containers fallen nach Unternehmensangaben rund dreihundert Seiten Information an.

Ein Hafen kann also physisch intakt sein und trotzdem nicht arbeiten. Information ist nicht die Beschreibung der Infrastruktur, sie ist ein Teil davon. Dasselbe gilt für Fahrpläne, Eigentumsnachweise, Lagerstände, Patientenakten, Kontostände und Netzzustände: Fehlen sie oder traut ihnen niemand mehr, steht die physische Welt bereit und funktioniert schlechter.

Vier Ausfälle, vier verschiedene Ursachen, ein gemeinsames Muster. In San Diego traf der Schaden ein Haus, das niemand angegriffen hatte. In der Ukraine war der Strom schneller wieder da als die Fernsteuerung, weil Menschen hinfuhren. Bei TARGET2 gab es gar keinen Angreifer. Und bei Maersk stand die physische Welt bereit, während die Information über sie fehlte. Das ist der Boden, auf den KI trifft.

TARGET2 hatte keinen Angreifer, und das ist kein Sonderfall. Große Ausfälle gehen regelmäßig auf etwas zurück, das jemand gut gemeint hat.

Am 19. Juli 2024 verteilte die Sicherheitsfirma CrowdStrike eine Routineaktualisierung an Windows-Rechner. Die Datei enthielt einen Fehler, den die eigene Prüfroutine hätte abfangen sollen und nicht abfing, und die Rechner stürzten ab. Microsoft schätzte die Zahl betroffener Geräte auf rund 8,5 Millionen. Flughäfen, Kliniken, Sender und Banken standen still.

Für diesen Text zählt vor allem die Asymmetrie dahinter. Verteilt wurde die Aktualisierung in Minuten und automatisch. Zurücknehmen ließ sie sich in vielen Fällen nur Maschine für Maschine: jemand musste das Gerät in den abgesicherten Modus starten und eine Datei löschen. Was eine Software in einer Viertelstunde weltweit ausrollt, holt eine Organisation über Tage wieder ein.

Ein KI-Agent mit Berechtigungen ist eine weitere automatisierte Schicht über denselben Systemen, nur dass er nicht nur ausführt, sondern auswählt. Er muss nicht angegriffen werden und nichts wollen; es genügt, dass er eine Lage falsch einschätzt und daraufhin handelt - eine Konfiguration ändert, Code ausrollt, Zugriffsrechte anpasst, einen Prozess anstößt, der auf mehreren abhängigen Systemen wirkt.

Einen vergleichbaren Großschaden durch einen KI-Agenten kennen wir bisher nicht. Der Vergleich mit CrowdStrike zeigt deshalb keinen KI-Fall, sondern etwas anderes: Automatisierung kann einen Fehler sehr schnell verteilen, und das galt schon, als noch niemand von Agenten sprach. Was sich mit ihnen ändert, ist der Raum möglicher Fehler. Ein Skript tut, was dasteht; ein Agent entscheidet, was zu tun ist. Wie weit dieser Unterschied trägt, wird sich zeigen müssen.

Bis hierher ging es um Fehler. Der andere Weg ist Absicht, und dafür muss KI niemanden zu etwas bringen, das er nicht ohnehin wollte.

Ein Betrüger wird durch KI nicht erst kriminell. Ein Staat braucht sie nicht, um einen anderen auszuspähen, und wer ein Krankenhaus erpresst, hatte das Motiv vorher. Ändern können sich die Kosten: Aufklärung, Schwachstellensuche, das Täuschen von Menschen, die Auswertung erbeuteter Daten, die Entwicklung von Werkzeugen. Es muss kein neuer Angriffsweg erfunden werden, damit sich etwas verschiebt; es genügt, wenn der vorhandene häufiger begangen wird.

Genau das erwarten die zuständigen Stellen. Das britische National Cyber Security Centre rechnet damit, dass KI Menge und Wirkung von Angriffen erhöht, und zwar durch die Weiterentwicklung bestehender Verfahren statt durch das Erschaffen neuer. Dieselbe Behörde hält vollständig selbstständige Angriffe bis 2027 für unwahrscheinlich und weist darauf hin, dass KI ebenso Systembetreibern und Entwicklern beim Absichern helfen werde. Das sind Bewertungen, keine Messungen, und die Behörde schreibt selbst, dass technische Überraschungen wahrscheinlich sind.

Dieselben Fähigkeiten stehen also auf beiden Seiten. Ein Modell, das Schadcode versteht, kann ihn auch erkennen; was Schwachstellen findet, kann sie auch schließen; was täuschend echte Nachrichten schreibt, kann Täuschungsversuche markieren. Welche Seite am Ende stärker davon profitiert, weiß derzeit niemand. Die konkretere Erwartung des NCSC ist deshalb interessanter als die allgemeine: eine Kluft zwischen Systemen, die mithalten, und einem großen Teil, der es nicht tut. Wer über Mittel, Daten und Fachleute verfügt, nutzt beide Seiten; wer nicht, bekommt nur die eine ab.

Bleibt eine Formel, die in dieser Debatte viel Arbeit leisten muss: KI sei doch nur ein Werkzeug. Das stimmt, solange jemand es in der Hand hält. Je mehr ein System selbst plant, Zwischenziele auswählt, Werkzeuge benutzt und Berechtigungen hält, desto weniger beschreibt die Formel, was tatsächlich passiert - womit wir wieder bei der Leiter aus Kapitel 03 wären.

Bei einem größeren Ausfall entsteht in den ersten Stunden ein ziemlich banales Problem: Niemand weiß sicher, wie lange er dauern wird.

Die Fragen, die Menschen dann haben, sind einfach. Was ist passiert? Wie lange dauert es? Funktioniert das Wasser noch? Soll ich zur Arbeit fahren, reicht das Bargeld, sind die Geschäfte offen? Antworten darauf gibt es in dieser Phase kaum, weil sie noch niemand belastbar geben kann. Die Lücke bleibt trotzdem nicht leer. Sie füllt sich mit Vermutungen, mit Erfahrungen aus früheren Ausfällen, mit Gerüchten und gelegentlich mit gezielten Falschmeldungen. KI kann beides beschleunigen: das Zusammenfassen echter Meldungen, das Übersetzen, das Verständlichmachen von Behördentexten - und ebenso das massenhafte Erzeugen von Inhalten, das Verändern von Bildern, das automatisierte Antworten.

Ob eine Gesellschaft dabei auseinanderdriftet, ist eine andere Frage, und die Forschung dazu ist zurückhaltender, als die öffentliche Debatte nahelegt. Maschinell erzeugte Argumente verschieben in kontrollierten Versuchen Haltungen zu politischen Fragen, ungefähr so stark wie von Menschen geschriebene. Der Unterschied liegt nicht in der einzelnen Nachricht, sondern darin, dass die millionste fast nichts mehr kostet. Empfehlungssysteme verteilen Sichtbarkeit ungleich. Der Schluss, der daraus meist gezogen wird, hält allerdings nicht: Zwei große Arbeiten haben den Zusammenhang direkt untersucht, und weder senkte weniger gleichgesinnter Inhalt die Polarisierung, noch ließ sich bei der größten dokumentierten Einflussoperation ein belastbarer Zusammenhang zu Einstellungen oder Wahlverhalten feststellen.

Was bleibt, ist schmaler und näher an der Störung von vorhin. Vertrauen in die Stellen, die in einer Krise kommunizieren, hängt in Untersuchungen mit der Bereitschaft zusammen, Schutzmaßnahmen zu befolgen. Das sind Befragungs- und Beobachtungsdaten über Krisen allgemein, nicht über KI, und sie zeigen Zusammenhänge statt Ursachen. Für diesen Text reicht das: Ein gemeinsames Lagebild ist keine Stimmungsfrage, sondern eine praktische Voraussetzung dafür, dass Anweisungen ankommen.

Im Thriller erwacht eine Maschine und greift nach der Welt. Im Drama bleiben Menschen die handelnden Personen, die Systeme sind die bekannten, und was sich ändert, sind Kosten und Geschwindigkeit. So könnte das aussehen.

Ein großer Energie- oder Telekommunikationsdienst wird digital gestört. Teile der Infrastruktur gehen in den Notbetrieb, Krankenhäuser greifen auf ihre Redundanzen zurück und beginnen zu priorisieren. Zahlungssysteme funktionieren regional eingeschränkt, Kassen und Filialen unterschiedlich lange. Logistikunternehmen können einzelne Abläufe nicht normal durchführen, Produktion wird verschoben. Die Ursache ist in dieser Phase unklar, und im Netz kursieren mehrere Erklärungen, von denen einige richtig sind, einige falsch und einige absichtlich gestreut. Behörden, Betreiber und Unternehmen versuchen, die Lage zu stabilisieren, und arbeiten dabei mit Systemen, die selbst betroffen sein können. KI-Systeme helfen bei Analyse, Verteidigung, Kommunikation und Wiederherstellung - und stehen möglicherweise zugleich auf der anderen Seite.

KI ist in diesem Szenario nicht der Bösewicht. Sie wirkt an mehreren Stellen eines Systems, das bereits belastet ist, und nicht alle davon zeigen in dieselbe Richtung.

Davon ist einiges dokumentiert, anderes bleibt Ableitung. Belegt sind die einzelnen Bausteine: digitale Störungen mit physischer Wirkung, Belastung, die in benachbarte Einrichtungen wandert, automatisierte Fehler, die sich schnell verbreiten. Behördlich eingeschätzt, nicht gemessen, ist die Verbilligung solcher Angriffe durch KI. Abgeleitet sind die größeren Kaskaden über mehrere Sektoren hinweg und die Wirkung einer unklaren Informationslage. Szenario bleibt das Zusammentreffen mehrerer Belastungen, und genau dort endet die Belegkette dieses Textes.

Ein Dominoeffekt ist das ausdrücklich nicht. Keine Stufe löst die nächste zwangsläufig aus, und die allermeisten Störungen bleiben genau das: Störungen. Interessanter ist ohnehin etwas anderes. Dieselbe technische Störung hat verschiedene Folgen, je nachdem, in welchem Zustand ein System gerade ist. Ein Lieferengpass lässt sich leichter tragen, wenn Lager voll sind, Energie verfügbar ist und die Finanzierung läuft, und schwerer, wenn gleichzeitig anderes drückt. Ein System mit Reserven nimmt Belastung auf. Ein ausgelastetes hat nichts, womit es das könnte.

Wer nur Verwundbarkeit zeigt, erklärt nicht, warum die meisten Störungen folgenlos bleiben. Das ist kein Zufall, sondern Arbeit, und sie steckt in denselben vier Fällen.

In der Ukraine kam der Strom zurück, weil es eine manuelle Rückfallebene gab und Menschen, die sie bedienen konnten. Bei CrowdStrike liefen die Rechner wieder, weil ein Eingriff am einzelnen Gerät möglich war, so mühsam das gewesen sein muss. Die Nachbarkliniken in San Diego konnten Patienten überhaupt aufnehmen, weil es mehr als ein Haus gab. Und bei TARGET2 fiel auf, was fehlte, als die Ausweichstelle nicht ansprang - woraus ein Prüfauftrag wurde.

Die Mittel sind bekannt und wenig glamourös. Redundanz und Reserven: eine zweite Anlage, ein zweiter Lieferant, Notstrom, Lagerbestand. Notstrom ist dabei keine unbegrenzte Energiequelle, sondern gekaufte Zeit. Dazu eine Rückfallebene auf Handbetrieb, die voraussetzt, dass jemand sie noch beherrscht; getrennte Netze und Zugriffsgrenzen, damit eine Störung dort bleibt, wo sie entstanden ist; Wiederanlaufverfahren, die tatsächlich getestet wurden und nicht nur beschrieben sind; und eine menschliche Freigabe an den Stellen, an denen eine Handlung schwer rückgängig zu machen ist - nicht überall, sondern dort.

Darauf läuft dieser Text hinaus: Risiko entsteht nicht aus der Existenz von KI, sondern aus dem Verhältnis zwischen Störung und Widerstandsfähigkeit. KI kann beide Seiten verschieben, und wer nur die eine nutzt, hat eine Entscheidung getroffen, ohne sie als solche zu bemerken.

Drei Einwände treffen diese Argumentation, und sie stehen hier ohne Entgegnung.

Der erste betrifft die Abhängigkeit vom Menschen. Dass Strom, Fertigung und Wartung heute menschliche Arbeit verlangen, ist eine Aussage über heute, und Automatisierung verschiebt sie fortlaufend. Der zweite wiegt schwerer: Der Text betrachtet Menschen meist als Ziel einer Handlung, aber der unangenehmere Fall ist der, in dem über sie gar nicht entschieden wird - als Nebenfolge, oder als Summe vieler Entscheidungen, die jede für sich vernünftig waren.

Der dritte betrifft die Zeit. Korrektur, Rechteentzug und Abschalten setzen eine Gelegenheit voraus. Verläuft etwas schneller als der Zyklus aus Bemerken, Entscheiden und Handeln, besteht diese Gelegenheit formal und praktisch nicht. CrowdStrike hat das ohne jede KI vorgeführt: Minuten für die Verteilung, Tage für die Rücknahme.

Und woran der Text scheitern würde

Vier Beobachtungen würden ihn erledigen, und drei davon wären keine Kleinigkeit.

Dieselbe Strenge gilt in die andere Richtung. Wer die Auslöschung für wahrscheinlich hält, sollte sagen können, welche Beobachtung ihn vom Gegenteil überzeugen würde.

„Wird KI uns auslöschen?" ist für die Debatte attraktiv und für die Praxis unbrauchbar. Wer bejaht, landet bei einer Sorge, die alles umfasst und deshalb nichts nahelegt. Wer verneint, landet bei einer Beruhigung, aus der ebenfalls nichts folgt.

Die spektakulärste KI-Katastrophe ist möglicherweise nicht die relevanteste. Eine selbstständig handelnde Superintelligenz braucht sehr viele Voraussetzungen; großer Schaden kommt viel früher in Reichweite, durch automatisierte Fehler, missbrauchte Systeme, Angriffe, Abhängigkeiten, fehlende Redundanz, falsch gesetzte Berechtigungen und Informationen, denen niemand mehr traut. Einige dieser Mechanismen kann KI verstärken, und dafür muss sie die Welt nicht beherrschen.

Die Fragen, die daraus folgen, sind kleiner und für eine konkrete Organisation tatsächlich beantwortbar. Welche Berechtigungen bestehen tatsächlich, also welche im laufenden Betrieb erteilt und nie wieder entzogen wurden? Welche Entscheidungen laufen heute schon ohne Prüfung, und welche davon sind schwer rückgängig zu machen? Was läuft weiter, wenn ein System ausfällt, falsch handelt oder gegen uns eingesetzt wird - gibt es einen Handbetrieb, und kann ihn noch jemand? Wie lange dauert eine Rücknahme, verglichen mit der Ausführung? Und nutzen wir eigentlich auch die andere Seite, also Erkennung, Prüfung und Wiederherstellung?

Keine dieser Fragen ist besonders originell. Sie haben nur den Vorteil, dass man sie beantworten kann.

Dieser Text stützt sich auf sehr verschiedene Arten von Wissen: dokumentierte Einzelfälle, kontrollierte Experimente, Beobachtungsstudien, theoretische Arbeiten und behördliche Prognosen. Sie zu vermischen wäre der häufigste Fehler in dieser Debatte.

Was dieser Text ausdrücklich nicht behauptet

Fünf wiederkehrende Fehlzitate

Vier Begriffe, die im Text gebraucht werden

Verwendete Arbeiten und Berichte