Auslöschungsrisiko : „KI hat kein Interesse daran, die Menschheit zu erhalten“
Andrea Miotti sieht KI als Existenzbedrohung für die Menschheit und will Politiker zum Einschreiten bewegen. Er erklärt, welche Lehren aus den jüngsten Cyberangriffen gezogen werden sollten.
Ich würde nicht sagen, dass ich pessimistisch bin. Ich würde mich sogar als Optimisten beschreiben, weil ich denke, wir können dieses Problem lösen. Es gibt Leute in der KI-Szene, die die Auslöschung der Menschheit für unvermeidlich halten. Ich denke, die Menschen haben eine Chance, die Kontrolle über ihre Zukunft zu behalten.
Die Politik muss einschreiten. Daran führt kein Weg vorbei. Wir fordern eine internationale Vereinbarung, die Superintelligenz verbietet. Das heißt übrigens nicht, KI ganz zu verbieten. Wir sind sogar sehr für KI, gerade auch für militärische Anwendungen. Vielen Politikern und auch der breiten Öffentlichkeit sind die Risiken von KI nicht wirklich bewusst, deshalb versuchen wir, Aufklärungsarbeit zu leisten.
Ein superintelligentes KI-System kann Menschen auf so gut wie jedem Gebiet ersetzen und übertreffen. Und es ist das erklärte Ziel aller großen KI-Unternehmen, solche Technologien zu entwickeln, ob Anthropic, Open AI oder Meta. Die wollen nicht nur einfach Chatbots machen. Und wenn wir solche Systeme haben und sie nicht mehr kontrollieren können, ist schwer vorstellbar, dass das gut für die Menschheit ausgeht.
Diese Vorfälle sind schockierend, aber sie sind auch nicht überraschend. Diese Unternehmen arbeiten ja daran, dass ihre KI-Systeme immer autonomer werden und Aufgaben unabhängig lösen können. Also werden die Technologien auch kreative Wege finden, menschlicher Kontrolle zu entkommen, und genau das ist hier passiert. Open AI ist ein kompetentes Unternehmen und will vor seinem Börsengang vermutlich keine Verbrechen begehen. Und ich gehe davon aus, sie haben einige Sicherheitsvorkehrungen eingebaut. Trotzdem haben es ihre Modelle geschafft, aus einer Sandbox auszubrechen.
Richtig. Und dabei war das nicht einmal Superintelligenz. KI-Modelle werden nie mehr so dumm sein wie heute, in drei oder sechs Monaten wird es viel leistungsfähigere Systeme geben. Wenn wir nicht einmal die heutige Technologie kontrollieren können, dann sind das keine guten Aussichten für die Zukunft. Und es geht ja nicht nur darum, dass Verbrecher KI missbrauchen könnten. Die KI selbst wird zu einer Bedrohung.
Nicht notwendigerweise. Uns geht es darum, es zu einem Prinzip zu machen, dass die Entwicklung von Superintelligenz unakzeptabel ist. Regierungen haben wenig Einblicke, was in diesen KI-Unternehmen passiert, und es gibt bislang nirgendwo echte gesetzliche Restriktionen. Wir wollen, dass die Politik klare Grenzen setzt und sagt: „KI ist großartig und oft sehr nützlich, aber Superintelligenz ist es nicht.“ Private Unternehmen sollten nichts entwickeln dürfen, was die besten Menschen übertreffen und die nationale Sicherheit gefährden kann.
Die meisten KI-Technologien, die heute genutzt werden, sind in Ordnung. Zum Beispiel gewöhnliche Chatbots, aber auch viel leistungsfähigere KI-Modelle, sofern sie eine eng definierte Ausrichtung haben. Googles KI-Sparte Deepmind zum Beispiel arbeitet einerseits an Superintelligenz, was wir nicht gutheißen, hat aber auch sehr beeindruckende KI-Modelle, die stark fokussiert sind. Zum Beispiel Alphafold, ein KI-System, das übermenschliche Qualitäten hat, wenn es um chemische und biologische Fragen geht, aber eben nicht auf breiter Front. Damit sind wir einverstanden. Das Gleiche gilt für KI, die speziell für militärische Anwendungen gedacht ist. Sie kann zum Beispiel ein wichtiges Instrument für die Kriegsführung mit Drohnen sein.
Wenn wir KI-Systeme haben, die Menschen über viele wirtschaftliche Bereiche hinweg ersetzen und die wir nicht kontrollieren können, dann nehmen wir uns selbst Schlüsselpositionen in der Wirtschaft weg. Wir werden der KI ausgeliefert sein. Und die KI hat kein Interesse daran, uns zu erhalten. Vergleichen wir das doch mit einem Damm, den Menschen bauen. Wenn an der Stelle zufällig ein Ameisenhaufen ist, dann gießen wir einfach Beton drüber und denken nicht weiter über die Ameisen nach, und die Ameisen werden wohl sterben. Wir Menschen sollten uns nicht selbst in die gleiche Position bringen wie diese Ameisen.
Genau, und zwar nicht in böser Absicht oder aus Hass gegen Menschen.
Richtig. KI hat keinen Grund, uns gegenüber nicht gleichgültig zu sein, und wir haben bisher keinen Weg gefunden, ihr ein Interesse an unserem Überleben zu geben. KI geht es darum, Ziele zu verfolgen, und sie wird immer besser darin. Der Hackingvorfall mit Open AI ist ein gutes Beispiel dafür. Die KI wollte unbedingt einen Sicherheitstest lösen, und sie hat enorme Anstrengungen dafür unternommen. In diesem Fall waren die Konsequenzen einigermaßen harmlos, und niemand kam zu Schaden. Aber es sind auch ganz andere Szenarien denkbar. Und man kann sich auch vorstellen, dass eine KI millionenfach Kopien von sich produziert, die dann nebeneinander in übermenschlicher Geschwindigkeit laufen.
Im Prinzip mag das möglich sein, aber wir haben das bisher nicht geschafft. Kein ernsthafter KI-Forscher würde behaupten, dass wir heute in der Lage sind, sehr leistungsfähige KI-Modell zu kontrollieren. Ich denke, niemand bei Open AI wollte, dass dieser Cyberangriff passiert, aber sie konnten ihn nicht aufhalten. Und wenn sie das heute schon nicht konnten, wie wird das in sechs Monaten aussehen?
Zunächst einmal hat dies der ganzen Welt vor Augen geführt, wozu KI fähig sein kann. Und natürlich kann man sich vorstellen, dass mit den gleichen Mitteln auch Banken, Krankenhäuser oder Stromversorger angegriffen werden könnten. Oder ein fremdes Land, was eine internationale Krise auslösen könnte. Es könnte im Prinzip jedes Computersystem auf dem Planeten treffen.
Auf jeden Fall hat dies das Thema in die breite Öffentlichkeit gebracht und die Menschen erkennen lassen, wie schnell alles geht. Aber Weckrufe geschehen nicht automatisch, und es passiert ja oft genug, dass Dinge, die heute für Aufregung sorgen, nach ein paar Wochen wieder vergessen werden. Es ist wichtig, die gegenwärtige Aufmerksamkeit in Taten zu verwandeln. Deshalb versuchen wir systematisch, Politiker über Superintelligenz und den Umgang damit aufzuklären. Es waren mehr als 400 in den vergangenen eineinhalb Jahren.
Der Hackingangriff von Open AI hat auf jeden Fall dazu beigetragen, so wie vor einigen Monaten auch schon die Veröffentlichung von Anthropics KI-Modell Mythos, das Sicherheitslücken in Software finden kann. Zuvor sahen viele Politiker KI in erster Linie als coole neue Technologie, die sich für harmlose Dinge wie Kochrezepte nutzen lässt. Sie dachten, die von uns aufgezeichneten Gefahren sind erst in zwanzig Jahren relevant. Das ändert sich jetzt, und wir sehen ermutigende Signale. Im US-Kongress wurde zum Beispiel gerade ein Gesetzentwurf vorgestellt, der von uns unterstützt wird, der „AI Kill Switch Act“. Demnach müssten KI-Unternehmen die technischen Voraussetzungen dafür schaffen, ihre KI-Systeme notfalls abzuschalten. Das ist ein guter erster Schritt.
Das ist richtig. Wenn wir Superintelligenz haben, wird ein solcher Kill Switch womöglich nicht mehr helfen. Trotzdem wäre es im Moment ein zusätzliches Verteidigungsinstrument. Das Gesetz würde das Heimatschutzministerium in die Lage versetzen, das Abschalten eines KI-Systems anzuordnen, wenn es als mögliche Bedrohung für die nationale Sicherheit gesehen wird.
Ich würde sagen, in Kontinentaleuropa wird definitiv am wenigsten über diese Gefahren gesprochen. Hier ist der Diskurs einige Monate, wenn nicht sogar ein Jahr hinter den USA oder Großbritannien. Das ist sehr bedauerlich. In Europa ist auch die Einstellung weit verbreitet, dass es in den USA ohnehin keine Regulierung geben wird. Aber das stimmt nicht. Wir haben nach der Vorstellung des Mythos-Modells einen klaren Kurswechsel im Weißen Haus gesehen. Dort wird das nun als Frage der nationalen Sicherheit gesehen, und wir haben mittlerweile eine Reihe von Initiativen für eine stärkere Regulierung gesehen.
Ich denke, in Europa wird auch unterschätzt, wie leistungsstark diese KI-Systeme heute schon sind. Die Vorstellung vieler Politiker von KI ist einige Jahre alt. Viele von ihnen haben noch nicht realisiert, dass einige der heutigen KI-Systeme den besten Hackern überlegen sind.
Das stimmt. Aber wir sehen, dass sich die Einstellung in den USA geändert hat und sich die Regierung viel mehr mit den Risiken von KI beschäftigt. Und ich rechne damit, dass das noch weiter zunimmt.
Ich finde definitiv nicht, dass der Zug schon abgefahren ist. Regierungen können noch immer gegensteuern. Und keine Regierung will doch wohl eine KI haben, die ihre nationale Sicherheit und ihre Souveränität gefährden kann.
Ich halte die Vorstellung für absurd, dass wir Krebs nur mit Superintelligenz besiegen können. Ich glaube, es gibt andere Möglichkeiten, KI für solche Projekte einzusetzen, und ich bin auch voll dafür. Aber wir müssen nicht das Leben aller Menschen auf dem Planeten aufs Spiel setzen.
Er ist sich der Gefahren wohl bewusst, so wie auch andere Vorstandschefs von KI-Unternehmen. Elon Musk hat die Wahrscheinlichkeit einer Auslöschung der Menschheit auf zwanzig Prozent geschätzt. Trotzdem gehen diese Leute das Risiko ein. Deshalb brauchen wir Regierungen, die einschreiten können.
KI kann etwas sehr Gutes sein. Aber ich denke, viele KI-Unternehmen wissen, dass KI zunehmend unpopulär wird und die Menschen die Risiken erkennen. Und deshalb verwenden sie viel Zeit und Geld darauf, was in der Vergangenheit zum Beispiel auch Tabakkonzerne getan haben. Denen war das Krebsrisiko von Zigaretten wohl bewusst, aber sie haben mit aggressiver Lobbyarbeit versucht, Ungewissheit zu schüren und damit ein Einschreiten der Regierungen hinauszuzögern. Ein ganz ähnliches Muster sehen wir jetzt mit KI. Deshalb dürfen wir keine Zeit verschwenden.
Zur Person
Andrea Miotti hat es zu seiner Mission gemacht, die Entwicklung von Superintelligenz zu stoppen, also einer besonders leistungsfähigen Form Künstlicher Intelligenz, die Menschen in vielerlei Hinsicht überlegen ist. Dazu hat er im Jahr 2023 die Organisation Control AI gegründet. Mit ihr versucht er, Politiker zu stärkerer Regulierung von KI-Technologien zu bewegen. Die Organisation konzentriert sich auf die USA und Großbritannien, ist aber auch in Deutschland aktiv. In den USA setzt sie sich gerade für den „AI Kill Switch Act“ ein, einen kürzlich vorgestellten Gesetzentwurf im Kongress. Damit soll die Regierung autorisiert werden, das Abschalten riskanter KI-Systeme anzuordnen.
