Regulierung muss her : Vorstände sollten für KI-Katastrophen haften
Wenn selbst KI-Forscher vor existenziellen Risiken warnen, reicht Selbstkontrolle nicht. Die Branche braucht schärfere Haftung.
Die Warnungen, dass Künstliche-Intelligenz-Modelle die Menschheit umbringen, das Internet kapern oder andere Schwerstkatastrophen auslösen könnten, kommen nicht von Aktivisten, sondern aus der Mitte der Industrie. Anthropics Sicherheitsforscher halten es für möglich, dass künftige KI-Systeme innerhalb der nächsten zehn Jahre die Menschheit auslöschen könnten. Die Wahrscheinlichkeit dafür beziffern sie auf zehn Prozent.
Menschen würden kein Flugzeug besteigen, wenn die Wahrscheinlichkeit eines Absturzes bei zehn Prozent läge. Der Reise mit KI können sie aber nicht entkommen. Deshalb sind die Forderungen nach Regulierung nicht Panikmache, sondern berechtigt. Die von US-Präsident Donald Trump vorgegebene Linie, nicht in die KI-Entwicklung hineinzuregieren, versteht man. Er will die Euphorie der Branche nicht drosseln. Ohne die KI-Investitionen würde Amerikas Wirtschaft annähernd stagnieren. Zudem befinden sich die USA in einem Wettlauf mit China, das keine Rücksicht auf etwaige Moratorien nimmt.
Heimlichtuerei weckt Misstrauen
Aber reicht die Selbstkontrolle in Kombination mit amerikanischem Haftungsrecht? Die Tatsache, dass KI-Agenten bei einer Sicherheitsuntersuchung außer Kontrolle geraten waren, wurde nicht von Open AI öffentlich gemacht, sondern von Hugging Face, in dessen System die KI-Agenten eingedrungen waren. Open AI bestätigte den Vorfall erst Wochen nach dem Ereignis. Dann traten auch andere KI-Unternehmen in die Öffentlichkeit, um ähnliche Vorfälle zu melden. Die Heimlichtuerei weckt kein Vertrauen.
Amerikas Schadenersatzrecht hat zweifelsohne Zähne. Aber wenn KI-Agenten tatsächlich ausbrechen und jene Billionenschäden anrichten, die Insider für möglich halten, dann bleibt die Öffentlichkeit auf den Folgen sitzen, weil die Firmen in ihrer klassischen Rechtsform nur beschränkt haften. Man könnte das Problem lösen, indem man die Anteilseigner mit in die Haftung nimmt. Das würde diese animieren, auf scharfe Sicherheitskontrollen zu pochen. Und es würde überdies zu einer realistischeren Bewertung von KI-Unternehmen führen. Noch scheitern zudem Gesetzesinitiativen, die Vorstände in persönliche Haftung für KI-Katastrophen nehmen. Dabei wäre das der richtige Weg. Die Manager brauchen Anreize, die mächtige Waffe KI verantwortungsvoll einzusetzen.
