Das sollte der Bundesrat dabei beachten

Geht es nach Google, Microsoft, Open AI und Co., dann wird KI nicht nur den Klimawandel stoppen, sondern auch Krankheiten ausrotten, erfolgreich den Hunger bekämpfen und Frieden schaffen – irgendwann, in Zukunft. Solch utopische Szenarien sind das Produkt eines beispiellosen Hypes, bleiben aber im Spekulativen.

Viel aufschlussreicher ist es, sich den konkreten Nutzen, aber auch die tatsächlichen Schäden von KI im Hier und Jetzt anzuschauen: In den Niederlanden mussten Tausende Familien ihre über Jahre hinweg erhaltenen Kinderbetreuungsgelder zurückbezahlen, weil ein diskriminierender Algorithmus sie irrtümlicherweise des Betrugs bezichtigt hatte. Andernorts sortiert KI-Systeme Bewerbungen von Frauen aus oder führten zu falschen Verhaftungen. Social-Media-Algorithmen verbreiten Hassrede und versuchen Jugendliche möglichst lange online zu behalten. KI-Chatbots geben unzuverlässige und Antworten werden dennoch in Suchmaschinen integriert, wo Menschen sich etwa auch über Wahlen informieren. Gesichtserkennungssysteme überwachen den öffentlichen Raum, und im Krieg kann KI die Opfer auswählen.

Das sind keine spekulativen Szenarien, das alles passiert tatsächlich. Laisser-faire scheint auch fehl am Platz. Sollte man die Technologie ganz abwürgen? Nein. Der Bundesrat sollte diesen Winter einen klügeren Plan verfolgen.

Erstens: Schäden verhindern

KI kann Auswirkungen auf Grundrechte oder Demokratie haben – und um diese Güter zu schützen, wollen wir uns nicht auf den Goodwill der Tech-Anbieter verlassen müssen. Hier sollten wir als demokratische Gesellschaft die Anforderungen definieren, um eine verantwortungsvolle Nutzung von KI sicherzustellen.

Das bedeutet dann zum Beispiel: Behörden müssen transparent machen, wenn sie mit Algorithmen über Menschen entscheiden; Mitarbeitende müssen einbezogen werden, wenn KI eingesetzt wird; und Menschen sind vor Diskriminierung durch KI zu schützen. Letzteres wird breit geteilt: Initiiert von Algorithm Watch Schweiz hat eine Allianz aus Politik, Zivilgesellschaft, Wissenschaft und Wirtschaft den Bundesrat jüngst, den Schutz vor Diskriminierung zu einer der Prioritäten zu machen, wenn er sich diesen Winter über mögliche Regulierungen rund um KI beugt . Nationalräte aus sechs Parteien tragen die Petition mit. Die Botschaft ist klar: Schlechte und ungerechte KI kann niemand wollen. Und um dies zu vermeiden, sind Regulierungen ein zentrales Mittel.

Zweitens: Tatsächlichen Nutzen für alle ermöglichen

Hinter KI steckt heute eine bestimmte politische Ökonomie: Sie ist in den Händen weniger globaler Grosskonzerne, deren Marktwert der Wirtschaftsleistung von Frankreich oder Grossbritannien entspricht. Der KI-Markt ist weder wettbewerbsfreundlich noch nachhaltig, sondern geprägt von Machtkonzentrationen, die durchaus demokratierelevant sind (notabene: Dieselben Unternehmen moderieren auf Social Media die öffentliche Debatte und stellen die IT-Infrastruktur der Verwaltung oder auch die Schulsoftware unserer Kinder bereit). Generative KI-Modelle wie jene hinter Chat-GPT oder Gemini gehen mit einem so enormen Verbrauch an Energie und Wasser einher, dass Google und Microsoft ihre Klimaziele de facto über Bord geworfen haben. In Kenya kategorisieren Menschen für zwei Dollar Stundenlohn unter prekären Arbeitsbedingungen die Daten für die KI-Modelle von Open AI oder sortieren Gewaltinhalte auf Facebook aus.

Diese politische Ökonomie dürfen wir nie außer acht lassen, wenn wir über KI sprechen. Und anstatt entweder den Hype oder die Verteufelung zu verfallen, sollten wir uns fragen: Welche KI wollen wir? Wie sorgen wir dafür, dass sie nicht nur die Interessen einigermaßen weniger bedient? Und wie können wir KI gestalten – statt sie uns?

Um zu gestalten, braucht es Gestaltungswillen. Der Bundesrat muss Rahmenbedingungen setzen – durch die Förderung interdisziplinärer Forschung, Medien und Demokratiekompetenz, durch Investitionen in öffentliche und gemeinnützige Infrastrukturen, durch Sensibilisierung und Bildung. Aber eben auch durch zielführende Regulierungen, die negative Auswirkungen und schädliche Innovationen verhindern – und gleichzeitig gestaltet sind, verantwortungsvolle KI-Lieferketten, nachhaltige KI-Entwicklung und einen gesunden KI-Markt fördern, der gemeinwohlorientierte Innovationen hervorbringt.

Der Bundesrat muss also ambitioniert in diesem KI-Winter aufbrechen, ohne sich vom Hype beirren zu lassen: Er muss die Pille schlucken und die Symptome bekämpfen, die mit KI einhergehen. Und gleichzeitig muss er die Ursachen angehen und sich für eine gesündere technologische Entwicklung einsetzen, die einen tatsächlichen Nutzen bringt – für uns alle, nicht nur für Big Tech.

Angela Müller, 39, ist die Geschäftsleiterin von Algorithm Watch in der Schweiz. Die gemeinnützige Organisation beleuchtet die Auswirkungen von Algorithmen und KI auf Mensch und Gesellschaft. Müller hat politische Philosophie studiert und in Jus promoviert. Sie war Sachverständige in Anhörungen des Europarats, des Deutschen Bundestags sowie des Schweizer Parlaments und wurde 2024 als eine von «100 Women in AI Ethics» weltweit ausgezeichnet.

Ein Artikel aus der «»