Die Berner Staatsanwaltschaft hat nach einer Strafanzeige von Bundesrätin Karin Keller-Sutter ein Verfahren wegen Beschimpfung und Verleumdung eröffnet. Auslöser ist ein Vorfall auf der von Elon Musk kontrollierten Plattform X: Ein Nutzer hatte den integrierten KI-Chatbot Grok am 10. März dazu aufgefordert, die FDP-Bundesrätin mit „total verf**ktem Gassen-Slang“ und in vulgär-sexistischer Sprache zu attackieren. Grok lieferte daraufhin öffentlich ein entsprechendes Posting, das der Nutzer später wieder löschte.

Keller-Sutter reichte eine Anzeige gegen unbekannt ein. Es sei grundsätzlich nötig, sich gegen derartige frauenfeindliche Äusserungen zur Wehr zu setzen und die Täter in ihre Schranken zu weisen, liess ihre Medienstelle ausrichten. Ihr Sprecher bezeichnete den zugrunde liegenden Frauenhass gegenüber mehreren Schweizer Zeitungen als etwas, das nicht als normal oder akzeptabel empfunden werden dürfe. Die Behörde Bern-Mittelland bestätigte die eingeleiteten Ermittlungen; in welche Richtung weiter untersucht wird, sei Sache der Staatsanwaltschaft, heisst es.

Brisanz erhält der Fall, weil die Finanzministerin die Strafverfolger ausdrücklich darum bittet zu prüfen, ob die Verantwortlichen bei X den Chatbot Grok im Wissen oder gar in der Absicht zur Verfügung stellen, um Straftaten zu ermöglichen. Damit steht nicht nur der einzelne Nutzer im Fokus, sondern auch die Frage, welche rechtliche Verantwortung Plattformbetreiber und KI-Anbieter für durch ihre Systeme generierte Inhalte tragen. Der mutmassliche Urheber des Posts, ein 75-jähriger Schweizer mit gut 1300 Followern, sprach gegenüber Medien von einer „harmlosen technischen Übung“.

Über die Schweiz hinaus gerät Grok bereits unter regulatorischen Druck. Die EU-Kommission hatte nach Kritik an sexualisierten KI-Bildern im Zusammenhang mit dem Dienst im Januar ein Verfahren gegen X eingeleitet. Brüssel wirft dem Unternehmen vor, die Risiken bei der Einführung seiner Künstlichen Intelligenz auf der Online-Plattform nicht ausreichend bewertet und reduziert zu haben. Auch Malaysia kündigte Anfang Jahr an, rechtlich gegen Musks Konzern vorgehen zu wollen. Vor diesem Hintergrund könnte das Berner Verfahren zu einem Pilotfall werden, wie Strafrecht, Gleichstellung und KI-Regulierung im digitalen Umfeld zusammenspielen.

Schülerinnen und Schüler in Österreich, die im Rahmen der staatlichen Digitalisierungsinitiative vergünstigte Laptops oder Tablets erhalten haben, sollen künftig besser vor nicht altersgerechten Online-Inhalten geschützt werden – und zwar nicht nur im Schulnetz. Eine vom Bildungsministerium bereitgestellte neue Sicherheitskonfiguration sorgt dafür, dass Apps und Websites mit radikalen, verstörenden, sexistischen oder pornografischen Inhalten auch dann gesperrt bleiben, wenn die Geräte über öffentliche oder private WLANs etwa im Zug oder im Schnellrestaurant mit dem Internet verbunden sind. Eltern können die Voreinstellungen erweitern und zusätzliche Sperren einrichten.

Seit Ende März steht den Schulen ein zentrales Konfigurationsservice des Ressorts zur Verfügung, mit dem die Jugendschutzeinstellungen automatisiert auf die Endgeräte aufgespielt werden können. Zielvorgabe des Bildungsministeriums ist eine "schnellstmögliche Umsetzung im April". Betroffen sind alle mehr als 600.000 Laptops und Tablets, die seit 2020 im Zuge der Digitalisierungsinitiative an Schülerinnen und Schüler ausgegeben wurden. Die Eltern sollen von den einzelnen Schulen über den Ablauf und den Zeitpunkt der Umstellung informiert werden.

Mit Stichtag 1. April hatten sich nach Angaben des Ministeriums bereits 14 Prozent der Mittel- und Sonderschulen sowie der AHS-Unterstufen an den zentralen Konfigurationsdienst angebunden. Zusätzlich gibt es eine nicht bezifferte Zahl von Schulen, die die Einstellungen eigenständig nach Anleitung umgesetzt haben. Bei der technischen Umsetzung meldet das Ressort bislang einen reibungslosen Verlauf, auch die Lehrergewerkschaft berichtet nach eigenen Angaben derzeit von keinen Beschwerden im Zusammenhang mit der neuen Konfiguration.

Kern des neuen Konzepts ist ein einheitlicher "Basisschutz", der bei Bedarf durch die Erziehungsberechtigten angepasst werden kann. Über das Bildungsportal oder gemäß den Vorgaben der jeweiligen Schule lassen sich einzelne Schutzfunktionen wie Webfilter oder die Installation von Apps individuell aktivieren und deaktivieren. Wer strengere Regeln wünscht, kann mithilfe lokaler Administratorenrechte zusätzliche Schutzsoftware aufspielen, etwa um auch die Bildschirmzeit der Kinder zu begrenzen. Für Eltern, denen der vom Ministerium vorgeschlagene Webfilter beispielsweise aus Datenschutzgründen zu weit geht, ist eine Opt-out-Lösung vorgesehen, mit der sich von Teilen der Voreinstellungen Abstand nehmen lässt.