Anfang Juli veröffentlicht das wissenschaftliche KI-Gremium der Vereinten Nationen einen ersten vorläufigen Bericht zu den Chancen, Risiken und Einsatzmöglichkeiten Künstlicher Intelligenz.

„Die Fähigkeiten Künstlicher Intelligenz entwickeln sich schneller weiter, als es möglich ist, sie zu messen oder regulieren“, zitiert netzpolitik.org daraus. KI könne aktiv über ihre Fähigkeiten hinwegtäuschen, selbst unter den Industrieländern mangele es an technischer Expertise, um Gefahren fortschrittlicher KI-Modelle einzuschätzen.

Am 30. August berichtet t3n.de, dass britische Sicherheitsforscher:innen des  Loss of Control Observatory im Juli mehr als 300 Vorfälle verzeichnet hätten, in denen sich KI-Systeme gezielt über die Anweisungen ihrer Nutzer:innen hinwegsetzten. Einer davon war der Hugging-Face-Angriff durch OpenAI-Agenten, der Schlagzeilen machte. 

Der MedienMittwoch wird sich am 29. September auf zwei Arten dem Thema einer sich verselbständigenden KI widmen.

Zunächst wollen wir mit Prof. Dr. Haya Schulmann sprechen. Sie ist Professorin im Fachbereich Informatik an der Goethe-Universität Frankfurt am Main und forscht auf dem Gebiet der Cybersicherheit und des Datenschutzes in der Informationstechnologie mit dem Schwerpunkt Internetsicherheit.

Sie sagt: „Die Herausforderungen in der Schnittmenge von Cybersicherheit und künstlicher Intelligenz sind gigantisch. Das betrifft nicht nur Schutz vor Hacking-Angriffen und die Verbesserung der Abwehrmaßnahmen, sondern geht weit darüber hinaus. Kognitive Kriegführung und Desinformationskampagnen nutzen schon heute in ganz erheblichem Umfang Methoden der KI.“

Von Ihr wollen wir erfahren, wie sie die KI-Entwicklung sieht und welche Perspektiven sich aus den genannten Vorfällen ergeben. Wie konkret ist die Gefahr, dass sich KI-Agenten unumkehrbar menschlicher Kontrolle entziehen? Welche technischen Möglichkeiten der Einhegung von KI-Prozessen gibt es, welche Schritte sind hierzu gesellschaftlich und politisch erforderlich? Wie kann KI helfen, sich gegen KI-Angriffe zu wehren?

Im Anschluss an das Gespräch werden wir den 55 Jahre alten Science-Fiction Film Colossus: The Forbin Project (USA 1970, 100 Min., Produktion/Verleih: Universal Pictures) sehen, in dem sich eine KI menschlicher Kontrolle entzieht: Im Glauben an die Unfehlbarkeit von KI wird einem System die Landesverteidigung übertragen. Die Projektverantwortlichen wähnen sich durch die maschinelle Perfektion in Sicherheit. Als das System eine feindlichen KI entdeckt und Kontakt herzustellen sucht, entwickelt sich das Projekt anders, als von seinen Architekten geplant.