Was der junge Forscher Shawn Shan auf den Medientagen präsentiert, ist atemberaubend - und dürfte den Plattformen das Fürchten lehren. Der US-Student, der an der University of Chicago im Bereich Künstliche Intelligenz forscht, hat mit seinen Kommilitonen eine Technologie entwickelt, mit der Künstlerinnen und Künstler ihre Werke im Netz schützen können.

Shawn Shan erfindet Tools für Künstler

Die Idee ist einfach: Bilder im Netz werden digital vergiftet und so manipuliert, dass sie die Ergebnisse von KI-Modellen verfälschen. Aus einer Katze wird dann plötzlich ein Hund, aus einem Auto wird eine Kuh generiert.

Shan will die Arbeit von Künstlerinnen und Künstlern schützen. Er hat das Tool Glaze entwickelt, mit dem Kreative ihre Bilder mit vergifteten Daten infizieren können - und so dafür sorgen, dass ihre Arbeiten nicht beliebig kopiert und verbreitet werden können. Er kenne viele Künstler, die ihre Bilder inzwischen aus dem Netz gelöscht oder sich einen anderen Beruf gesucht haben, weil KI-Kunst ihre Arbeit obsolet macht, sagt er.

Und noch ein Problem sieht Shan: Wenn immer weniger originäre Kunst produziert wird, verschwindet auch diese Kreativität aus dem Netz und es fehlen schlicht die Daten, um künftig die Maschinen zu füttern.

Shan ärgert sich über das Machtgefälle zwischen Plattformen und kleinen Akteuren wie Verbänden, Kreativen oder Universitäten. Er befürchtet, dass KI-Plattformen immer weiter wachsen und Sicherheit, Privatsphäre oder ethische Fragen in den Hintergrund treten.

"Ich habe nichts gegen die Nutzung von Daten, solange sie nicht gewinnorientiert ist. Aber Plattformen dürfen mit unseren Daten keinen Profit machen", sagt Shan. Deshalb forscht er an der Schnittstelle von IT-Sicherheit und maschinellem Lernen: "Ich möchte technische Lösungen entwickeln, mit denen sich der Einzelne vor unethischen KI-Praktiken schützen kann", sagt er.  Mit seiner Arbeit erregt er inzwischen viel Aufmerksamkeit. Das Massachusetts Institute of Technology (MIT) hat ihn 2024 zum "Innovator of the Year" ernannt, Forbes zählt ihn zu den "30 under 30".

Shan glaubt nicht an Regulierung der Plattformen

Shan geht mit seinem Projekt noch einen Schritt weiter. Weil er weder an eine Regulierung der Plattformen noch an deren Bereitschaft glaubt, saubere Daten zu verwenden, hat er eine Art Trojaner gebaut.

Mit dem Tool Nightshade können nun im großen Stil vergiftete Daten ins System gespült werden. Also hunderte Fotos von Hunden, die in Wirklichkeit eine Katze zeigen, oder tausende Fotos von Autos, die in Wirklichkeit eine Kuh zeigen.

Was soll das bringen? Shan hofft, dass die Nutzer dann weniger auf die Modelle zurückgreifen – und das Interesse an den Systemen sinkt. Das wiederum, so sein Kalkül, wird die Plattformen zum Umdenken bewegen – und vielleicht auch davon abhalten, ungefragt Daten zu verwenden.

Für die 37-jährige Künstlerin Kelly McKernan, die in ihrer langen Karriere einen ganz eigenen Malstil entwickelt hat, kommt die Glaze-Software zu spät: Ihre Bilder aus dem Netz wurden in die LAION-5B-Datenbank integriert, die von bildgebenden Modellen genutzt wird. Jetzt kann jeder Benutzer mit wenigen Klicks und für wenige Cents Bilder "im Stil von Kelly" erstellen. Ohne die Künstlerin je gefragt zu haben.

Medientage München 2024
Medientage München 2024: Shawn Shan zeigt sein Modell. Wenn die Bilder infiziert sind, stören sie die KI-Modelle. Anstelle eines Ballons kommt am Ende nur noch eine farbige Masse heraus.

Tools für Kreative

Glaze

Die Software Glaze dient dem Schutz von Künstlern vor der Nachahmung von Stilen durch Text-zu-Bild-Modelle. Das Tool wurde von einem Team der Universität Chicago entwickelt und kann kostenlos heruntergeladen werden. Mehr Infos zu diesem Tool unter diesem Link.

Nightshade

Nightshade funktioniert ähnlich wie Glaze,  dient aber nicht der Irritation, sondern versteht sich als  Angriffswerkzeug zur Verzerrung von Merkmalsdarstellungen in generativen KI-Bildmodellen. Nightshade verstehen die Entwickler als "offensives Instrument, das Künstlergruppen nutzen können, um Modelle zu stören, die ihre Bilder ohne Zustimmung abfotografieren". Mehr Infos zu diesem Tool unter diesem Link.

Shawn Shan

Medientage München 2024

Der Newsticker zu den Medientagen München 2024 mit allen wichtigen Nachrichten und Berichten ist unter diesem Link zu finden.

Kommentare

Diskutiere jetzt mit und verfasse einen Kommentar.

Teile Deine Meinung mit anderen Mitgliedern aus der Sonntagsblatt-Community.

Anmelden