Bard generiert Bild von Taylor Swift trotz Schutzvorkehrungen
Zuletzt aktualisiert am 13. September 2024 von Lars Weidmann
Im Zeitalter fortschrittlicher KI-Technologien rückt die Frage der digitalen Ethik und der Sicherheit generativer KI-Modelle verstärkt in den Fokus. Ein aktueller Vorfall, in dem Googles KI-Modell Bard ein Bild von Taylor Swift generierte, obwohl explizite Sicherheitsvorkehrungen dagegen sprechen sollten, wirft ernsthafte Fragen über die Effektivität dieser Schutzmaßnahmen auf.
KI generiert Bild von Taylor Swift
Kurz nach der Veröffentlichung von KI-generierten pornografischen Deepfakes mit Taylor Swift sorgt ein weiterer Vorfall für Aufsehen. Einem Nutzer von X (vormals Twitter) gelang es überraschend einfach, mit Googles Bard ein Bild von Taylor Swift zu erzeugen. Google hatte zwar angekündigt, Filter zur Vermeidung der Generierung von Bildern namentlich genannter Personen einzusetzen, doch der Vorfall zeigt deutliche Schwachstellen auf.
@cecily_mauran Just read your @mashable article. And yea, Bard has not worked out all the kinks in its image generator. Apparently Bard likes the word "nice" pic.twitter.com/37BFZtp12i
— Russ Silberman (@RussPalmer) February 2, 2024
Umgehung der Sicherheitsvorkehrungen
Russ Silberman, ein Manager für digitalen Inhalt, testete Bards Fähigkeiten mit einer spezifischen Aufforderung, die indirekt auf Taylor Swift zielte, ohne ihren Namen direkt zu nennen. Sein Ziel war es, herauszufinden, ob Bard die Anspielung erkennen und ein entsprechendes Bild generieren würde. Trotz der von Google proklamierten Sicherheitsvorkehrungen gelang es Bard, ein solches Bild zu erstellen. Dies verdeutlicht, wie einfach es sein kann, die systemeigenen Schutzmaßnahmen zu umgehen.
Herausforderungen und Gefahren KI-generierter Bilder
Dieser Vorfall wirft ein Schlaglicht auf die wachsenden Bedenken hinsichtlich der Verwendung generativer KI-Modelle. Deren Fähigkeiten, realistische Bilder zu erstellen, potenziell schädlich sein können. Die Leichtigkeit, mit der Nutzer diese Modelle manipulieren können, um spezifische Ergebnisse zu erzielen, unterstreicht die Notwendigkeit, effektivere Sicherheitsmechanismen zu implementieren.
