OnlyFans-Model enthüllt Reddit-Betrug mit KI-Gesichtstausch anhand ihrer Fotos
Ein kürzlich bekannt gewordener Fall von Missbrauch künstlicher Intelligenz offenbart eine neue Dimension digitaler Betrugsfälle, die Content-Creator auf Plattformen wie OnlyFans gefährden. Das britische Model, das unter dem Spitznamen Bunni bekannt ist, stellte fest, dass ihre Fotos gestohlen und mithilfe von Deepfake-Technologie manipuliert worden waren. Dadurch entstand eine völlig falsche Identität namens „Sofía“ – angeblich ein 19-jähriges Mädchen aus Spanien.
Welche Technologie wurde verwendet?
Der Betrüger nutzte fortschrittliche Werkzeuge zur Erstellung von Deepfake-Inhalten, um auf den Fotos das computergenerierte Gesicht auf den Körper des Models Bunni zu setzen. Diese bearbeiteten Aufnahmen teilte er anschließend unter der genannten falschen Identität in verschiedenen Reddit-Foren. Die Beiträge umfassten sowohl harmlose Inhalte wie Modetipps und Fotos von Haustieren als auch explizites Material, das in Subreddits für Erwachsene geteilt wurde. Obwohl in den Beiträgen keine direkten Links zum OnlyFans-Konto öffentlich platziert wurden, vermutet Bunni, dass der Betrüger die Nutzer in private Nachrichten locken wollte, wo es zu finanziellen Betrügereien oder Angeboten für Abonnements hätte kommen können. „Ich habe schon immer gesehen, wie Menschen meine Bilder stehlen“, sagte Bunni gegenüber Futurism, „aber das hier war völlig anders.“ Das Model erklärte, dass sie bereits daran gewöhnt sei, dass Menschen ihre Inhalte ohne Zustimmung teilen oder als ihre eigenen ausgeben, doch diese neue Form des Missbrauchs, bei der sich jemand mithilfe ihres Körpers und eines KI-generierten Gesichts als eine andere Person ausgibt, stelle ein weitaus komplexeres Problem dar. „Es handelt sich um Gesichtstausch-Technologie“, beschrieb Bunni die Situation, nachdem sie festgestellt hatte, dass der Betrüger ihren echten Körper verwendet und nur ihr Gesicht ersetzt hatte.
Wie kommt man da heraus?
Als Bunni diese manipulierten Fotos entdeckte, kontaktierte sie die Moderatoren von Reddit, die ihr bei der Entfernung des falschen Profils halfen. Sie betonte jedoch, dass rechtliche Schritte gegen solche Betrugsfälle angesichts der sich schnell weiterentwickelnden Technologien und der unzureichenden Gesetzgebung im Bereich der digitalen Identität oft kostspielig und ineffektiv seien. Der Diebstahl von Inhalten ist unter Creatorn aus der Erotikbranche ein weit verbreitetes Problem, doch die neue Welle von Deepfake-Imitationen ist ausgefeilter und deutlich schwerer zu erkennen. Dieser Vorfall ist Teil eines Trends, bei dem Betrüger Werkzeuge der künstlichen Intelligenz nicht nur zur Unterhaltung einsetzen, sondern auch zur Erstellung überzeugender virtueller Identitäten oder für Catfishing-Betrug. Diese Methoden ermöglichen es Betrügern, durch die Kombination echter Körper mit synthetischen Gesichtern hyperrealistische Personen zu erzeugen und soziale Medien mit gefälschten Konten zu überschwemmen, die sowohl für gewöhnliche Nutzer als auch für die Plattformen selbst nur schwer als betrügerisch zu erkennen sind.
Das Model Bunni äußerte sich besorgt darüber, wie einfach es für Betrüger geworden ist, generative KI-Werkzeuge wie Software zum Gesichtstausch zu nutzen, um in großem Maßstab überzeugende Fälschungen zu erstellen, bevor sie überhaupt entdeckt oder entfernt werden. Die Zunahme ähnlicher Vorfälle unterstreicht mehrere Herausforderungen, darunter Datenschutzrisiken, bei denen das Aussehen von Creatorn ohne deren Zustimmung missbraucht werden kann, Lücken in den rechtlichen Vorschriften, die mit der rasanten Entwicklung generativer Technologien nicht Schritt halten, sowie ethische Probleme im Zusammenhang mit der einfachen Erstellung „virtueller Influencer“, wodurch die Grenzen zwischen Realität und Fiktion im Internet zunehmend verschwimmen.
