Ein neues KI-Projekt mit dem Namen Deep-Live-Cam hat kürzlich im Internet für Aufsehen gesorgt, weil es Deepfakes auf Webcams anwenden kann. Gleichzeitig hat es Diskussionen über die möglichen Sicherheitsrisiken und ethischen Implikationen ausgelöst.
Wie sich Deep-Live-Cam von anderen Deepfake-Programmen unterscheidet
Im Wesentlichen nutzt Deep-Live-Cam fortschrittliche KI-Algorithmen, die ein einzelnes Ausgangsfoto nehmen und das Gesicht bei Live-Videogesprächen, z. B. über Webcams, auf eine Zielperson übertragen können. Das Projekt befindet sich zwar noch in der Entwicklung, aber die ersten Tests zeigen bereits sowohl beunruhigende als auch beeindruckende Ergebnisse.
Wie auf Ars Technica näher beschrieben, liest und erkennt die Anwendung zunächst die Gesichter einer Quelle und eines Zielobjekts. Anschließend werden die Gesichter mithilfe eines Inswapper-Modells in Echtzeit ausgetauscht, während ein anderes Modell die Qualität der Gesichter verbessert und Effekte hinzufügt, die sich an wechselnde Lichtverhältnisse und Gesichtsausdrücke anpassen. Dieser ausgeklügelte Prozess stellt sicher, dass das Endprodukt sehr realistisch ist und nicht leicht als Fälschung erkannt werden kann.
Einer der Clips, die ein Entwickler geteilt hat, zeigt zum Beispiel eine realistische Fusion des Gesichts von Teslas CEO Elon Musk mit einem Motiv. Der Deepfake enthielt sogar eine Überlagerung mit einer Brille und den Haaren der Person, was ihn unglaublich überzeugend machte. Ein weiteres Beispiel war das Gesicht des US-Vizepräsidentschaftskandidaten JD Vance und von Mark Zuckerberg von Meta.
Ist der Aufstieg von KI-Simulations-Apps besorgniserregend?
Warum ist das besonders besorgniserregend? Die Verwendung von Deel-Live-Cam und anderen Echtzeit-Deepfake-Apps wirft ernsthafte Bedenken hinsichtlich Datenschutz und Sicherheit auf. Stellt Euch vor, dass ein Bild von Euch aus dem Internet geklaut und ohne Eure Zustimmung für Betrug, Täuschung und andere bösartige Aktivitäten genutzt werden kann.
Im Moment sieht es so aus, dass die Mängel auf verschiedene Weise behoben werden können, z. B. durch Wasserzeichen bei der Verwendung der App und robuste Erkennungsmethoden. Die Lösung kann auch auf andere Deepfake-Programme und -Apps angewendet werden. Wenn Ihr neugierig seid oder Deep-Live-Cam ausprobieren wollt, findet ihr es in einem der Repositories auf GitHub.
Was denkt Ihr über Echtzeit-KI-Simulationsanwendungen? Habt Ihr Tipps, wie Ihr Euch vor diesen potenziellen Risiken schützen könnt? Wir würden uns über Eure Antworten in den Kommentaren freuen.
Mit diesem Symbol kennzeichnen wir Partner-Links. Wenn du so einen Link oder Button anklickst oder darüber einkaufst, erhalten wir eine kleine Vergütung vom jeweiligen Website-Betreiber. Auf den Preis eines Kaufs hat das keine Auswirkung. Du hilfst uns aber, nextpit weiterhin kostenlos anbieten zu können. Vielen Dank!
Mittlerweile ist es soweit, dass man eigentlich nurnoch das glauben kann, was man selbst erlebt, gesehen und gehört hat und nur weiß, mit wem man sich da unterhält, wenn man live voreinander steht. Ohne Technik dazwischen.
Ehrlich gesagt wird mir immer mulmiger zumute.
Vielleicht schadet es ja uns allen nicht, wenn wir wieder ein wenig in die analoge Zeit zurückgehen. Jedenfalls gerade so weit, wie es eben notwendig ist. Der technische Fortschritt soll dem Menschen dienen, nicht ihn belasten.
Zur Beruhigung:
Wenn es wirklich unerträglich wird, werden sich die Menschen bald in Scharen abwenden. Das werden weder Industrie noch Handel zulassen. Davon bin ich überzeugt, auch wenn bis dahin noch viel Unrecht geschehen wird.
"Wenn es wirklich unerträglich wird, werden sich die Menschen bald in Scharen abwenden."
Das glaube ich auch. Diese ganzen KI-erzeugten Bilder und Videos übersättigen doch recht schnell. Nach dem ersten Hingucker kehrt da schnell Monotonie ein, ähnlich wie bei den berühmten Katzenvideos. Ich denke also, der Hype dürfte schnell vorüber sein, einfach weil es niemand mehr sehen will. Viel problematischer sehe ich da die Möglichkeiten, KI für Verbrechen und Propaganda zu nutzen. Da wird noch einiges auf uns zukommen.
Schlimm ist auch, wenn man dann zB als Selbständiger im Handel ein lukratives Kaufangebot von einem betrügerischen Bot bekommt anstelle der dargestellten physischen Person, oder wenn vor einem Event ein Bot unter falschem oder bekanntem Namen samt KI-Gesicht/Firmennamen etc hunderte Karten bestellt und all das Genannte sich dann in Schall und Rauch auflöst oder der Bot dann auch nur als Zwischenhändler fungiert und mit Namen des Urhebers ohne dessen Wissen und Einwilligung andere Leute abzockt oder unter gefäschtem Namen gar nur Schall und Rauch verkauft……
Im Moment können wir das alles nur erahnen. Aber ich denke, aus den zuvor genannten Gründen wird sich das irgendwann einrenken. Wie hat Leonard Cohen das so schön besungen: "There is a crack in everything – that´s how the light gets in" Außerdem wird dem geschriebenen Wort (auch) im Netz viel zu viel Glauben geschenkt, denke ich. Vielleicht wirkt sich das regulierend und erleuchtend auf das oft blinde Grundvertrauen vieler User aus. Es hat zum Glück alles immer mindestens 2 Seiten.
Es ist wie eigentlich immer: Eine neue Technik wird entwickelt, verfeinert, der breiten Masse zugänglich – und mitunter missbraucht. Sei es nun aus kriminellen Beweggründen, zu Gunsten eines "pranks" oder weshalb auch immer. Der Mensch tickt nun einmal so und wird sich auch nicht ändern, lediglich die Technik und ihre Möglichkeiten um ihn herum. Wie hier aber schon im Kommentarbereich so treffend formuliert wurde: Manchmal ist eine Rückbesinnung auf das gute alte analoge Leben gar keine so schlechte Idee. Zumindest Webcams sollten dann mit ihren (Deep-) Fakes ins Leere laufen.
Wieder gelöscht, weil falsche Stelle.