Ki-tool seedance 2.0 von bytedance: sprachklonung aus gesichtsbildern stoppt entwicklung

Bytedance stoppt ki-tool zur sprachgenerierung

Das Technologieunternehmen ByteDance, bekannt für die Plattform TikTok, hat seine umstrittene KI-gestützte Videoerstellungs-Tool Seedance 2.0 vorübergehend ausgesetzt. Der Grund: Die Fähigkeit der Software, aus Gesichtsbildern die Stimme einer Person zu imitieren, wirft erhebliche ethische und datenschutzrechtliche Bedenken auf. Die Entwicklung wurde gestoppt, um die Plattform zu optimieren und sicherzustellen, dass sie in einem ethisch vertretbaren Rahmen eingesetzt wird. Es ist ein bedeutender Schritt im sich schnell entwickelnden Bereich der künstlichen Intelligenz.

Was ist seedance 2.0?

Seedance 2.0 ist ein KI-Generator, der verschiedene Eingaben – Bilder, Videos, Audios und Text – gleichzeitig verarbeiten kann. Es erlaubt die Kombination von bis zu neun Bildern, drei Videos und drei Audiodateien, um Videos mit einer Länge von 4 bis 15 Sekunden zu erstellen. Die Ergebnisse werden automatisch mit Soundeffekten oder Musik versehen und bieten eine Auflösung von 2K. Die Software versprach eine schnelle und einfache Videoerstellung, doch die unerwartete Präzision bei der Sprachklonung sorgte für Aufruhr.

Die alarmierende fähigkeit zur sprachklonung

Laut Berichten von The Decoder und Technode kann Seedance 2.0 anhand von Gesichtsbildern erstaunlich genaue Stimmen simulieren, selbst ohne eine vorherige Sprachprobe. Experten wie ein Journalist von MediaStorm waren von der Genauigkeit der Imitation schockiert. Die KI analysiert Gesichtszüge wie Augen, Wangenknochen, Mund und Falten, um den Tonfall und die Sprechweise einer Person zu rekonstruieren. Dies wirft ernsthafte Fragen zum Schutz der Privatsphäre und zur potenziellen Missbrauchsgefahr auf.

Ethische bedenken und datenschutz

Die Möglichkeit, Stimmen ohne Zustimmung zu klonen, birgt ein erhebliches Missbrauchspotenzial. Es besteht die Gefahr von Identitätsdiebstahl, Falschinformationen und der Manipulation von öffentlichen Meinungen. ByteDance hat sich der Kritik bewusst angenommen und die Entwicklung von Seedance 2.0 vorerst eingestellt, um die ethischen Implikationen zu bewerten und entsprechende Schutzmaßnahmen zu implementieren. Die Balance zwischen Innovation und ethischer Verantwortung ist hier entscheidend.

Die reaktion von bytedance

In einer Erklärung auf Weibo (über Sina Tech) gab ByteDance bekannt, dass die Plattform derzeit optimiert wird. Die Verwendung von Bildern echter Personen als primäre Referenzquelle wird vorerst untersagt. Das Unternehmen betont sein Engagement für eine