Ich habe meine Stimme verschenkt – und jetzt?!
Vertrauen, Identität und die Konsequenzen hochwertiger KI-Stimmen
2019 habe ich meine eigene Stimme als Open-Source-Datensatz veröffentlicht. Seitdem erlebe ich regelmäßg die Auswirkungen davon. Erlebe, wie Menschen mit "meiner Stimme" Dinge sagen, auf die ich keinen Einfluss habe. Hochwertige KI-Stimmen sind heute kaum noch von menschlichen zu unterscheiden und lassen sich mit wenigen Sekunden Aufnahme klonen.
Im Vortrag beleuchte ich, was das für Vertrauen und Identität bedeutet und zwar aus meiner ganz persönlichen Perspektive.
Die menschliche Stimme galt lange als eines unserer verlässlichsten Identitätsmerkmale. Diese Gewissheit schwindet. KI kann heute jede Stimme täuschend echt imitieren, inklusive Emotionen, auf Basis weniger Sekunden Originalmaterial.
Der „Enkeltrick 2.0" ist keine Zukunftsvision mehr. Reale Fälle, wie von der Slowakei-Wahl 2023 bis zum Biden-Deepfake 2024 zeigen, dass dies längst Realität ist.
Der Vortrag nimmt meine persönliche Erfahrung als Stimmenspender als Ausgangspunkt und stellt gesellschaftlich relevante Fragen. Was bedeutet es, wenn Stimmen nicht mehr als Identitätsmerkmal taugen, welche Chancen und Risiken birgt das? Gleichzeitig geht es um die Frage, wer die Kontrolle über hochwertige KI-Stimmen behält: Große Technologiekonzerne oder die Open-Source-Community?
Der Talk richtet sich an alle, die verstehen wollen, was auf dem Spiel steht und was freie Software dabei leisten kann und muss.
