Die Stimme, die sich weigert, auf ihren Einsatz zu warten
Block, Inc., das Unternehmen hinter Square und Cash App, hat Dessa vorgestellt, ein Vollduplex-Sprachmodell für Konversationen, das die Interaktion zwischen Mensch und KI neu definiert. Dieses System kann gleichzeitig zuhören und sprechen, was eine bisher bei KI-Gesprächen fehlende Flüssigkeit ermöglicht.
Im Gegensatz zu herkömmlichen Sprachassistenten, die wie ein Walkie-Talkie funktionieren – zuhören, verarbeiten, dann sprechen –, bricht Dessa mit diesem starren Wechselspiel. Es ermöglicht natürliche menschliche Konversationselemente: Bestätigungen wie „ja“ und „verstehe“, spontane Unterbrechungen und sogar Lachen mitten im Satz.
Demos zeigen Dessas erstaunliche Gesprächsflüssigkeit, doch dies ist ein Beweis für die fortschrittliche Verarbeitung, nicht für eine Intelligenz auf menschlichem Niveau. Das Modell kann beispielsweise immer noch Fehler machen, wie etwa einen Sprecher mit jemand anderem zu verwechseln, wie in einer Demo zu sehen war, in der es seinen Gesprächspartner fälschlicherweise als „Ronaldo“ identifizierte.
Diese Vollduplex-Fähigkeit, die vollständig mit Roh-Audio aus menschlichen Gesprächen trainiert wurde, stellt eine signifikante Abkehr von textbasierten Modellen dar. Dessa verarbeitet Ton direkt ein- und ausgehend und umgeht so den Text-Flaschenhals, der emotionale Nuancen und Prosodie entfernt, was zu einem beunruhigend menschlich wirkenden Gesprächserlebnis führt.
Warum das Überspringen von Text den Klang verändert
Herkömmliche KI-Sprachassistenten funktionieren wie ein Staffellauf: Spracherkennung wandelt Audio in Text um, ein Sprachmodell verarbeitet den Text, und Text-to-Speech synthetisiert dann eine Antwort. Diese kaskadierte Pipeline verwirft entscheidende Elemente natürlicher Konversation. Tonfall, Pausen, Emotionen, Lautstärkeschwankungen, Lachen und das subtile Timing von Zwischenrufen verschwinden, wenn Sprache auf Text reduziert wird.
Dessa umgeht diesen Text-Flaschenhals vollständig. Es verarbeitet Audio direkt, nimmt Ton auf und gibt Ton aus, ohne eine zwischengeschaltete Textebene. Dieser direkte Ansatz ermöglicht es, die volle Reichhaltigkeit menschlicher stimmlicher Nuancen beizubehalten und zu replizieren, einschließlich der „ja“ und „verstehe“, die einen Dialog in Echtzeit unterstreichen.
Block, Inc. behauptet, dass Dessa von Grund auf mit Aufnahmen menschlicher Gespräche trainiert wurde, unter Umgehung von Textdatensätzen oder bereits existierenden Sprachmodellen. Dieses Audio-First-Training ermöglichte es dem Modell, Konversationsdynamiken – wie das Lachen mitten im Satz oder natürliches Unterbrechen – direkt aus akustischen Mustern zu lernen.
Bemerkenswerterweise berichtet Block, Inc., dass Dessa lokale Inferenz schneller als in Echtzeit auf handelsüblicher Hardware durchführen kann, speziell auf einem Apple MacBook Pro mit M4 Max Chip. Diese Bereitstellungsbehauptung deutet auf eine hocheffiziente Architektur hin, ein krasser Gegensatz zu den großskaligen GPU-Clustern, die normalerweise für modernste generative KI-Modelle erforderlich sind.
Die unheimliche Demo hat einen Sicherheitsmechanismus
Konversationsrealismus lässt eine KI vertrauenswürdiger erscheinen als eine polierte, offensichtlich synthetische Stimme. Dessas natürlicher Rhythmus und menschlich wirkende Zwischenrufe, wie „ja“ zu sagen oder mitten im Satz zu lachen, können sie authentisch engagiert wirken lassen. Dies ahmt menschliche Interaktion nach und erzeugt eine starke Illusion von Verständnis, selbst wenn der zugrunde liegenden KI echtes Verständnis fehlt oder sie Informationen schlicht erfindet.
Eine Demo von Block, Inc. hat dieses Risiko verdeutlicht. Als Dessa über seine eigenen Fähigkeiten sprach, erfand es eine menschlich klingende Hintergrundgeschichte über seine „beeindruckende“ Ausdrucksstärke und die Fähigkeit, „Emotionen viel besser zu verstehen als alles, was ich bisher gesehen habe“. Die natürliche Ausdrucksweise verlieh dieser erfundenen Selbsteinschätzung eine unverdiente Glaubwürdigkeit und unterstrich, wie mühelos eine KI generierte Inhalte als Fakten präsentieren kann.
Diese Mischung aus Voice Cloning und reaktionsschnellem Dialog stellt eine erhebliche Bedrohung dar. Betrüger könnten Dessa-ähnliche Technologien nutzen, um hyperrealistische, interaktive Sprachanrufe für Betrugsmaschen wie den Enkeltrick, Bankbetrug, Lieferbetrug oder gefälschten technischen Support zu erstellen. Die natürlichen Sprachmuster, einschließlich Pausen und Unterbrechungen, könnten die typischen Warnsignale einer „Roboterstimme“ umgehen, insbesondere bei Personen, die mit den aktuellen KI-Fähigkeiten nicht vertraut sind. Weitere technische Details finden Sie unter Dessa - The Conversation Model Trained Only on Speech.
Stellen Sie sich vor, ein Betrüger klont die Stimme eines Enkelkindes und lässt dann eine Full-Duplex-KI in Echtzeit mit einem Großelternteil sprechen, komplett mit emotionalen Hinweisen und natürlichem Gesprächsfluss. Die Fähigkeit, zu unterbrechen, auf emotionale Veränderungen zu reagieren und sogar zu lachen, könnte diese bösartigen Interaktionen praktisch ununterscheidbar von echtem menschlichem Kontakt machen und deren Effektivität dramatisch steigern.
Gefällt Ihnen der Artikel? Erhalten Sie jeden Morgen einen wie diesen per E-Mail.
eine E-Mail pro Tag · Abmeldung mit zwei Klicks · kein Tracking durch Dritte
Heute eine Vorschau, morgen ein Vertrauensproblem
Block, Inc. hat Dessa als kontrollierte Forschungsvorschau veröffentlicht, nicht als öffentliche Modellgewichte oder allgemeine API. Der Zugang ist auf Sicherheitsforscher beschränkt, was die inhärenten Risiken eines solch leistungsstarken Werkzeugs widerspiegelt. Dieser vorsichtige Ansatz erkennt das Missbrauchspotenzial der Technologie an.
Während Schutzmaßnahmen wie Erkennung und Audio-Watermarking in der Entwicklung sind, stehen sie vor einem ständigen Wettrüsten. Die Herausforderung besteht darin, robuste, allgegenwärtige Abwehrmechanismen gegen sich schnell entwickelnde synthetische Audiodaten zu schaffen. Keine einzelne Lösung kann die Risiken vollständig mindern.
Verbraucher müssen proaktive Sicherheitsmaßnahmen ergreifen. Überprüfen Sie dringende Anfragen immer unabhängig, indem Sie eine bekannte Nummer anrufen, und verlassen Sie sich niemals allein auf die Stimme eines Anrufers. Die Festlegung eines Familien-Codeworts für kritische Kommunikation bietet eine zusätzliche Schutzschicht.
Die KI-zu-KI-Demo, bei der Dessa mit einer anderen KI spricht, deutet auf Anwendungen jenseits von Betrug hin, wie etwa fortschrittliche virtuelle Assistenten oder die Erstellung synthetischer Medien. Dies deutet auf eine Zukunft hin, in der KI-Stimmen zu einem festen Bestandteil verschiedener digitaler Interaktionen werden, was ständige Wachsamkeit und Anpassung erfordert.
Häufig gestellte Fragen
Was ist Dessa von Block?
Dessa ist ein konversationelles Sprachmodell von Block, das darauf ausgelegt ist, gleichzeitig zuzuhören und zu sprechen, mit natürlichem Timing und stimmlichen Hinweisen.
Wie unterscheidet sich Dessa von einem typischen Sprachassistenten?
Block gibt an, dass Dessa mit Audiogesprächen trainiert wurde und Sprache direkt generiert, anstatt sich auf eine Kette aus Spracherkennung (Speech-to-Text), Sprachmodell und Sprachsynthese (Text-to-Speech) zu verlassen.
Kann die Öffentlichkeit Dessa jetzt nutzen?
Den vorliegenden Berichten zufolge befindet sich Dessa in einer begrenzten Forschungsvorschau, wobei der frühe Zugang auf KI-Sicherheitsforscher konzentriert ist.
Könnten realistische KI-Stimmen für Betrug verwendet werden?
Ja. Eine überzeugende, reaktionsschnelle Stimme könnte Identitätsdiebstahl und Social-Engineering-Anrufe überzeugender machen, daher sollten Anrufer dringende Anfragen über einen separaten, vertrauenswürdigen Kanal verifizieren.