[datensicherheit.de, 20.12.2018] Laut einer Meldung von „heise online“ vom 20. Dezember 2018 haben Recherchen des „c’t magazin“ ergeben, dass über Amazon.de höchst private Sprachaufzeichnungen von „Echo“-Geräten an fremde Personen gelangt sind. Demnach sind 1.700 „Alexa“-Sprachaufzeichnungen aus Schlafzimmer, Badezimmer und Wohnzimmer eines „Echo“-Besitzers in die Hände eines Unbefugten geraten.

Sprachaufzeichnung als Datenbasis für KI-Training

„Mich verwundert dieser Vorfall nicht. Amazon speichert und nutzt solche Daten, um seine Sprach-KI ,Alexa‘ zu trainieren und besser zu machen. Nutzer erkennen das ganz leicht an der ,Alexa‘-App: Diese zeigt ein Transcript aller an die KI gestellten Fragen an und bietet sogar eine Feedback-Möglichkeit“, erläutert Boris Cipot, „Senior Sales Engineer“ bei Synopsys Software Integrity Group, und beantwortet damit die Frage, weshalb Amazon überhaupt solche Daten speichert.
„Wann immer solche Daten gespeichert werden, besteht auch die Möglichkeit unsachgemäßen Umgangs mit negativen Folgen. Dessen sollten sich Nutzer von ,Siri‘, ,Alexa‘ und Co. bewusst sein“, so der KI-Experte. „Amazon sollte bei ,Alexa‘ eine Funktion integrieren, die Nutzern eine Kontrolle über die eigenen Daten ermöglicht. Beispielsweise sollten Nutzer einen Zeitrahmen festlegen können, wie lange Daten höchstens gespeichert werden dürfen“, empfiehlt Cipot. So ein Mechanismus hätte den „menschlichen Fehler“ (laut Stellungnahme Amazon) im vorliegenden Fall vermieden.

Kunden sollten Wert auf transparenten, verlässlich Daten-Umgang legen!

Cipot unterstreicht: „Vertrauen ist das Wichtigste, was ein Kunde einem Unternehmen schenken kann. Gerade dann, wenn es um sensible Daten aus der eigenen Intimsphäre geht. Je mehr solcher Fälle publik werden, desto mehr werden auch große Unternehmen wie Amazon zu Transparenz im Umgang mit Daten gezwungen.“
Ob es sich im vorliegenden Fall tatsächlich um einen „menschlichen Fehler“ und „bedauerlichen Einzelfall“ laut der Stellungnahme von Amazon gehandelt hat, oder ob der Fehler in der Automatisierung und somit in der internen IT-Architektur des Unternehmens zu suchen ist, lasse sich nicht mit Sicherheit sagen.
Cipot hofft, „dass Kunden zukünftig nur Geräte und Technologien solcher Unternehmen verwenden, die bewiesen haben, dass sie transparent und verlässlich mit den ihnen anvertrauten Daten umgehen“.

Weitere Informationen zum Thema:

heise online / c’t Magazin, 20.12.2018
Amazon gibt intime Alexa-Sprachdateien preis / Durch einen Fehler von Amazon.de fielen rund 1700 Alexa-Sprachaufzeichnungen in die Hände eines Unbefugten

datensicherheit.de, 05.10.2018
Kommentar zum chinesischen Spionage-Angriff auf Apple und Amazon