Topthemen

Privatgespräche abgehört: Alexa, halt Dir die Ohren zu!

amazon echo 18
© nextpit

In anderen Sprachen lesen:

Hey Alexa, wie spät ist es? Alexa, mach das Licht an. Alexa, wie backt man Streuselkuchen? Viele Menschen reden ziemlich oft mit ihrem Echo-Lautsprecher. Dass Amazon Menschen beschäftigt, diese Sprachbefehle und Sätze, die immer wieder auch irrtümlich aufgezeichnet werden, anhören und bewerten, wissen die meisten nicht.

Was ist passiert? Bloomberg hat aufgedeckt, dass Amazon ungefähr 1.000 Mitarbeiter in den USA, Costa Rica, Indien und Rumänien beschäftigt, die sich täglich tausende Aufzeichnungen anhören und auswerten, die Alexa über die Amazon-Echo-Geräte aufgezeichnet hat. Darüber soll die Spracherkennung trainiert werden, da das ganz automatisch nicht möglich sei, so Amazon. Eine Information darüber an die Kunden gibt es jedoch nicht, die Nutzungsbedingungen zu Alexa schweigen darüber ebenfalls.

"Zum Beispiel verwenden wir Ihre Befehle an Alexa, um unsere Systeme zur Spracherkennung und zum Verstehen natürlicher Sprachen zu trainieren", heißt es in Fragen und Antworten auf einer Amazon-Seite. Dass hierbei aber Menschen eingesetzt werden und nicht nur Computer verrät Amazon nicht. In den Einstellungen von Alexa kann man dieser Verwendung der Aufnahmen zur Weiterentwicklung des Dienstes allerdings widersprechen.

Besonders pikant: Amazon speichert zwar keine kompletten Namen, Adressen oder Kundennummern zu den Aufzeichnungen. Allerdings sind die Account-Nummer, der Vorname und die Seriennummer des Endgeräts mit den Aufnahmen verknüpft und für die Mitarbeiter einsehbar. Darüber kann man die meisten Echos wohl durchaus realen Personen zuordnen. Im Bericht von Bloomberg ist zudem von einem internen Chat-System die Rede, über das sich die Mitarbeiter Aufzeichnungen hin und her schicken können, wenn ihnen der Inhalt unklar ist - oder auch, wenn sie irgendetwas lustig oder peinlich finden.

AndroidPIT amazon echo show 7184
Amazon-Echo-Geräte gibt es in vielen Varianten. / © NextPit

Warum verfälscht Amazon die Aufnahmen nicht?

Damit eins klar ist: Auch bei Google und Apple werden die Sprachassistenten nicht komplett automatisiert trainiert. Doch dort wird wenigstens alles komplett anonymisiert und ohne jedwede Namen oder Kundennummern verarbeitet. Google geht sogar so weit, die Audio-Aufnahmen automatisch zu verzerren, bevor sie ein menschlicher Mitarbeiter zu hören bekommt. Damit wird die Zuordnung zu einer echten Person unmöglich gemacht.

Amazon könnte das auch machen, zumal die Zuordnung zum Vornamen und der Karteinummer ohnehin nur einen zweifelhaften Nutzen beim Trainieren der Spracherkennung haben dürfte - in vielen Haushalten wird Alexa von mehr als einer Person benutzt, und wenn alle Sprecher derselben Kombination aus Nummer und Name zugeordnet werden, verfälscht das die Ergebnisse eher.

Unter dem Strich ist fraglich, wie bedeutend das Problem mit den Sprachaufnahmen bei Alexa tatsächlich ist. Amazon betont, es werde nur ein Bruchteil der aufgezeichneten Aufnahmen von Mitarbeitern abgehört. In der Alexa-App lässt sich zudem kontrollieren und abhören, was Alexa aufgezeichnet hat. Bei mir bleibt trotzdem ein fader Beigeschmack übrig, und ich denke darüber nach, vielleicht doch die Echos im Haushalt einmal abzuschalten und dem Google Assistant einen Platz in meinem Wohnzimmer anzubieten. Aber zuhören muss der nun einmal auch.

Was meint Ihr, schießt Amazon hier über das Ziel hinaus oder ist das alles noch im Rahmen? Diskutiert gerne weiter dazu in unserem Forum:

  Wahl der Redaktion Kamera-Flaggschiff Flaggschiff-Alternative Bestes Gaming-Handy Preis-Leistungs-Sieger Günstige Alternative Einstiegsmodell
Gerät
Abbildung Xiaomi 13T Pro Product Image Xiaomi 13 Ultra Product Image Xiaomi 13 Product Image Xiaomi Poco F4 GT Product Image Xiaomi Redmi Note 12 Pro+ Product Image Xiaomi Poco F5 Pro Product Image Xiaomi Redmi Note 11 Product Image
Bewertung
Test: Xiaomi 13T Pro
Test: Xiaomi 13 Ultra
Test: Xiaomi 13
Test: Xiaomi Poco F4 GT
Test: Xiaomi Redmi Note 12 Pro+
Test: Xiaomi Poco F5 Pro
Test: Xiaomi Redmi Note 11
Angebote*
Zu den Kommentaren (52)
Steffen Herget

Steffen Herget
Senior Editor

Steffen ist seit 2009 in der bunten Welt des Technik-Journalismus aktiv und seit März 2017 bei Android PIT. Android hat eine Weile gebraucht, um sich gegen iOS und vor allem Windows Phone durchzusetzen, gegen die Flexibilität und Vielseitigkeit des Google-Systems ist am Ende aber kein Kraut gewachsen. Gute Displays und Kameras und ordentliche Akkus sind für ihn wichtiger als das letzte Bisschen mehr Taktfrequenz.

Zeige alle Artikel
Hat Dir der Artikel gefallen? Jetzt teilen!
Empfohlene Artikel
Neueste Artikel
Push-Benachrichtigungen Nächster Artikel
52 Kommentare
Neuen Kommentar schreiben:
Alle Änderungen werden gespeichert. Änderungen werden nicht gespeichert!
Neuen Kommentar schreiben:
Alle Änderungen werden gespeichert. Änderungen werden nicht gespeichert!

  • C. F. 78
    C. F.
    • Admin
    13.04.2019 Link zum Kommentar

    Gelöschter Account


  • DiDaDo 98

  • 52
    Frk 13.04.2019 Link zum Kommentar

    Wen das jetzt überrascht, der ist entweder grenzenlos naiv oder ein Heuchler. Wie in den anderen Kommentaren bereits angerissen, dürfte das nicht nur Amazon betreffen. Das ich mir aber freiwillig eine Wanze in die Wohnung stelle, die auch offiziell als Wanze verkauft wird und dann Zeter und Mordio schreie, daß ich abgehört werde, ist schon grenzwertig bis debil.

    Miklos NikolicsH GkrakikrakiTenten


  • 22
    Karin S. 12.04.2019 Link zum Kommentar

    @Michael P
    Da stimme ich dir zu. Ich bezeichne mich schon ziemlich technikaffin, achte aber schon aus beruflichen Gründen und erst recht im privaten Umfeld sehr auf Datenschutz. Trotzdem muss ich, wenn ich nicht KOMPLETT ohne digitale (!) Hilfsmittel auskommen will, ein gewisses Maß an Vertrauen haben, dass, wenn einer sagt, ich höre dich nicht ab, er es auch nicht tut. Sonst darf ich mich eben gar keiner digitalen Hilfsmittel bedienen, die in irgendeiner Form mit der Außenwelt kommunizieren. Das gilt ja ein wenig auch im normalen Alltag: Ich vertraue dem Ferienwohnung-Vermieter, dass er nicht meine Sachen durchsucht oder den Bankmitarbeitern, dass sie mein Konto nicht plündern.

    Bei Einstellungen für Apps auf meinem smartPhone versuche ich natürlich erst mal, vermeintlich nicht benötigte Einstellungen zu deaktivieren. GPS ist bei mir z. B. nur an, wenn ich navigiere. Aber wenn es nicht geht und es keine alternative App gibt, dann kann es schon sein, dass ich sie nach meiner ganz persönlichen (Daten-)Kosten-Nutzen-Abwägung behalte. Aber dass die Deaktivierung eingehalten wird, darauf muss ich vertrauen. Oder mich in ein Erdloch zurück ziehen.
    So würde ich Alexa (oder Google oder Siri oder ...), wenn ich mir so etwas zulege, erst mal durchsuchen, alle Einstellungen checken und sie entsprechend de- oder aktivieren. Und darauf vertrauen, dass es eingehalten wird. Gerade bei großen Unternehmen ist die Gefahr des Aufdeckens einer Zuwiderhandlung deutlich höher als bei kleineren. Siehe FB und Co. Komischerweise waren die Aufschreie bei den Verfehlungen Mark Zuckerbergs kaum so laut zu hören...
    Dass viele Menschen sich keine Gedanken über Einstellungen, Privatsphäre oder Datenschutz machen, ist deren Sache.
    Aber (nur den) EINEN Hersteller, den "bösen Amazon", an den Pranger zu stellen für etwas, was zumindest den meisten Menschen im Zuge der digitalen Entwicklung selbstverständlich erscheint und wozu man sein Einverständnis geben oder eben auch entziehen kann, halte ich für ziemlich opportun, wenn man sich (=seine Daten) gleichzeitig in den sozialen Medien bereitwillig veröffentlicht!

    Nicht falsch verstehen - ich sehe Amazon keinesfalls als Vorbild für Datenschutz, aber um KI weiter zu entwickeln (das gehört nun mal inzwischen zu unserer Evolution!), bedarf es verschiedener
    Werkzeuge. Und deep learning gehört dazu. Natürlich unterliegt das - zumindest in demokratischen Ländern - gewissen Regeln, die eingehalten werden müssen. Und in diesem Fall ist es die Einspruchsmöglichkeit. Die ist vorhanden.
    Jeder kann für sich selbst entscheiden, ob er überhaupt ein solches Gerät nutzt, ob er es immer oder nur ab und zu anschaltet und ob er der Nutzung der Aufzeichnung zustimmt oder nicht. Schlimm ist nur, wenn ich diese Entscheidung nicht (mehr) treffen kann.

    Google macht es mir inzwischen übrigens sehr leicht und erinnert mich daran, mein GPS nach dem Navigieren wieder auszuschalten, indem es mich fragt, wie die Navigation war ;-)

    Gelöschter AccountMichael P


    • 21
      Daffy Duck 13.04.2019 Link zum Kommentar

      tja so kann man sich täuschen - die Mühe mit dem GPS abschalten kannst du dir sparen, Google protokolliert deinen Standort immer mit:
      www.tagesspiegel.de/wirtschaft/standortueberwachung-google-weiss-wo-du-warst/22935468.html
      So, und nun dürfte dein Vertrauen hinreichend zerstört sein ;)
      GPS ist aber noch das Feature wo ich am wenigsten Bedenken hätte, das ist eine passive Sache womit ich keine Daten versende, man empfängt die GPS-Signale ja nur.
      Und natürlich kann man gewissen Dingen vertrauen. Das Bankmitarbeiter dein Konto plündern, an solche Fälle kann ich mich gar nicht erinnern. Aber Datenleaks, Passwort-Klau und ähnliches passiert ständig, die Medien sind voll davon - im Gegensatz zu Konto-plündernden Bankmitarbeitern. Und was interessiert mich KI und deep learning - ich hab nicht danach verlangt, ich hab auch keinen Alexa-Assistenten gefordert. Den ganzen Krempel braucht im Grunde keine Sau, der nicht vorhanden Bedarf wird erst mit massenweise Werbung und Manipulation geweckt. Allerdings nicht bei mir. Wie man dazu kommt einem weltweit operierenden Konzern das Recht einzuräumen, mich 24/7/365 zu belauschen, und das auch nur, dass mir das Licht auf Zuruf ausgemacht wird oder ähnlich völlig überflüssiger Bullshit, ist mir nach wie vor ein Rätsel. Ich stelle auch nicht nur einen Anbieter an den Pranger, das betrifft die Big 5 (MS, Google, FB, Amazon, Apple) und noch eine ganze Reihe mehr.
      Und warum zu allem Übel nimmst du auch noch Google zum navigieren ?? Da gibt es weiß Gott bessere Navi-Apps.

      H GTentenFrk


      • 61
        René H. 13.04.2019 Link zum Kommentar

        Bei mir ist "Meine Aktivitäten" im Google-Account leer, da ich alles deaktiviert habe. Das heisst aber nicht das Google nicht anderweitig aufzeichnet. Sogar auf reinen WiFi-Geräten ohne GPS und SIM-Funktion ist Google-Maps installiert (habe ich aber deaktiviert). Google spioniert so gut es geht.


  • 25
    Gelöschter Account 12.04.2019 Link zum Kommentar

    Kopfkino: Ich habe einen Laden und eine Freundin namens Summer und die ruft mich an und will wissen wo ich bin und ich antworte O Summer i bin im Laden. 30 Min später steht SEK und GSG9 mit gezogenen Waffen vor meiner Tür ^^


    • 21
      Daffy Duck 12.04.2019 Link zum Kommentar

      Sprichst du deine Freundin immer mit Nachnamen an ? Weil sonst hätte ich "Donna" zu ihr gesagt :D


  • Claudia H. 20
    Claudia H. 12.04.2019 Link zum Kommentar

    Der Fakt, dass alles im Hintergrund durch reale Menschen optimiert wird, finde ich gar nicht verwunderlich oder störend. Wichtig wäre nur, das von vornherein transparent zu machen für jeden, der sich Alexa anschafft.

    TentenMichael PBastian Siewers


  • 16
    Snow 12.04.2019 Link zum Kommentar

    Tja, dass kommt davon wenn man sich ein nutzloses Abhörgerät in die Wohnung stellt... Und auch noch dafür zahlt ;)

    Solang man nicht körperlich oder Geistig beeinträchtigt ist sind diese ganzen Dinger Elektro Schrott für mich.

    H GkrakikrakiFrkJenny B.Jens MJennifer


  • 42
    rolli.k 12.04.2019 Link zum Kommentar

    #####Was meint Ihr, schießt Amazon hier über das Ziel hinaus oder ist das alles noch im Rahmen?#####

    Selbstverständlich schießt man hier übers Ziel hinaus.

    Triebfeder ist wohl Arroganz und Größenwahn.........

    H GGelöschter Account


  • danny kinda 27
    danny kinda 12.04.2019 Link zum Kommentar

    Ich habe mal bei einem Voice Bot PoC mitgearbeitet. Dort hatten wir ein Backend das die Transkribierung automatisch gemacht hat und man dann einfach noch kontrollieren musste ob es stimmt das die Software gehört hat. Um so ein System zu trainieren muss man Daten analysieren. Mich verwundert aber das bei Amazon das Leute alles von Hand machen.

    Zudem: Google, Siri & Co. hören wahrscheinlich auch mit. Würde mich doch sehr verwundern wenn es nicht so wäre..


    • DiDaDo 98
      DiDaDo 12.04.2019 Link zum Kommentar

      Und wie sehr hat euch da das Privatleben der Nutzer interessiert?

      Claudia H.Gelöschter Account


      • 21
        Daffy Duck 12.04.2019 Link zum Kommentar

        völlig uninteressant, ob ihn oder seine Kollegen das Privatleben der Nutzer interessiert hat. Geh einfach davon aus es sind Menschen und es gibt darunter immer welche die das interessiert und auch ausnützen. Manche sind grundsätzlich schlecht, andere haben gerade einen schwachen Moment... war schon immer so und wird auch immer so sein. Ich kannte Leute in der Buchhaltung großer Firmen, die haben mit ihrem Wissen über Kreditkartennummern der Kunden einfach angefangen Geld abzubuchen - obwohl sie eigentlich hätten wissen müssen, dass das irgendwann auffliegt (was dann auch passiert ist). Und das war schon lange vor Alexa-Wanzen-Zeiten. Ich weiß gar nicht, woher du das Gottvertrauen in die Konzerne und ihre Mitarbeiter nimmst - gibt es dafür irgendwelche Anhaltspunkte ?


      • 31
        Michael P 12.04.2019 Link zum Kommentar

        Ich glaube es ist kein "Gottvertrauen" (das klingt so absolut), das er in die Konzerne setzt, sondern die Annahme bzw. ein wenigstens hinreichendes Vertrauen, dass das Risiko für ihn als Einzelnen ausreichend gering ist.

        Es ist ja auch kein "Gottvertrauen" erforderlich, um das Haus zu verlassen und auf die Straße zu gehen - das Risiko einen Unfall durch einen rücksichtslosen Verkehrsteilnehmer zu erleiden wird von uns als hinreichend gering eingestuft, obwohl es immer wieder zu Unfällen durch solche kommt. Aber hier wägen wir ab und sagen "Ja, es gibt rücksichtslose Verkehrsteilnehmer, und wir könnten durch einen solchen Schaden erleiden. Wir wagen uns dennoch nach draussen", weil wir die Vorteile des Draussenseins als entscheidender gewichten als die Risiken (kannst Du Dir alternativ, wenn Du von Schaden durch jemand mit bösem Willen ausgehst, auch mit Straßenräubern, Taschendieben o.ä. überlegen).

        Und so wird wohl auch hier abgewogen - die Vorteile der Techniknutzung gegenüber ihren Risiken (wobei gerade bei der Techniknutzung den allermeisten - in vielen Fällen auch uns hier, sieht man z.B. oft in Kommentaren zum Hypewort "KI" - das nötige Wissen fehlt, um eine halbwegs realistische Einschätzung vorzunehmen, und selbst mit diesem Wissen mag es schwer sein. Vor diesem Hintergrund, aber auch vor dem Hintergrund unterschiedlicher persönlicher Präferenzen, Eigenschaften wie Leichtsinn oder Furchtsamkeit, etc, kommen die Leute dann zu unterschiedlichen Risikoeinschätzungen. Aber wer mag objektiv festlegen, was die "richtige" ist? Im Endeffekt steht dann in den Extremen ein "Du bist zu unbekümmert!" gegen ein "Du bist paranoid" - und sinnvolle Positionen liegen vermutlich irgendwo in der Mitte... aber auch hier was ist "sinnvoll"?...).

        DiDaDo


  • 12
    Frank Heidemann 12.04.2019 Link zum Kommentar

    Alexa hört mit und der Rest schreibt mit, alles was wir irgendwo eintippen wird registriert und ausgewertet.

    Claudia H.


  • 26
    Gelöschter Account 12.04.2019 Link zum Kommentar

    Mir tun die Mitarbeiter leid, die sich den ganzen Tag den Sprachmüll wildfremder Leute anhören müssen.

    Claudia H.Gelöschter Account


    • 61
      René H. 12.04.2019 Link zum Kommentar

      Niemand muss dort arbeiten. Wenn dort niemand mehr arbeitet hört die Schnüffelei ganz von allein auf. 😉


  • DiDaDo 98
    DiDaDo 11.04.2019 Link zum Kommentar

    Herrje, was für ne reißerische Überschrift mal wieder...
    Wie wäre es mit was realistischem wie "Alexas KI wird durch Auswertung von realen Audio-Samples trainiert"? Aber das wäre ja etwas, das man sich a) denken könnte und b) würde das tatsächlich nur die technikinteressierten anziehen und nicht auch die, die sich eher durch BILD Headlines angesprochen fühlen.

    Michael PKarin S.Gelöschter AccountHolgerGelöschter Account


    • 21
      Daffy Duck 11.04.2019 Link zum Kommentar

      und was ändert deine "technikaffine" Überschrift an der Tatsache, das Alexa alle deine Gespräche aufzeichnen kann und dies auch offensichtlich tut ? Nichts. Und das reale Menschen deine Gespräche auch noch abbhören, war den meisten Leuten schon mal gar nicht klar. Auch da ändert deine technische Überschrift nichts daran. In solchen Fällen ist so eine plakative Überschrift gar nicht verkehrt, so kriegt jedenfalls auch der letzte DAU-Dödel mit, was hier mit Alexa abgeht.

      H GFrkJens MClaudia H.TentenDieselGelöschter AccountTobias Nowack

Zeige alle Kommentare
Neuen Kommentar schreiben:
Alle Änderungen werden gespeichert. Änderungen werden nicht gespeichert!
VG Wort Zählerpixel