Alexa wird auf über 100 Millionen Geräten weltweit installiert und erfasst dabei Milliarden von Benutzeranfragen. Wie alle digitalen Assistenten verlässt sich Alexa auf Datenmodelle, um bessere Antworten zu bieten, aber es sieht so aus, als ob Amazon dem digitalen Assistenten auch in Form von menschlichen Überprüfungen geholfen hat. Eine Untersuchung von Bloomberg hat ergeben, dass Amazon ein globales Team hat, das Alexa-Aufzeichnungen von überall auf der Welt transkribiert und annonisiert, um "Lücken in Alexas Verständnis der menschlichen Sprache zu beseitigen" und dem Assistenten zu ermöglichen, Ihre Fragen besser zu beantworten.
Die Veröffentlichung ergab, dass Amazon weltweit Tausende von Mitarbeitern - sowohl Auftragnehmer als auch Vollzeitbeschäftigte - beschäftigt, um Alexa-Aufzeichnungen zu überprüfen. Die Teams verteilen sich auf Boston, Costa Rica, Indien und Rumänien. Laut einer ungenannten Quelle analysiert jeder Rezensent in einer neunstündigen Schicht über 1.000 Audioclips, kommentiert sie und gibt sie an das System zurück, um Alexas Antworten zu verbessern. Von Bloomberg:
Ein Mitarbeiter in Boston gab an, er habe die gesammelten Sprachdaten für bestimmte Äußerungen wie "Taylor Swift" ermittelt und mit Anmerkungen versehen, um anzuzeigen, dass der Sucher den Musikkünstler meinte.
Gelegentlich nehmen die Zuhörer Dinge auf, die Echo-Besitzer wahrscheinlich lieber für sich behalten würden: etwa eine Frau, die schlecht in der Dusche singt, oder ein Kind, das um Hilfe schreit. Die Teams verwenden interne Chatrooms, um Dateien freizugeben, wenn sie beim Parsen eines durcheinandergebrachten Wortes Hilfe benötigen oder auf eine amüsante Aufnahme stoßen.
Die Veröffentlichung stellte auch fest, dass Mitarbeiter auf störende Aufzeichnungen stoßen:
Manchmal hören sie Aufnahmen, die sie als störend oder möglicherweise als kriminell empfinden. Zwei der Arbeiter sagten, sie hätten etwas aufgegriffen, was sie für einen sexuellen Übergriff hielten. Wenn so etwas passiert, können sie die Erfahrung im internen Chatroom teilen, um Stress abzubauen.
Amazon gibt an, dass es Verfahren gibt, die die Beschäftigten befolgen müssen, wenn sie etwas Bedrückendes hören. Zwei in Rumänien ansässige Mitarbeiter gaben jedoch an, dass es nicht die Aufgabe von Amazon sei, sich in solche Fälle einzumischen, nachdem sie um Anleitung gebeten hatten.
Die Aufzeichnungen enthalten nicht den vollständigen Namen oder die vollständige Adresse eines Benutzers, sondern den Vornamen des Benutzers, eine Kontonummer und die Seriennummer des Geräts. Amazon hat bereits erwähnt, dass es sich beim Training von Alexa auf die Verarbeitung natürlicher Sprache stützt. Bloomberg hat jedoch zugegeben, dass es ein menschliches Element verwendet, um eine "kleine Stichprobe von Alexa-Sprachaufnahmen" mit Anmerkungen zu versehen:
Wir nehmen die Sicherheit und den Datenschutz der persönlichen Daten unserer Kunden ernst. Wir kommentieren nur eine extrem kleine Auswahl von Alexa-Sprachaufnahmen, um das Kundenerlebnis zu verbessern. Diese Informationen helfen uns beispielsweise dabei, unsere Spracherkennungs- und Sprachverstehenssysteme zu trainieren, damit Alexa Ihre Anforderungen besser verstehen und sicherstellen kann, dass der Service für alle gut funktioniert.
Wir haben strenge technische und betriebliche Sicherheitsvorkehrungen und eine Null-Toleranz-Richtlinie für den Missbrauch unseres Systems. Mitarbeiter haben keinen direkten Zugriff auf Informationen, die die Person oder das Konto als Teil dieses Workflows identifizieren können. Alle Informationen werden mit hoher Vertraulichkeit behandelt und wir verwenden eine Multifaktorauthentifizierung, um den Zugriff, die Dienstverschlüsselung und die Prüfungen unserer Kontrollumgebung zu beschränken und diese zu schützen.
Es ist nicht nur Amazon, das sich an menschliche Helfer wendet, um seinen digitalen Assistenten zu entwickeln. Bloomberg stellte fest, dass Apple auch ein menschliches Team hat, das prüft, ob Siris Interpretation der Anforderungen mit den von den Benutzern gestellten Fragen übereinstimmt. Google hat Prüfer, die Assistenten ausbilden, aber die Clips haben keine persönlich identifizierbaren Informationen und das Audio selbst ist verzerrt, um eine Identifizierung zu verhindern.
