Pris en flagrant délit : Des milliers d’employés d’Amazon écoutent les conversations d’Alexa - AVC

Amazon emploie des milliers de personnes pour écouter ce que les gens du monde entier disent à leur assistante numérique Alexa, d’après ce qui est un rapport inédit de Bloomberg, qui cite sept personnes qui ont travaillé sur ce programme et qui sera certainement une source de stimulation pour les audiences du Congrès.

Alors que leur travail consiste à “aider à améliorer NSAlexa” – qui alimente la gamme d’enceintes Echo de l’entreprise – l’équipe “écoute les enregistrements vocaux capturés dans les maisons et les bureaux des propriétaires d’Echo”, qui sont ensuite transcrits, annotés et renvoyés dans le logiciel afin d’améliorer la compréhension qu’Alexa a du langage humain et de faciliter les interactions. En d’autres termes, les humains aident efficacement à former l’algorithme d’Amazon.

Dans les documents marketing, Amazon dit qu’Alexa “vit dans le cloud et devient toujours plus intelligente.” Mais comme beaucoup d’outils logiciels conçus pour tirer des leçons de l’expérience, les humains se chargent d’une partie de l’enseignement. -Bloomberg

L’équipe d’écoute est composée d’entrepreneurs à temps partiel et d’employés à temps plein d’Amazon répartis dans le monde entier, notamment en Inde, en Roumanie, à Boston et au Costa Rica.

Les auditeurs travaillent par roulement de neuf heures, chacun passant en revue jusqu’à 1 000 extraits audio par roulement selon deux employés du bureau d’Amazon à Bucarest, situé dans les trois étages supérieurs du bâtiment Globalworth, la capitale roumaine. L’emplacement “se démarque au milieu de l’infrastructure délabrée” du quartier de Pipera et “ne porte aucune enseigne extérieure annonçant la présence d’Amazon”.

Bien qu’une grande partie du travail soit ennuyeux (un travailleur a dit que son travail consistait à extraire des données vocales accumulées pour des phrases spécifiques telles que “Taylor Swift” – faire savoir au système que le chercheur ne recherchait que l’artiste), les examinateurs sont également attentifs aux moments plus personnels des gens.

Parfois, les auditeurs entendent des choses que les propriétaires d’Echo préfèrent garder pour eux : une femme qui chante mal sous la douche, par exemple, ou un enfant qui crie au secours. Les équipes utilisent des forums de discussion internes pour partager des fichiers lorsqu’elles ont besoin d’aide pour analyser un mot confus ou pour trouver un enregistrement amusant. -Bloomberg

Parfois, les auditeurs d’Amazon tombent sur des casiers judiciaires dérangeants ou peut-être même criminels – comme deux travailleurs qui disent avoir écouté ce qui s’apparente à une agression sexuelle.

Selon le rapport, lorsque de telles choses se produisent, les travailleurs en parlent dans le salon de discussion interne pour “soulager le stress”.

Et bien qu’Amazon affirme qu’elle a des procédures à suivre lorsque des travailleurs entendent des choses pénibles, deux des employés basés en Roumanie disent qu’on leur a dit “que ce n’était pas le rôle d’Amazon d’intervenir” lorsqu’ils demandaient des conseils pour de pareilles situations.

“Nous prenons au sérieux la sécurité et la confidentialité des informations personnelles de nos clients”, a déclaré un porte-parole d’Amazon dans une déclaration fournie à Bloomberg.

“Nous n’annotons qu’un très petit échantillon d’enregistrements vocaux Alexa afin d’améliorer l’expérience client. Par exemple, cette information nous aide à former nos systèmes de reconnaissance vocale et de compréhension du langage naturel, afin qu’Alexa puisse mieux comprendre vos demandes et s’assurer que le service fonctionne bien pour tout le monde“, poursuit l’énoncé. “Nous avons des garanties techniques et opérationnelles strictes et une politique de tolérance zéro pour les abus de notre système. Les employés n’ont pas d’accès direct à l’information permettant d’identifier la personne ou le compte dans le cadre de ce flux de travail.Toutes les informations sont traitées avec la plus grande confidentialité et nous utilisons l’authentification multifactorielle pour restreindre l’accès, le cryptage du service et les audits de notre espace de contrôle pour le protéger.”

Cela dit, Amazon ne mentionne pas le fait que des humains écoutent des enregistrements de certaines conversations captées par Alexa. Au lieu de cela, ils ont un avertissement générique dans leur FAQ qui dit “Nous utilisons vos requêtes à Alexa pour former nos systèmes de reconnaissance vocale et de compréhension du langage naturel”.

Ce qu’Amazon enregistre

Selon les conditions d’utilisation d’Alexa d’Amazon, l’entreprise recueille et stocke la plupart de ce que vous dites à Alexa – y compris la géolocalisation du produit ainsi que vos instructions vocales, a rapporté Todd Haselton de CNBC en novembre dernier.

Vos messages, demandes de communication (p. ex. “Alexa, appelle maman”) et instructions connexes sont des “interactions Alexa”, telles que décrites dans les Conditions d’utilisation d’Alexa. Amazon traite et conserve vos interactions avec Alexa et les informations connexes dans le cloud afin de répondre à vos demandes (par exemple, “envoyer un message à maman”), de fournir des fonctionnalités supplémentaires (par exemple, la transcription voix-texte et vice versa), et pour améliorer notre offre. -Conditions d’utilisation d’Amazon

En mai dernier, un Echo d’Amazon a enregistré une conversation entre un homme et son épouse, puis l’a envoyée à l’un des contacts téléphoniques du mari. Amazon prétend qu’au cours de la conversation, quelqu’un a utilisé un mot qui ressemblait à “Alexa”, ce qui a fait que l’appareil a commencé à enregistrer.

“Echo s’est activée à cause d’un mot dans une conversation de fond qui ressemblait à ‘Alexa’,” a dit Amazon dans une déclaration. “Ensuite, la conversation suivante a été considérée comme une demande d’envoi de message. À ce moment-là, Alexa a dit à haute voix : ‘À qui ?’ À ce moment-là, la conversation en arrière-plan a été interprétée comme un nom dans la liste de contacts du client. Alexa a ensuite demandé à haute voix, ‘[nom du contact], n’est-ce pas ?’ Alexa a ensuite interprété la conversation en arrière-plan comme une ‘bonne’ conversation. Aussi improbable que soit cette série d’événements, nous évaluons des options pour rendre cette affaire encore moins probable.”

L’épouse, Danielle, a cependant dit qu’Echo ne lui avait jamais demandé la permission d’envoyer l’audio. Au début, mon mari m’a dit : “Non, tu ne l’as pas fait”, a dit Danielle à KIRO7. “Puis il a dit : ‘Tu étais assise là à parler de planchers de bois. Et nous avons dit : ‘Oh mon Dieu, tu l’as vraiment fait !'”

Pouvez-vous la désactiver ?

Alexa permet aux gens de cesser de partager leurs enregistrements vocaux pour le développement de nouvelles fonctionnalités, alors qu’une capture d’écran examinée par Bloomberg révèle que les enregistrements fournis aux auditeurs d’Alexa ne fournissent pas le nom ou l’adresse complète d’un utilisateur. L’enregistrement est tout de même lié à un numéro de compte, au prénom de l’utilisateur et au numéro de série de l’appareil.

“Vous ne pensez pas nécessairement à un autre être humain qui écoute ce que vous dites à votre interlocuteur intelligent dans l’intimité de votre maison”, a déclaré Florian Schaub, professeur à UMich, qui a étudié les questions de confidentialité liées aux enceintes intelligentes. “Je pense que nous avons été conditionnés par l’hypothèse que ces machines ne font que de la magie. Maisle fait est qu’il y a toujours un traitement manuel.“

“La question de savoir s’il s’agit ou non d’un problème de confidentialité dépend de la prudence d’Amazon et d’autres entreprises quant au type d’informations qu’elles ont annotées manuellement et de la façon dont elles les présentent à quelqu’un“, a ajouté M. Schaub.

Source: Zero Hedge,