Utiliser des assistants vocaux peut s’avérer très utile. Néanmoins, consulter des assistant comme Google, Siri (Apple) ou encore Alexa (Amazon) n’est pas sans risques. Au contraire, ces GAFAM (voir article GAFAM) ont connu de nombreux scandales sur l’utilisation frauduleuse des données personnelles des utilisateurs.
Google démasqué, ils écoutent les enregistrements issus de l’assistant vocal
C’est à l’été 2019 que cette affaire a éclaté. En effet, l’entreprise Google, qui fait partie des GAFAM (les entreprises les plus puissantes du monde), aurait confirmé que ses employés ont accès aux enregistrements vocaux de leur assistant. Pour se défendre, Google précise que ces enregistrements sont nécessaires pour améliorer non seulement le parcours utilisateur, mais aussi pour toute la compréhension que ce soit des différentes langues ou bien des accents...
L’assistant vocal Google aurait écouté plus d’un millier d’enregistrements rien qu’en France et en Belgique.
Pour Google Home, les conversations qui suivent le fameux mot “OK Google” pourraient être écoutées et enregistrées.
Néanmoins, Google, contrairement à d’autres a très rapidement réagi et à définis la possibilité de désactiver cette fonction OK Google. Si cette fonctionnalité sera moins pratique, cela empêchera chacun d’être sur écoute. En effet, dans le cas inverse l’assistant garde le micro ouvert en continu.
Nos conversations sont écoutées par des employés d’Amazon
Alexa, l’assistant vocal d’Amazon a été victime d’un scandale en début 2019. Il semblerait que des milliers de salariés d’Amazon écoutent des extraits de conversations réelles des utilisateurs de l’enceinte.
Si de nombreuses personnes hésitent encore aujourd’hui à introduire des enceintes connectées dans leur maison, c’est pour des raisons de vie privée. Et ce ne sont pas ces assistants proposés par les GAFAM qui vont les rassurer, bien au contraire. Une étude de “Bloomberg” a révélé qu’Amazon emploie des milliers de salariés à travers le monde afin d’écouter les conversations des utilisateurs avec Alexa, cet assistant vocal utilisé à travers les enceintes Echo. Ces employés travaillent toute la journée dans les bureaux de Boston, du Costa Rica, d’Inde, de France ou encore en Roumanie. Ils analysent jusqu’à 1000 clips audio par jour pour transcrire et annoter leur contenu. Le but selon Amazon est d’améliorer l’outil de reconnaissance vocale en éliminant les problèmes de compréhension de la parole humaine par l’assistant vocal et en l’aidant à mieux répondre aux demandes des utilisateurs. Par exemple, on apprend par un employé de la firme qu’Alexa comprend mieux le terme “Travis Scott” grâce aux différents enregistrements prélevé sur les conversations réelles des utilisateurs.
Parmi le type de clips audios auxquels les salariés accèdent, il y a des requêtes (questions des utilisateurs) mais aussi des sons enregistrés. Nous sommes donc constamment sur écoute. Les sons émis par nos bouches peuvent être écoutés en interne par de nombreuses personnes. Certains extraits sont parfois très problématiques. C’est le cas de deux personnes qui travaillaient pour Amazon. Ils auraient entendu une agression sexuelle au sein d’un foyer. Ces deux employés ont automatiquement averti leurs supérieurs, mais ceux-ci n’ont pas voulu réagir...
Pour se défendre, Amazon précise qu’un très faible échantillon d’enregistrements est utilisé pour améliorer l’expérience de l’utilisateur
Tout comme les autres GAFAM, Amazon n’est pas la seule entreprise à faire écouter une partie de ces conversations à des humains pour améliorer son outil de reconnaissance vocale. C’est aussi le cas d’Apple avec son assistant vocal Siri.
Siri, l’assistant d’Apple nous met aussi sur écoute ?
Pour l’assistant vocal d’Apple, Siri, les différents enregistrements passés sont stockés durant six mois. Apple précise bien qu’aucun de ces enregistrements ne contient d’informations personnelles du client. Ces informations sont identifiées à des codes aléatoires. Après cette période de six mois, les données ne sont plus affiliées à un code, mais restent bel et bien stockés dans les data center d’Apple en Californie.
Le scandale Apple : la firme licencie plus de 300 personnes
En 2019, plus de 300 salariés d’Apple étaient chargés d’écouter des conversations des utilisateurs par le biais de leur assistant vocal Siri. Ils se sont fait licenciés par la suite. Ces employés (Irlandais) n’auraient pas suffisamment écouté d’enregistrements, selon Apple. Avant ce scandale, on apprenais quelques mois auparavant l’existence de ce système d’écoutes mis en place par la GAFAM. Ce sont encore une fois des employés qui avaient confié être régulièrement amenés à entendre des échanges privés, voire intimes. Ces révélations avaient même poussé la firme à suspendre le programme dans un premier temps, avant d’y mettre définitivement fin.
Ces types de scandales arrivent aux quatre coins du globe. Ça a notamment été le cas d’une trentaine de Français qui se situaient à Prague en République Tchèque.
Cela arrive également à des dizaines de Français
C’est à l’été 2019 qu’Apple est passé sous le feu des projecteurs pour avoir embauché des personnes en charge d'écoute de conversations de ses clients via Siri. Cela aurait pour but d'améliorer la compréhension de son assistant vocal. Face à la polémique provoquée par ces fameuses révélations, la firme s'est excusée et a cessé temporairement ses écoutes. Cela a provoqué un licenciement de plusieurs centaines de personnes en Irlande (comme expliqué plus haut) ou bien en République tchèque.
Payés environ neuf euros de l'heure, ces salariés avaient l'interdiction de prononcer le mot "Apple" et avaient pour nom de code "Cosmos". Leur job était d’écouter des enregistrements audio et de vérifier que la retranscription de Siri correspondait. Sauf que ces employés ont eu accès à des conversations parfois très personnelles. "Ce qui m'a surpris, c'est le nombre de déclenchements accidentels de Siri, beaucoup plus élevé que ne l'avait annoncé Apple. Cela arrivait avec l'iPhone, et plus encore avec l’enceinte connectée HomePod", assure un de leurs employés français.
Ainsi, les salariés avaient accès à des conversations d’ordre privé ou bien sur des dialogues chez le médecin ou dans des cabinets d'avocats, via les montres connectées d'Apple. Une intrusion dans la vie intime des clients d’Apple qui amenait parfois à des dérives.
En clair, les GAFAM utilisant des assistants vocaux nous mettent constamment sur écoute. Ils ont besoin d’exploiter nos données vocales pour améliorer leur prestation. Néanmoins, la vie privée des utilisateurs n’est pas respectée. Il faut donc faire attention avant d’utiliser ces outils.