“Siri n’est pas une intelligence artificielle” : le documentaire-choc sur la vie privée

Invisibles : les travailleurs du clic est une websérie dont les quatre épisodes sont diffusés chaque semaine sur YouTube, et d’ores et déjà tous disponibles sur le site officiel de France TV Slash. Pour rappel, cette chaîne du groupe est entièrement en ligne et ne publie ses contenus que sur les réseaux sociaux comme Instagram, Snapchat, Facebook Watch…

Mis à part ce producteur, derrière la caméra, on retrouve surtout les créateurs de #DataGueule. Là aussi sur la plateforme de Google, des vidéastes décortiquent les statistiques mondiales pour analyser les enjeux socio-économiques et écologiques de notre planète. On y retrouve, pêle-mêle et dans un motion design saisissant, des thématiques-clés comme la surpopulation, la philanthropie, la privatisation, les taxes, le capitalisme ou encore la démocratie, le climat et les migrations. Un travail récompensé aux Data Journalism Awards.

Apple pointée du doigt

Dans le dernier épisode donc, on découvre l’interview troublante de Thomas, ex-language analyst chez GlobeTech Services, une société prestataire d’Apple basée à… Cork, la ville européenne qui doit tout au fabricant de l’iPhone. L’échange se concentre sur ses derniers mois au sein de l’entreprise, pendant lesquels il était officiellement -selon son contrat- chargé d'”améliorer la précision de Siri” en travaillant sur des “millions” d’enregistrements captés par des Watch et des iPad.

Le principe était qu’on écoutait des gens qui dictaient un message ou qui parlaient à Siri.

En effet, selon lui et de multiples captures d’écran qu’il a téléchargées à l’insu de ses supérieurs, iOS sauvegarde sous forme de fichiers audio un grand nombre de nos interactions avec Siri. Dans quatorze pays, l’ampleur de cette opération atteindrait un “volume” qu’il juge “phénoménal“. Jusque là, rien d’étonnant : on sait déjà depuis longtemps que pour entraîner les algorithmes, un petit coup de pouce humain est nécessaire, n’en déplaise à certains conducteurs de Tesla.

Mais le discours de l’interrogé prend une toute autre tournure lorsque celui-ci affirme qu’il ne “se doutai[t] pas qu’on en arrivait au point d’écouter les gens en permanence“. Il ajoute que “les micros des appareils Apple sont ouverts [tout le temps] et [que] les enregistrements se déclenchent de manière aléatoire“.

Mais en réalité, il y avait des tas et des tas d’enregistrements où en fait l’assistant vocal se déclenchait tout seul.

Selon Thomas, “tout le travail de machine learning est fait par des humains“. Si cette déclaration semble exagérée, on constate toutefois que l’AI est effectivement encore bien loin de pouvoir fonctionner toute seule. Et c’est également le cas chez la concurrence d’Alphabet avec le Google Assistant, de Microsoft avec Cortana ou d’Amazon Alexa.

© Apple

“Ce sont des gens qui nourrissent [Siri] en continu, et ça c’était mon travail”

Comme l’ancien employé dit être “pénalement responsable devant la loi irlandaise” s’il parle “à qui que ce soit” de cette activité, il risque de sérieux ennuis judiciaires. En ayant signé un NDA*, il donne en effet le droit à Apple de le poursuivre s’il dévoile ce qu’il a découvert. Alors que doit-on en conclure ? Tout d’abord, une telle pression a toutes les chances d’assurer que le témoignage est véridique.

Et puis on peut rapidement penser que, même avec l’iPhone posé sur le canapé, un sous-traitant d’Apple pourrait vous entendre discuter de la recette à préparer en faisant la cuisine avec votre moitié. Idem dans les situations les plus intimes, par exemple lors d’une dispute, d’une discussion avec des investisseurs ou tout simplement dans la chambre à coucher. Sans que vous ayez interpellé Siri de votre propre chef.

Néanmoins, on ne sait pas à quelle date exacte a été tourné le documentaire. Il est donc tout à fait possible que les accusations du lanceur d’alerte remontent à l’an dernier, lorsqu’un précédent scandale similaire éclatait, mais auquel les équipes de Tim Cook assurent avoir depuis remédié. Notamment en internalisant ces écoutes. Par ailleurs, sur les iPhone, une option permet de se désinscrire du programme d’analyse visé par cette vidéo.

Enfin, rappelons que, selon Apple, d’une part, moins de 1 % des requêtes Siri sont traitées par des employés. D’autre part, toutes les données utilisateurs seraient anonymisées. Cette notion de “randomisation” est capitale, car c’est ce qui empêcherait Apple de savoir que vous avez prononcé telle phrase à telle heure et tel endroit. Des concurrents comme Amazon ne suivraient pas cette même stratégie et seraient capables de lier toute requête à l’utilisateur, avec nom et prénom, entre autres. Mais comme vu là, il est aussi possible de désactiver sa participation à l’amélioration d’Alexa.

Malgré une référence désormais presque trop classique à 1984, avec la bien connue métaphore des pommes pour représenter la marque créée par Steve Jobs, il faut avouer que le court-métrage reste très bien réalisé. Il met aussi en valeur d’autres problématiques comme celles de la FoodTech ou d’autres GAFAM et mérite donc le coup d’oeil, pour s’informer.

• Télécharger l’application France TV pour regarder cette série en replay sur l’App Store

*non-disclosure agreement : accord de confidentialité proche du secret industriel

i-nfo.fr - App officielle iPhon.fr

Par : Keleops AG

4.4 / 5

570 avis

App Store