“Siri n’est pas une intelligence artificielle” : le documentaire-choc sur la vie privée
Un lanceur d’alerte a choisi de témoigner à visage découvert en accablant Apple de pratiques qu’il qualifie avec le mot “espionnage”. Si vous connaissez bien les habitudes des géants du web, vous ne serez pas surpris.
Invisibles : les travailleurs du clic est une websérie dont les quatre épisodes sont diffusés chaque semaine sur YouTube, et d’ores et déjà tous disponibles sur le site officiel de France TV Slash. Pour rappel, cette chaîne du groupe est entièrement en ligne et ne publie ses contenus que sur les réseaux sociaux comme Instagram, Snapchat, Facebook Watch…
Mis à part ce producteur, derrière la caméra, on retrouve surtout les créateurs de #DataGueule. Là aussi sur la plateforme de Google, des vidéastes décortiquent les statistiques mondiales pour analyser les enjeux socio-économiques et écologiques de notre planète. On y retrouve, pêle-mêle et dans un motion design saisissant, des thématiques-clés comme la surpopulation, la philanthropie, la privatisation, les taxes, le capitalisme ou encore la démocratie, le climat et les migrations. Un travail récompensé aux Data Journalism Awards.
Apple pointée du doigt
Dans le dernier épisode donc, on découvre l’interview troublante de Thomas, ex-language analyst chez GlobeTech Services, une société prestataire d’Apple basée à… Cork, la ville européenne qui doit tout au fabricant de l’iPhone. L’échange se concentre sur ses derniers mois au sein de l’entreprise, pendant lesquels il était officiellement -selon son contrat- chargé d'”améliorer la précision de Siri” en travaillant sur des “millions” d’enregistrements captés par des Watch et des iPad.
Le principe était qu’on écoutait des gens qui dictaient un message ou qui parlaient à Siri.
En effet, selon lui et de multiples captures d’écran qu’il a téléchargées à l’insu de ses supérieurs, iOS sauvegarde sous forme de fichiers audio un grand nombre de nos interactions avec Siri. Dans quatorze pays, l’ampleur de cette opération atteindrait un “volume” qu’il juge “phénoménal“. Jusque là, rien d’étonnant : on sait déjà depuis longtemps que pour entraîner les algorithmes, un petit coup de pouce humain est nécessaire, n’en déplaise à certains conducteurs de Tesla.
Mais le discours de l’interrogé prend une toute autre tournure lorsque celui-ci affirme qu’il ne “se doutai[t] pas qu’on en arrivait au point d’écouter les gens en permanence“. Il ajoute que “les micros des appareils Apple sont ouverts [tout le temps] et [que] les enregistrements se déclenchent de manière aléatoire“.
Mais en réalité, il y avait des tas et des tas d’enregistrements où en fait l’assistant vocal se déclenchait tout seul.
Selon Thomas, “tout le travail de machine learning est fait par des humains“. Si cette déclaration semble exagérée, on constate toutefois que l’AI est effectivement encore bien loin de pouvoir fonctionner toute seule. Et c’est également le cas chez la concurrence d’Alphabet avec le Google Assistant, de Microsoft avec Cortana ou d’Amazon Alexa.
© Apple
“Ce sont des gens qui nourrissent [Siri] en continu, et ça c’était mon travail”
Comme l’ancien employé dit être “pénalement responsable devant la loi irlandaise” s’il parle “à qui que ce soit” de cette activité, il risque de sérieux ennuis judiciaires. En ayant signé un NDA*, il donne en effet le droit à Apple de le poursuivre s’il dévoile ce qu’il a découvert. Alors que doit-on en conclure ? Tout d’abord, une telle pression a toutes les chances d’assurer que le témoignage est véridique.
Et puis on peut rapidement penser que, même avec l’iPhone posé sur le canapé, un sous-traitant d’Apple pourrait vous entendre discuter de la recette à préparer en faisant la cuisine avec votre moitié. Idem dans les situations les plus intimes, par exemple lors d’une dispute, d’une discussion avec des investisseurs ou tout simplement dans la chambre à coucher. Sans que vous ayez interpellé Siri de votre propre chef.
Néanmoins, on ne sait pas à quelle date exacte a été tourné le documentaire. Il est donc tout à fait possible que les accusations du lanceur d’alerte remontent à l’an dernier, lorsqu’un précédent scandale similaire éclatait, mais auquel les équipes de Tim Cook assurent avoir depuis remédié. Notamment en internalisant ces écoutes. Par ailleurs, sur les iPhone, une option permet de se désinscrire du programme d’analyse visé par cette vidéo.
Enfin, rappelons que, selon Apple, d’une part, moins de 1 % des requêtes Siri sont traitées par des employés. D’autre part, toutes les données utilisateurs seraient anonymisées. Cette notion de “randomisation” est capitale, car c’est ce qui empêcherait Apple de savoir que vous avez prononcé telle phrase à telle heure et tel endroit. Des concurrents comme Amazon ne suivraient pas cette même stratégie et seraient capables de lier toute requête à l’utilisateur, avec nom et prénom, entre autres. Mais comme vu là, il est aussi possible de désactiver sa participation à l’amélioration d’Alexa.
Malgré une référence désormais presque trop classique à 1984, avec la bien connue métaphore des pommes pour représenter la marque créée par Steve Jobs, il faut avouer que le court-métrage reste très bien réalisé. Il met aussi en valeur d’autres problématiques comme celles de la FoodTech ou d’autres GAFAM et mérite donc le coup d’oeil, pour s’informer.
*non-disclosure agreement : accord de confidentialité proche du secret industriel
Lecteur-1525294428 (posté avec l'app i-nfo.fr V2)
7 mars 2020 à 18 h 01 min
Apple liberté sécurité confidentialité democratie et tuti quanti
Darth Philou (posté avec l'app i-nfo.fr V2)
7 mars 2020 à 20 h 43 min
Mouai. On parle de Google et d’Amazon ?
Ensuite, je ne vois pas le lien avec la citation « Siri n’est pas une IA ». Alors, parce que l’apprentissage est supervisé, ce n’est pas de l’intelligence artificielle ? L’IA est un domaine tres vaste qui signifie seulement qu’une machine simule un trait d’intelligence. C’est bien le cas ici non ?
pourech
8 mars 2020 à 23 h 06 min
non l IA n a rien a voir avec la notion d intelligence justement. Le I est une transposition du terme anglais qui veut dire “données” comme la CIA par exemple.
Une IA est un code informatique capable d agreger, lier et synthétiser de nouveaux liens a partir d autres informations… Donc si l apprentissage n est pas issu du code, celui ci , par definition , perd sa partie IA (gestion automatique des donnees si on veut traduire exactement le terme)
IA
9 mars 2020 à 11 h 35 min
Ton intelligence n’est pas la tienne mais celle de tes parents, tes instits, tes profs… mouais…
User1477160751984 (posté avec l'app i-nfo.fr V2)
7 mars 2020 à 22 h 31 min
Depuis que je suis passé à l’iphone Xs et l’iwatch 4, Siri se déclenche régulièrement sans que je le demande. Le pire, c’est que certains bruits déclenchent Siri. Par exemple, quand je suis sur un practice de golf, et quand je swingue, 4 fois sur 5, Siri se déclenche. Ma montre vibre sans arrêt, et attend que je parle. Ça devient fou !
Al1
8 mars 2020 à 18 h 20 min
Je pense que cela est dû au fait que le mouvement du poignet appuie sur la mollette et déclenche
Sly (posté avec l'app i-nfo.fr V2)
8 mars 2020 à 0 h 14 min
Je préfère largement me faire espionner par Apple (de toutes façons à l’installation de l’iPhone j’ai explicitement accepté que Siri soit amélioré grasse à ce que je fais) que me faire espionner par Google qui veut vendre mes donnée et Amazon qui ne savent pas gardé des donnée en sécurité…
pourech
8 mars 2020 à 23 h 08 min
euh apple vend quand meme ses donnees (ou le faisait) medicales …
et le cloud s est deja fait pirate plusieurs fois, donc la securite reste relative …
et comme dans la fait, nul ne sait ce que deviennent reellement les donnees, que ce soit facebook apple ou google, je ne suis pas si sur de la hierarchie.
maintenant, quel est le niveau de danger pour un particulier , aucune idee…
dedede
8 mars 2020 à 0 h 51 min
J’ai du mal à comprendre pourquoi les gens sont scandalisés. On nous écoute pour améliorer le fonctionnement pour qu’on dispose d’un meilleur service (sinon on n’utilise pas siri). Apple ou le prestataire ne savent pas que c’est moi à telle heure à tel endroit qui a dit telle chose. C’est comme si vous sortez une phrase de son contexte, elle ne veut rien dire, DONC ON S’EN FOU. Aussi personnel que cela puisse être, personne ne sait que je suis et quand je l’ai dit. Ce n’est pas comme si mon voisin ou mes collègues écoutaient mes conversations perso, donc il faut arrêter la paranoia. Et puis je pense que les assistants sont le cadets de nos soucis, vérifier déjà vos réseaux sociaux et mails gratuits et ce qui y traine, souvent publiquement, avant de se méfier des assistants. Et si vous avez toujours peur, il ne vous reste que de les désactiver pour dormir sereinement.
P.S.
je crois qu’on dit non-DISCLOSURE agreement.
pourech
8 mars 2020 à 23 h 13 min
1) qui vous dit que c est la raison de l’ecoute ? vous avez acces aux coins secrets de ces societes ? pour moi c est naif de croire juste ce qu on dit
2) qui vous dit que c est aussi anonyme que cela ? vous avez acces …Etc etc
3) parcequ il y a un voleur, on doit accepter les autres ?
c est un probleme qui se rajoute aux reseaux sociaux et qui peut etre scandaleux…
4) on peut en faire beaucoup de chose des phrases meme sorties de leur contexte. demandez aux hommes politiques
et c est peut etre pire que si vos voisins vous ecoutent…
qui sait si vous n aurez pas des problemes pour avoir emis telle ou telle idee sur le net a cause de cela? vos voisins ne posent pas forcement ce genre de probleme
pour votre info, apple revendait a une periode les donnees medicales issues des watch a des assureurs… qui pouvaient augmenter la prime de la personne (aux us)… Pourtant tout etait anonyme … et bien pas tant que cela
juste pour dire qu il ne faut pas forcement etre scandalise, mais que je pensais que la naivete numerique avait disparue aussi
Pierre
9 mars 2020 à 7 h 50 min
Faut pas tout mélanger. Les montres aux US sont remises gratuitememnt par les assurances aux assurés, qui en ont l’utilisation-non forcée-en toutes connaissances de choses non? Faut ralentire un peu la parano. Mais c’est mon avis.
Assez d’accord avec dedede.
Bibichop7? (posté avec l'app i-nfo.fr V2)
8 mars 2020 à 3 h 43 min
Tout à fait d’accord avec @dedede
XtoF987 (posté avec l'app i-nfo.fr V2)
8 mars 2020 à 8 h 23 min
Je ne l’ai jamais activé de toute façon…
Darth Philou (posté avec l'app i-nfo.fr V2)
11 mars 2020 à 20 h 51 min
@pourech le I d’IA = intelligence que tu le veuilles ou non. Il y a 30 ans je programmais des moteurs d’inférence en lisp et Prolog III ; ils n’apprenaient pas par eux mêmes, c’est moi qui programmais et je faisais cela dans le cadre de cours… d’intelligence artificielle.