Étiquette : technopolice

« La Corée fait ce qu’on appelle du “tracking”. La Corée a équipé tous les téléphones pour prévenir tout l’entourage lorsqu’une personne était malade. Est-ce que vous êtes prête, madame Obono, à avoir ce débat dans le cadre de cette Assemblée nationale ? Moi je ne suis pas convaincu et je vous le dis, à titre personne, non plus. » Ainsi parlait Olivier Véran dans l’hémicycle le 24 mars. Depuis, le gouvernement s’atèle à présenter une application de traçage de la population, en dépit des alertes. Il est encore temps d’y renoncer.

Dès La Gazette des confiné·es #7, nous mettions en garde contre le risque de voir la pandémie servir de prétexte à l’imposition de nouvelles technologies de surveillance. Entre-temps, le pouvoir s’est focalisé sur une des nombreuses options disponibles : le traçage automatisé des contacts, via une application dénommée StopCovid.

À lui seul, le nom laisse présager d’une opération marketing : le logiciel est déjà présenté comme un moyen d’arrêter le Covid-19, alors qu’on ne sait toujours pas selon quelles modalités il fonctionnera.

Nous allons vous expliquer pourquoi il n’est pas nécessaire d’attendre sa version définitive pour rejeter l’application. Pour le plaisir des yeux, nous avons choisi de faire une chronique entièrement à charge. La communication du gouvernement et des multinationales du numérique remplissent suffisamment nos écrans.

Nous en profiterons aussi pour réfléchir plus largement aux risques posés par le solutionnisme technologique, qui se répand partout en période de crise sanitaire.

Il existe de nombreuses variantes du traçage automatisé des contacts. Le principe général est toujours le même : l’application permet de garder une trace des contacts prolongés entre ses utilisateur·ices. Lorsqu’une personne est testée positive, on peut donc tester les personnes avec qui elle a été en contact.

Le traçage de contacts existe déjà, mais il repose sur des entretiens durant lesquels une personne infectée se remémore l’ensemble des relations prolongées qu’elle a connues dans les dernières semaines.

Quelles sont donc les différences apportées par sa version automatisée ?

Le traçage automatisé n’est pas un simple prolongement du traçage de contacts traditionnel.

Comme à chaque fois qu’il s’agit de nous vendre une nouvelle technologie numérique, les autorités commencent par insister sur la continuité avec ce qui existe déjà, en mettant en avant l’efficacité accrue de la version informatique. Pourtant, la traçage automatisé est bien différent de sa version manuelle, réalisée par des équipes d’enquête.

Dans un entretien avec un·e épidémiologiste, on peut en effet choisir d’omettre de mentionner un événement ou un contact. On n’est pas obligé de dire exactement quand ni où on a rencontré une personne, puisque l’important est seulement de savoir qui est à risque. Cette possibilité disparaît avec le traçage automatisé.

Par ailleurs, un entretien individuel permet d’évaluer le risque lié à un contact en particulier, selon sa durée, son contexte et les précautions prises. L’application n’offre aucun équivalent. Contrairement à ce qui est avancé, le traçage automatisé n’est pas un simple prolongement du traçage de contacts traditionnel.

Pour justifier l’utilisation du traçage automatisé, ses défenseur·euses font généralement appel à son efficacité. D’une part l’application permettrait de tester plus vite les personnes contacts. D’autre part, elle serait plus exhaustive : les ordinateurs n’oublient pas. Avec StopCovid, enrayer l’épidémie semble donc simple comme bonjour : dès qu’une personne est infectée, on pourrait repérer les personnes qu’elle a pu contaminer avant que celles-ci aient le temps de transmettre le virus et donc casser la chaîne de propagation.

Ce scénario est tentant, au point que beaucoup sont prêt·es à oublier les risques importants qu’il fait peser sur la vie privée. Mais est-il réaliste ?

Pour établir les contacts entre utilisateur·ices, l’application utilise les émetteurs-récepteurs Bluetooth des téléphones portables. Une fois qu’ils sont activés, le téléphone émet en permanence un signal permettant de l’identifier. Les téléphones qui passent à proximité immédiate enregistrent ce signal, ce qui leur permet de garder la mémoire des contacts.

Pour qu’un contact entre deux personnes soit enregistré, il faut donc qu’elles aient sur elles leur téléphone, avec l’application activée. La proportion des contacts qui sont enregistrés est donc égale, au mieux, au carré de la proportion des utilisateur·ices de l’application. Par exemple, si cette dernière est utilisée par une personne sur cinq, seul un contact sur 25 est enregistré. Pour que le traçage automatisé fonctionne, il faut donc qu’il soit utilisé massivement.

À Singapour, l’application de traçage automatisé du gouvernement est utilisée par seulement 18 % de la population, ce qui ne permet de relever que 4 % des contacts.

En France, il sera déjà difficile d’atteindre une telle proportion. Pour commencer, 77 % de la population dispose d’un smartphone. Parmi ces personnes, beaucoup n’installeront pas l’application, par conviction ou simplement par manque de motivation. Ceci a mené les défenseur·euses de StopCovid à envisager de forcer la main des gen·tes.

Christophe Barbier a par exemple proposé de rendre les utilisateur·ices de l’application prioritaires pour être testé·es, ce qui est profondément stupide en plus d’être dégueulasse : vu les faibles capacités de tests mises en place par le gouvernement, il vaut mieux les réserver aux personnes très susceptibles d’être contaminées plutôt que de les distribuer comme des chèques-cadeaux en échange du renoncement à une portion de vie privée.

Le conseil scientifique, de son côté, envisage très clairement de rendre le consentement obligatoire si trop peu de personnes se prêtent au jeu. C’est ce que nous décortiquions dans La Gazette des confiné·es #11.

Comme le remarque le Chaos computer club, l’application ne peut fonctionner que si elle repose sur un consentement éclairé. Toute forme de coercition, y compris par un avantage fourni aux personnes qui l’utilisent, la rendrait inefficace, puisqu’il suffirait de la désactiver une fois l’avantage obtenu, de laisser son téléphone à la maison, ou de l’envelopper dans du papier alu.

Rendre l’application obligatoire conduirait donc à des sacrifices majeurs sur la vie privée, en échange d’un artifice inutile pour lutter contre l’épidémie.

Quand bien même tout le monde utiliserait l’application, il n’existe pour le moment aucune preuve de son utilité. Il faudrait qu’elle soit déployée à grande échelle dans plusieurs pays pendant assez longtemps pour essayer de la déterminer.

En attendant, on peut remarquer que l’appli risque d’être contre-productive si elle ne dispose pas d’un calibrage assez fin. En effet, il faudrait déterminer ce qui est considéré comme un contact prolongé : quelle durée, et à quelle distance il faut se trouver. Si on est trop lâche sur cette définition, on risque de se retrouver avec beaucoup trop de contacts : personnes croisées dans la rue, occupant·es de la voiture d’à-côté – on parle alors de faux positifs.

Dans cette situation, on ne disposerait pas d’assez de tests. Si on a au contraire des critères très restrictifs, l’application n’apporte plus grand chose, puisqu’on est général capable de se souvenir qu’on a passé une demi-heure à moins d’un mètre de quelqu’un.

Rouler une pelle pendant trente secondes ne donnera pas nécessairement lieu à un enregistrement, contrairement à passer quinze minutes dans deux voitures côte à côte pendant un bouchon.

Même correctement paramétrée, l’application n’est pas capable de prendre en compte la façon dont les contacts se déroulent. Dans le traçage de contacts conventionnels, la personne infectée détermine en concertation avec l’enquêteur·ice si les contacts présentaient un risque. L’utilisation des gestes barrières et la nature de l’interaction sont prises en compte.

L’application de traçage, au contraire ne fait aucune différence entre des interactions de durées égales et ne prend pas en compte les écrans éventuels. Rouler une pelle pendant trente secondes ne donnera pas nécessairement lieu à un enregistrement, contrairement à passer quinze minutes dans deux voitures côte à côte pendant un bouchon, ou se trouver des deux côtés d’une cloison perméable aux ondes radio du bluetooth. Le nombre de faux positifs risque d’être élevé.

L’application risque aussi de donner lieu à beaucoup de faux négatifs : c’est-à-dire des personnes qui ne reçoivent pas de notification alors qu’elles ont été infectées.

Bien sûr, il est complètement déraisonnable de faire confiance à une application pour déterminer son état de santé. Mais il y a un risque que l’illusion d’omniscience créée par la technologie et les discours triomphants de ses partisan·nes ne poussent une partie de la population à s’en remettre aveuglément aux notifications de StopCovid. Les faux négatifs deviendraient alors très problématiques.

Pour tout vous dire, nous espérions franchement nous tromper et tomber sur des arguments montrant que l’application serait en mesure d’éradiquer l’épidémie, malgré les difficultés évoquées précédemment. En effet, des expert·es chantent les louanges du traçage automatisé un peu partout. Nous sommes alors revenus sur l’avis du conseil scientifique publié le 20 avril.

Nous avons déjà présenté dans notre onzième Gazette des confiné·es l’argumentation technophile et technocrate de ce rapport en faveur du numérique. Nous avons regardé toutes les sources de ce rapport à la recherche d’études sur les applications de traçage. Seules deux d’entre elles en parlent.

La première est un rapport de Terra nova que nous avons déjà largement démonté dans précédent article.

La deuxième est un article scientifique publié dans la revue Science. Cet article est apparemment le premier à avoir proposé de développer une application de traçage. C’est vers lui que renvoient le conseil scientifique et Terra nova et c’est donc lui qui sert à justifier le traçage. Intéressons-nous donc de plus près à ce qu’il établit.

Le principal apport de l’article est de fournir un modèle de propagation de l’épidémie et d’en tirer des estimations de plusieurs paramètres essentiels pour la comprendre.

Ces paramètres concernent la probabilité qu’une personne malade en infecte d’autres, en fonction du temps. Ils permettent de calculer le nombre moyen de personnes infectées par une personne malade, appelé taux de reproduction et noté R dans l’article.

L’apport de ce travail est de décomposer ce coefficient en plusieurs composantes associées à des modes de transmission différents : symptomatique, pré-symptomatique, asymptomatique et environnemental.

La transmission est symptomatique si la personne qui contamine l’autre présente des symptômes apparents du Covid-19.

Elle est pré-symptomatique si cette personne ne présente pas de symptômes au moment de la transmission mais en développera par la suite.

Elle est asymptomatique si la personne n’a pas de symptôme et n’en développera pas.

Enfin, elle est environnementale si on ne peut pas l’attribuer à une personne en particulier.

D’après le modèle développé par les chercheur·euses, le taux de reproduction vaut 2, dont 0,9 pour les transmissions pré-symptomatiques, 0,8 pour les transmissions symptomatiques, 0,2 pour les transmissions environnementales et 0,1 pour les transmissions asymptomatiques.

D’après l’étude de Science, il faut agir dans les deux jours après l’apparition des symptômes pour avoir une chance d’endiguer l’épidémie grâce au traçage de contacts.

L’incertitude sur ces valeur est élevée, mais la conclusion est que les transmissions pré-symptomatiques et symptomatiques jouent un rôle prépondérant. C’est donc sur elles qu’il faut agir en priorité pour endiguer la propagation de la maladie. Pour que l’épidémie régresse, il faut que le taux de reproduction soit inférieur à 1, ce qui signifie qu’une personne porteuse du virus contamine en moyenne moins d’une personne.

Grâce au modèle de transmission fourni par l’étude, on peut estimer l’impact des mesures de traçage de contacts en fonction du temps qu’on met à isoler les contacts et de l’efficacité de cet isolement.

Les conclusions sont qu’il faut agir vite, dans les deux jours après l’apparition des symptômes, pour avoir une chance d’endiguer l’épidémie grâce au traçage de contacts. Il faut par ailleurs être efficace pour retrouver et isoler les contacts : il faut au moins y parvenir dans 30 % des cas, dans l’hypothèse très favorable où on isole instantanément les contacts dès qu’une personne présente des symptômes.

Ces résultats sont assez désespérants. Ils indiquent que le traçage de contacts doit être redoutablement efficace pour endiguer seul l’épidémie. Il faut cependant les nuancer. D’une part, ils reposent sur un modèle qui peut être affiné, ce qui pourrait changer les valeurs des paramètres. D’autre part, le taux de reproduction dépend de nombreux facteurs, qui varient d’une situation à l’autre. On peut le réduire par l’application de gestes barrières, l’utilisation de matériel de protection ou des mesures comme le confinement.

Le taux de reproduction à la sortie du confinement ne sera pas le même qu’au début de l’épidémie, puisqu’on aura entre-temps changé nos habitudes. Si les mesures préventives permettent de le réduire suffisamment, les contraintes d’efficacité sur le traçage de contacts seront donc moins sévères que celles qu’on vient de présenter.

Jusqu’ici, on n’avait rien à redire quant à la démarche de l’article, qui donne une idée de l’ampleur de la tâche à accomplir pour arrêter le virus. La suite pose en revanche franchement question. La deuxième moitié de l’article ne comporte plus ni modèle, ni équation, ni donnée, mais une proposition d’utiliser une application de traçage de contacts, pour rendre ce dernier instantané.

Ce genre de proposition a sa place dans un article scientifique, mais on s’attendrait à ce qu’elle repose sur une justification du fait que le traçage permettrait effectivement d’atteindre les objectifs fixés.

Malheureusement pour nous, les auteur·ices se contentent d’enchaîner les affirmations injustifiées. Par exemple le fait que l’application permettra d’isoler instantanément les contacts. On doit sans doute se contenter de l’idée que comme c’est une application, ce sera instantané. Il n’y aurait donc pas d’authentification du fait que la personne est bien malade, pas de délai pour traiter et diriger l’information, pas de problèmes de connexion ?

Il semble plus important de contrer les nombreuses raisons de ne pas déployer le traçage automatisé, que de donner des preuves de son utilité.

On n’aura pas non plus droit à un questionnement sur la proportion d’utilisateur·ices qu’on pourrait espérer atteindre dans la population. Pas plus qu’on ne verra la moindre réflexion sur la proportion de contacts qu’on arrivera à détecter : les chercheur·euses préfèrent imaginer les fonctionnalités qu’on pourrait ajouter à l’application, comme un accès à des informations médicales ou la possibilité de commander des repas pendant la quarantaine. La pensée start up a pénétré profondément dans l’université d’Oxford.

Finalement, on a même droit à une demi-page de considérations éthiques, qui insistent lourdement sur le fait que la pandémie est grave. Comme chez le conseil scientifique ou Terra nova, il semble plus important de contrer les nombreuses raisons de ne pas déployer le traçage automatisé, que de donner des preuves de son utilité.

L’argumentation en faveur de la solution technologique proposée repose sur un seul ressort, sous forme de pétition de principe : il faut que le traçage automatisé soit extrêmement performant pour endiguer l’épidémie, il est donc forcément efficace. Ça n’a aucun sens, mais c’est précisément ce qui fait que ça fonctionne. Comme la situation est désespérée, il faut des solutions désespérées. On est plus dans l’acte de foi que dans la recherche scientifique.

On pourra répliquer qu’il s’agit uniquement d’une proposition de solution, qui mérite d’être étudiée, par d’autres chercheur·euses capables de fournir d’autres éclairages sur la faisabilité et l’efficacité du dispositif.

On s’attendrait en effet à ce que des chercheur·euse qui proposent une suggestion pour lutter contre l’épidémie, qui échappe visiblement à leur domaine de compétence concluent ainsi : « Nous avons proposé un outil, qui devra être plus sérieusement étudié afin d’évaluer sa pertinence et son intérêt dans la situation actuelle. »

Au contraire, l’article se conclut sur l’idée que l’application permettrait d’abaisser le taux de reproduction en dessous de 1, sans avoir fourni la moindre preuve de ce résultat, qui sera pourtant repris en chœur par toutes celles et ceux qui promeuvent aujourd’hui des solutions numériques à la pandémie.

StopCovid présente donc plusieurs limitations de principe, sans même qu’on sache quel fonctionnement concret sera retenu. Ces limitations réduisent l’efficacité attendue, voire pourraient la rendre contre-productive si elle se substituait à d’autres mesures barrières. Pour trancher pour ou contre son utilisation, il faut peser les résultats attendus, avec l’efficacité qui vient d’être mentionnée, contre les risques encourus. Nous allons voir que ceux-ci ne sont pas négligeables.

Le traçage des contacts pose des questions majeures de sécurité et de vie privée. Les différentes applications en cours de développement mettent en avant le concept de privacy by design : elles sont conçues pour minimiser les informations émises. Peut-on avoir confiance ?

Il existe deux enjeux principaux.

D’une part la sécurité du protocole de l’application, afin d’éviter des attaques malveillantes qui permettraient de récupérer des informations médicales confidentielles, d’exercer des pressions sur des gen·tes ou encore de rendre StopCovid inutile.

D’autre part la question de la gestion des données générées par l’application.

Ces deux enjeux sont complexes et dépendent notamment des détails de la conception de l’application. Un collectif de chercheur·euses spécialistes des questions de cryptographie, sécurité informatique et droits numériques a publié un argumentaire sur ces questions (en français), dont nous vous recommandons la lecture attentive.

Leurs conclusions sont claires :

Ces scientifiques battent en brèche la plupart des éléments de langage en faveur de StopCovid. Iels formulent de multiples scénarios montrant comment l’application peut être détournée pour rompre l’anonymat et obtenir des informations médicales confidentielles sur des personnes infectées.

Ces détournements peuvent être effectués par l’État, des entreprises, ou de simples particulier·es, comme l’illustre le scénario 4.

« M. Ipokondriac voudrait savoir si ses voisins sont malades. Il récupère son vieux téléphone dans un placard, y installe l’application TraceVIRUS, et le laisse dans sa boîte aux lettres en bas de l’immeuble. Tous les voisins passent à côté à chaque fois qu’ils rentrent chez eux, et le téléphone recevra une notification si l’un d’entre eux est malade. »

Une seule personne, sans connaissance en informatique, pourrait donc utiliser l’application pour obtenir des informations médicales confidentielles sur ses voisin·es ou ses collègues.

Ce genre de scénario montre les risques que fait peser le traçage automatisé, qui plus est dans une période particulièrement anxiogène.

Quand on voit que les soignant·es sont traité·es comme des pestiféré·es par certaines personnes, tandis que d’autres laissent des messages homophobes dans les boîtes aux lettres de leurs voisin·es, les accusant de propager l’épidémie, on imagine le genre de dérive qui va nécessairement arriver avec de tels outils.

En plus des risques directs de détournements, StopCovid est susceptible de mener à des dérives plus générales liées à l’utilisation de la technologie et des données pour lutter contre le virus.

Comme le remarque la Quadrature du net, une fois l’application installée par la majorité de la population, il sera aisé d’y ajouter des fonctions coercitives et sécuritaires.

Les nombreux scandales concernant l’utilisation des données personnelles, dont l’affaire Cambridge analytica, sont là pour nous rappeler à quel point les garde-fous sont vite contournés une fois que la base de données existe.

L’espoir placé dans une résolution rapide de l’épidémie grâce à la technologie va peser sur le dispositif, le poussant à être toujours plus intrusif. L’Académie de médecine, par exemple remarque dans son communiqué sur StopCovid que « les données anonymes de géolocalisation recueillies au cours de ce protocole pourraient être utilisées pour suivre l’évolution de l’épidémie sur l’ensemble du territoire national », ce qui va déjà bien plus loin que l’application proposée pour le moment.

Les techno-béats n’a pas attendu cette application pour diffuser leurs prêches. Depuis le début de l’épidémie, l’attention est tournée vers des solutions miracles reposant sur les données.

Le collectif CoData, par exemple, regroupe « plus de 800 ingénieurs, développeurs et data-scientists aguerris sur les nouvelles technologies de valorisation de données ». Et, surtout, une quarantaine de start-up spécialisées dans la data à savoir l’art de présenter les données des entreprises comme une matière première valorisable par des consultant·s payé·es à prix d’or.

Action désintéressée ou stratégie de com’, pour des entreprises à la durée de vie très faible qui vivent en grande partie sur les espoirs placés dans la technologie ? À moins qu’il ne s’agisse vraiment de fanatisme, comme le laisse transparaître leur communication :

« Dans [le contexte de la crise sanitaire], la data constitue une matière première qu’il nous faut exploiter. Elle est le reflet de toute [sic] ce qui se passe et devra éclairer nos actions futures. »

La communauté de l’intelligence artificielle a aussi sauté sur l’occasion, avec des initiatives variées, allant d’outils de diagnostic de la maladie à des études de millions de tweets, pour tirer la conclusion que les habitant·es des villes parlent plus des contraintes liées au confinement que celleux des campagnes…

À Cannes, la mairie LR a fait appel à une start-up pour déployer des caméras capables de mesurer la proportion de personnes portant un masque.

L’intelligence artificielle repose sur la production et l’exploitation de gigantesques quantités de données. La production de ces données est encouragée par les géants du numérique, à travers notamment l’obligation de créer des comptes pour accéder à des services et l’incitation à produire ou noter du contenu sur internet (voir l’article intitulé Combattre le capitalisme identitaire de cette brochure).

Nul doute que ces entreprises, qui poussent les consommateur·ices à produire toujours plus de données, lorgnent avec avidité sur les applications de traçage. Contrairement au mythe fondateur de l’intelligence artificielle, l’exploitation de ces données reste largement effectuée par des êtres humains, généralement des populations précarisées payées à la tâche dans les pays du Nord et des travailleur·euses du clic dans les pays du Sud.

La fuite en avant technologique est un leurre, qui cache des mécanismes de surveillance et de domination incarnés dans les outils numériques eux-même.

L’illusion de la toute-puissance de la technique empêche de voir que des gestes simples permettraient de lutter contre l’épidémie.

Contrairement à l’idéologie défendue par les défenseur·euses du progrès à tout prix, les technologies ne sont pas neutres. Les algorithmes d’intelligence artificielle mentionnés précédemment ne fonctionneraient pas sans l’exploitation de travailleur·euses. Les applications de traçage ne peuvent pas être pensées indépendamment du risque de détournement par les États qui les mettent en place.

Mais ces chimères ont d’autres effets pervers, à travers le rôle symbolique qu’elles jouent dans nos sociétés.

Comme le remarque Félix Tréguer de la Quadrature du net, le solutionnisme technologique, en plus des risques qu’il fait peser sur les libertés, restreint nos imaginaires. Plutôt que d’inventer des solutions humaines à l’épidémie, par des gestes barrières décidés collectivement et une distanciation sociale réfléchie et autogérée, on préfère se tourner vers une gestion en apparence individualisée, mais qui repose sur des fondements autoritaires.

L’illusion de la toute-puissance de la technique empêche de voir que des gestes simples permettraient de lutter contre l’épidémie. Dans le cas de la ville de Cannes, demander des retours aux agent·es municipaux qui encadrent le marché ne serait-il pas plus simple que de déployer de la vidéosurveillance et des équipes d’ingénieur·es ?

Plus grave encore, le gouvernement français a par exemple tergiversé pendant plus d’un mois sur les masques, dont l’utilité n’était soit-disant pas prouvée scientifiquement. Il s’apprête pourtant à foncer vers des applications liberticides, qui n’ont jamais été testées, en évacuant complètement la question de leur efficacité. Si c’est numérique, ça marche forcément…

Illustration de une : TXMX 2 CC BY-NC-ND 2.0