Cyber (in)sécurité et violation de nos vies privées, sur le front de la tech, les années 2020 s’ouvrent sous le lourd héritage de la décennie passée

A l’occasion de la fin de l’année 2019, Atlantico a demandé à ses contributeurs les plus fidèles de dresser un bilan de la décennie, des années 2010. Franck DeCloquement s’est penché sur la cybersécurité.

Pour clore l’année 2019 en beauté, voilà ce qu’il faudra retenir dans le monde de la Tech, afin de garder en mémoire les événements marquants d’une décennie ou l’Internet aura définitivement changé la face du monde.

Une décennie d’alarmes de cybersécurité, et de violations continues de nos vies privées

Au chapitre des faits marquants à retenir en matière d’évènements retentissants et sans précédent dans l’histoire humaine, la décennie Cyber 2010–2020 aura été très prolixe dans le registre du spectaculaire. Et ces 10 années passées nous aurons particulièrement gratifié en rebondissements de tous ordres ! On peut même avancer – sans trop se tromper – qu’elles auront également marqué un véritable saut quantique dans le sensationnel et l’inattendu en matière d’alarmes et d’incidents de cybersécurité. Car ce sont bien ces milliards de violations et d’intrusions virales délétères quasi quotidiennes qui ont réellement fait l’actualité. Incidents graves de confidentialité, altérations profondes des programmes informatiques ou expositions malencontreuses d’informations classées, parmi ces milliards d’incidents malveillants ainsi produits – soit non détectés, soit non signalés pour la grande majorité d’entre eux – seule une poignée peut légitimement être qualifiée d‘«atteintes à la sécurité nationale» : c’est-à-dire d’événements non théoriques qui ont effectivement nui à des personnes physiques ou des objectifs stratégiques institutionnels ou régaliens. Semant dans la foulée un vrai trouble pour les services d’Etat en charge de les contrer ou d’y remédier urgemment.

Ces actions perpétrées par des intelligences malveillantes – à l’attribution difficile et parfois même impossible – n’incluent cependant pas les violations connues et répétées de la vie privée de millions d’individus à travers le monde, par les grandes firmes de la Tech américaine. A l’image du scandale incriminant lourdement la plateforme du réseau social Facebook et qui aura permis à la société privée « Cambridge Analytica » de collecter indument des informations de haute valeur ajoutée auprès des utilisateurs… Ils n’incluent pas non plus les actions d’ingérences avérées d’un niveau très élevé, et ayant touché la souveraineté des  états-nations. A l’image de celles alléguées par les agences de renseignement américaines contre la firme Chinoise Huawei, ou encore les actions délétères des hackers Russes agissant pour le compte de Moscou via Twitter, et pendant les phases d’élections occidentales. N’en doutons pas, Orwell y aurait aisément retrouvé ses petits…

Le séisme Snowden, Assange et Manning

De la prise de conscience planétaire des réalités de la surveillance globale exercée par l’Amérique et son agence de sécurité nationale (une conséquence directe des révélations d’un Edward Snowden ou d’un Bradley Edward Manning via le site Wikileaks d’un Julian Assange), en passant par l’exposition discontinue des multiples scandales internationaux incriminants la plateforme américaine Facebook, rien ne nous aura été épargné en matière de sécurité nationale. Actions d’ingérences Russes et de déstabilisations massives des opinions publiques occidentales par l’usage orienté de « Fake News », « cyber-arme » connue sous le nom de Stuxnet découverte pour la première fois en 2010, et ayant servi à modifier le flux de travail des centrifugeuses iraniennes, les faisant ainsi tourner de façon incontrôlable, soit exploser, soit prendre feu… Un véritable florilège à la Prévert presque sans fin aura émaillé nos dix dernières années !

Des soupçons initiaux connus des seuls spécialistes du renseignement, à la prise de conscience planétaire de la réalité des technologies cognitives ubiquitaires mises en œuvre par les certains régimes occidentaux sur leurs populations, il n’y a eu qu’un pas… Et Edouard Snowden l’aura allègrement franchi à ses dépens en 2013. Snowden, qui est alors contractant pour la National Security Agency américaine (NSA), révèle aux yeux du monde ce qu’il sait des différents systèmes de surveillance planétaire  des populations – dont « Prism » – opéré par son pays dans le plus grand secret. Ses révélations sans précédent, faites en intelligence avec un groupement de journalistes d’investigation expérimentés, sont alors publiées dans le monde entier et font l’effet d’une véritable bombe planétaire : « Mon espoir n’était pas de changer le gouvernement ou l’industrie, mais d’aider le public à comprendre ce qui se passait. C’était une question de démocratie. De montrer que le public avait été exclu du gouvernement, parce qu’on estimait inutile de l’informer […] Comme il n’y avait aucun contrôle public, et que personne n’était au courant de ce qui se passait, les institutions (publiques comme privées), ont vite compris que même les crimes les plus graves n’auraient pas de lourdes conséquences ».

Prenant souvent prétexte de la lutte contre le terrorisme international, aujourd’hui rien n’a véritablement changé en la matière. Et après la sidération des foules et des gouvernements alliés, la surveillance généralisée se poursuit de plus belle, avec des outils technologiques renouvelés toujours plus performants et ubiquitaires. Réalisant sans ambages les hypothèses du panoptique de Foucault, par les moyens détournés du Cyber.

L’avènement de la surveillance Globale et des technologies cognitives

En 2011, les deux multinationales américaines géantes appartenant toutes deux aux célèbres GAFAM – Google et Facebook – sont prises la main dans le sac par les autorités du pays, dans de répétitifs scandales qui ne cesseront d’émailler dès lors, toute la décennie 2010–2020. Ceux-ci impliquent systématiquement l’usage répété des collectes sauvages de données utilisateurs par ces deux firmes. Et à l’aube de 2020, les deux mastodontes de la Tech américaine violent toujours allègrement la vie privée de millions d’internautes à travers le monde, et s’en sortent systématiquement avec les sanctions les plus légères, eues égard leurs tailles financières respectives. Permettant par exemple à des applications tierces, d’accéder en toute impunité au site pour enrichir leurs services par effet retour… Bien que nous soyons tous informés que « ces applis n’ont accès qu’aux données strictement nécessaires et essentielles pour leur bon fonctionnement dans le traitement de nos données » selon l’expression consacrée, dans les faits, il n’en n’est rien.

Facebook sait parfaitement ce qui se passe en temps réel dans les moindres méandres de sa plateforme : « Les documents le prouvent » explique d’ailleurs l’ancien directeur du bureau américain de protection des consommateurs à la Federal Trade Commission (FTC), l’office chargé de réguler le commerce. Google et Facebook ont d’ailleurs conclu un accord avec la FTC. Et l’ancien directeur de déclarer aujourd’hui regretter benoitement de ne pas avoir pris des mesures plus drastiques : « Nous n’avons peut-être pas eu assez d’imagination. A l’époque, l’idée d’auditer ces entreprises sur la question de la protection des données personnelles était dans l’air, mais personne ne savait comment faire. Il n’y avait pas de modèle ». La messe est dite et le renoncement totale ! Normal me diriez-vous, quand on sait par ailleurs que ses mastodontes sont aussi les collaborateurs zélés et les relais indispensables et les supplétifs dans de nombreux domaines de l’appareil de surveillance et de défense américaine. Réglementation sur la Sécurité nationale oblige !

« Quand c’est gratuit, c’est toi le produit ! »

Mais le climat a depuis radicalement changé sur le plan de la confiance accordée aux grandes firmes de la Tech, et s’est aussi grandement rafraîchie. Le scandale Cambridge Analytica de 2018 étant passé par là, révélant à la surprise générale qu’une entreprise de « data science » très liée à la campagne du candidat Trump (orchestrée de main de maitre par son ancien conseiller spécial Steve Bannon), avait collecté impunément des données personnelles à des fins électorales sur Facebook, de plus de 50 millions de ses utilisateurs. Le scandale politique est énorme et marque indéniablement un tournant dans la perception de l’opinion publique mondiale concernant la puissance de nuisance des géants américains de la Tech, en matière de « Big Data électoral ». Leurs actions sur les opinions publiques et leurs moyens d’influence sur les perceptions des internautes sont aujourd’hui prouvés en laboratoire. Et même si tout cela n’était en réalité pas très nouveau, c’était la première fois que les populations s’en préoccupaient véritablement parce l’affaire était lié au très clivant Donald Trump, et à son élection présidentielle pour le moins rocambolesque.

La même année, le patron de Facebook Mark Zuckerberg est auditionné devant des membres du Sénat américain. Et cette audition ouvre une nouvelle ère du soupçon : désormais les dirigeants de la Tech vont être appelés à s’expliquer devant les gouvernements qui les sollicitent. Le temps de l’impunité et des « dénégations plausibles » est définitivement terminé. Le réseau social savait depuis la fin de 2015 que des données personnelles de ses utilisateurs avaient été siphonnées sous un prétexte académique fallacieux, avant d’être revendues dans la foulée pour une campagne électorale à des fins politiques… À l’époque, Facebook avait expliqué « enquêter avec soin » sur ces allégations, mais s’était contenté de suspendre l’application et de réclamer aux protagonistes de l’affaire qu’ils suppriment les données collectées. Sauf que Facebook ne s’est jamais assuré qu’ils s’en étaient effectivement débarrassés. Et ces données sont toutes restée jusqu’à une date très récente, entre les mains de la défunte société Cambridge Analytica…

Prouvant par là même, une nouvelle fois, que la plate-forme géante pouvait-être puissamment utilisée à des fins de marketing politique… Mais aussi contre l’intérêt manifeste de tous ses utilisateurs… Et Edward Snowden de renchérir à ce sujet de façon plutôt sarcastique de son fief moscovite : « Des entreprises qui gagnent de l’argent en collectant et en vendant des fichiers détaillés sur la vie privée étaient autrefois simplement décrites comme ‘des entreprises de surveillance’. Leur changement de marque en ‘réseaux sociaux’ est l’opération de tromperie la plus réussie depuis que le ministère de la Guerre est devenu le ministère de la Défense. »
Résumons par l’humour : la défense de Facebook, selon laquelle la récolte par Cambridge Analytica des données de ses utilisateurs n’est techniquement pas une ‘violation’, est un constat beaucoup plus profond et accablant encore que ne le serait une violation de ce qui ne va pas dans son modèle économique de Facebook…

Les résistances citoyennes s’organisent imperceptiblement

Les années 2010-2020 sont aussi celles de la montée en puissance des résistances locales aux impacts de la Tech dans les villes dites « intelligentes ».

En 2013, des habitants et militants de San Francisco bloquent à ce titre les bus de Google, car comme l’explique une militante d’alors au New York Times : « Les loyers augmentaient constamment, et les expulsions aussi. Dans toutes les fêtes, les soirées, les gens ne parlaient que de cela : des amis de leurs connaissances qui perdaient leurs logements… Dans nos rues, le signe le plus visible de ça, c’étaient les bus Google qui utilisaient nos arrêts de bus publics. » Cette campagne fut très largement reprise et relayée dans la presse internationale. Elle donnait pour la première fois, un véritable visage à la contestation d’initiative populaire sur l’impact de l’économie de la Tech, là où elle s’installe. Aujourd’hui, ces mouvements citoyens continuent, par exemple sous la forme de résistances civiles à l’implantation du géant Amazon, mais aussi des mouvements touchant les sous-traitants de la Silicon Valley aspirant à être beaucoup mieux payés, ou encore des résistances citoyennes à l’extension tous azimuts de la reconnaissance faciale dans les villes et les lieux publics.

Chercheurs, journalistes et militants du monde entier commencent aussi à souligner les biais sexistes et raciaux des algorithmes : en 2015, un utilisateur Afro-Américain voit deux de ses amis noirs étiquetés par le service de reconnaissance d’image automatique de Google comme des « gorilles ». La question des biais de reconnaissance prédictive touchant aux origines ethniques des individus reste aujourd’hui au cœur des réflexions sur la création du monde digital de demain. Et une Tech plus inclusive et plus juste est aujourd’hui appelée de ses vœux par les activistes du monde entier en lutte pour la diversité. Vaste programme…

A ce titre, la décennie aura indubitablement vu la montée en puissance des résistances citoyennes, individuelles ou collectives, au pouvoir des grandes entreprises privées de la Tech, et celui du complexe de surveillance militaro-industriel. Jaron Lanier, pionnier de la réalité virtuelle et auteur de « Who owns The Future ? », propose en outre, avec des universitaires de Stanford et de Columbia University, que les entreprises du Web nous rémunèrent pour l’utilisation de nos données personnelles. Dans un récent papier de recherches intitulé : « Should We Treat Data as Labor ? Moving Beyond ‘Free’ », il pose les principes d’un changement de paradigme à venir que beaucoup appellent de leurs vœux : rendre à l’individu producteur de données, la propriété pleine et entière de ses données personnelles. Et en la matière, seul le droit de propriété permettra de garantir une maîtrise réelle et totale de nos données personnelles. Seule la création d’un véritable marché des data pourrait dès lors rééquilibrer les rapports de forces et de pouvoir entre les plateformes géantes, et leurs utilisateurs. Et ceci, en dotant chacun d’entre nous d’un véritable capital informationnel. Avec l’appui de nombreux collectifs composés d’universitaires, de juristes, d’ingénieurs, de data-scientistes, ou d’économistes, Lanier analyse et interroge l’ensemble des enjeux socio-économiques et éthiques liés aux données personnelles, et étudie comment introduire en droit une patrimonialité des données personnelles.

Le problème des réseaux sociaux ? Ce sont « Les algorithmes qui essaient de vous manipuler » selon Jaron Lanier.

Après avoir longtemps prêché dans le désert, son discours prend aujourd’hui toute sa dimension prédictive. Jaron Lanier — le futurologue essayiste et pionnier du numérique ­— avait sans doute raison trop tôt lorsqu’il mettait en garde contre le danger des médias sociaux, tant pour l’individu que pour la société dans son ensemble. Interrogé par le New York Times, il s’est depuis donné pour mission de nous édifier sur l’ampleur du phénomène : « Nous n’aurions jamais dû commencer ! ».

A la fin des années 1990, Lanier avait d’ailleurs généré  un programme avec un groupe d’amis pour pouvoir intégrer les expressions faciales d’une personne de manière numérique, dans un dessin ou une photo. Aujourd’hui, nombre de sociétés — petites ou grandes — de la Silicon Valley tentent d’imposer cette technologie, et ce « techno-pouvoir » qui lui est désormais corrélatif,  au reste de la planète. Or Lanier adopte depuis un certain temps, surtout depuis l’avènement des sociétés multinationales géantes comme Google et Facebook, une attitude beaucoup plus réservée et critique face à l’évolution de l’Internet mondial.

« Le problème n’est pas tant de pouvoir se connecter à des amis, ni même de devoir toujours avoir un appareil à portée de main. Le problème se situe dans les algorithmes eux-mêmes qui essaient de vous manipuler à dessein. C’est aussi la seule manière pour Facebook et Google de gagner de l’argent. » Le modèle économique agressif des GAFAM : toujours et encore, pourrions-nous dire ! Les géants du numérique captent indument nos données personnelles pour les revendre, et chacun de nous est au courant. Et même si notre consentement est requis sur le papier, avons-nous aujourd’hui réellement le choix ? Savons-nous seulement à quel point les données nous concernant sont fines et précises ? Et comment les algorithmes les affûtent en permanence, à chacune de nos actions sur Internet ? Réalisons-nous véritablement les profits astronomiques que cela représente pour les géants de la Tech, sans que chacun de nous ne touche le moindre centime à l’arrivée ?

Le constat est accablant, et la soupe des justifications de moins en moins digeste pour les opinions publiques mondiales.  A ce titre, et selon Janier, le RGPD européen (Régime Général pour la Protection des Données) ne fait pas le poids et échoue lamentablement face aux visées réelles du « Cloud Act » américain (pour : « clarification de l’utilisation légale des données à l’étranger » en bon français). Car il ne s’intéresse qu’à l’écume des choses en matière de collecte de data, quand le fond de l’affaire est en réalité tout autre et nous détourne sciemment de l’essentiel. Le problème n’est pas tant de s’interroger sur ce qui sera fait de nos données personnelles, une fois celles-ci collectées à notre insu par des plateformes géantes, mais bien d’ignorer royalement le caractère parfaitement inacceptable, totalitaire et sauvage de cette collecte elle-même !

Le Cloud Act fait clairement peser une menace et un risque ineffable sur la propriété concrète et la valeur ineffable de nos données personnelles, et donc sur notre sécurité individuelle et collective, dans un contexte de guerre économique et culturel naturellement fratricide à l’échelle des nations. L’ère Trump ayant encore amplifié le phénomène. Peu importe où se trouve le Datacenter qui les contient. Toutes les données d’un « Cloud provider » américain sont disponibles pour l’Etat fédéral américain à toutes fins utiles… Et ceci, sans qu’aucun utilisateur n’en soit avisé. Le RGPD n’est au mieux qu’un cache-sexe qui occulte la relative impuissance de nos dirigeants politiques,  face aux hydres américaines. Et demain, Chinoises et indiennes.

Quel avenir pour notre futur ?

La consolidation du pouvoir des GAFAM, l’essor inéluctable dès aujourd’hui de la Chine, l’accès massif des populations du Sud de la planète à Internet, les innovations abyssales qui ont marqué au fer rouge la décennie, d’Instagram aux voitures automatiques, des drones armées aux prouesses cognitives des applications comportementales prédictifs, des progrès foudroyants de l’IA aux limites techniques rencontrées par les innovations utiles pour tous… Nous ne pouvons que nous préoccuper de notre avenir pour la nouvelle ère qui s’ouvre dès le premier janvier prochain. Comme l’usage et le traitement des mégas donnés ont changé nos vies dans l’interstice 2010-2020 précédent, l’intelligence artificielle bouleversera encore plus nos existences dans la prochaine décennie.

C’est bel et bien la démocratisation est l’introduction des résultats de recherche personnalisées par Google en 2010 qui aura véritablement invité l’IA dans nos vies. Depuis lors, l’intelligence artificielle (IA) s’est imposée dans une telle proportion et une telle variété de domaines applicatifs, qu’elle semble désormais omniprésente. Et selon le scientifique en chef de Facebook, Yann LeCun, les réseaux sociaux eux aussi, reposent désormais très fortement sur l’intelligence artificielle. En 2018, celui-ci avait ainsi déclaré que « sans Deep Learning, Facebook ne serait que de la poussière ». Or, cette méthode requiert indubitablement de gigantesques volumes de données qualifiées, et une puissance de calcul proprement colossale pour permettre aux ordinateurs de s’entraîner correctement à apprendre. D’où l’enjeu stratégique du Cloud souverain ! Les Etats-Unis et la Chine l’ont parfaitement compris. C’est le « Machine Learning » et sa sous-catégorie, le « Deep Learning », qui se cache en réalité derrière l’essentiel des projets d’intelligence artificielle actuels. Et selon les dernières analyses en date publiée en janvier 2019 « Technology Review », le Machine Learning a permis d’égaler voire de surpasser les capacités humaines dans des domaines aussi variés que la transcription de discours, la reconnaissance des émotions ou la création de vidéos. Bien qu’un très long chemin ait été parcouru, nous n’en sommes pourtant qu’aux prémices de l’aventure. Et bien d’autres approches en matière « d’apprentissage machine » telles que le « reinforcement learning » ou les « réseaux génératifs antagonistes » (GAN), sont de plus en plus utilisées.

Dans un futur proche qui semble qui nous semble de moins en moins lointain, les machines pourraient ainsi être en mesure d’apprendre de manière plus efficace et fortement semblable à celle des êtres humains.

L’explosion du volume de données générées par l’humanité via les réseaux sociaux ou l’internet des objets (IoT), ainsi que la baisse relative des coûts et l’augmentation consécutive dans le même temps de puissance des ordinateurs, sont donc deux des facteurs clés de l’essor de l’IA pour les dix ans qui viennent.

Affaire à suivre le 1er janvier 2030 dans les colonnes d’ATLANTICO, si entre-temps Dieu nous prête vie jusque-là…

Sourcce : Atlantico