Le meilleur des mondes ? Notre quotidien, ce sont les smartphones avides de données, les véhicules autonomes, les drones et les robots, les applis de fitness et les téléviseurs intelligents – connectés en permanence à Internet. Les applications des médias sociaux créent des bulles qui agissent comme des filtres et accroissent la polarisation sociale, sapant les fondements même de la démocratie. Le monde digital que nous habitons tous est dominé par de puissantes entreprises et leurs algorithmes, mais quand en sommes-nous seulement conscients ? À quel point sommes-nous déjà télécommandés ?
À lire également
Elevate Festival 2017 : la rave au cœur d’une montagne en Autriche est de retour
Lorsque les assurances calculent leurs frais en fonction des données vitales de leurs clients, cela impacte leur mode de vie. Le gouvernement et les agences de renseignement emploient des méthodes similaires sous prétexte de renforcer notre sécurité. Les cours de la bourse changent d’une minute à l’autre, et ce ne sont plus des humains qui les calculent. Ce sont les algorithmes qui décident où investir – avec des conséquences impondérables. En médecine, les humains en sont réduits à la somme des données de leurs signes vitaux.
La question de la surveillance et du contrôle total a lentement intégré le discours dominant (Merci Edward Snowden !) et fait émerger des débats autour des relations de pouvoir, de la décentralisation et de l’autonomisation. Mais au-delà des débats, la digitalisation du monde soulève de nombreuses autres questions fondamentales et éthiques qui affectent tout un chacun. Il s’agit là du futur de l’humanité et du futur de notre planète.
En tant que société, voire même en tant qu’humanité, quelles responsabilités devons-nous déléguer aux algorithmes ? Quels pans de notre vie acceptons-nous de voir assujettis aux mesures, aux quantifications et au calcul ? Et comment, par qui ces décisions doivent-elles être prises ? L’humanité peut-être seulement limiter l’application de ses technologies, tel que l’a suggéré Ivan Illich ? Où bien sommes-nous pris dans une dynamique impossible à stopper, et à laquelle nous devons nous adapter ? À l’ère digitale, allons-nous perdre l’autonomie promise par les Lumières ? Et à qui cela profitera-t-il ?
Le Big Data, c’est gros comment ?
En l’état actuel des choses, nous produisons quotidiennement 2.5 exaoctets (2,5 milliards de gigaoctes) de nouvelles informations, et ce nombre devrait grimper à 44 zettaoctes (44 milliards de teraoctets) d’ici 3 ou 4 ans. Cela fait beaucoup d’information, et elle croît de plus en plus vite. Certains disent que “les données sont le pétrole du 21e siècle.” Les silos d’informations de grandes entreprises accumulent les données de la même manière que les compagnies pétrolières extraient les énergies fossiles. Mais s’il se profile un pic pétrolier, il n’y aura pas de “pic de données”.
La majorité de ces données sont personnelles. Les gens les partagent en échange de services “gratuits” comme les réseaux sociaux, les moteurs de recherche, les plateformes de vidéo et les services de mail. La confiance qu’ils accordent à de grandes entreprises et principalement exprimée par leur consentement à des conditions de service, lesquelles sont rarement lues, encore moins comprises.
Et c’est le paradis des hackers : de grandes quantités de données sur un serveur centralisé ; des logiciels obsolètes qui peuvent aisément être exploités ; de plus en plus d’équipements et d’infrastructures constamment connectés à Internet, le “toujours en ligne” comme paradigme fatal. Les logiciels sont crackés, les systèmes sont piratés, les données sont leakées : pas seulement par Wikileaks, mais par une myriade d’acteurs, des petits groupes de hackers jusqu’aux organes des services de renseignement. Aucun système connecté à internet n’est protégé, pas même les gouvernements, les infrastructures ou les prestataires de l’industrie de la surveillance.
Est-il possible d’échapper à cette énorme accumulation de données personnelles ? Le cryptage à large échelle est-il un moyen de protéger le droit humain à la privacité ? Ou devrions-nous, littéralement, nous déconnecter du status quo ?
Entre-temps, les locutions à la mode ont récemment pollué le discours politique : “Fake News” [fausse information], “Post Truth” [post-vérité], et le très créatif “Alternative Facts” [faits alternatifs]. Toutes portent le sens d’une réalité distordue et résultent en un sentiment de confusion partagé par la majorité de la population. Ces terminologies nouvellement créées semblent être symptomatiques des vastes changements à l’œuvre dans le monde du journalisme et des nouveaux médias. Les garde-fous perdent le contrôle et un large éventail d’éditeurs refaçonnent la perception des masses. Qu’il s’agisse de Breitbart News ou d’Infowars, de reporters isolés, d’agents de renseignement ou même de l’attaché de presse du président de télé-réalité Trump : les fact checkers professionnels ont les mains pleines. Mais ce ne sont pas seulement les sites web marginaux qui propagent des faits erronés ou distordus, les médias dominant le font tout autant. Être manipulé à des fins propagandistes n’a rien de nouveau. Le “management de la perception” est un terme introduit par le Pentagone.
On nous parle à présent de “services anti fake news”, de filtrage automatique, de censure et de nouvelles régulations des médias. Mais quel est le rôle concret des algorithmes ? Filtrer plus, renforcer encore les parois de notre bulle ? En tant que société, avons-nous besoin de plus de régulation ? D’Open Algorithm, d’être décrits comme les ingrédients d’une boisson énergisante ? Les règles et les régulations, la censure et le filtrage peuvent-ils combattre un problème foncièrement social et éducationnel ?
Les algorithmes sont omniprésents, pourtant ils existent en parallèle de notre monde visible, en bits et octets, zéros et uns ; ils nous apparaissent à l’écran, bien que leur fonction nous soit dissimulée. Ils vivent dans les machines, ils exécutent les ordres et sont intrinsèquement politiques. Avec l’invention de définitions abstraites de la technologie comme l’Internet ou le Cloud, ils deviennent incompréhensibles. Mais en réalité, ces technologies invisibles sont bien présentes dans le monde physique. Elles prennent la forme de centres de données disséminés de par le monde, de câbles de fibres optiques sous-marins qui connectent les continents entre eux.
Les pratiques artistiques ont le pouvoir de rendre visible et de transposer les systèmes complexes dans une sphère intelligible. C’est ainsi que les technologies abstraites, de prime abord incompréhensibles deviennent un sujet de débat, lequel peut aboutir à un engagement critique. Les artistes deviennent des activistes, et l’acte de rendre visible devient une contremesure face à l’hégémonie. Selon James Bridle, les technologies ne sont pas préexistantes – elles racontent notre propre histoire, elles dévoilent un désir social et des structures de pouvoir.
Gare aux cyber-choses.
Les appareils connectés à Internet pourraient vous trahir.
© Adam Harvey
L’approche en termes de contremesures des algorithmes de surveillance est la réponse artistique d’Adam Harvey. Son travail gravite autour de techniques qui se manifestent souvent dans la mode et le maquillage, sous forme de camouflage destiné à leurrer les algorithmes de reconnaissance faciale, de manière à ce qu’ils soient dans l’incapacité de surveiller, pister et identifier l’individu. Ce qui unit ses œuvres, c’est la proposition selon laquelle si nous ne comprenons pas comment fonctionnent les technologies qui nous entourent, nous sommes plus susceptibles d’être leurs victimes, plutôt que de les employer à notre avantage.
Et l’art peut nous aider à trouver la voie.
Au festival Elevate, à Graz, du 1er au 5 mars, nombre de ces problématiques seront abordées et débattues. La musique et l’art contemporain feront partie intégrante du festival, au cours duquel de nombreux artistes animeront des conférences, participeront à des panels de discussion et présenteront des installations novatrices.