Comment limiter l’emprise dangereuse que la technologie prend peu à peu sur nous?

Les outils technologiques qui peuplent notre quotidien s’expriment de plus en plus. La montée en puissance de programmes dits intelligents bat en brèche le concept de neutralité technologique et rend possible un conditionnement massif des usages induit par le code informatique. En effet, la suggestion de tel mot-clé ou de tel contenu est intimement liée aux choix délibérés de quelques ingénieurs ayant présidé à la conception de nos applications favorites. La technologie sous sa forme dominante actuelle contrôle ainsi en grande partie la manière dont nous consommons produits, services et information. Dans le cas de YouTube, les utilisateurs passent 700 000 000 d’heures par jour à regarder les vidéos recommandées par l’algorithme (soit 70% du nombre d’heures consommées quotidiennement sur le site), délaissant la désuète barre de recherche au profit des contenus « à découvrir ». De même, le moteur de recommandation des flux d’actualités de Facebook génère environ 950 000 000 d’heures de visionnage par jour. Un phénomène d’une telle ampleur pose évidemment question quant à la responsabilité des acteurs privés à la manœuvre et le possible contrôle démocratique sur ces mêmes acteurs dont le pouvoir de prescription ne cesse de croître. Peut-on se référer à un passé plus ou moins lointain où s’est accomplie la possibilité d’une telle concentration de pouvoir entre les mains d’un nombre aussi restreint d’individus ? Probablement pas.

Privatisation du contrôle social

Les Européens du XXe siècle, contemporains des expériences totalitaires, ont constaté à quel point leur destin pouvait être directement influencé par des livres de philosophie traitant de sujets abscons voir complètement inaccessibles. La philosophie des Lumières, qui a annoncé la Révolution française, a démontré comment une pensée complexe pouvait préparer les esprits aux bouleversements politiques et sociaux, ce que le communisme russe a systématisé par le truchement du Parti. Aujourd’hui, des plateformes privées assurant l’essentiel de la diffusion des idées sont venues se substituer aux espaces collectifs de délibération qui jusqu’alors assuraient une nécessaire médiation entre le terrain des concepts et celui de la citoyenneté.

A lire aussi : Amazon: venez donc voir nos ouvriers préparer vos commandes!

Or, si ces gigantesques carrefours d’audience sont animés par la seule logique du rendement, dont le corollaire est l’extension indéfinie du temps de cerveau disponible, la distribution généralisée de contenus affinitaires, via l’emploi de traitements algorithmiques opaques, contribue de facto aux façonnements des consciences, et donc à une forme de structuration non assumée des points de vue. Le dévoiement des réseaux sociaux en véritables caisses de résonance idéologique, confinant des millions d’individus dans un entre soi militant par un phénomène bien connu « d’exposition sélective » 1, illustre parfaitement cet effet collatéral délétère induit par la mécanique de recommandation et qui participe entre autres à l’extrême polarisation du débat public. De la même manière, en favorisant un contenu plutôt qu’un autre sur la base de normes édictées en dehors de tout cadre démocratique, ces groupes privés exercent une forme indirecte de contrôle social particulièrement puissant, où des règles éditoriales arbitrairement établies sont intériorisées par les producteurs/contributeurs des plateformes en ligne, influant en dernière analyse sur la vie des idées et donc de la Cité.

Transparence des algorithmes

En France, la loi numérique impose depuis 2017 une transparence totale et sans concession de tous les algorithmes décisionnels à caractère individuel, utilisés par la fonction publique. Plus récemment, ce sont les sénateurs qui se sont émus du sort réservé aux bacheliers par l’usage caché d’algorithmes de pré-sélection dans le cadre de la procédure Parcoursup, avançant l’idée d’une énième proposition de loi en la matière.

A lire aussi : Facebook a fait de nous une colonie numérique des Etats-Unis

 

Etant donné le pouvoir d’influence exercé par les colosses du numérique, et bien qu’il s’agisse d’entreprises privées, il parait légitime de formuler à leur endroit quelques demandes de transparence, notamment dans le cas de certaines technologies propriétaires dont l’impact politique n’est plus à démontrer. Du reste, faut-il encore définir ce que l’on entend par transparence ; s’agit-il de publier le code informatique sous-jacent au système, avec les difficultés que cela comporte en termes de violation possible du secret industriel, ou plutôt de publier une spécification fonctionnelle du code, autrement dit s’attacher à divulguer ce que doit faire le programme plutôt que de s’intéresser au comment. D’autres voix, notamment aux Etats-Unis, plaident pour une approche alternative plus radicale qui conférerait aux internautes la possibilité de naviguer sur ces plateformes sans aucune forme d’assistance technique via une option obligatoire de « mise en sommeil » des algorithmes. Idée intéressante au demeurant mais qui sous-estime grandement la part de servitude volontaire et de passivité qui sous-tendent l’utilisation de ces prothèses intelligentes désormais plébiscitées par des milliards d’individus transformés en usagers inertes au service de la machine.

Bureaucratie mondiale

Les grands régimes totalitaires ont toujours entrevu la possibilité d’étendre leur empire bureaucratique « par le haut », c’est-à-dire par la conversion idéologique et la conquête militaire, le tout adossé à un appareil d’Etat fort, capable d’imposer sa vision aux quatre coins du monde. Ironie de l’histoire, c’est finalement « par le bas » qu’une poignée d’entreprises privées est parvenue à bâtir un tel empire, bénéficiant à plein du concours d’individus livrés à eux-mêmes et dont les interactions isolées viennent renforcer un organe de surveillance et de (possible) propagande d’un genre nouveau. C’est là un paradoxe évident : la libération totale des individus conjuguée à leur relatif isolement a permis l’avènement d’un système technique à échelle mondiale portant en germe la menace totalitaire. L’outillage est en place, il bénéficie de l’adhésion d’une large part de la population, seul fait aujourd’hui défaut la volonté d’acteurs privés, américains pour la plupart, préférant pour le moment se consacrer « officiellement » aux affaires. Jusqu’à quand ?

A lire aussi, Elisabeth Lévy : Minorités lyncheuses, « fake news », Facebook: sale temps pour nos libertés!

Autre paradoxe : l’Internet autrefois conçu comme un espace utopique aux accents libertaires, signant la promesse d’une ère nouvelle, a finalement accouché d’un formidable terrain de jeu pour le capitalisme le plus débridé, lui-même récupéré par la puissance publique (américaine ou chinoise) selon les intérêts stratégiques du moment. C’est d’ailleurs dans le mythe d’un retour au web des origines, réputé ouvert et décentralisé, que prend racine l’engouement actuel pour la blockchain et autres systèmes hyper-distribués censés renouer avec l’esprit des pionniers, mais dont les premières applications « à échelle » auront vite douché les espoirs des croyants les plus fervents 2.