Dans leur excellentissime article « Why Silicon Valley can’t fix itself », les journalistes et chercheurs Ben Tarnoff (@bentarnoff) et Moira Weigel (@moiragweigel) posent un regard acéré sur le pseudo-revirement éthique en cours dans la Silicon Valley. On le sait, les géants du numérique et autres monétiseurs d’attention sont désolés. Désolés pour nos cerveaux, désolés pour les fake-news, désolés pour la démocratie. Devant les sénateurs, même Mark Zuckerberg est désolé. Tellement désolés que certains d’entre eux se sont réunis en initiatives comme le « Center for Humane Technology » à San Francisco. La grande idée : « remettre de l’humain dans la technologie », ce qui revient à dire qu’ils n’ont rien compris ni de l’homme ni de la technique, nous disent les auteurs de l’article.

Incompréhension autour des relations entre homme et technique

Une multitude de gaillards ont déserté la Silicon Valley récemment. En première ligne Tristan Harris (ex « philosophe produit » chez Google) découvert en France dans cet article « Des millions d’heures sont juste volées à la vie des gens ». Tristan Harris a eu le mérite de mettre sur la place publique la fameuse question de l’économie de l’attention, c’est à dire le modèle de rémunération des sociétés du numérique basé sur le temps de cerveau disponible des utilisateurs (reposant notamment sur cette « science » qu’on appelle « captologie »). Pour en finir avec ce mode de fonctionnement, il crée son label « Time well spent » et engage les designers à construire des technologies « plus humaines ».

Ce que Ben Tarnoff et Moira Weigel nous disent, c’est que cette louable intention souffre des mêmes présupposés que l’objet de sa critique. Le biais réside dans la croyance que l’homme et la technologie sont deux choses séparées et qu’il suffirait de « remettre du design humain » dans cette dernière pour l’humaniser (« humane design is the solution »). C’est la naissance du mouvement « design éthique ». Cependant, les travaux en ethnologie (voir par exemple, Le geste et la parole de Leroi Gourhan mais l’article cite Mary W. Marzke) nous rappellent à quel point l’homme et la technique sont imbriqués, solidaires, et que les choses sont loin d’être aussi simples.

Le hold-up du design éthique

Pour faire court, réduire les problèmes suscités par les modèles d’affaires des sociétés du numérique à un problème de « design » génère deux risques majeurs :

Le premier risque est celui de la dépolitisation. Comme le rappellent les auteurs, le mouvement design éthique est totalement récupéré par les géants de la Silicon Valley, les patrons de Snap, Twitter et Facebook y faisant maintenant référence. Chez Twitter, il est question d’améliorer « l’hygiène conversationnelle » (“conversational health”), chez Facebook, « privilégier les relations qui ont du sens » (“meaningful” interactions). Or pour les auteurs, ce que Facebook entend par « time well spent » est juste ce qui est « monétisable » plus efficacement donc important aux yeux de la plateforme, en l’occurence les relations amicales. Ce changement de stratégie revient à rendre notre attention plus performante et rentable. C’est le même mécanisme qui a conduit à mettre des ouvriers devant des machines plutôt que d’allonger la journée de travail au risque de les épuiser. Le design éthique passe totalement à côté de ce sujet qui est celui du pouvoir : les infrastructures numériques sont majoritairement détenues par quelques milliardaires et aucune solution individuelle n’ira changer cet état de fait. Par ailleurs, Ben Tarnoff et Moira Weigel se font très critique à l’égard du discours moralisateur et paternaliste de Design Ethique qui compare Snapchat au tabagisme, renvoyant les utilisateurs à une addiction qu’ils devraient traiter eux-mêmes. Les problèmes collectifs demandent des solutions collectives, pas des rustines qui dépolitisent le problème.

Le second risque réside dans le flottement autour du terme « humain », alibi qui justifie tous les dévoiements éthiques. Rendre la technologie « humaine » ne veut strictement rien dire. Ben Tarnoff et Moira Weigel nous rappellent que les succès de Steve Jobs (et d’une bonne partie de la micro-informatique) reposent sur cette affirmation selon laquelle la machine s’adapte à l’homme et non l’inverse, elle serait donc « humaine ». C’est justement cet humanisme qui nous a mené à ces technologies « déshumanisantes » pointées du doigt par Time Well Spent qui prend le risque de voir son nouvel humanisme renforcer le discours de la Silicon Valley comme son ancêtre a enrichi Steve Jobs. Pour les auteurs, l’humain n’est pas une entité figée à laquelle il faudrait se référer une fois pour toute afin de pondre la technologie qui lui correspond, puisque l’humain et la technique sont deux choses inséparables. C’est là tout l’écueil du « design thinking » qui prétend « remettre l’humain au centre » (sans comprendre que ce qu’il remet au centre, c’est surtout le « client »). J’abonde bien sûr à 200% puisque je me suis fait le critique le plus féroce du design thinking et des « human-centered technologies » dans cet article qui colle aux thèses des auteurs (de vraiment très, très près) </auto-promo>.

Réinjecter le la démocratie dans la technique

Pas de mystère sur la conclusion logique de cet excellent article que je ne fais ici que résumer grossièrement : il faut réinjecter le la démocratie dans la technologie : « Rather than trying to humanise technology, then, we should be trying to democratise it ». Nous avons besoin de donner aux citoyens les moyens de choisir leur futur, l’article détaille un certain nombre d’initiative tout en regrettant le manque d’expérimentations. D’autres en ont fait des ouvrages très intéressants, je pense par exemple à Andrew Feenberg avec (Re)penser la technique, vers une technologie démocratique . Quoiqu’il en soit, la question est plus que jamais à la participation citoyenne contre toute forme de disruption cherchant à se perpétuer sans but et surtout, sans projet de société.

Enfin, et pour tous ceux qui approchent le design éthique par curiosité ou « militantisme », il conviendra d’avoir à l’esprit deux petites choses importantes : avant de parler de « design humain » ou d’éthique, le préalable est de se doter d’une définition de l’homme et d’une définition de ce qu’est l’éthique…

Image en tête d’article, Antoine Geiger : http://www.antoinegeiger.com/SUR-FAKE