Tristan Harris a été le « philosophe produit » de Google pendant trois ans. Ça vous laisse perplexe ? Nous aussi, au début.

On a découvert cet ingénieur informatique américain formé à Stanford via un post de Medium passionnant titré « Comment la technologie pirate l’esprit des gens ». Il y explique (en anglais) comment les entreprises de la Silicon Valley nous manipulent pour nous faire perdre le plus de temps possible dans leurs interfaces.

Concrètement, Facebook a intérêt à ce qu’on scrolle son fil d’actu toute la journée, et pour ça, il nous détourne de notre intention initiale. Pour vérifier l’heure et le lieu du concert de ce soir par exemple, nous sommes obligés de passer par le newsfeed. C’est ce qu’il appelle des « stratégies de persuasion », et les ingénieurs de la Sillicon Valley l’apprennent à l’école.

Tristan Harris a créé un label, Time Well Spent, pour faire en sorte que les technologies nous redonnent du pouvoir au lieu de nous transformer en zombies boulimiques de notifications et de flux d’infos. Nous en avons discuté avec lui via Skype.



Tristan Harris à TedX Bruxelles - TedX

Rue89 : En tant que jeunes urbains connectés, on a quelquefois cette sensation d’étouffer de technologie, au point de vouloir parfois jeter nos smartphones par la fenêtre.

Mais est-ce que c’est si grave, pour toi ?

Ça nous rend vraiment fou, en fait (rire). Pour résumer, il faut penser ta vie comme une liste de choix. Là, maintenant, tu me parles sur Skype, et à cause des obligations sociales, ce serait grossier si tu commençais à regarder quelque chose d’autre.

Mais si d’un coup la conversation coupe, qu’est-ce qui détermine ce que tu fais ensuite ? Il y a une liste invisible de ce qui te semble le plus important ou le mieux à faire qui tourne dans ta tête.

Vivre, c’est choisir des choses dans cette liste invisible, ce menu. Et le problème est que notre téléphone met un nouveau choix au menu, qui sera toujours mieux en apparence, plus gratifiant, que la réalité. Ce n’est pas vrai, mais ça nous donne cette impression.



Economie de l’attention : que tu veux/ce que l’entreprise veux - Blog de Tristan Harris

Sauf, sauf, si tu as une meilleure connexion aux autres : quand tu as une discussion vraiment passionnante pendant ton diner, tu ne vas pas te dire « c’est pas top, allons regarder s’il y a mieux sur Internet ».

Mais si tu t’ennuies, que tu fais la queue, ça aura l’air mieux, tu te dis que ce sera plus productif, que tu pourras apprendre quelque chose, que tu ne te sentiras plus seul, que tu pourras envoyer ce message en plus, etc.

Le téléphone sera cette chose qui rentre en compétition avec la réalité, et gagne. C’est une sorte de drogue. Un peu comme les écrans de télévision, mais disponibles tout le temps et plus puissants.

Le problème, c’est que ça nous change à l’intérieur, on devient de moins en moins patient avec la réalité, surtout quand c’est ennuyeux ou inconfortable. Et parce que la réalité ne correspond pas toujours à nos désirs, on en revient à nos écrans, c’est un cercle vicieux.

Ce qui est mauvais, c’est que nos écrans, en nous « remplissant », tout en nous donnant faussement l’impression de choisir, menacent notre liberté fondamentale de vivre notre vie comme on l’entend, de dépenser notre temps comme on le veut. Et remplacent les choix que l’on aurait fait par les choix que ces entreprises veulent que l’on fasse.

Ça ne risque pas de s’arranger, j’imagine…

C’est vrai. Parce qu’on est dans une économie de l’attention, avec une compétition entre les applications, ça va devenir de pire en pire.

Comme la réalité virtuelle ou immersive, qui va devenir plus persuasive que la réalité physique. Et qui voudrait rester dans le réel quand on lui propose de faire l’amour avec la personne de ses rêves ou d’aller cueillir des arcs-en-ciel ? Et je ne suis pas dans un truc futuriste là, Facebook a déjà sorti son Oculus Rift.



Mark Zuckerberg au Mobile World Congress de Barcelone, le 21 février 2016 - Facebook

Ce serait quoi un design « éthique », du coup ?

Ce serait des technologies qui nous rendraient notre liberté de choix. Si ton téléphone fonctionnait pour toi, il ne te dirait pas, comme aujourd’hui « voici tout ce que tu es en train de manquer ». Il ne te ferait pas entrer dans cette matrice créée de toutes pièces.

En fait, il y a un phénomène d’addiction à ces sollicitations. La première chose que font 80% des gens le matin, c’est d’allumer leur téléphone. C’est quelque chose qui va exister de toutes façons, donc la réponse n’est pas : jetons la technologie par la fenêtre.

La réponse à l’addiction n’est pas l’abstinence parce que ça serait transféré ailleurs. La réponse à l’addiction est de connecter les gens entre eux. Il y a beaucoup de recherches en ce moment là dessus : si tu mets des gens addicts dans une communauté très forte, alors ils ne se sentent plus seuls, et ils ne sont plus accros.

Pour que les technologies nous aident à combler ces besoins humains fondamentaux au lieu de prendre leur place, il faut qu’elles changent. Ce ne sera pas quantitatif comme avoir moins de notifications. Tous ces écrans seraient radicalement différents, ils créeraient, par design, du lien social.



« Wall-e » (film de 2008), que Tristan Harris prend en exemple - Andrew Stanton

Par exemple, au lieu de se coucher le soir ou de se lever le matin en ouvrant Facebook et en se comparant à tous nos autres amis, notre téléphone nous ferait de la place pour nous connecter aux gens auxquels on tient. Si on fait du yoga le matin, ça n’ouvre pas une application de yoga, mais ça te propose de le faire avec tes amis, ceux qui en font en même temps que toi.

Mais Facebook et d’autres créent du lien social. Ça me permet de garder contact avec des amis à l’autre bout de la terre par exemple.

Il faut se garder de penser en noir et blanc. Oui, d’une certaine façon la technologie est fantastique, elle fait plein de trucs incroyables. Mais il y a aussi un tas de ratés, si on veut, qui ont pour conséquence que les gens se sentent très mal.

Par exemple, LinkedIn, occasionnellement, nous aide à trouver un boulot. Tous les jours des gens y vont pour travailler et cette entreprise, au lieu de se demander comment les aider à ça, se demande « comment je fais pour qu’ils passent le plus de temps possible dans mon application » ?

C’est un peu tendu de dire ça, mais bon, c’est comme réveiller des gens qui sont dans une secte, qui croient en un système qui est vraiment puissant et fait vraiment des choses pour eux. Et c’est très inconfortable pour eux de voir la vérité en face, que ce système n’est pas totalement bon.

Comment es-tu devenu conscient de ces problèmes ?

Ça a commencé quand j’étais magicien — je n’étais pas un magicien très sérieux, je n’ai donné qu’un spectacle en terminale (rire). Mais il y a une façon de penser que la magie t’enseigne. Au lieu de penser à ce que l’esprit peut faire, il faut trouver ces petites asymétries de perception. Ce qui veut dire qu’il y a des choses qu’un magicien fait et que le public ne verra pas. Même si, quelque part, c’est juste devant leur nez. Ça t’enseigne les limites de l’attention et du choix.

Plus tard, à l’université, j’étais un ingénieur traditionnel en informatique à Stanford, j’ai travaillé chez Apple dans les logiciels en tant que stagiaire, à 19 ans, et j’étais très enthousiaste à l’idée que la technologie nous donnerait du pouvoir — il y avait Steve Jobs qui disait que les ordinateurs pouvaient être des bicyclettes pour notre esprit, nous donner le pouvoir de penser et d’agir différemment.

Ma dernière année à Stanford j’ai choisi le cours pour devenir membre du laboratoire de persuasion technologique de Stanford. Qui était assez connu en fait pour enseigner aux étudiants comment entrer dans la psychologie des gens, et rendre les produits plus persuasifs et efficaces.

« Persuasifs », ça semble bizarre comme mot dans ce contexte, mais ça veut dire : comment tu conçois un formulaire pour que les gens le finissent ? Si tu veux que quelqu’un ouvre un mail, comment tu le fabriques pour que ça soit le cas ?

On a appris toutes ces techniques, qui ressemblent à celles des magiciens. Dans ce cours, un des fondateurs d’Instagram était mon partenaire projet, et aussi beaucoup de gens qui avaient rejoint Facebook, qui sont ensuite devenus des designers et des psychologues importants dans l’entreprise. Donc j’ai vu sous mes yeux cette connexion entre les étudiants qui s’entrainaient à toutes ces stratégies et ces entreprises, qui utilisent ces principes tout le temps. Parce que c’est la clé du succès économique, faire en sorte que les gens passent le plus de temps possible sur leurs services.

La question est : quelle est la morale derrière ? Comment tu définis le bien ? Parce que ces gens, qui n’ont pas de mauvaises intentions en soi, ne sont pas des philosophes de 90 ans, mais de jeunes designers vivant à San Francisco.

Tu étais l’éthicien de Google pendant trois ans ou le « philosophe produit », ça veut dire quoi ?

En fait, j’ai été embauché chez Google après le rachat d’une application que j’avais lancé, Apture, qui était une sorte d’interface pour souligner et commenter des pages web.

Là-bas, j’ai rencontré des gens qui concevaient la sonnerie du téléphone, j’allais à des réunions où les gens se disaient « envoyons une notification à chaque mail ». J’étais dans des équipes qui allaient façonner l’attention de milliards de personnes.

Parce que j’avais été magicien, que j’avais appris la persuasion technologique à Stanford, je voyais à quel point Google et d’autres compagnies dans la tech allaient affecter la vie des gens et ça me préoccupait. Surtout qu’il n’y avait pas du tout de réflexion là-dessus, on ne se demandait pas si ça allait être bon pour les gens. Et c’est normal, parce que c’est difficile de prendre ses responsabilités pour tout l’impact que tu as. C’est un travail difficile déjà de faire marcher ces objets, donc si en plus tu dois penser à l’impact sur les utilisateurs, ça fait beaucoup.

Après un an là-bas donc, je pensais déjà à partir, et je sentais qu’il y avait ce débat qui manquait à Google. Donc avant de quitter l’entreprise, j’ai décidé de faire une présentation, un manifeste.

J’y ai expliqué comment une poignée de personnes, des hommes pour la plupart, vivant à San Francisco, décidaient de la façon dont des milliards de personnes dans le monde utilisaient leur attention.

Ce ratio n’a jamais existé auparavant : qu’un si petit nombre de personnes deviennent les architectes en chef de ces sortes de villes invisibles qui connectent des milliards de gens entre eux, pas par des routes mais par le design d’un téléphone.

C’était un gros succès et on m’a offert de rester, ce qui était très généreux, pour penser et travailler sur ce problème qui pourrait être résumé par : « Si un petit groupe de gens décide pour une masse de personnes, quelle éthique devraient-ils utiliser ? »

C’est très difficile mais on doit résoudre ce cas d’école parce que c’est ce qui est en train de se passer. Pendant trois ans, j’ai appris et lu beaucoup, j’ai inventé de nouveaux concepts, de nouvelles distinctions, un vocabulaire pour aider à penser ça.

Mais ça a mal tourné ?

En réalité, c’est difficile pour ces problèmes de devenir une priorité, quand l’entreprise doit atteindre ses objectifs du trimestre. Il y a des milliers de personnes dans ces entreprises qui sont accaparées par le produit qu’on doit sortir prochainement. Quand Apple fait une montre, Google doit faire une montre, et que la montre capte l’attention des gens ou les rende fous, n’était qu’une arrière-pensée, et encore.

Je ne suis pas parti parce que j’étais en colère, mais parce qu’une conversation très très importante n’avait pas lieu dehors sur comment ces technologies affectent les gens.

En partant de Google, en 2014, tu as décidé de créer ce label, « Time well spent », pour distinguer les technologies qui nous aident à mieux utiliser notre temps et redonne du pouvoir aux utilisateurs. Ça marche ?

Il y a pas mal de gens de l’industrie dans ce label, qui ont eu cette prise de conscience. On a fait des ateliers pour apprendre aux designers comment faire différemment. Mais en fait on s’est rendu compte qu’il était trop tôt pour ça. Il faut d’abord les convaincre que ça a du sens.

Pense au label bio, par exemple. Ça ne s’est pas fait d’un coup : « Coucou, il y a le bio, on en a fait un label, et voilà. » Ça a pris bien quinze ans pour sortir. Avant le bio, les gens se disaient « la nourriture c’est de la nourriture, je l’achète, je la mange, et voilà ».

Ce qu’a fait le bio, c’est créer un débat. Le système agro-industriel, comme la technologie, on le subit, ça nous influence, on est dedans, et le bio était cette prise de distance, qui a fait qu’on s’est demandé : D’où vient ma nourriture ? Est-ce que c’est vraiment ce qu’on veut ? Est-ce qu’on peut construire le système différemment pour que ça nous redonne du pouvoir ?

Et là, c’est encore plus difficile à labelliser, ce n’est pas juste enlever des produits chimiques. Avec cet obstacle : il n’y a pas assez de place laissée aux développeurs pour qu’ils imaginent des alternatives. Par exemple Apple ne va pas te laisser faire ton propre écran d’accueil, ou Android, c’est plus ouvert mais ça reste compliqué. Donc comment les consommateurs peuvent faire pression publiquement sur ces entreprises s’ils ne savent pas à quoi ça ressemblerait ?

Maintenant, la meilleure chose qu’on peut faire, c’est de déclencher une prise de conscience massive. ll faut prendre la parole tous ensemble si on veut que ça devienne une priorité.

Ce n’est pas le principal problème de l’humanité, c’est vrai, mais par exemple, la question de la vie privée, on en parle énormément. Parce que c’est un concept intuitif en fait : « Ne prends pas mes données. » Mais il y a cette autre chose : des millions d’heures sont juste volées à la vie des gens, manipulés tous les jours de leur vie, et il n’y a pas un seul débat public là-dessus !

Est-ce que ce débat est porté par d’autres personnalités aux Etats-Unis ou ailleurs, à ta connaissance ?

Je ne dis pas ça pour passer pour un prophète, mais non. Je vais être téméraire et dire : c’est une vérité inconfortable à regarder. Les gens de l’industrie n’auront pas cette conversation.

Parce que disons que tu travailles à LinkedIn ou Twitter : ta possibilité de nourrir tes enfants, de leur payer une école, de vivre dans une ville aussi chère que San Francisco (qui est très chère), dépend de la possibilité de maximaliser le potentiel économique de ces technologies. Donc tu ne veux pas creuser vraiment à l’intérieur de cette vérité.

Justement, concevoir des technologies qui nous feraient perdre moins de temps et nous rendraient notre liberté de choix, c’est tellement opposé aux intérêts économiques de l’industrie actuellement que ça me rend pessimiste.

J’entends ça. Je me sens aussi, pas pessimiste, mais frustré, que notre système soit si éloigné de ce qui serait bien pour les gens. Mais je veux vraiment qu’on capte l’attention de deux entreprises : Apple et Google. Non pas parce qu’elles sont bonnes ou mauvaises, mais parce que ce sont celles qui ne vivent pas du temps que tu passes sur Facebook ou sur n’importe quelle application, ce n’est pas leur métier.

Ce sont les « gatekeepers », les principaux acteurs du marché. Pour filer avec la métaphore du bio, qui décide s’il y a des étals bio ou pas ? Ce sont les gens qui fabriquent les passerelles, ce sont les supermarchés pour le bio, et en technologie ce sont les téléphones.

Il y a un espoir si on met la pression sur ces entreprises, pour qu’elles fabriquent un nouveau portable. A la place de sortir un portable qui brille dans le noir par exemple, ça pourrait être un portable « Time well spent », qui t’aide à mieux utiliser ton temps.

Qu’est-ce qu’on peut faire en attendant que Google et Apple se réveillent, si on veut dépenser mieux notre temps ?

Pour ceux qui se sentent concernés par le problème, et veulent le faire, j’ai quelques conseils. Pour résumer :

Réduire le nombre de perturbations. Il y a un tas de recherches qui montrent que ton horloge interne, et de pensée, est perturbée par des interruptions trop fréquentes. Donc il faut changer tes réglages pour ne plus avoir de notifications, sauf les messages les plus urgents de véritables personnes. Ne pas mettre de notifications pour les mails par exemple, beaucoup de gens le font — très mauvais selon moi.

Réorganiser ton écran d’accueil. Il faut qu’il y ait le nombre minimal d’icônes dessus et que les applis qui y sont soient des outils basiques dans lesquels tu rentres et tu sors : le calendrier, les GPS, etc. Ce ne sont pas des applis qui vont t’embarquer là où tu ne veux pas aller, contrairement aux mails par exemple.

Ces autres applis, qui fontionnent, en gros, comme des écrans de télé, il faut les mettre dans des dossiers, sur le second écran. Et pas besoin d’organiser parfaitement ces dossiers. C’est pour éviter de faire cliquer inconsciemment sur l’icône lumineuse de l’application, parce que c’est ce qu’on fait le plus souvent.

Ça marche, tu te sens devenir moins fou qu’avant ?

Un peu. C’est important pour moi d’incarner ce que je prêche et je fais ce que je peux mais je reste très connecté, évidemment, je suis dans la sphère publique, donc j’ai beaucoup de sollicitations. Je veux faire plus.