Le téléphone sonne, la coiffeuse décroche. A l’autre bout du fil, son interlocutrice cherche à obtenir un rendez-vous pour une coupe de cheveux. En quelques phrases, l’affaire est entendue : ce sera pour mardi matin. Une scène banale à mourir ? Pas du tout : ce que la coiffeuse ne sait pas et n’avait aucun moyen de savoir, c’est que c’est un robot de Google qui a pris ce rendez-vous.

L’enregistrement de cette « conversation » téléphonique a été diffusé, le 8 mai, lors de la conférence annuelle de Google où l’entreprise de la Silicon Valley présente ses innovations. Parmi elles, la nouvelle génération de son système d’intelligence artificielle, Google Duplex, qui permettra à ses assistants vocaux, déjà disponibles dans le commerce, de vérifier d’eux-mêmes, par téléphone, les horaires d’ouverture d’un magasin ou de réserver une table dans un restaurant.

« Notre vision pour ce système, c’est vous aider à être productif. Pour ça, il faut souvent passer un coup de fil, appeler un plombier, prendre rendez-vous chez le coiffeur », a expliqué le PDG de Google, Sundar Pichai. Est-ce un reflet des préoccupations bassement matérielles des ingénieurs de la Silicon Valley ? L’intelligence artificielle devait soigner les cancers, nous libérer du travail et piloter des voitures. Elle se contentera peut-être de prendre rendez-vous chez le coiffeur à notre place.

Google assume : l’entreprise veut servir d’intermédiaire entre l’être humain et son environnement, au risque de mettre ses utilisateurs sous assistance robotisée, enfermés dans une bulle formée par leurs habitudes (donc leurs données personnelles) disséquées par la machine.

Une voix impossible à distinguer du timbre humain

Mais c’est plutôt les efforts fournis par Google pour rendre la voix de l’assistant personnel impossible à distinguer du timbre humain qui font polémique. Et pour cause : la voix robotique, dotée de tous les traits de l’humanité, n’a rien de métallique ni d’artificiel. Syllabes qui s’allongent pour marquer l’hésitation, « hmm » entre certains mots ou expressions typiques d’un orateur de chair et de sang : rien, dans la démonstration de ce qui est pour le moment davantage un projet qu’un produit prêt à atterrir dans les foyers, ne permettait de distinguer cette voix de celle d’un humain.

« Il devrait dire : “Ici l’assistant Google de X ou Y”, ou quelque chose qui l’identifie clairement comme une machine », a réagi Alexander Rudnicky, chercheur spécialisé dans les interactions humain-ordinateur à l’université Carnegie-Mellon, à Pittsburg (Pennsylvanie), dans le magazine Wired. C’est « terrifiant », a taclé sur Twitter Zeynep Tufekci, professeure à l’université de Caroline du Nord et critique des nouvelles technologies : « La Silicon Valley est à la dérive, a perdu toute éthique et n’a rien appris. »

On imagine, en effet, les dangers que pourraient faire courir des voix robotiques impossibles à différencier des voix humaines : arnaques, harcèlement téléphonique, propagande… « De jour en jour, la capacité des robots à se faire passer pour des humains s’améliore, notait déjà, en juillet 2017, le juriste américain Tim Wu dans le New York Times. Entre les mains de personnes opportunistes ou malveillantes, voire dans certains cas d’Etats, ils posent une menace pour les sociétés démocratiques, qui supposent l’ouverture et la transparence. (…) Le principal problème pour la démocratie, c’est que les entreprises comme Facebook et Twitter n’ont aucune incitation financière à s’intéresser aux questions d’intérêt public, comme les millions de leurs faux utilisateurs qui corrompent le processus démocratique. »

Il a fallu attendre que la polémique éclate pour que Google annonce que cette nouvelle version de l’assistant vocal se présenterait bien comme tel à ses interlocuteurs. Sur scène, le PDG de l’entreprise n’en a nullement fait mention. Cette innovation en dit long sur les mœurs de la Silicon Valley, sur sa capacité à mobiliser les cerveaux les plus brillants pour résoudre les problèmes quotidiens de cadres californiens surmenés. Elle en dit tout aussi long sur son incapacité à prendre la mesure des impacts sociétaux de ses inventions, comme si les considérations éthiques devaient être sacrifiées sur l’autel de la performance technologique. A en croire les applaudissements qui ont jailli des travées de l’amphithéâtre, la démonstration de cette nouvelle capacité en matière d’intelligence artificielle a, en tout cas, convaincu ingénieurs et invités de Google.