si j'ai lancé ce podcast c'est parce que je ressentais le besoin d'alerter sur le changement climatique et c'est pour cette même raison qu'aujourd'hui on va parler d'intelligence artificielle mais pas de générateur de texte ou d'images comme chat GPT ou midjournée parce que vous en avez déjà beaucoup entendu parler et aussi parce que je pense qu'il y a plus grave je veux parler des algorithmes de recommandation des réseaux sociaux ils appartiennent à des multinationales ou des États autoritaires et ont pour objectif de retenir notre attention le plus possible les conséquences pour nous individus ou nos sociétés sont énormes détérioration de la santé mentale de la cohésion sociale ou encore de la lutte contre le changement climatique mon invité pour évoquer ces sujets est l engeng Wang il est chercheur en intelligence artificielle et co-auteur du livre la dictature des algorithmes comme vous l'avez remarqué je ne demande pas de don pour faire VI cette chaîne et YouTube rapporte très peu d'argent si vous voulez tout de même m'aider vous pouvez vous abonner c'est un gros coup de pouce pour la chaîne merci pour ça lia pire que le climat c'est le thème de ce nouvel épisode d'échange climatique bonjour les bonjour je commencer par une question facile est-ce que tu peux nous dire ce que c'est qu'un algorithme de recommandation ouais donc peut-être même encore plus facile un algorithme donc un algorithme c'est un ensemble de règles c'est une suite d'instruction enfin c'est vraiment un synonyme de de de règles instruction procédure protocole toutes ces choses qui décrivent des suites de choses à suivre h et et en particulier les algorithmes de recommandation donc vraiment c'est c'est ce qu'on considère être les plus importants dans notre livre avec jeanou forket donc pour pour vraiment comprendre en fait faut vraiment compte que l'utilisation aujourd'hui du numérique c'est vraiment beaucoup plus le téléphone sur téléphone le truc c'est que c'est très difficile de taper enfin c'est c'est chiant de enfin c'est c'est plus compliqué de taper que sur un ordinateur ouais et du coup les gens vont êre beaucoup moins dans la recherche en fait ça fait depuis 2016 qu'il y a plus de vues sur Youtube que de recherche sur Google pensez que Google le portail du web c'est c'est une vision très très vieille en fait très très éronée aujourd'hui de l'utilisation du web et donc la plupart des du temps quand on utilise le web quand quand la plupart de de nos concitoyens naviguent sur utilise le numérique ils sont sur un téléphone en train de cliquer de Swiper de scroller h et à chaque fois qu'on fait ces actions enfin pas à chaque fois mais la plupart du temps donc sur les réseaux sociaux quand on clique sur Application réseau social qu'on scroll qu' qu'on swipe il y a un algorithme de recommandation qui va répondre à notre à notre à notre action et donc ce sont ces algorithmes qui vont en fait choisir donc par exemple sur un réseau social sur sur TikTok à chaque fois que vous swipez c'est un un un algorithme de recommandation qui va choisir quel contenu va être diffusé juste après euh sur votre téléphone h donc du coup c'est ces algorithmes euh quels sont leurs but j'imagine que il y a le but officiel on va dire qui était de proposer le meilleur contenu à l'utilisateur euh qu'est-ce que pourquoi les les entreprises les ont mis en place qu'est-ce que c'est qu'un bon entre un bon algorithme d'un point de vue de de l'entreprise ouais alors même même officiellement déjà ils ont un peu basculé Youtube je crois que c'est vers 2019 ont commencé à parler du fait que leur algorithme maximise ce qu'il appelle le user engagement donc ouis l'activité de l'utilisateur sur sur la plateforme et en tout cas ce qu'on ce qu'on ce qu' qu'on peut inférer de la manière dont ça fonctionne c'est que vraiment il y a une dimension de captation de l' qui est énorme et ça c'est c'est vraiment très lié au modèle d'affaires aujourd'hui le numérique beaucoup dans de très grandes entreprise du numérique ça inclu Google Facebook en TikTok Twitter ou autre euh ces grandes entreprises numérique leur modèle d'affaire c'est la publicité ciblée donc un et si on veut vendre des publicités ciblées bah il y a deux choses à faire la première c'est d'avoir l'attention des utilisateurs pour pouvoir montrer des publicités et après la deuxème c'est d'être capable de cibler et ça ça va impliquer la collecte massive d'informations sur différents utilisateurs et ensuite la la conception d'algorithme qui sont capables d'utiliser ces ces données pour savoir quelle est la publicité qui sera la plus efficace pour les différents utilisateurs ici on est sur une chaîne de climat forcément on va aborder ce thème à un moment un autre toi aussi tu es très conscient des des problèmes du changement climatique je P tu fais beaucoup aussi à l'échelle individuelle he je crois que j'ai entendu que tu prenais que des douches froides ouiou je alors pas pas que parce que parfois il y a des contextes où après un match de foot il y a qu'une douche elle est chaude mais oui chez moi je je prends que des douche et et en gros pourquoi je te je te pose je te pose cette question c'est parce que je voudrais savoir si tu es plus inquiet par rapport au climat ou ou par rapport aux algorithmes de recommandation ouais alors moi je suis clairement beaucoup plus inquiet par rapport aux algores de recommandation assez largement mais il y a pas besoin d'en arriver là enfin je pense que il y a un écologiste doit se préoccuper des algorithmes de recommandation même si sa préoccupation principale c'est le climat euh ça on le voit très bien sur Twitter sur Twitter il y a eu une désertion des des scientifiques du climat parce que les scientifiques du climat on ont subi des vagues de harcèlement sur sur Twitter et du coup la la production d'information la qualité informationnelle sur les sujets du climat sur Twitter a été complètement ravagé ça on le voit également sur des plateformes comme TikTok ou des climatoénaliste sont très mis en avant il y a très peu d'audit et du coup la lutte informationnelle parce que finalement le climat c'est en grande partie une lutte informationnelle la raison pour laquelle on fait un podcast enfin pour laquelle peut-être pas ce podcast mais raison pour laquelle tu tu tu fais cette émission bah c'est c'est c'est pas mal pour des raisons de sensibilisation sur les sujets climatiques et il y a des gros problèmes aussi de qualité de l'information même au sein du mouvement écologiste et donc l'information est vraiment clé et donc il y a une lutte informationnelle et l'arbitre aujourd'hui de l'information bah ce sont les algorithmes de recommandation donc c'est pour ça que même si on est terrifié par le climat uniquement ben les algorithmes de recomation devrai être un aspect important de de la réflexion sur la lutte climatique donc tu tu viens en parler un petit peu mais comment est-ce que les les algorithmes concrètement affectent la lutte contre le changement climatique est-ce que c'est en en partageant maximum de fake news par exemple ouais alors faut faut vraiment pas réduire ça au problème de des fake news c'est un aspect en effet il y a encore beaucoup de climatonialisme sur sur différents enfin sur différents réseaux sociaux ça me permet de parler d' d'un autre aspect en fait important de la désinformation des stratégies de désinformation en ligne c'est que une façon de désinformer ce n'est pas de de produire des fausses informations mais de d'amplifier massivement ce qui produisent un discours qui va dans notutre sens h et donc une des choses qu'on voit beaucoup c'est des industrifin des agences toute une industrie des agences spécialisé dans la la création et la crédibilisation et la mise en activité d'un grand nombre de faux comptes sur les réseaux sociaux qui vont se mettre typiquement à à liker à retweeter à partager des contenus qui vont dans leur sens ou qui qui commencent à aller dans leur sens avec notamment une intention non seulement d'amplifier ses contenus mais aussi de manipuler les créateurs de contenu donc ça ça on voit vraiment je pense que c'est un des aspects plus plus important en fait c'est la manipulation des créateurs de contenu pas forcément de la consommation en pas directement de la consommation mais plus de des gens qui produisent d'ination parce qu'onon sait très bien en tant que youtubeur on on est encore plus si euh notre salaire dépend du nombre de vues que l'on fait on est très sensible à ces à ces à ces chiffres h du coup si on voit que notre contenu fait plus de de vues lorsqu'on parle d'un sujet ça va nous pousser consciemment ou inconsciemment euh à parler davantage de ce sujet derrière est-ce qu'on peut dire que il y a des compagnies pétrolières qui font la stratégie du doute ou alors c'est juste que ça marche et donc Google le met en avant euh donc c'est difficile de savoir exactement ce que fait l'industrie du doute aujourd'hui parce qu'il aussi tout intéress à ce qu' qu'on ne le sache pas mais on sait ce qu'ils ont fait dans enfin il y a beaucoup de choses qu'ils ont fait dans le passé qui sont très documenté là je renvoie vers le livre Les marchand de doute qui qui documente beaucoup de stratégies de ce style mais dans le cas de l'intelligence AR iciel qui est beaucoup plus mon domaine on sait qu'il y a eu des des des interventions explicites des grandes entreprises de la tech pour modifier la manière dont les scientifiques s'expriment dans les publications scientifiques Google a demandé explicitement à ces à ses propres chercheurs d'adopter un ton positif sur la recherche en intelligence artificielle pour ne pas parler des risques ainsi de suite moi j'ai un article de recherche coécrit avec un chercheur de Google dont la publication a été retardée de de plus d'un an an et demi par par les par le le processus de revue en interne de Google qui ne voulait pas que on soumette un article qui qui qui voilà qui souignent les problèmes de sécurité qui ne sont très très importants à à mettre en avant de de ces systèmes et donc bon alors d'habitude je dis plus que il faut regarder ce qui est fait dans dans le monde du climat pour deviner ce qui se fait dans le monde de la tech là j'ai envie dire il faut faireuss à l'inverse queo sachant ce qui se fait dans le monde de la tech il faut s'attendre à ce que toutes les industries h y compris pétrolière utilise des stratégies de la sorte h et or dans dans la recherche sur les algorithmes sont majoritairement financé justement par les par les bigtech c'est pas comme si c'était du 5050 ah oui dans le monde de la bigtech c'est c'est enfin c'est vraiment catastrophique c'estd que euh par exemple si on prend le tabac également le tabac il y avait vraiment dans dans les pires heures du tabac enfin du lobby du tabac il y avait 10 % des chercheurs qui étaient financés par par l'industrie du tabac et on trouvait ça scandaleux euh aujourd'hui dans le monde de bigtech en intelligence artificielle en gros l'écrasante majorité si N la quasi unanimité des chercheurs ont des conflits d'intérêt avec avec bigtech donc ça peut être des financements direct ça peut être bon soit ce sont employés mais ça peut être des des financement indirects en France il y a des systèmes de thè CIFRES qui fait que beaucoup de chercheurs ont des doctorants qui sont payés par par bigtech H et et si on a un bon superviseur de thèse et qu'on se préoccupe bon c'est pas le cas de tous les super de test mais si on se préoccupe vraiment du bien-être de son de son étudiant en thèse bah forcément il y a le conflit d'intérêt va être énorme parce qu'on veut pas que mettre en danger son propre étudiant donc c'est c'est là où c'est c'est assez assez vicieux donc on a parlé tout à l'heure des fake news dans votre livre vous parlez aussi des mute news ouais qu'est-ce que ça veut dire concrètement concernant par le climat oui donc ça c'est un des autres aspects donc j'ai parlé de la mise en avant des contenus problème tique mais une autre façon enfin et ça ça conduit aussi au fait que les contenus qui sont en concurrence auront moins de visibilité h donc c'est ça vient du fait que la tension humaine est limitée et qui du coup il y a une guerre de la tension et si on est militant écologiste mais militant à peu près de n'importe quelle cause on se rend compte que en fait une grosse partie du militantisme c'est capter de l'attention et donc si on n arrive pas bah c'est que notre cause est en tout cas selon le militant une new news en le sens où c'est une nouvelle qui ne reçoit pas assez d'attention qui est rendue silencieuse par par par notamment par bah la compétition la concurrence ou l'arbitrage qui peut être fait notamment par les algorites de recommandationations et donc donc ça c'est un aspect assez important pour à comprendre pour aujourd'hui une une une part une proportion mon sens dé raisonnable de l'attention sur les problèmes informationnels en ligne sont portés sur les les fauses information les fake news genre de choses mais si on considère qu'en fait le problème des mute news est plus important encore par exemple l'inattention au climat ou l'inattention aux algoritmes de recommandations ou l'inattention à la cybersécurité bah en fait notre combat n'est plus sur la vérité de l'information notre combat c'est sur mettre en avant prioriser des messages qui sont plus importants que d'autres messages potentiellement factuels mais qui nous semblent d'importance moindre bah typiquement là c'est la campagne des élections européennes et on parle très peu algorithmes en fait ouais typiquement sur sur les élections européennes alors que c'est un enjeu énorme enfin aux États-Unis il y a un ultimat qui était passé à TikTok donc la question monte un petit peu il y a eu des problèmes de cybersécurité énormes autour de Microsoft qui ont mis en danger vraiment bah la sécurité nationale puisque il y a des gouvernements je parle aux États-Unis mais en France on utilise beaucoup Microsoft donc on est aussi clients beaucoup de Microsoft et malheureusement les les VO le manque d'attention à ceux est très grand et puis après sur les algor recommandations malheureusement je pense que là on peut vraiment parler d'une new news énorme je pense qu'on l'a compris jusqu'à présent on a parlé surtout des algorithmes de recommandation quand on parle d' on parle plutôt des As génératives comme chat GPT mid journé pour toi là aussi on met beaucoup plus d'importance beaucoup trop d'importance sur ces chat GPT mjournée que sur les algor pour une de recommandation ouais donc et alors pourquoi est-ce queon pense que c'est beaucoup plus dangereux de recommandation c'est parce qu'encore une fois c'est ceux qui interagissent vraiment avec la plupart des humains euh taper enfin parler à chat GPT sur un téléphone ça reste plus compliqué que de Swiper ou scroller sur une application TikTok eu après je vais pas minimiser l'importance non plus de de de ces autres problèmes euh chat GPT est en train de créer toutes sortes de problèmes notamment parce que c'est réutilisé massivement par le cybercrime euh et notamment par la désinformation le cyberhcèlement genre de choses pour créer des faux compes ch pour créer des faux compes automatiser à cration de faux compte ainsi de suite euh et euh euh les algorithmes Gén générateurs d'image sont encore plus préoccupants à mon sens en en terme de risque systémique pour la société à travers le problème des deep fake pornographiqu euh ça c'est problèm qui qui montent déjà enfin il y a déjà beaucoup de cas aux États-Unis mais il faut imaginer que si n'importe quel gamin a accès à la capacité en quelques clics à faire des difffects pornographiques de ses camarades de classe on risque d'observer beaucoup de de traumatismes psychologiqu il faut vraiment voir que ces armes sont des armes de destruction psychologique qui ont déjà utilé utilisé massivement contre des des journalistes femmes donc c'est aussi un moyen d'intimidation et de déstabilisation euh qui qui qui est qui à mon sens est extrêmement préoccupant h on va revenir sur les sur les algorithmes de recommandation je connais pas les chiffres et puis je pense qu'il faut les prendre avec des pincettes mais je crois qu'un adolescent aujourd'hui passe en moyenne 2 he sur TikTok par jour seulement sur TikTok donc c'est c'est il faut rajouter les autres réseaux sociaux moi j'ai j'ai supprimé mes mes applications où il y avait un algorithme de recommandation donc j'ai supprimé Twitter Instagram TikTok j'avais pas YouTube à cause des shorts notamment qui me prenit beaucoup de trop de temps mais parce que en fait j'avais ce truc que dès que mon micro-ondde tournait que je devais attendre 30 secondes sortais le téléphone dès que j'attendais mon ascenseur qui arrive sortais mon téléphone enfin ça devenait un peu compulsif et donc je su je suis loin d'être le seul qu'est-ce qui se passe dans notre cerveau pour que les les algorithmes de de recommandation arrivent à nous apper aussi efficacement doncct al ça c'est vraiment plus une question pour un psychologue idéalement c'est des questions qui sont vraiment mais dans le livre vous parlez de système 1 2 ouais et mais en tout cas ce que disent les psychologues c'est vraiment que c'est un des aspects de ces algorithmes c'est vraiment ils sont optimisés pour pour capter l'attention et euh et ce qu'on sait également c'est que Google embauché beaucoup de psychologues pour pouvoir être aussi bon que possible à cette tâche euh donc c'était pas mal révélé par un ancien de Google Tristan Harris et euh notamment ils avaient beaucoup d'inspiration des des jeux de casino des machines à sous vraiment les machines à sous ça paraît vraiment pas être le truc super sophistiqué a priori mais il y a quelques principes de base qui font que ça suffit à être à rendre accro un grand nombre d'utilisateurs et qui sont prêts même à mettre leur vie en tout cas au moins leur finances en danger h à cause de ces mécanismes psychologiques h et donc il y a une grande préoccupation de de beaucoup de de de de psychologues euh sur le fait que ces ces ces ces systèmes sont en train de de de d'amplifier massivement ou voir de créer d'une certaine manière euh une grosse partie de la crise mentale qui qui est vraiment montante aujourd'hui surtout chez chez les jeunes générations et dans le livre par exemple vous dites que quand quand on télécharge une app et qu'on se crée un compte on doit suivre par exemple des deux trois comptes histoire que l'app comprennent sans rien savoir de nous quelles sont les grandes directions vers lesquelles euh euh elles doivent nous amener donc euh par exemple sur TikTok il faut suivre de trois comptes au début je crois euh sur TikTok sur euh sur Twitter donc euh ça peut on peut choisir des des des des des tweet qui parle de science d'histoire de voilà et en fait c'est plutôt notre côté raisonné dans le livre vous avez plus ça le système 2 celui qui euh qui prend un peu de temps avant de s'exprimer et en en fait très vite on remarque avec l'onglet for you notamment enfin pour toi notamment de de je crois qui a été inventé par TikTok et qui a été repris depuis par par Twitter et aussi les shorts aussi en fait ne prennent pas du tout en compte ce qu'on leur a dit mais plutôt nous propose des vidéos qui vont plaire un autre côté notre cerveau qui est lui beaucoup plus insttinctif ouais ouis tout à fait donc c'est il faut encore une fois le le système 1 est beaucoup plus réactif donc système 1 système 2 c'est une terminologie qui vient de Daniel cman qui et malheureusement décédé récemment euh et donc c'est c'est vraiment cette idée qu'il a une partie de notre cerveau qui est beaucoup plus il réagit beaucoup plus de façon peu réfléchi instantané sur le moment et ça on voit vraiment sur le téléphone qu'on est fatigué et tout ça on a tendance à VO avoir une utilisation des réseaux sociaux qui est pas vraiment ultra raisonné et dans le livre on distingue pas mal de ça de ce qu'on appelle parfois la volition la volition c'est ce qu'on voudrait voir donc l'exemple que je prends tout le temps c'est euh c'est pour moi les vidéos de football c'est vraiment ça euh donc une vidéo de football c'est une vidéo que je veux voir et je clique souvent dessus et et malheureusement m'arrête de passer après des heures dessus et à être fatigué et à pas dormir euh et à l'inverse en fait je voudrais vouloir ne pas avoir cette envie quoi je voudrais ne pas vouloir cliquer sur cette vidéo donc c'est un peu une réflexion du second ordre h et donc d'une certaine manière euh en fait les réseaux sociaux aujourd'hui sont si j'oublie le problème des faux comptes et de du potentiel biais introduit par les développeurs à l'intérieur de ces algorithme j'oublie pas mal de choses mais si j'oublie ça les algorithmes sont en fait en un sens assez démocratique déjà euh dans le sens où ils font voter une certaine manière la population ils font sortir ce qui est populaire h mais un des problèmes c'est que c'est un vote vraiment des des systèmes 1 c'est un vote des réflexions des des préférences instinctives h et ce qu'on voudrait peut-être plus pour nos démocraties pour bien gouverner nos sociétés en tout cas la priorisation d'information dans nos sociétés c'est peut-être beaucoup plus un vot des des parties réflexives d'évoluition réfléchies et donc il faut mettre en place beaucoup de choses pour pour en arriver là mais malheureusement aujourd'hui avec les modèles économiques les plus lucratifs aujourd'hui et l'absence de régulation bah ça fait que bah les systèmes qui vont miser beaucoup plus sur la partie préférence instinctive es sont beaucoup plus utilisé ouis parce que le problème c'est que tous ces tous ces apps sont en compétition les unes les autres donc il y a un peu un dilemme du prisonnier si YouTube se met à à promouvoir du contenu beaucoup plus pédagogique du coup ça marche un peu moins bien au niveau des chiffres les gens vont se tourner sur TikTok et au final B YouTube aura tout perdu et ça aura servi pas grand-chose quoi ouais ou il y a un problème vraiment similaire au climat en terme de coordination et et en particulier le le problème dans les deux cas réside beaucoup dans donc ce que les économistes appellent les externalités négatives donc les externalités négatives c'est quoi c'est quand il y a un échange de bien entre un producteur et un consommateur mais qu'il y a une pollution qui va affecter le reste de la population ou autre souspartie de la population h et donc ça on le voit beaucoup sur les réseaux sociaux c'estàd que bon peut-être qu'à la limite certains sont sont prêts à utiliser peut-être vouloir vraiment utiliser les les réseaux sociaux en en tant que distraction mais ce qui est dérangeant c'est plus quand quand Facebook recommande des appels à la haine ou au meurtre ou de la désinformation sur des sujets importants comme le climat h à d'autres personnes massivement à ce momentlà le le le le producteur ou même le diffuseur sont contents ils ont produit le contenu et ils ont été rémunérés le consommateur est content il a consommé un truc qui lu a fait plaisir mais par contre le reste de la société va subir les conséquences parce que ça va appeler à la haine ça peut enfin potentiellement le reste de la société donc on prend en introduction le cas des ringas au myanemar où les ringa ont subi un un génocide notamment parce que en tout cas d'après amnestie internationale Facebook avait contribué à amplifier massivement auprès des des Birm des des des appels au meurtres envers les rowinga sans le vouloir mais parce que en fait ça faisait du chiffre quoi ça faargent c'est ça et enfin là où c'est l'accusation est forte c'est que Facebook a été mise au courant de manière répétée depuis 2012 de ce problème et Facebook n'a pas pris les mesures enfin pas du tout pris des mesures satisfaisantes pour pouvoir contrer ce problème donc en fait un peu en toute impunité et c'est ce qui fait aussi que ce problème des des big Tech est un peu une mute news parce que si ça arrivait je sais pas sur un médicament ou sur une marque d'avion au hasard Boeing qui se crache tous les 4 matins on en parlerait tout le temps alors que là ouais là on parle alors là parle donc d'un génocide donc c'est c'est c'est grave mais bon c'est un génocide lointeint donc peut-être que malheureusement beaucoup de gens sont pas enfin ultra sensibilisé à à cela ou s'en manque un petit peu euh mais dans le cas de la France euh en tout cas de de nos démocraties on voit un affaiblissement des démocraties généralisé h et et là là c'est c'est vraiment préoccupant et là ça me permett vraiment de répondre à la question pourquoi est-ce que les algores de recommandations me préoccupent beaucoup plus que le climat c'est qu' en terme d'échelle le temps on voit que depuis 2012 il y a eu un déclin des démocraties en gr au lendemain des des printemps arabes et que ce ce déclin s'accélère et que vraiment on parle de montter de populisme monté de régime autoritaire déclin des des des institutions de la confiance dans les institutions euh monter de la et et tout ça ça ça ça et on voit vraiment concrètement avec des exemples spectaculaires euh bah finment aux États-Unis en au Brésil en Argentine en Italie euh euh en Hongrie euh voilà malheureusement la liste au Royaume-Uni enfin malheureusement la la liste des exemples c'est c'est pas du tout ce qui manque et euh et donc le déclin des démocraties pour moi c'est c'est vraiment une préoccupation euh énorme qu'il faut avoir euh et qu'il faut c'est pour ça que je pense que c'est un problème plus grand plus plus important aujourd'hui que que changement climatique c'est parce qu'on on parle vraiment là des prochaines européennes on parle euh des prochaines élections à travers le monde prochaines élections aux États-Unis qui peuvent complètement changer le paysage géopolitique et à cela en plus rajoute bah de la haine interpays donc ça cé un peu inter pays mais interpays on a de plus en plus des bah de guerres à travers le monde mais également des des tensions exacerbées avec des des risques de de conflit d'escalade euh et donc enfin sachant tout ça je je considère que les ALG de recommandation sont beaucoup plus préoccupants aujourd'hui que que le clima alors comment on attribue ça direct alors c'est pas la seule cause hein je veux dire Trump c'était déjà un farfelu avant qu'il ait les algorithmes de recommandation mais comment on attribue ça aux algorithmes est-ce que c'est parce que les algorithmes ont compris consciemment ou pas que une des émotions qui qui crée le plus de user engagement comme tu disais au début c'était les émotions négatives et notamment la la colère ouis donc donc ces systèmes ils sont il faut vraiment pas les sous-estimer les systèmes d'intelligence artificielle sont extrêmement sophistiqué ce sont les intelligigences artificielles mon sens c'est plus sophistiqué beaucoup plus sophistiqué encore que que chat GPT notamment parce qu'elles font du profilage psychologique de 2 milliards d'humains elles ont appris à voir ce qui fait réagir elles ont fait énormément de ce qu'on appelle en jargon du AB testing c'est elles ont testé beaucoup elles ont testé qu'est-ce qui se passe quand je lui recommande ça quand je recommande C et et petit à petit elles ont appris ce qu'on appelle des features donc des caractéristiques des contenus qui font que tel ou telle caractéristique d'utilisateur se ment à interagir ou pas avec ses contenus et en fait il y a pas besoin que c'est que ces caractéristiques soient explicité par l'humain pour que l'algorithme néanmoins arrive à les identifier et il y a même pas besoin qu'elle corresponde à des choses que nous humains enfin sur lequel on met des mots et donc bien souvent ça va être des choses assez abstraites difficiles à à interpréter mais après nous en voyant le comportement de ces algorithme on voit que en effet euh quand quand c'est des contenus de N elles ont tendance à davantage les mettre en avant à davantage Ronné de visibilité donc c'est c'est c'est une mécanique qui est pas forcément euh complètement construite pas à pas mais c'est vraiment beaucoup plus à pass d'apprentissage de d'essai et d'erreur et à partir de ça en fait les algorithmes arrivent à se faire une représentation mentale des de ce qui fait réagir les différents utilisateurs parce que aux premiers heures des des réseaux sociaux on se souvient il y a quelques années on nous disait que les réseaux sociaux nous plongeaient dans des bulles de filtres donc en gros on ne voyait que du contenu qui nous plaisait on pouvait un petit peu se se voilà on était coupé des des autres opinions et en fait maintenant aujourd'hui on se rend compte que c'est pas du tout vrai on est on est mis face à des à des des opinions contraires et souvent c'est ce que vous dites dans le livre je trouve ça super intéressant c'est face à des caricatures des des des des des arguments adverses et ce qui polarise la la société énormément ouais ouais c'est ça donc c'est exactement ce que ce que tu as dit et donc historiquement on a vraiment pensé que il y avait ces problèmes de de bulles de filtre mais en fait ce qu'on se rend compte c'est que sur Internet on est beaucoup plus souvent exposé à des avis contraire ou que la vie ouais et euh du coup ça pose la question est-ce que vraiment l'Internet polarise mais en fait il y a des il y a plusieurs études dans le livre qui montrre qu'en fait être exposé aux avis aux pires avis en particulier du con adverse ben c'est pas ça qui va réduire la polarisation en fait ça peut même l'exacerber en particulier ça ça va augmenter pas mal ce que ce que ce que différents chercheurs appelleent la la polarisation affective euh c'està-dire que même des gens qui sont très proches de nous qui on qui qui avec qui on partage 99 % des idées des gens qui sont la même partie poliétique que nous on peut finir par les les vraiment les les détester avoir un sentiment de haine envers eux et et un autre aspect c'est que la colère est une émotion contagieuse ben beaucoup de choses sont contagieux en terme cognitif et et notamment bah si si on est entouré de gens en colère ça va nous pousser à être plus souvent en colère du coup juste le fait de normaliser la colère le fait que bah à chaque fois qu'on va sur un réseau social sur Twitter en particulier on est régulièrement exposé à de la colère ça peut monter le niveau de colère global dans la société y compris pour un pour pas grandchose quoi j'ai envie de dire ouais on le retrouve tellement dans la bulle ou dans la sphère climat en fait où comme tu dis on est d'accord avec 99 % mais on s'est tripe sur les sur les 1 % et honnêtement il y en a qui font leur beurre dessus il y a beaucoup de comptes qui font des 10000 20000 30000 abonnés parce qu'ils ont compris que taper sur un tel ou un tel c'était c'était c'est fructueux il y a une phrase d'Albert Camu que j'aime bien je trouve qu' s'applique bien à la situation c'est qui dit la démesure est un confort toujours et une carrière parfois ouis et je trouve qu'avec les réseaux sociaux en fait on est on est en plein d' en a c'est juste leur leur carrière et euh tu c'est marant parce que tu tu nommes la Chine comme un comme un ennemi euh alors qu'aujourd'hui quand on écoute les politiques euh ils sont pas du tout sur cette ligne là pour eux l'ennemi c'est la Russie c'est l'Iran euh mais la Chine est pas du tout représenté comme comme un ennemi peut-être parce que les guerres sont plus indirectes ell sont pas avec des bombes mais avec comme tu disais des des des algorithmes qui façonnent un peu les les les cultures et c'est un autre problème finalement de des algorithmes de recommandation on a dit que ça polarisait on a dit que ça mettait pas forcément le contenu euh le plus euh instructif en avant mais il y a aussi ce problème de guerre ce que vous appelez des guerres cognitives est-ce que tu peux nous nous peut-être n donner des exemples récents euh de guerres cognitives en France ou aux États-Unis bon par exemple un des cas récent euh de de de d'attaque informationnelle de la Russie c'est euh enfin on suspecte pas mal la Russie d'avoir amplifié massivement euh la polarisation émotionnelle en particulier au moment de de la révolte des agriculteurs on on on les suspecte aussi d'avoir été pas mal derrière encore une fois pas mal amplifié le message sur sur les punaes de lit on sait on sait euh beaucoup plus assez clairement notamment via la chaîne RA today que euh sur le sujet de la vaccination ils ont beaucoup cherché à diviser et à amplifier les contenus euh euh antivaccinaux donc qui étit critique la position notamment du des institutions publiques pour pouvoir décrédibiliser les institutions publiques donc ça c'est tout ça c'est c'est des attaques informationnelles très très très forte de la Russie ouais euh aux États-Unis c'est ce qui ce qui ce qui on sait qu'il y a beaucoup eu d'interventionn sur d'ingérance lors de chacune des élections pour donner quelques chiffres sur les il y avait une étude qui avait été reléamment par le MIT Technology Review qui qui montrait que sur les les 20 comptes catholique américains les plus les plus suivis sur sur facebook 19 étaient sous le contrôle d'unep russe d'accord donc c'est bon et un autre chiffre encore chaque année Facebook retire autour de 7 milliards de faux compes donc ça ça montre vraiment l'ampleur de toutes ces ces campagnes d'influence euh la France a donc l'institut de recherche stratégique de l'école militaire a publié aussi un rapport sur les campagnes d'influence chinoises h et qui montrait vraiment une ampleur énorme ils estimaient à 2 millions le nombre de Chinois payer pour produire de la désinformation sur TikTok notamment vous vous appelez ça carrément une arme de destruction massive oui euh donc faut vraiment voir que aujourd'hui la stabilité des démocraties la confiance en nos institutions l'absence de corruption la la capacité de dénoncer de mettre en avant C ces corruptions et de lutter contre c'est vraiment ce qui protège nos nos nos sociétés quoi c'est ce qui fait que enfin la démocratie c'est pas quelque chose de c'est quelque chose de précieux et de rare la confiance dans institutions tout ça dans dans l'histoire de l'humanité y compris dans l'histoire de la France et et donc la la avoir un outil qui est capable de de de mettre à mal ça de vraiment détruire cela ça ça me semble être extrêmement préoccupant et dans le bouquin vous dites pour juger la valeur de la démocratie il faut se rappeler ce qui s'est passé entre 1789 la Révolution et et je sais plus jusqu'àù allez mais plus de 100 ans quoi oui oui c'est ça c'est la question quand est-ce que la démocratie est devenue stable en France voilà il y a eu la Révolution Française en 1789 qu'on qu' célèbre beaucoup à raison mais il a fallu attendre 1870 pour pouvoir avoir une démocratie stable la 3e république et entreetemps en fait il s'est pas rien passé c'est pas juste qu'on a eu un coup de bol c'est c'est que il y a eu beaucoup de de de compréhension de l'importance de toutes sortes d'infrastructures démocratique institutionnelle donc je pense en particulier à l'éducation nationale à l'indépendance de la justice à la liberté de la presseou qui sont vraiment des composants indispensables pour avoir une une démocratie stable et malheureusement le web a beaucoup Bayer beaucoup ça dans ver de la main en tout cas sur internet et il les a affaibli également en dehors hors ligne ce qui fait qu'il y a beaucoup de travail qui me semble indispensable de remettre de de reconstruire vraiment ces ces ceses institutions à l'air du numérique de les mettre en ligne de les renforcer de d'ajouter beaucoup plus de transparence et de réédition des comptes pour que c'est non seulement c'est c'est ces institutions existent non seulement soit fiable mais également soit soit de confiance et qu'on construise une consurence justifiée par le peuple pour c'est ce genre d'institution h tu as parlé d'ébauche de loi mais aujourd'hui on on est on est naïf encore en France et enfin je pense que ça c'est ça se joue plutôt à l'échelle européenne c'est ça ouisou ça joue beaucoup plus à l'échelle européenne donc ouais donc il y a différentes régulations enfin il y a eu un travail formidable qui a été fait par par beaucoup de juristes ça a beaucoup avancé c'est un travail très difficile euh mais voilà il y a beaucoup de choses qui ont avancé notamment le rgpd donc ation pour le règlement pour la protection des données personnelles h euh il y a eu ensuite le ai enfin le le DSA donc le digital services Act le digital markets Act maintenant le ai Act à venir le cyber residence Act peut-être à venir également donc il y a différentes régulations qui ont été mises en place pour ouais augmenter la transparence augmenter la capacité de voilà par exemple les lois extraterritoriales sur le le stockage des données européennes enfin ce genre de choses qui ont été mises en place et il y a eu des amendes qui sont tombées hein eu de 1,2 milliards si je me si je me souviens bien de d'euros d'amende pour MTA pour avoir stocké des données de citoyens européens sur le territoire américain euh ouisment il enfin il y a il y a un mec un peu un superhéros dans dans ce domaine Max schms qui a beaucoup ré pour faire appliquer ces lois et et en fait je dirais que et puis il y a aussi beaucoup de lois préexistantes c'estàdire que en France il y a des lois sur l'interd indiction de l'appel à la haine incitation à la haine raciale il y a des lois sur les propriétés intellectuelles et et et c'est des lois qui qui qui parfois ont été utilisé pour des procès alors notamment aux États-Unis aux États-Unis ils ont un beaucoup enfin en France enfin en Europe on a beaucoup plus la tendance à vouloir d'abord bien poser les cadres et ensuite les faire appliquer aux États-Unis il y a un peu plus un côté euh bon les procès c'est un enfin c'est un peu plus à base de procès voilà donc ça pose ai des problèmes parce queil faut être riche pour pour lancer un procès mais lancer un procès c'est c'est beaucoup plus classique et il y a des procès en cours contre open notamment le New York Times a à à excuser euh euh open ai en particulier chez GPT de de de de vol de propriété intellectuelle en particulier euh voilà GPT est capable de de de de donner euh quasiment versbaam euh les contenus d'articles du New York Times euh qui sont sous paywall donc ça ça ça pose forcément des des problèmes euh ouis ça pour dire que le paysage juridique est est loin d'être vierge il y a beaucoup de choses qui peuvent être utilisé le le plus gros défi à mon sens au niveau législatif il y a besoin de nouvelles lois de meilleures lois ce genre de choses il y a aussi des gros problèmes de corruption j'en pas parler mais ça mériterait aussi beaucoup de choses il y a enfin au moins de lobbying le lobbying de Big Tech est énorme à l'échelle européenne et et et pas que Big tech que la France aussi a été un un moteur énorme pour affaiblir les réglementations à l'échelle européenne pourquoi euh pourquoi parce que d'un côté bon d'un côté on a on a un président qui est très libéral h d'utre côté on a quelques start-up françaises ou pseudo française on va dire comme Mistra lea qui qui que que VO qui qui ont été défendus euh d'accord et et puis d'un autre côté il y a il y a aussi tout le côté surveillance pour les Jeux Olympiques donc il a des problèmes de sécurité nationale qui sont considérés importantes en France enfin par les dirigeants français qui ont fait que beaucoup de de réglementation sur les conditions de surveillance de cyber surveillance ont été combattu par par la France d'accord il y a eu des intérêts communs entre les bigtech et le gouvernement français sur la protection des données quoi oui ou ok donc donc VO mais mais au-delà de tout ça ça fait déjà pas mal de un autre problème c'est surtout pour moi la la mise en vigueur l'application le enforcement on dIR EN ANGLAIS ouais l'application le fait que les lois soient vraiment appliqué qu et et par exemple pour prendre un cas concret chat GPT vio planin de loi existante c'est sûr c'est tellement sûr que même le le PDG d'OP il a reconnu il a dit ça sera impossible de faire ce qu'on fait sans utiliser des doits des droits qui sont pas libres de droit des donné qui sont pas libres de droit et donc la question c'est pose ok c'est aujourd'hui dans le numérique si vous êtes une startup enfin si vous lancez un produit il y a vraiment la question bah est-ce qu'on viole la loi quoi tout le monde le fait est-ce qu'on reste derrière ou est-ce qu'on achète pas aussi des produits qui clairement violent à lo enfin la question se pose quoi c'est Open est acheté par beaucoup d'entreprises françaises euh est-ce que ouis si si on a un temps soit peu réaliste par rapport à ça on sait que ça viole des lois est-ce qu'on viole achète des produits qui sont des compli qui sont en fait dont on sait qu'ils sont illégaux même s'ils ont pas été jugés illégaux par exemple dans le dans le livre vous dites que open ai a fait du lobbying auprès des députés européens ça c'est acté quoi ah ça c'est acté donc ça c'est ça a été il y a un article du Time là-dessus mais ouais c'est c'est pour d corer une loi pourit dû corer une loi mais en fait le plus gros lobbyiste c'est tellement pas enfin open a a clairement agi mais le plus gros lobbyist c'est pas open c'est c'est beaucoup plus Mistral et AC l'entreprise alors j'ai pseudo française parce qu'elle a des investissements américains californien depuis le début et que en plus récemment elle a fait un partenariat avec Microsoft donc POS la question est-ce que c'est vraiment français mais ok euh il y a des pays comme l'Inde par exemple qui ont carrément interdit TikTok euh TikTok lui-même est euh je crois qu'il est limité à 40 minutes par jour pour les moins de 14 ans et il est aussi interdit entre 22h et 6h du matin alors en France ce serait pas forcément applique là mais là-bas c'est possible euh en France donc je disais tout à l'heure les les ados passent en moyenne 2 heur par jour est-ce que c'est des choses qui sont envisageables les États-Unis envisage par exemple de l'interdire ouais ouais j' même plus loin en fait enfin juste la distinction entre la Chine en Chine en fait ils ont leur propre application donc TikTok n'est pas utilisé en Chine ils ont une autre application qui s'appelle doin ouis en plus ouais et doin fait des recommandations très différentes de TikTok ouais donc déjà ça pose la question on est en train d'utiliser un produit que le producteur ne veut pas utiliser ouais c'est c'est des recommandations qui sont plus je crois pédagogique c'est ça des recommandations plus pédagogiques en fait ils abrudissent tout le monde mais eux ils veulent pas s'empoisonner avec quoi c'est ça c'est un peu ça ça ça ça rappelle un peu l'industrie de de la drogue les gueres de l'opium ouais ouais typiquement de de drog peut-être ne consomme pas autant que que les personnes à qui qui il vend h et donc la réponse à ça ça a été la réglementation ENF les drogues sont sont très régulé beaucoup de drogues en tout cas sont son très régulé dans beaucoup de pays et et donc oui je pense après si en plus on adopte des on considère qu'il y a vraiment une guerre cognitive qui a lieu qui une guerre d'influence au moins euh ENF une guerre d'influence je pense que tout le monde s'y accorde euh et qu'en plus même une guerre de déstabilisation des pays une lutte d'influence à l'échelle du pouvoir politique des partis ainsi des gouvernements euh is je pense qu'il faut être vraiment terrifié par par TikTok comment le parti commun chinois utilise TikTok comme une comme une arme par exemple donc en en Inde ils l'ont interdit donc devait y avoir une une bonne raison j'imagine oui B l'E se méfie beaucoup de la Chine ils ont encore des territoires disputés ouais mais c'est à cause de ça ou oui je je je pense que c'est c'est pas mal lié à ça et et à l'inverse la Chine a interdit récemment euh WhatsApp et euh WhatsApp et et et thread d'accord eu et ils ont aussi enlevé enfin ils ont pas communiqué là-dessus mais voà il y a eu des applications je crois que c'est signal et télgram qui ont été enlevé de l'App Store en Chine euh donc enfin la Chine est vraiment en mode cyberger enfin g informationnelle l'été dernier ils ont hacké en tout cas Microsoft a attribué à la Chine un hack de leur système massif euh donc il y a enfin en France aussi il y a cet état d'esprit hein le le le général Burcard chef d'état-major des armées disait en 2021 je crois euh que il faut gagner la guerre avant la guerre euh et se préparer au pire mais vraiment gagner la guerre avant la guerre c'est c'est faire en sorte que en terme de lutte informationnelle on soit solide on fasse peur et on donne pas envie à quiconque de de nous attaquer h et voir on montre aux autres qu'on est capable de les déstabiliser h aujourd'hui la Russie et la Chine ont des moyens de pression sur les ils peuvent déstabiliser vraiment beaucoup de démocratie h euh et ça ça ça les met en position de force même pour négocier autre chose des choses économiques ou autre donc si on se place dans dans un esprit de guerre informationnel en TikTok est une arme surpuissante quand on voit ce qui se passe à Taiwan ouais on peut parler de Taiwan vous en parlez beaucoup dans le dans le dans le bouquin et puis c'est un point chaud évidemment du monde aujourd'hui et je pense qu'il qui résume bien un petit peu ce qui se passe dans le monde entier ouais Taiwan c'est c'est c'est Al nous on prend vraiment ça comme un exemple parce que au cours des 10 dernières années comme comme j'ai dis il y a beaucoup de déclins démocratiques il y a beaucoup de choses qui sont déprimantes quand on regarde le paysage numérique et démocratique à travers le monde au cours des 10 dernières années mais il y a Taïwan et Taiwan donne beaucoup d'espoir donne beaucoup d'espoir et en particulier beaucoup d'inspiration parce que ce qu'a fait Taiwan c'est qu'il une une un mouvement étudiant en 2014 qu'on appelle le mouvement des tournesol et euh le mouvement des tourn sol a beaucoup été porté par des Paron beaucoup par des jeunes qui demandaient plus de démocratie mais également beaucoup par par j'allais dire des geek des des desfin des informaticiens des gens qui sont très à l'aise avec le numérique et et au coup enfin un des aspects au cœur de la stratégie du mouvement des tournesols c'était d'utiliser le numérique comme une force pour la démocratie comme une arme démocratique et donc ça ça ça ça ça ça transparaît dans différentes manières euh par exemple un des aspects c'est beaucoup plus de transparence sur les choses qui sont censées être transparents donc le gouvernement français est au service des Français il est censé travailler pour les Français donc beaucoup de choses que fait le gouvernement français même par la loi sont censé être accessibles à n'importe quel français mais aujourd'hui c'est il y a certains documents qui sont horriblement difficiles à obtenir parce que il y a pas un système d'information qui a été mis en place pour rendre ceses informations très accessibles au sitf ça c'est quelque chose contre lequel Taiwan a beaucoup lutté et par par exemple l'allocation des budgets du gouvernement ce genre de chose est facilement visualisable sur des sites taiwanais du gouvernement peut-être je peux abander par expérience par exemple pour savoir ce qu' a voté un certain nombre de députés un groupe de députés loi par loi et cetera c'est possible techniquement on peut le faire mais pour récupérer ses données de manière plus industrielle pour en faire quelque chose c'est beaucoup plus compliqué et on peut penser que c'est fait à dessin par le gouvernement pour compliquer les choses ouis un autre exemple qui a été frappant c'est c'est le cas de APB donc ex parcours sup donc y donc ça cétait un algorithme enfin il y avait un algorithme en tout cas dans la pb et l'algorithme était pas transparent enfin était pas open on pouvait pas y accéder et donc il y a eu une association de lycéen qui ont qui ont demandé bah la publication de cette enfin de de de ce code qui vent c'est un truc public qui devrait vraiment MRE même faire open source sous licence libre et qui détermine l'avenir deenir tellement de jeunes et le gouvernement avait envoyé le code de de cet algorithme par courrier physique complètement inexploitable ENF vraiment compliqué et donc il y a vraiment un progrès énorme à à utiliser beaucoup plus le numérique comme une force pour augmenter la transparence dans ce genre de d'initiative puis un des autres aspects qu' a fait Taiwan c'est aussi ils ont compris très vite qu'ils étaient en guerre cognitive avec avec la Chine et que vraiment ils étaient bombardés par par par la désinformation de Chine et un des aspects qu'ils ont fait c'est c'est mettre en place des plateformes de de de prébunking enfin des des des solutions de prébunking donc de lutte contre la désinformation avant même qu'elle soit consommé autant que possible et également un des aspects intéressants c'estils ont intégré une application qui s'appelle police paul.is qui est une plateforme de de délibération qui qui a été introduite en 2012 pour d'autres raisons mais qui a permis en fait donc c'est une plateforme en fait où vous pouvez délibérer donc avoir un groupe qui vont mettre des propositions une agora citoyenne en ligne c'est ça et et par contre il y a des règles un peu spéciales donc c'est vra que je reviens sur le fait que algorithme ça veut dire règle donc c'est vraiment ça régit la manière dont on Inter et donc on peut vraiment réfléchir des algorithmes démocratiques ou plus démocratique et donc en l'urrence police ce qu'il faisait c'est que il ne permettait pas les réponses ça peut être un peu bizarre mais chacun fait des propositions et tout ce que les autres peuvent faire c'est mettre un un pouce vers le haut pousse vers le bas quoi et donc ça ça permet de récolter les avis des différentes personnes sur différentes propositions et ça permet de construire ensuite une carte de l'ensemble des des avis sur différentes propositions ça c'est intéressant pour voir bon ça de voir des d'accord mais c'est intéressant surtout pour voir les consensus voir les les les choses sur lesquelles les interventions qui peuvent être assez radicales mais sur lequel on est tous d'accord donc ça était pas mal utilisé à Taiwan et de façon intéressante ça a été utilisé aussi récemment en France donc une une expéence qui a été mise en place au lendemain enfin suite au aux violences policièr enfin au conflit violence policière VI desbr en lieu euh sujet et et donc il y avait des questions qu'est-ce qu'on fait par rapport à la police quoi quels sont les inter intervention qu'onait faire par rapport à la police sujet au combi controversé cvant à l'éco oui voilà donc sur Twitter par exemple c'est des embrouille quoi ouais sur Twitter c'est c'est on dit un demi-mot et paf tout de suite ça ça part en flamme et et néanmoins ce qui éit intéressant avec police c'est c'est qu'on a permis de se rendre compte qu'il y avait des consensus même sur ce sujet au combien controversé il y avait en fait des consensus à travers la population et notamment tous voulaient beaucoup plus investir dans la formation des policiers et euh dans la police de proximité et donc c'est c'est quand même remarquable que on peut se mettre tous derrière ces consensus et lutter pour la mise en place de ces consensus et pour le suivi de ces consensus et ça fait une action qui non seulement est euh est active qui va permettre vraiment de de de faire progresser le sujet mais qui est aussi unificatrice hein on a vu que une des grosses stratégies de désinformation euh des des des pays étrangers c'est de de de cver de de diviser la population donc là ça permet de beaucoup plus unifier d'apaiser hmm et de travailler ensemble pour vraiment faire améliorer les choses même si on sait qu'il y a des sujet sur lesquels on n'est pas d'accord donc là c'est carrément un négatif he de ce qui se passe aujourd'hui sur sur Twitter on qu'est-ce qu'on peut faire d'autre pour pour mettre en place cette ce que vous appelez vous cette cette démocrae cette gouvernance algorithmique enfin démocratique qu'est-ce que qu'est-ce que vous proposez en gros ce serait que tous ces algorithmes qui appartiennent à des entreprises privées en soit des algorithmes que ça publque à l'échelle mondiale débattu comment ça marche oua alors il y a pas mal de de choses à faire enfin il y a énormément de choses à faire énormément de choses qui peuvent être faite de façon euh je vais dire concurrente au sens en parallèle pas pas pas forcément en concurrence en compétition euh et donc un des et alors peut-être une des choses à dire c'est c'est que c'est un peu illisoire d'espérer résoudre le problème du jour au lendemain donc faut pas faut pas avoir un truc tout fait enfin faut pas espérer avoir un truc tout fait on va déployer ça demain et tout tout va être résolu donc il faut vraiment avancer pas à pas et faire des concessions sur le chemin en espérant atteindre un état qui soit vraiment satisfaisant inf un autre point commun avec le climat d'ailleurs un autre point tout à fait ave avec le climat et et un des aspects donc par exemple une des propositions qu'on fait c'est beaucoup plus respecter un principe démocratique qui est une personne une voix euh donc aujourd'hui euh donc typiquement ça voudrait dire quoi c'est dire que le le pouvoir d'influence qu'on a sur sur l'algorithme soit beaucoup plus une personne une voix et en particulier des personnes qui ne sont pas résidents français on va dire les termes peuvent être débattus citoyens français ou résidents européens ENF les termes peuvent être débattus mais ça serait bien que quelqu'un qui au moins ne soit pas humain n'it pas un pouvoir disproportionné sur le comportement de ces algorithme aujourd'hui c'est le cas on a vu avec chpt et compagnie il y a des compagnes de désinformation qui ont des armées de faux compte qui sont capables de manipuler beaucoup plus les algores de recommandation que le citoyen français ouais et donc réarmer beaucoup plus les citoyens français dans le contrôle de ses algorithmes donc ça c'est une chose ouais ça si je peux enfin en gros dans la vraie vie la démocratie sur ce point de vue là elle est respectée il y a pas de il y a pas de bourrage d'de en France par des ingérances étrangères mais par contre en ligne il y a un peu ça qui se passe quoi exactement exactement donc c'est c'est vraiment cette analogie et et donc on peut se demander comment est-ce que en ligne on peut faire pour que chacun ait une voix enfin chaque citoyen en français on va dire a une voix et donc il y a il y a des idéesj des initiatives comme France Connect qui permettent d'identifier les personnes en ligne un des problèmes de France Connect tel qu'il est aujourd'hui c'est que il identifie pleinement la personne en ligne donc si on se connectait avec notre compte Google et qu' certifiait via France Connect qu'on un citoyen français bah Google sera exactement lequel de ces citoyens on est et le gouvernement français saura exactement quel compte Google on a et donc il est capable de suivre de retracer ce que chacun a dit et potentiellement si on a pas confiance en le gouvernement bah on pourrait avoir des problèmes quoi euh donc ça c'est une solution qui qui qui qui qui est pas idéale mais par contre un truc qui pourrait être fait c'est de combiner ça avec des techniques de de cryptographie moderne euh ce qu'on appelle donc le zero knowledge proof donc la preuve à divulgation nul de connaissance pour ceux qui connaissent mais qui permettrait de de certifier qu'un compte est possédé par un citoyen français mais sans que ni le gouvernement ni la plateforme ne sache lequel de ces enfin quel est ce citoyen en question h et ensuite ce qu'on pourra exiger c'est que les algorithmes de recommandation même du privé même de YouTube par exemple n'apprennent que des données des citoyens français en France ou des citoyens européens en Europe par exemple quelque chose comme ça et donc ça ça limiterait beaucoup la capacité d'ING gérence des des pays étrangers et une fois qu'on aurait cette possibilité de voter comment c'est quoi la suite en fait on voot comment pourquoi ouais donc donc une autre difficulté c'est c'est à ce dont on a parlé plutôt c'est que aujourd'hui c'est c'est un vote des des préférences instinctives donc si si on fait juste ce que j'ai dit on risque bon je pense qu'on on diminuerait beaucoup les problèmes d'ingérence étrangère mais on risque quand même d'avoir le fait que les contenus les plus les plus populaires sont pas les sujets importants ouais euh et donc si on veut changer cet état de fait il va falloir faire euh une ce qu'on appelle une démocratie d'évolution plutôt qu'une démocratie des préférences instinctives tu disais tout à l'heure c'est ce que je voudrais voir vouloir quelque chose de beaucoup plus réfléchi quoi et c'est des choses qui sont déjà un peu poussées par la démocratie telle qu'elle est aujourd'hui donc il a par exemple il y a certaines lois alors je sais plus le numéro de cette loi mais il une loi qui dit que le jour de l'élection d'une élection les partis politiques n'ont pas le droit de continuer leur campagne même 48 heures je crois même 48 heur comme ça et donc euh c'est une façon de faire en sorte queon soit pas influencé au dernier moment par la dernière réplique et qu'on nit pas un truc plus instinctif au moment de voter ouais donc ça nous force 48 he où on est un peu un peu plus en en mode méditation même si bien sûr on sera jamais complètement en pratique ouais euh et donc ilut on pourrait instaurer des choses similaires sur le web euh c'est des initiatives euh ouais j'ai l'impression de dire beaucoup de mal des entreprises privées enfin je je le fais mais mais il a eu des initiatives par certains euh certain certaines équipes de ces entreprises privées qui sont très louables notamment chez YouTube il y avait cette app cette fonctionnalité un moment où vous pouviez donner enfin qui existe encore aujourd'hui où vous pouvez donner votre avis sur une vidéo que vous avez vu la veille d'accord donc VO c'est c'est c'est ce genre de mécanisme donc en ayant à Têtre reposé quoi à Têtre reposé et en étant en ayant passé la nuit au moins c'est possible bien dormir et et et en tout cas ça fait un jugement d'une autre partie de de nous possiblement la partie plus réfléchie h et donc ce sont des inatives qui sont intéressantes qui il y a Twitter aussi enfin en gros je voulais te demander c'est une question lesquels les réseaux sociaux sont les moins pires enfin que Twitter maintenant c'est un peu le c'est plus voilà ça c'est àir en terme de qualité du débat mais vous dites dans livre qui font quand même des choses comme des community notes des il un moment donné avant retweeter il nous demandit si on avait bien lu l'article retweeté des choses comme ça ça ça te semble c'est récent c'est un coup d'ép dans l'eau c'est oui oui Twitter en fait avant l'arrivée de musk avait eu vraiment une équipe de Safety qui était très active et très soutenu c'est vraiment ça en fait la question c'est à quel point est-ce que les équipes d'éthique et de sécurité sont sont soutenu et du coup ils avaient fait pas mal d'initiativ et notamment les community notes donc il y a plusieurs aspects intéressants dans les community notes donc ça c'est les notes contextuelles que vous voyez parfois si vous uisez Twitter qui vont s'attacher à un poste et qui vont être votés par la communauté des community notes pour savoir quel contenu afficher donc ça va être typiquement des correctifs des mises en contexte aussi h et et l'une des approches intéressante de ces community notes c'est que c'est que c'est une approche démocratique en sens où c'est Twitter en principe pas son mot à dire sur quelles sont les notes qui vont être affichées c'est vraiment les les membres des commun notes donc il faut fautand enfinandidater j'ai l'impression que c'est de plus en plus facile de devenir membbres des comités notes mais et c'est un problème parce que du coup ça a été complètement infiltré par par par des campagnes de des informations h donc il y avait des problèmes de sécurité autour des community notes mais l'idée de base était intéressante et et en particulier un des aspects intéressants des communaés c'est qu'ils a implémenté cette idée de consensus c'estd qu'un contenu enfin une note est affichée si elle est jugé consensuellement utile par la communauté ouais par des gens qui sont dans de camp différents c'est ça g de tout bord al je sais pas trop comment ils définissent les camp d'ailleurs mais al il y a des façons de de enfin à base de machine learning pour pour essayer d'identifier ça mais intuitivement ce qui se passe c'est que un des problèmes par exemple d'une vidéo Youtube c'est si vous regardez que le le pourcentage de lik en fait c'est pourcentage des likes des gens qui ont vu la vidéo Youtube qui sont souvent bah des fans de la chaîne donc si une vidéo a un énorme t de lik ça veut pas dire qu'il sera qu'elle serait consensuellement jugé bonne si tout le monde l'avait évalué mais il y a des techniquesah typiquement on peut voir bon intuitivement par exemple dans ce cas on peut voir si quelqu'un n' pas du tout l'habitude de consommer cette vidéo t ça regarde même des vidéos qui vont pas du tout dans ce sens si elle like néanmoins cette vidéo bah ça donne un indice que la vidéo sera peut-être consensuelle au-delà et donc s'il y a pas mal de personnes qui font ça bah là on peut commencer à juger le contenu consensuel euh peut-être juste sur cette histoire de consensus je sais que ça peut un peu en rebuter certains mais on cherche à créer un consensus on cherche à arrondir les angles c'est pas du tout ça en fait non c'est c'est pas du tout ça donc vraiment cette idée de fabriquer le consensus et donc là là ça c'est plus à la manipulation mais mais là l'idée c'est plus de trouver des consensus qui existent déjà dans la société ouais et un des aspects importants c'est qu'on tendance a tellement sous-estimé cette ce consensus qu'on se rend pas compte qu'il y a des mesures extrêmement radicales qui sont en fait consensuels euh par exemple taxer massivement les milliardaires et très certainement consensuel euh enfin le problème des inégalités globalement jugé consensuel ralentir le développement des intelligigences artificielle aussi consensuelle y compris chez des gens qui sont enthousiastes de l'IA euh j'ai donné quelques exemple ici mais voilà faut vraiment pas sous-estimer faut pas opposer consensuel et et radical enfin en tout cas qui va beaucoup changer les choses donc on a parlé de quelques pistes de de solution est-ce qu'il y en a d'autres que tu voudrais aborder est-ce que tu veux nous parler de votre projet tournesol qu'on a abordé au début oui alors je veux bien parler de ce que je fais de projet qui qui me tient beaucoup à cœur donc tournesol c'est un projet qu'on a lancé en en qu'on a vraiment lancé en 2020 mais bon c'est c'est vraiment lié des années de réflexion sur sur sur ces sujets moi j'ai fait ma thèse en théorie des votes notamment notamment je suis beaucoup intéressé au scrutin donc c'est vraiment des sujets qui qui m'intéressent depuis depuis 15 ans maintenant on va dire et et en particulier tournesol c'est vraiment l'appliquer au au cas en particul des algorithmes de recommandationon considère les plus influents et donc l'idée de tournol c'est vraiment de faire des un al de recommandation donc aujourd'hui on s'intéresse beaucoup aux vidéos YouTube enfin quasiment exclusivement aux vidéos YouTube et donc la question qu'on se pose c'est bah si on se mettait ensemble autour d'une table ou pas quel quels seraient les contenus qu'on voudrait recommander le plus euh à aux utilisateurs de T mais même au-delà quoi quels sont les les contenus qui seront qui devraient être le plus recommandé sur sur internet un des aspects intéressants de poser la question comme ça c'est c'est que ça ça les vidéos vont forcément être en en concurrence parce que la tension est limitée et donc il s'agit absolument pas juste de noter la fiabilité d'une vidéo c'est la question c'est pas est-ce qu'une vidéo est vraie ou fausse la question c'est est-ce que à quel point est-ce qu'elle dorait être plus recommandée que d'autres vidéos et donc pour pouvoir obtenir cette information ce qu'on fait c'est qu'on demande aux utilisateurs des jugements comparatifs donc leur demande de de de sélectionner des vidéos sur YouTube donc vous pouvez n'importe qui peut créer un compte surtout tournol et ensuite choisir des vidéos n'importe la quelle vidéo sur sur sur sur Youtube l'importer du coup sur sur tournol et dire entre deux vidéos qui qu'il a vu par exemple laquelle devrait être plus souvent recommandée par lagorite de tournesol ouais et c'est intéressant parce que ça ça ça force des arbitrages entre des vidéos sur des sujets radicalement différents h euh ouais on compare les chou et les patates un peu quoi on compare des chous et des patates mais on est un peu obligé parce que voil un truc quo limé il va falloir autant dans le climat on perçoit euh des améliorations des tendances des courbes qui fléchissent euh autant sur les algorithmes donc Twitter il y avait du mieux puis ça a été racheté il y a il y a 6000 personnes qui ont été virées sur 8000 un truc comme ça euh Facebook je crois qu' a a viré aussi son comité éthique he c'est ce que vous dites dans le ouis tikt est plus grand que jamais et c'est pire que ses prédécesseurs en gros on connaissait Instagram pour le mal-être que ça a donné notamment aux adolescentes TikTok c'est pire carrément il il chadobban les les filles qui sont moins belles et mettent en valeur celles qui sont plus belles donc en gros voilà là pour le coup on est un peu dans dans chaque jour est pire que le précédent qu'est-ce qui qu'est-ce qui pousse vos votre équipe à faire un petit projet enfin petit c'est je le dis en toute c'est c'est c'est pas pour être pour dénigrer le projet qui est beau mais je veux dire il a pas le budget de YouTube de YouTube de de TikTok il a pas un parti derrière qui le pousse et cetera qu'est-ce qui vous donne envie de de continuer et peut-être pour les les gens qui nous qui nous écoutent qui ont des enfants notamment on a pas parlé des enfants mais bon c'est les principales victimes euh qu'est-ce qui qu'est-ce qui pousse à entrevoir peut-être ou pas un avenir plus radieux ouais donc donc ça c'est c'est vraiment la troisème partie de notre livre et c'est vraiment Jean-Lou qui a vraiment beaucoup mûri ses idées et qui m'a beaucoup convaincu euh et et c'est une difficulté qu'on a vraiment au quotidien moi je prends tous les jours quasiment des des gifles en me disant mais en fait c'est pire que ce que je croyais les choses les choses va mal je je re aussi beaucoup de de choses qui vont dans le B sens tout tout n'est pas négatif loin de là il y a beaucoup de de bonnes initiatives qui ne serait-ce que la régulation à échelle européenne de plus en plus de chercheurs s'intéresser à tour au sol donc il y a aussi beaucoup de signaux positifs euh maintenant je vais être très honnête je vois pas comment les choses vont pouvoir ne pas se dégrader dans dans dans les mois et les années à venir la trajectoire est extrêmement préoccupante et l'inattention est encore gravissime la disproportion des moyens est est juste effrayante y compris au niveau de la recherche juste petite parenthèse excuse-moi de te couper mais on on invite encore quelqu'un comme Yan lekun qui est qui travaille sur l'intelligence artificielle chez Facebook qui est contributeur de à son échelle évidemment mais quand même une belle échelle he quand même c'est Facebook de tout ce qu'on vient de raconter ouais et qui est invité dans les médias et de tous les médias pour le coup Médi part n'importe même ce qu'on pourrait penser un peu plus érudit euh et il est invité comme comme une un chercheur indépendant et cetera alors qu'en fait il a c'est directeur de la recherche chez Facebook imaginez inviter le directeur de la recherche chez total energy vous parlez de la régulation de la Tex carbon ouais sans sans être contredit et sans être signalé chercheur de total ennergie c'est c'est l'état des choses aujourd'hui c'est pour ça que ça rend très ça force à être très pessimiste la trajectoire est vraiment pas bonne donc moi moi je m'attends pas à ce que les choses s'améliorent dans la dans l'année à venir ou dans les quelques années à venir euh euh mais j'espire que il y ait beaucoup de mobilisation pour atténuer la catastrophe une analogie évidente avec le le changement climatique c'est que il faut vraiment comparer à l'alternative où vraiment personne n'agirait personne ne se combattrait la tendance actuelle à ce moment-là les choses pourraent être bien pire et euh et et moi je vois quand même beaucoup de gens se mobiliser sur les questions algorithmiques pas assez mais de plus en plus notment les chercheurs s'intéressent de plus en plus à ces questions les journalistes s'intéressent de plus en plus à ces questions il y a de plus en plus de commissions qui sont mis en place donc même les politicien pas suffisamment encore une fois à mon goût mais s'intéresse de plus en plus à ces questions et et et du coup on on atténue une catastrophe il y a des voilà les États-Unis vont peut-être interdire TikTok donc il y a quand même des des choses qui vont dans le bon sens donc par que j'ai envie de dire chaque 10è de degré compte en comme pour le climat et si on peut évider que éviter que bah je sais pas les l'extrême droite monte trop vite aux prochaines élections européennes bah ce sera toujours ça de gagner quoi M s'ils vont probablement pas mal monter par rapport aux précédent donc chaque deème degré compte donc ça c'est une des raisons pour lesquelles on on se bat et ça protège des vies et puis l'autre raison qui qui est beaucoup plus inspirante à mes yeux mais même qui est moins moins moins concrète on va dire c'est le fait que à travers tournesol à travers toutes ces réflexions à travers la recherche sur ces domaines on contribue à concevoir des des briques élémentaires qui pourront être réutilisé par les démocraties lorsqu'elles seront prêtes il faut bien voir que ces briques n'existent pas aujourd'hui on n' pas les outils aujourd'hui pour pouvoir passer à une démocratie numérique même si on le voulait c'est c'est un des trucs très frustrant c'est que euh tournesol ça fait 3 ans qu'on travaille dessus c'est c'est construit à partir de de des décennies de recherche sur le sujet mais c'est c'est c'est très insuffisant ce qu'on a fait je pour faire uncore un parallèle c'est comme si aujourd'hui on avait pas on avait pas de de de de panneaux solaires d'éolienne et de son nucléire quoi ex et qu'on demandait une transition énergétique bah ça serait bien de développer ces outils aujourd'hui enfin on les a beaucoup développé et puis même si on les avait aujourd'hui il enfin le coût réduire les coûts reste un enjeu énorme ouais euh donc c'est après ça passera plus des problèmes d'industrialisation euh malheureusement j'ai envie dire qu'on n est pas encore nous dansonde de numérique euh mais voilà il y a une trajectoire également qui qu'il faut suivre et et donc travailler sur l'élaboration de ces outils Paul is a pas été développé pour Taiwan mais a beaucoup aidé Taiwan et donc si on pouvait avoir un algorithme de de recommandation qui sera utilisable qui sera beaucoup plus sécurisé avec typiquement les les les choses de de proof of enfin de de de citoyenneté française en ligne qu'on développera en France ça il faut absolument les rendre open source et libre d'accès parce que faut que toutes les démocratie les utilise et ça ça ça renforcera tout le monde et à long terme à moyen terme peut-être en espérant ça pourra beaucoup remporcer nos démocraties et construire des gouvernances en lesquelles on a confiance ce qui ce qui est aujourd'hui malheureusement encore difficile merci avec plaisir [Musique] [Musique]