Dans ce nouvel épisode de Multipolaire, le podcast des alumni de l’Inalco, nous recevons Muriel Popa-Fabre, experte en intelligence artificielle, machine learning (ML/NLP) et politiques technologiques européennes. Chercheuse en neurosciences cognitives et en sciences du langage, elle travaille aujourd’hui auprès du Conseil de l’Europe et de l’Institut IA & Société (ENS–PSL) sur les enjeux liés à l’IA générative, à la protection des données et à la souveraineté numérique.

Cet échange explore les transformations profondes que l’intelligence artificielle impose à nos sociétés : souveraineté linguistique, impacts cognitifs, éthique, automatisation, culture numérique et rôle de l’Europe. Un entretien essentiel pour comprendre comment le langage, la pensée et la technologie s’articulent dans un monde en mutation.

ÉCOUTER L'ÉPISODE

QUI EST MURIEL FABRE ?

       Ancienne élève de l’Inalco, Muriel Fabre mène un parcours à la croisée du langage, des neurosciences et de l’intelligence artificielle. Elle a travaillé pour le Collège de France, Cornell, puis le Conseil de l’Europe. Elle est aujourd’hui conseillère tech & policy à l’Institut IA & Société (ENS–PSL), spécialisée dans la gouvernance de l’IA, les droits fondamentaux et la souveraineté numérique.

GRANDES THÉMATIQUES DE L’ÉPISODE

• Le dialogue essentiel entre science, culture et technologie

• Les enjeux de souveraineté cognitive et linguistique face aux grands modèles de langage

• Les effets cognitifs et sociétaux de l’automatisation et de l’IA générative

• Les limites et risques liés aux modèles d’IA : biais, opacité, illusions de vérité

• La construction d’une gouvernance européenne de l’IA et la protection des droits fondamentaux

• La place de l’humain dans un environnement numérique automatisé

• La nécessité d’un débat public interdisciplinaire autour des technologies émergentes

• Des pistes pour un usage responsable, critique et éclairé de l’intelligence artificielle

RECOMMANDATIONS DE LECTURE

📚 Daniel Andler – Intelligence artificielle, intelligence humaine : la double énigme
📚 Antoine de Saint-Exupéry – Lettre à un otage

TRANSCRIPTION COMPLÈTE DE L’ÉPISODE

       Dans un monde marqué par la montée des crises et conflits où les rapports de force évoluent sans cesse, la compréhension fine des dynamiques culturelles, linguistiques et géopolitiques est plus essentielle que jamais. Je suis Margot Drancourt de Lasteyrie, ancienne élève de l'Inalco et l'hôte du Podcast Multipolaire, le podcast des anciens de l'Institut national des langues et civilisations orientales. Nous invitons des anciens élèves pour qu'ils nous éclairent sur les enjeux de l'actualité internationale. Un podcast réalisé en partenariat avec Narastoria. 

Aujourd'hui, sur notre podcast Multipolaire, nous avons la joie d'accueillir Muriel Fabre. Muriel Popa Fabre est professeur chercheur. Ça, c'était sa première partie de carrière au Collège de France, à Cornell, avec une expertise pointue sur l'interface entre le traitement automatique du langage naturel et les neurosciences cognitives. Aujourd'hui elle est experte auprès du Conseil de l'Europe sur les sujets liés à l'IA et à la protection des données et aux droits fondamentaux. En parallèle, Muriel est consultante auprès des Nations unies et dans le privé sur des sujets d'évaluation et de stratégie d'IA générative.

Muriel, est-ce que vous pouvez vous présenter en quelques mots ?

en langue chinoise. Et j'ai mis dans la boucle de ce dialogue toute la partie des neurosciences cognitives. Et après ,j'ai commencé à me dire que c'était intéressant de pouvoir modéliser le langage, notamment les différences entre chinois, français, anglais dans ma tête, et c'est comme ça que je suis arrivée au à toute la partie computationnelle de ma carrière et à l'IA et notamment aux réseaux de neurones et tout ce qui est lié à la modélisation du langage par ce qu'on appelle aujourd'hui les LLM. Donc si je devais résumer ça, c'est pour ça que je le dis, je suis une multi récidiviste du dialogue. Et quelque part, ce qui est intéressant dans le dialogue, c'est que c'est quelque chose qui est assez rare aujourd'hui. Et donc je n’ai jamais vraiment eu à chercher de travail parce que tout le monde a besoin de dialogue. Et notamment si on regarde aujourd'hui les urgences de dialogue, la Chine, avec la question géopolitique, et multipolaire d'ailleurs, comme le nom du podcast. Le cerveau parce qu’on délègue de plus en plus notamment à l' et l'IA parce qu'on en a besoin pour rester maître chez nous la maîtrise technologique donc ces 3 pôles.

Muriel, qu'est ce que vous vouliez faire à 7 ans ?

C'est très drôle parce que cette question m'a fait revenir en arrière dans le temps et je me suis rappelée, qu'avec ma meilleure amie, on voulait créer une clinique pour soigner les personnes et on avait vraiment structuré la chose avec plusieurs étages. Donc une partie de cet immeuble était dédiée à une pratique de soins par les langues. Je voulais soigner les personnes, un peu comme si une langue était un médicament. Et ma meilleure amie voulait soigner tout le monde par la relation à différents animaux. Donc on avait un médicament linguistique, un médicament animal, et c'est comme ça qu'on voulait avoir en plus être dans le même bâtiment pour pouvoir manger ensemble. C'était assez structuré. Résultat des courses, c'est vrai que la langue est restée fondamentale et pour elle, toujours la question de la communication. Elle travaille pour des grandes marques de luxe à l'international, sur la partie communication. Et je me dis en fait que ça c'est très lié à la question du dialogue quelque part, de pouvoir soigner par une langue qui pourrait permettre d'exprimer des choses qu'on sait pas exprimer par ailleurs. Et donc il y a vraiment cette espèce de d'obsession de la communicabilité, ou bien à l'inverse de l'incommunicabilité des choses où il faut agir pour que la communicabilité se fasse. Donc c'était déjà là à 7 ans et puis à 13 ans aussi après, je voulais absolument être linguiste, apprendre plein de langues. Une vocation précoce….

Qu'est ce qui vous a donné envie de vous inscrire au Langues’O, à l'Inalco?

Alors c'est beaucoup moins romantique que ce que je vivais à 13, 13 ans et 7 ans. C'était un plan B je voulais m'inscrire en linguistique. Et puis ils n’ont jamais reçu mon courrier recommandé pour l'inscription. Et je voulais m'inscrire en mineur en chinois. Et du coup, le Chinois est devenu le majeur. À l'époque, on pouvait faire un majeur et un mineur. Enfin, c'était une autre, une autre époque universitaire. Et je dirais aussi que finalement, j'étais très contente. J'avais fait du Chinois dans les cours le soir au lycée. Et en un mois et demi, on a rattrapé tout ce que j'avais fait en 2 ans et demi au lycée, Puis surtout si on ne s’accrochait pas, c'était le fauteuil éjectable. On était 700 en première année à cette époque-là voilà.

Et qu'avez vous trouvé justement au Langues’O ? Quel est votre meilleur souvenir ? Peut etre un professeur marquant ?

Alors ce que j'ai trouvé aux Langues’O, c'est vraiment cette possibilité de se désaxer. J'avais cette sensation à l'époque, les Langues’O en chinois, c'était à Dauphine. Il y avait une petite bibliothèque qui était très basse de plafond, mais l'impression que j'avais en marchant c’était à chaque page, il y avait peut être un univers dans un bouquin, que ce soit en Asie du Sud est, que ce soit dans la partie Chine, dans la partie Japon, c'était organisé par langue et civilisation. Donc même si le plafond était très bas, moi j'avais cette sensation de me dire en fait je n’ai pas assez d'une vie pour découvrir …il  y a plein de gens qui voient le monde de façon différente donc qui peuvent se désaxer. Le meilleur souvenir c'est quand même les personnes. En ordre chronologique, j'ai rencontré ma meilleure amie aux Langues’O qui est encore ma meilleure amie, mon mari aux Langues’O qui est encore mon mari. Et des professeurs quand même qui m'ont marqués, ça c'est sûr. J'ai un souvenir de Madame Marc qui avait une passion furieuse pour la discipline. Je me rappelle qu'elle nous a raconté un poème que j'ai d'ailleurs cité il y a 3 semaines dans une conférence pour répondre à quelqu'un qui posait une question sur l'IA et la capacité des connaissances que l'IA donne aujourd'hui. Et je me suis rappelée d'une poésie Tang que j'ai du mal à citer de mémoire, mais qui racontait qu'on passait de stade en stade. Et puis on arrivait à voir du haut de la montagne, on arrivait à comprendre le monde du haut de la montagne. Je pense que c'était clairement pour nous apprendre le chinois classique qu'elle nous l'a donné. Mais je pense aussi qu'elle avait compris que si on comprenait ça, qu'est-ce que ça voulait dire le savoir ? On allait être mieux armés dans la vie. Pas que pour la compréhension de la syntaxe du Chinois. Voilà.

Et pourquoi avoir choisi d'étudier le Chinois ?

Eh bien ça aussi, c'est une rencontre. Je voulais apprendre la linguistique. J'ai rencontré un universitaire linguiste italien, qui m'a dit, Il faut étudier Dante, il faut étudier le chinois ou le russe, et puis il faut apprendre à coder. Et quelque part, j'ai juste suivi, j'ai suivi les indications de ce linguiste qui est encore vivant. 

Et c’est fou ! C'était à quel âge cette rencontre ?

Et ça, j'étais en 2e année de lycée.

Quelle chance.

Oui, c'est vraiment de la chance et je pense que les Langues’O, c'est aussi intéressant parce que il y a beaucoup de personnes qui, vu qu'elles ont une expérience personnelle très dense du fait de la rencontre et du multiculturel, peuvent aussi ouvrir, conseiller, avoir un regard un peu plus long.

Pouvez-vous nous dire en quoi consiste votre métier et les compétences clés pour y réussir ?

Mon métier aujourd'hui est très dense en différentes activités, de façon assez volontaire. Je me situe entre un travail pratique dans le privé pour évaluer les systèmes, notamment les systèmes à base d'IA générative et aussi à l'ONU et le travail plutôt d'affaires publiques, pour conseiller, quelles sont les bonnes stratégies à la fois en termes d'investissement et en termes de régulation, ou ce qu'on appelle soft Law, grand de principe et de recommandation. C'est un parti pris qui est extrêmement chronophage, mais qui essaie de faire en sorte que les décisions en politique publique soient basées sur de l'évidence, qu'elles soient un peu plus expérimentales ou plus pratiques, issues vraiment des endroits où on essaie d'augmenter la productivité pour avoir un impact. J'ai travaillé beaucoup dans les médias les 2 dernières années, dans des agences de presse qui se rendent compte de l'impact de l'arrivée de l'IA pour leur productivité ou bien la qualité de leur travail, la rapidité à laquelle ils doivent réagir à la désinformation et c'est des endroits en fait où vu qu'on a compris l'enjeu, on essaie de se saisir du fait technologique à bon escient et surtout de façon expérimentale et extrêmement rapide.

Est ce qu'un diplômé de l'Inalco qui n'a pas fait de recherche à Cornell ou au Collège de France peut développer votre expertise ?

Alors l'expertise plus scientifique sur le comment marche le cerveau, le travail expérimental en psychologie cognitive, travail sur la neuro imagerie cognitive avec de l'IRM et de l'électrophysiologie, je pense que c'est difficile. Ça a été des choix difficiles que j'ai fait parce que j'ai dû reprendre les stats, reprendre toutes les séances que j'avais faites avant d'arriver à l'Inalco, donc c'est possible. Ça demande beaucoup de courage et ça demande aussi de rencontrer les personnes qui vous font confiance. Moi, j'ai rencontré beaucoup de personnes qui m'ont fait confiance, qui se sont rendu compte que la question linguistique que je posais par rapport au cerveau chinois, au français, était intéressante et valait la peine d'être creusée. Et c'est comme ça que je suis arrivée à ce dialogue acharné entre une matière plus littéraire et une matière plus scientifique, je pense que j'aurais jamais pu, je vais retourner la question, je pense que j'aurais jamais pu y arriver sans avoir aussi le Chinois et surtout la compréhension d'écosystèmes qu'on développe aux Langues’O. On développe une compréhension d'un pays. d'une culture, d'un environnement, d'une économie, d'une géographie, d'une histoire. Et c'est à l'aune de toute cette compréhension contextuelle qu'on comprend la langue et vice versa. Et je pense que cette capacité là qu'on peut avoir aux Langues’O, elle est très rare. Parce que c'est difficile de rencontrer des gens qui ne baissent pas les bras face à la complexité. On développe aux Langues’O une vision du monde qui est extrêmement, que je qualifierais de 3D. Ce n’est pas des notions, c'est un ensemble d'expériences et c'est la capacité de mettre ensemble plein de paramètres pour comprendre un phénomène qui nous est loin, qui est loin, qui est une altérité. Et ça, dans le monde d'aujourd'hui, c'est essentiel parce qu'on a une société qui est plus polarisée. On a une possibilité, par les réseaux sociaux aussi, de vivre un peu à huis clos et développer ces compétences-là, il y en a besoin et je pense qu'ils sont un élément différenciant dans ma carrière.

Aujourd'hui justement, vous êtes experte auprès du Conseil de l'Europe sur des sujets liés à l'IA, à la protection des données et aux droits fondamentaux. Vous êtes également en parallèle consultante auprès des Nations unies et dans le privé sur des sujets d'évaluation de stratégie générative. Pouvez-vous décrire en quoi consistent vos missions ?

Au Conseil de l'Europe, je travaille dans plusieurs comités, le comité qui est lié à l'IA. Et qui travaille sur l'implémentation d'un traité international sur l'IA qui sera bientôt ratifié par plusieurs pays. Il a été signé déjà par 16 pays. Il s'agit aujourd'hui, maintenant que le texte est rédigé, de trouver une façon de l'opérationnaliser pour qu'il puisse être utile à l'intérieur au niveau national, déjà pour tout ce qui est utilisation de l'IA par les pays, au niveau gouvernemental et aussi pour qu'il puisse devenir une bonne pratique dans le privé. Donc ce qui est aujourd'hui organisé au niveau du Conseil de l'Europe, c'est le développement d'une méthodologie qui s'approche de ce qu'on appelle en bon français le risk management, le management des risques dans l'entreprise qui permet d'établir l'impact que peut avoir l'utilisation d'un système d'IA, sur les droits fondamentaux. Et ça, c'est une problématique intellectuelle passionnante parce qu'il s'agit de passer de quelque chose qui est extrêmement abstrait, des principes (qu'est-ce que ça veut dire la liberté d'expression, article 10) et de transformer ça en une méthode qui puisse permettre d'analyser l'impact sur la liberté d'expression, l'utilisation par exemple d'un chatGPT d'entreprise ou d'un chatGPT pour les services qu'un État fournit à ses citoyens. Et je suis par ailleurs dans un autre comité corapporteur sur l'impact de l'IA générative sur la liberté d'expression et les médias et le monde de l'information. Et là on a terminé la rédaction de recommandations. Donc concrètement c'est un document d'une vingtaine de pages, qui établit d'abord quelques piliers de possibles impacts de cette technologie, en particulier de génération d'images et de génération de textes et de génération multimodale, pour dire bon, face à ça, on a un système statistique qui génère de l'information à grande échelle. Quel est l'impact à la fois au niveau individuel ? Donc par exemple, la standardisation de l'expression de tout un chacun parce que le vocabulaire de chatGPT est extrêmement fluide et on a envie de l'adapter parce que ça coule. Mais ça a aussi un impact sur la diversité de l'expression individuelle. Et on l'a vu dans les grandes études du MIT de Business School à travers le monde, qu’il y a vraiment une standardisation du lexique, mais aussi à l'échelle de la société. Ça veut dire c'est qu'est ce que ça veut dire en termes de diversité linguistique ? Et qu'est ce que ça veut dire en fait sur le futur d'une langue en particulier ? Surtout si elle est peu représentée dans la banque d'entraînement, s'il y a des biais de traduction, si c'est des langues qui sont peu documentées. Voilà, ça c'est un des exemples des 6 grands axes. Donc c'est un travail à la fois d'analyse et en 2e partie de recommandations. On a fait cette analyse. Comment agir en tant qu'État ? Construire des banques de données, avoir des stratégies de données qui permettent à une langue d'être représentative ou bien avoir des stratégies de vérification, créer des observatoires sur les impacts à venir. Donc dans une optique plus souple, pas forcément de contraintes réglementaires majeures, mais déjà observons qu'est ce qui se passe pour pouvoir prendre des bonnes décisions à l'avenir, parce que c'est une technologie qui évolue tellement rapidement que fixer dans le marbre quelque chose est extrêmement complexe. Et le dernier, c'est sur la protection des données. C'est tout le travail de dire : on est dans une devant une technologie qui mémorise aussi en partie les données de la banque d'entraînement. Comment minimiser l'impact sur la vie privée de ces outils sur le long cours ? À la fois d'une façon extrêmement technologique, donc avec du recueil de bonnes pratiques, on fait des interviews au niveau de l'écosystème et des différents acteurs qui sont dans la chaîne de valeur et on essaie d'en extraire les bonnes pratiques du moment et d'autres d'hypothèses un peu plus sur le long cours de qu'est ce qui pourrait être viable technologiquement d'ici 3 ans. Aux Nations unies, je travaille aussi sur le sujet des neuro-technologies avec des rapports qui permettent à des grandes organisations comme l'Organisation mondiale du travail de faire du développement capacitaire. Alors c'est un grand mot pour dire « former les personnes pour qu'elles puissent se saisir des neurotechnologies et notamment de tout ce qui est technologie de type casque sans fil pour le futur de l'éducation » et essayer de voir où est ce que c'est problématique, par exemple parce que ça peut détériorer la relation professeur élève et comment gérer la possible détérioration de cette relation du fait qu'il y a un médium technologique avec des statistiques, on enregistre en temps réel l'activité de l'étudiant, voir s'il est concentré, pas concentré, voir s'il a mémorisé, pas mémorisé. Donc comment on peut faire en sorte que cela ne soit pas délétère et que cela puisse servir en fait à une amélioration des pratiques de transmission du savoir, une amélioration par exemple de la relation qui n'existe déjà pas beaucoup quand on est en distanciel, notamment pour la formation professionnelle. Et donc voilà, faire la part des choses entre qu'est ce qu'on peut faire pour gouverner cette technologie qui de toute façon est en train d'arriver ? Les casques de ce type-là sont en vente sur Amazon pour 399$. Ils permettent d'améliorer votre état émotionnel par une certaine musique sur la base de ce qu'ils ont appris, de ce qui améliore votre état émotionnel. Donc c'est évidemment une grosse intrusion dans la vie privée de la personne. Mais en même temps, il y a un besoin de bien-être dans la société qui fait que c'est une réponse à un besoin de la société de gérer les situations émotionnelles difficiles ou de monitorer son état comme on le fait depuis des années avec des montres connectées.

Est-ce que les entreprises et les institutions, à votre avis, ont besoin d'une compréhension fine des enjeux de souveraineté technologique ? Et si oui, en quoi est-ce nouveau ?

En effet, ce n'est pas nouveau. Je dirais qu'on a néanmoins changé d'échelle. C'est-à-dire que tant qu'on considérait les enjeux comme étant uniquement liés aux données, la donnée étant quelque chose de statique, on pouvait se passer d'une compréhension technologique par des métaphores. À partir du moment où on est devant quelque chose de dynamique qui en plus n'est pas très prédictible (on a vu des chatbots insulter des clients de grande surface parce qu'ils achetaient des choses avec un Nutriscore trop mauvais). Donc on est dans une situation en fait où on a besoin de gouverner cette technologie. Et en fait j'ai tendance à dire et à répéter un peu partout que la première gouvernance c'est la compréhension. Et même pour adopter une technologie et être efficace et augmenter la productivité d'une branche d'un secteur, si on n'a pas compris exactement ce qu'est la technologie, on ne va pas pouvoir l'adapter. C'est une technologie qui est extrêmement adaptable, l'IA et qui a besoin des compétences métier pour servir vraiment le métier. Et donc dans les situations dans lesquelles je me retrouve, je me retrouve à essayer de faire le lien. C'est extrêmement intéressant d'un point de vue intellectuel parce qu'il faut vraiment rentrer dans un monde de « qu'est ce que ça veut dire fabriquer l'information ». Il faut vraiment rentrer dans le monde de « qu'est ce que ça veut dire enseigner et de comprendre l'impact des neurotechnologies ». Il faut vraiment entrer dans plein de mondes. J'ai travaillé pour le centre de recherche du Ministère de la Justice en France. J'ai vraiment dû me projeter de qu'est ce que ça voulait dire, une décision de justice, quel document il fallait voir, sur quel document il fallait revenir. Donc cette technologie étant si adaptable, il faut comprendre ses limites pour pouvoir bien l'utiliser et ses atouts évidemment. Et donc je pense que c'est plus urgent aujourd'hui de comprendre qu'avant. Et l'autre raison pour laquelle c'est essentiel et il faut être exigeant dans la compréhension qu'on a de la technologie, c'est qu'il y a de plus en plus un narratif « boîte noire ». Et ce narratif « boîte noire », il va dans le sens d'une adoption qui ne permet pas cette adaptabilité et donc qui ne permet pas l'essor économique que pourrait avoir un acteur du privé.  Ou bien d'augmenter l'efficacité des services de l'État sans la compréhension.

Et donc, qu'est-ce que vous suggérez par rapport à ces fameuses « boîtes noires », black box en bon français ?

Je suggère de d'essayer avant tout de trouver à l'intérieur de son organisation où mettre la compétence. A l'intérieur d'une organisation, la compétence si elle n’est pas mise au bon endroit, elle crée des frictions et elle ne permet pas de gérer les risques qui sont implicites de cette technologie. Donc la première chose, c'est de se dire comment on va commencer à connaître ça, qui va être en charge de commencer à comprendre cette technologie ? Et comment on va créer le système pour qu'une fois qu'on a compris, on puisse prendre les bonnes décisions ? Donc je trouve que c'est exceptionnel, de voir depuis 2 ans l'arrivée de l'IA dans les entreprises, ça désilote tout le monde parce que c'est une technologie qui est extrêmement transversale. Il faut avoir lien avec les clients, capacité technologique, donc lien avec les clients, c'est toutes les directions commerciales, marketing, l'approche technologique, l'approche sécurité du système, l'approche stratégique, donc la gouvernance de haut niveau, la question juridique, le risque juridique à gérer. En fait, vous avez toute une entreprise qui est chamboulée par simplement le développement d'un POC, comme on dit en bon français, juste d'une expérimentation en interne. Vous devez trouver la donnée où elle est. Vous devez structurer l'endroit où la donnée est. La sortir de l'habitude que vous avez de regarder cette donnée, pour la regarder avec des nouveaux yeux et comprendre comment cette technologie vous permet en fait de la transformer en valeur. Donc vous êtes vraiment dans une situation où si vous n’aimez pas l'altérité comme on l’apprend en Langues’O, vous allez continuer à regarder vos données comme avant. Moi je vais continuer à être européenne comme j'étais avant. Je ne vais pas avoir découvert qu'est ce que c'est être européen en ayant vu la Chine par exemple. Donc c'est exactement la même chose qu'on a appris aux Langues’O, c'est d'être capable d’avoir des nouveaux yeux sur les mêmes choses qu'on a et pour qu'elles aient une nouvelle valeur.

Vous avez mentionné la Chine. Dans un contexte de rivalité technologique entre les grandes puissances, notamment les États-Unis et la Chine, quelles seraient selon vous les conditions nécessaires pour garantir une souveraineté cognitive et linguistique de l'Europe face au modèle de langage géant conçu majoritairement dans ces pays-là, la Chine et les États-Unis ?

Je pense qu'il faut développer, il faut qu'on développe nous-mêmes nos outils. Il ne faut pas avoir peur de le faire ensemble. On l'a vu avec le cloud européen, on est retombé, on a essayé de se lancer dans cette direction et on est retourné sur des intérêts nationaux. Je pense que cette fois-ci, en apprenant des erreurs passées, il faut qu'on soit capable d'avoir ce dialogue européen. Et de se fixer ensemble des vraies étapes de construction et c'est comme ça qu'on pourrait imprimer notre marque sur ces outils. Une étude sortie de Cornell montrait combien les des étudiants indiens devaient modifier en moyenne les sorties de chat GPT, en sachant que le marché indien est un des plus grands marchés au monde et que c'est extrêmement intéressant pour des chatbots anglophones d'aller sur ce marché parce qu'ils n’ont pas à changer leur langue. Néanmoins, il y a une problématique culturelle.

Et alors, quelle est cette problématique culturelle ?

La suggestion. L'étude passe en revue plusieurs éléments de la culture des fêtes, la nourriture, les stars et 2 ou 3 autres. Et on voit que les suggestions sont fondamentalement américano centrées. Une autre étude sortie de Harvard trouve une corrélation entre combien vos réponses (une étude pluriannuelle de d'évaluation de valeur sociale qui est standard en sciences sociales), combien vos réponses à ce questionnaire corrèlent avec les réponses de chatGPT si votre pays culturellement est plus proche des États-Unis. Donc on est dans une situation où si en Europe on veut être une 3e voie ou une voie, tout simplement la nôtre, on doit se trouver autour d'une table pour développer quelque chose qui représente à la fois nos valeurs et notre culture pour pas devoir en permanence transformer comme les Indiens les réponses de chatGPT pour les adapter.

Alors qu'est-ce que ça serait comme outil en dehors du cloud européen que vous avez cité ?

Ça pourrait prendre plusieurs dimensions. La première, une dimension qui prend en compte la totalité de cette chaine de valeur. Parce qu’on a besoin évidemment de puissance de calcul pour la partie d'entrainement d'un modèle. Mais on a aussi besoin de capacité de calcul juste pour répondre aux usagers. Donc ce ne sont pas les mêmes éléments. On a besoin de données mutualisées, probablement de faire une politique beaucoup plus raisonnable sur des modèles qui sont plus focalisés, qu'on appelle étroits, donc des modèles qui servent en médecine pour la relation patient/docteur, en médecine pour l'analyse radiologique, en médecine pour d'autres utilisations administratives, mais donc qui soient spécialisés. Pour pouvoir avoir un maximum d'impact et être moins dépendant de la question du cloud qui de toute façon a des ordres de grandeur plus importante qu'un petit modèle bien spécialisé qui pourrait en passage tourner sur un téléphone portable d'ici pas si longtemps.

Peut-on espérer voir émerger un LLM européen?

Il y a plusieurs initiatives qui se sont lancées déjà il y a un an et demi sur ce sujet. Il y a un travail qui d'ailleurs est conduit par la France qui s'appelle Altedic au niveau européen pour mutualiser des banques de données qui peuvent servir - avec les bonnes licences donc un cadre légal - pour entraîner les modèles. Je ne sais pas jusqu'à quel point ces initiatives aboutiront à quelque chose de concluant, mais par contre, je suis sûre que le dialogue qu'elles mettent en vie est ce dont nous avons besoin pour y arriver. C'est-à-dire que l'élément, l'ingrédient fondamental humain est là. Le travail transversal sur quel type de licence et d'accord légal il faut autour de ces communs numériques est en cours. Donc j'ai tendance à être très positive sur ce sujet parce que si déjà on arrive à être un bon nombre autour d'une table, on a résolu 70% du problème. Après il manque juste quelques investissements.  Mais sans ce 70% d'accord, l’investissement ne viendra pas non plus.

On oppose très souvent la réglementation européenne, notamment le DSA Digital Services Act, au développement des start-up européennes. Qu'en pensez-vous ?

C'est un vrai sujet qui occupe beaucoup au niveau européen, notamment depuis le rapport Draghi et de façon générale parmi les représentants de moyennes et petites entreprises au niveau européen. Ce travail met en avant la difficulté qu'ont les petites et moyennes entreprises d'avoir toute la partie légale et toute la partie de conformité à l'intérieur de leurs services. Ça crée d'ailleurs une nouvelle partie de business qui essaie d'externaliser cette partie de service et de conformité à l'extérieur des entreprises. Beaucoup d'entreprises se lancent sur ce sujet. C'est une vraie question. C'est une vraie question de comment, où placer le curseur de cet équilibre entre une culture européenne qui est pour une approche plurielle des problèmes et la difficulté dans le digital de comment les 20 dernières années se sont structurées autour de grands groupes. Qui ont à la fois la donnée, les talents et l'immobilisation de capital qui va avec et l'investissement qui continue d'arriver. Donc il y a 4 ingrédients fondamentaux qui font que dans le digital, ce modèle américain (qui est suivi par les Chinois) marche mieux. Si on parie sur le fait qu’on aura besoin de moins de données et moins d'infrastructures pour la nouvelle génération d'IA qui sera beaucoup plus focalisée et qui pourra hypothétiquement tourner sur un téléphone portable, on a gagné au moins la partie infrastructure et capital. Je pense que l'exemple chinois de Deepseek est extrêmement parlant. On est devant un modèle qui a passé au moins 7 grandes étapes de d'audit réglementaire parce que entre le moment où l'équipe de Deepseek a publié ses premiers résultats sur de l'apprentissage de maths en avril, une année avant la sortie de Deepseek, il y a 3 étapes en plus réglementaires, dont un audit par la partie du ministère - l'administration du cyberespace - , c'est le ministère qui gère tout ce qui est autorisation de mise sur le marché digital en Chine. Donc on est devant un produit qui est extrêmement innovant, qui a réussi la bataille de la capacité de calcul en optimisant et en plus qui a passé toutes les étapes. Alors est ce que cela est possible en Europe ? C'est une grande question. Et la première question qu'on se pose, c'est l'efficacité administrative. Depuis une semaine, on parle d'un AI Act chinois, parce qu'après 3 différentes itérations réglementaires en Chine, on est après la V 3, on arrive à un compromis. Dans les 3 versions, il y a des paliers de 2 semaines maximum pour auditer un algorithme avant de le mettre sur le marché. C'est très court, c'est extrêmement court et tout le monde est d'accord là-dessus. Et déjà aujourd'hui c'est assez court, donc ça veut dire que l'administration se permet d'être extrêmement contraignante. Toutes les cases que votre chatbot doit cocher en Chine pour être mis sur le marché sont incroyables avec des paliers extrêmement contraignants d'un point de vue statistique, de pourcentage de réponses correctes, de pourcentage de réponses en ligne avec la non-discrimination des ethnies en Chine, par exemple, les idées du Parti communiste présentes et les différentes versions de l'idéologie du Parti communiste sont toutes réglementées. Elles ont toutes des quotas. Donc on est dans une situation où l'efficacité administrative et bureaucratique palie la complexité réglementaire pour une mise sur le marché rapide.

Et une petite question annexe qui est sur beaucoup de lèvres en ce moment. Comment devenir moins bête avec l'AI ?

C'est la première chose quand on m'a demandé de parler devant de nombreuses délégations au Fonds monétaire international, ça a été mon premier souci. On m'a dit, « tu as 10 minutes pour parler de l'IA générative à des ministres et des délégations de ministres du monde entier ». Et donc mes premières 5 minutes, ça a été « comprenez la technologie » et la 2e partie, ça a été « l'impact cognitif ». Si on doit prendre des décisions à l'échelle nationale et globale sur cette technologie, il faut qu'on se rende compte que, comme le disent d'ailleurs les économistes, ils utilisent le terme « automation cognitive ». Ça veut dire que ce qu'on est en train d'automatiser, c'est quelque chose que notre cerveau fait au quotidien : eésumer, rédiger, corriger, tout ça pour les applications textuelles. Évidemment, pour tout ce qui est multimodal, c'est encore plus complexe. Donc en économie, on dit qu'on transforme la force de travail, on la transforme en capital. Donc ça a d'énormes enjeux aussi sur l'organisation de la société. Et donc ça, c'est la première chose. Et la 2e chose, c'est que depuis maintenant 30 ans, on sait ce qui se passe avec le GPS. La première automatisation cognitive, ça a été se déplacer dans l'espace. Et à Londres, une équipe de UCL, University College of London, travaille depuis 30 ans sur une population de chauffeurs de taxi qui elle a résisté à l'utilisation du GPS. Et ce qu'ils ont découvert c'est que en faisant des comparaisons scientifiques précises entre chauffeurs de taxi et chauffeurs de bus par exemple, le chauffeur de bus a toujours le même parcours, il ne doit pas utiliser en permanence toutes ses capacités cognitives pour décider quel est le chemin le meilleur, éviter la circulation. Le maire qui décide de changer le sens des rues, tout ça ils n’ont pas à faire tout ce calcul… Et donc on découvre qu'il y a une aire cérébrale qui est fondamentale dans la navigation spatiale, qui s'appelle l'hippocampe et qui n'a pas la même taille chez ceux qui utilisent le GPS et ceux qui ne l'utilisent pas. Et surtout en fait chez les taxis qui résistent et qui ont passé le fameux examen des taxis londoniens en ayant une cocarde de la Reine. (À l'époque, c'était la Reine). Et qui fièrement se targue d'avoir « the Knowledge », « le Savoir », rien de moins que le savoir. Eh bien chez eux, cette aire réduit seulement quand ils partent à la retraite. Donc on pourrait dire : utilisez-le ou perdez-le, l'hippocampe (use it or loose it). Et donc la question qui se pose par rapport à l'utilisation d'un outil qui est multifacettes, multitâches, comme un assistant IA aujourd'hui, surtout avec la nouvelle vague des assistants, des agents IA qui du coup vont pouvoir automatiser plusieurs étapes d'une même tâche, d'une tâche complexe. Ce n’est pas juste une tache cognitive comme la navigation spatiale qui évidemment n'est pas uniquement localisée dans l'hippocampe. C'est un réseau d'aires cérébrales qui dialoguent entre elles. Mais si on doit automatiser de plus en plus, ça sera beaucoup plus de réseaux d'aires cérébrales. Une étude très récente qui sort de plusieurs laboratoires du MIT montre jusqu'à quel point, on a une activation de différents réseaux cérébraux quand on utilise son propre cerveau tout court pour écrire plusieurs paragraphes, quand on utilise la recherche Google et quand on utilise chatGPT. Et ce qui est intéressant, c'est qu'à travers différentes conditions expérimentales, on constate 20% d'affaiblissement de la connectivité de ces réseaux cérébraux à travers différents hémisphères quand on utilise chat GPT. Mais là où cette étude est vraiment intéressante, c'est qu'elle permet aussi de quantifier des choses pour lesquelles on avait tous des intuitions, notamment le fait qu’on se rappelle pas de ce qu'on a rédigé après avoir utilisé ChatGPT. Là c'est incroyable, c'est 83% d'oubli de ce qu'on a rédigé, mais même dans le temps. Mais aussi localement, tout de suite après, 83% de personnes qui ne savent pas quelle est la phrase finale de leur de leur exposé, c'est essentiel. En fait, tout le monde savait intuitivement ces choses. C'est pour ça que je dis qu'il y a des limites méthodologiques, le fait que les personnes reviennent 4 fois en refaisant 4 fois le même exposé pour des questions de différence de vocabulaire qui devait être constante à travers les 4, les 4 sessions. Donc même s'il y a des limites, c'est vraiment exceptionnel qu'on puisse quantifier cela. Parce que il y a besoin d'évidence, surtout pour créer du dialogue. Il faut arrêter d'avoir juste des intuitions ou des opinions et rentrer dans le dur. Et aujourd'hui, on a un niveau de recherche et de compréhension du cerveau qui permet de pouvoir quantifier cela. Donc, même si plusieurs l'ont critiqué en disant mais on le savait tous déjà, etc. Le fait de le voir, de pouvoir améliorer même la méthodologie la prochaine fois, d'avoir de nouvelles populations, les populations qu'on appelle neuro-diverses, donc qui pourraient avoir une assistance supplémentaire par l'utilisation de la technologie, voir quel est l'impact pour elles. Donc il y a plein de questions. On peut construire à partir de ça et c'est très important de se dire que évidemment, l'automatisation cognitive, on avait commencé par ça, elle va être majeure et donc il va falloir savoir qu'est-ce qu'on veut déléguer, qu'est-ce qu'on veut pas déléguer, déjà pour la satisfaction personnelle, parce que travailler c'est pas seulement galérer, mais c'est aussi avoir des satisfactions personnelles. Et parfois on a envie de dire « moi » sur quelque chose, c'est pas simplement de l'avoir bâclé ou de l'avoir fait rapidement ou on a envie de que ça soit dans les relations interpersonnelles aussi, des messages qu'on a envie d'écrire nous, savoir qu'est ce qu'on veut déléguer, qu'est ce qu'on veut pas déléguer dans la vie personnelle mais aussi dans la vie professionnelle pour continuer à avoir des satisfactions et sur le long cours. Se dire aussi qu’il faut utiliser plusieurs aires cérébrales. La musique fait partie des choses qui est un effet d'entraînement sur le cerveau et qui préserve du vieillissement cognitif. Déléguer de plus en plus à la machine veut dire aussi entraîner moins au quotidien par le travail. Plein d'études montrent que 6 mois après le départ à la retraite, du fait de plus avoir des tâches quotidiennes répétées, des rythmes de concentration, on a une perte de capital cognitif. Et aussi pour les entreprises, c'est un enjeu parce que qui délègue à la machine, surtout si ce n’est pas des options souveraines, ça veut dire déléguer vos compétences. Et la possibilité de continuer à faire votre business, un outillage sur lesquels vous n’avez pas vraiment la main. Donc déléguer à la machine par rapport à déléguer à des employés, ça veut dire aussi pour l'instant perdre une partie des compétences. On le voit avec les départs à la retraite de ce qu'on appelle malheureusement les boomers, les pauvres, on le voit avec les départs à la retraite, les entreprises font de tout pour que cette compétence, tout ce savoir qui a été capitalisé par l'expérience, cette connaissance du marché. Et je pense notamment à Johnson and Johnson qui a fait des entretiens pour que les personnes qui partent à la retraite puissent continuer, à faire des vidéos pour que la relève puisse continuer à avoir toutes les compétences qu'ils avaient. Donc il y a un vrai problème de faire partir les compétences vers la technologie et de ne plus pouvoir les manager de façon humaine comme on avait fait dans le passé avec tout le surplus de connaissances qu'est l'expérience. En fait, c'est un savoir notionnel ou un savoir par l'expérience. Il y a plein de choses intuitives qu'on arrive pas à expliciter, qu'on arrive pas à mettre dans une interview pour la passer à la génération après parce que ça fait partie de l'implicite et ça pour l'instant l'implicite, la machine ne sait pas encore bien le gérer.

Et quelles sont vos recommandations ?

Personnellement,  la musique. Personnellement, j'essaie de mettre en off de temps en temps mon GPS. Je me suis perdue 2 fois pendant les dernières vacances à cause de ça. Je suis sûre que les auditeurs trouveront des meilleures façons d'entretenir leur capital cognitif que moi. Et à l'échelle des entreprises, faire une politique RH d'expérience, de maintenir en fait, ce qui fait que c'est intéressant aussi de travailler. C'est ce tissu humain, c'est ce tissu de relations. Évidemment, tous les humains ont des limites et parfois on aimerait bien qu'ils nous répondent à nos mails comme avec l'instantanéité d'un chatbot. Mais je suis assez convaincue que les entreprises ont une mission de préserver le capital humain de leurs employés et aussi préserver l'expérience. C’est comme une éponge. Il faut savoir l'essorer et la remettre dans un environnement où elle va absorber de l'eau propre, de la bonne eau ou de l'eau savonneuse. Donc cette respiration entre trouver comment faire absorber les compétences et l'expérience aux nouvelles générations et travailler à cette relation intergénération qui de temps en temps pose problème ou surtout dans l'adoption technologique dans les entreprises, on voit que c'est un endroit intergénérationnel qui est intéressant d'ailleurs pour le dialogue. Je pense que ces 2 éléments là peuvent nous assurer d'être un peu plus sur les bons rails pour la révolution technologique.

Merci beaucoup Muriel pour ce partage d'expérience et de savoir. 

Le mot de la fin, Muriel. Quels conseils donneriez-vous aujourd'hui à un ou une étudiante de l'Inalco?

Je donnerais comme conseil de ne jamais baisser les bras devant la complexité. Quand on a fait un parcours en Langues’O, déjà on sait ce que c'est la complexité, on sait l'analyser et en fait le monde contemporain est complexe et on a souvent envie de trop le simplifier. Et je pense qu’avoir à la fois l'intelligence et le courage de l'aborder, c'est un élément de réussite à la fois personnel et aussi pour une compréhension plus large de la société.

Merci beaucoup Muriel, merci d'avoir écouté cet épisode. N'hésitez pas à le noter et à le partager. À bientôt pour un nouvel épisode de Multipolaire. Pour plus d'infos, allez sur alumni.inalco.fr et adhérez à l'Association des anciens élèves de l’Inalco.

Ce podcast a été réalisé en partenariat avec Narastoria.