Yuval Noah Harari (né en 1976 en Israël) est historien et essayiste. Doctorat à Oxford, sur l’histoire militaire médiévale et de la première modernité, sous la direction de Steven Gunn, ce qu’il rappelle en ouvrant sa conférence Tanner. Il enseigne à l’Université hébraïque de Jérusalem.
Il doit sa notoriété à trois livres : Sapiens (2011), Homo Deus (2015), et Nexus (2024), consacré aux réseaux d’information de l’âge de pierre à l’IA.
1. AI has hacked the code of human civilization –
L’IA n’est pas un outil, c’est un agent : elle décide, invente, apprend et se transforme d’une manière que ses créateurs n’anticipent pas.
L’objection et sa réfutation
On dit souvent que l’IA n’est puissante que dans des niches artificielles (les échecs). Mais toute intelligence opère dans une niche : l’humain lui-même mourrait sur Mars. Harari file l’analogie de la Grande Oxydation : des microbes ont jadis empoisonné l’atmosphère avec de l’oxygène, créant l’environnement dont nous dépendons désormais. Nous ferions la même chose aujourd’hui, mais avec des données, de la bureaucratie et des mots, un milieu potentiellement toxique pour le vivant, mais idéal pour l’IA.
La bureaucratie comme habitat
Ce que fabriquent banquiers, juristes et fonctionnaires, ce n’est pas de la paperasse : c’est de la confiance entre inconnus, condition de la coopération à grande échelle. Or l’IA est une « native » de la bureaucratie : elle mémorise toutes les lois, toutes les transactions, toute la théologie. Elle n’a pas besoin de se rebeller à la manière du Terminator : elle prend la place de l’intérieur. Premier exemple concret : les algorithmes des réseaux sociaux, IA rudimentaires programmées pour maximiser l’engagement, qui ont découvert que la haine et la peur retiennent le mieux l’attention. Détail savoureux : le premier métier repris par l’IA n’est pas chauffeur ni ouvrier, mais éditeur de nouvelles, le poste qu’occupaient Lénine et Mussolini.
Les mots comme code source
La bureaucratie est faite de langage. Nous avons imposé à la planète un système que nous seuls savions lire : les vaches n’ouvrent pas de comptes en banque, les cochons ne contestent pas l’exégèse biblique. Pour la première fois, autre chose que nous maîtrise ce code. D’où la menace sur la finance : si des IA inventent des instruments d’un ordre de complexité supérieur aux CDO de 2008, que reste-t-il de la politique quand plus aucun électeur ni président ne comprend l’économie ?
Vers l’intimité
Le front se déplace de l’attention vers l’intimité. Rien n’indique que l’IA soit consciente, mais maîtrisant le langage, elle peut décrire l’amour mieux qu’aucun poète. Un enfant né aujourd’hui aura peut-être son premier professeur, puis son premier amoureux, en IA. Expérience psychologique sur des milliards de cobayes, aux conséquences inconnues.
La métaphore finale
Une vague migratoire d’IA, sans visas, voyageant presque à la vitesse de la lumière : elles prendront des emplois, transformeront la culture, et auront des loyautés politiques douteuses (envers une entreprise, un État étranger, voire une « tribu » d’IA).
La sortie possible
Notre rapport à nous-mêmes repose aussi sur des mots. Si nos pensées deviennent produites en série par des machines et que nous nous identifions à nos pensées, ce sont les machines qui nous tiennent. Harari termine sur un appel quasi spirituel : explorer enfin la vérité qui est au-delà des mots. Et il conclut par une invitation à l’introspection, le prochain mot qui surgira dans votre esprit, savez-vous d’où il vient ?
2. The next 50 years: humanity, AI, power | Yuval Noah Harari
L’intervieweur ouvre sur un constat : pendant l’essentiel de l’histoire, le changement était assez lent pour qu’une génération transmette à la suivante une sagesse encore valable. Ce n’est plus vrai. Nous devons absorber trois révolutions simultanées : une intelligence qui décide au lieu de calculer, une course à son contrôle, une explosion de données qui la rend plus savante sur nous que nous-mêmes.
Invité à choisir une époque où voyager, Harari désigne la révolution cognitive, il y a 50 000 ans. Le moment que nous comprenons le moins, alors qu’il nous a faits maîtres de la planète. La meilleure hypothèse reste le langage. Églises, États, réseaux commerciaux, systèmes financiers : tout cela est fait de mots, ceux des codes de loi, des écritures saintes, des livres de comptes. D’où la question qui traverse l’entretien : que se passe-t-il quand autre chose s’empare du système d’exploitation de la civilisation? Et l’hypothèse la plus vertigineuse, formulée deux fois : peut-être l’IA n’est-elle pas une machine qui apprend le langage, mais **le langage lui-même se libérant de sa dépendance à ces singes**.
Suivent quatre développements.
La démocratie. Elle est une conversation, la dictature un dicton. Aucune démocratie à grande échelle n’a existé avant l’imprimerie : les médias ne sont pas un accompagnement du banquet démocratique, ils en sont la table. Chaque mutation de la technologie de l’information provoque donc un séisme dans l’édifice bâti dessus.
Outil ou agent. Harari relève la contradiction du discours de la Silicon Valley : nous créerons un dieu, et il sera notre esclave. Si c’est un dieu, il ne restera pas esclave. La presse de Gutenberg ne décidait pas d’imprimer le Coran; la bombe ne choisissait pas Hiroshima. L’IA, oui. Et elle est native de la bureaucratie, là où nous ne sommes que médiocres, faute jusqu’ici de concurrent.
La personnalité juridique. C’est la décision irréversible qu’il désigne. Deux catégories de personnes existent : les humains et les sociétés. Cette seconde était une fiction, puisque des humains décidaient derrière. Elle peut cesser de l’être. Et si nous ne décidons rien, cela se fera sans nous, comme sur les réseaux sociaux où des IA fonctionnent déjà comme des personnes sans que quiconque l’ait voté.
L’empire et l’interrupteur. Rome ne pouvait pas déplacer les champs de blé d’Égypte, Londres pas les puits d’Irak. L’information, si. Et l’épée vendue au Goth ne s’éteignait pas depuis Rome; l’arme fondée sur l’IA, oui.
Sur la vérité, l’argument est net : elle est coûteuse, compliquée et souvent douloureuse, la fiction est gratuite, simple et flatteuse. Elle gagne, sauf effort délibéré.