Lorsque j’ai vu le livre dans l’excellente librairie Brin d’Acier, je me suis souvenu en avoir déjà entendu parler comme d’un livre qui était extrêmement bizarre, casse-tête, et qu’il fallait absolument lire dans une version grand format. À part ça, même si le livre date de 2000, je ne savais pas trop dans quoi je m’engageais. J’ai eu un peu de mal à accrocher, principalement parce que je n’ai plus autant le temps que dans ma jeunesse de me plonger “à fond” dans un livre. Mais j’ai fini par en venir à bout, et je ne regrette pas l’expérience.

La Maison des Feuilles est certainement une expérience. Une oeuvre “post-moderne” et “ergodique”, comme le dit Wikipédia. Un truc un peu tordu, en somme. Un thriller d’horreur-fantastique qui fait aussi office de satire de la littérature académique, le tout amené dans un format où la typographie et l’agencement du texte fait autant partie de l’histoire que le choix des mots.

Tentative de résumé:

Will Navidson et sa famille emménagent dans une maison. Un couloir sombre y apparaît un jour. Les mesures de la maison montrent qu’elle est plus grande à l’intérieur qu’à l’extérieur. Navidson monte une série d’expéditions pour explorer le couloir qui se transforme vite en labyrinthe infini. Un film retrace ses explorations et la vie dans la maison. Autour de ce film, le Navidson Record, vient se créer tout un corpus académique, des livres, des articles, des commentaires analysant chaque seconde de ce mystère. Un vieil homme du nom de Zampanò écrit un livre retraçant toute l’histoire, mais décède avant de le terminer. Johnny Errand trouve le manuscrit et entreprend de l’achever. Nous lisons le produit final, après passage entre les mains d’un éditeur inconnu.

Toutes ces couches interviennent dans l’histoire. Johnny raconte son histoire dans des notes de bas de page qui s’entrecroisent avec les citations académiques et les digressions de Zampanò lui-même. Le texte change de format, parfois d’orientation, de typographie, renvoie à des annexes, nous fait revenir en arrière, nous force à manipuler le livre dans tous les sens.

C’est un peu fatiguant. Ce n’est pas un livre qui rejoindra ma liste de livres que je relis régulièrement quand j’ai besoin de juste m’évader sans me casser la tête. Mais je ne regrette pas de l’avoir lu.

Lorsqu’on met en garde contre les dangers de l’IA, il y a deux écoles. Il y a celleux (bon, surtout ceux dans ce cas-ci) qui mettent en garde contre une super-intelligence impatiente de rejouer l’intro de Terminator. Et puis il y a celleux (et ici, plus souvent celles) qui s’inquiètent avant tout des effets réels, actuels et mesurables des algorithmes qui automatisent des choses qui ne devraient pas l’être à l’aide de données qui ne devraient pas être utilisées et avec des ressources qu’on ne peut pas se permettre d’utiliser.

Emily M. Bender et Alex Hanna font depuis longtemps partie de la seconde catégorie. Moi aussi, ça tombe bien. The AI Con est une explication claire et détaillée de pourquoi le hype qui entoure ChatGPT et les autres est une illusion dangereuse. C’est bien écrit, c’est didactique, je ne vais pas prétendre avoir appris grand-chose en le lisant parce que je baigne un peu dans les mêmes sources qu’elles, mais ça fait toujours plaisir de lire de temps en temps des gens avec qui on est d’accord!

Si vous voulez comprendre l’IA aujourd’hui, lisez ceci plutôt que Harari!

Le premier mai 2011, alors que les marines du Seal Team Six étaient en train de mener l’opération pour tuer ben Laden au Pakistan, le photographe Pete Souza pris un des clichés les plus célèbres de la présidence d’Obama: The Situation Room. [Wikipedia]

Le trois janvier 2026, près de quinze ans plus tard, Donald Trump ordonne la capture du président Vénézuélien Nicolás Maduro ainsi qu’une série de frappes aériennes sur le pays, dans l’objectif à peine masqué de s’emparer des ressources pétrolières du pays.

Trump n’observe pas l’opération depuis la Situation Room de la Maison Blanche, mais depuis sa résidence principale à Mar-a-Lago, entre deux parties de golf. Il commente par la suite sur Fox News:

“I was told by real military people that there’s no other country on Earth that can do such a maneuver,” Trump told Fox News in a phone interview. “If you would have seen what happened, I mean, I watched it literally, like I was watching a television show.”

Il profite aussi de l’occasion pour se faire ses propres clichés historiques.

Le parallèle avec la photo d’Obama est évident. On retrouve même un Marco Rubio dans la pose iconique d’Hillary Clinton, qui occupait le même poste que lui dans l’administration Obama.

Mais les différences entre les photos de Trump et celle d’Obama ne sont pas uniquement dans le casting.

Il y a évidemment le contexte. L’exécution d’Oussama ben Laden était certainement d’une légalité douteuse, mais ne visait clairement qu’un seul homme. Une “vraie” opération spéciale, qu’un Tom Clancy n’aurait aucun mal à transcrire (ou à faire transcrire par ses employés) en un roman héroïque, s’il ne l’a pas déjà fait. La capture de Maduro, par contre, est un prétexte à un objectif purement économique: le contrôle du pétrole vénézuélien par des sociétés américaines.

Mais il y a aussi le côté incroyablement cheap et amateur de la situation room version Mar-a-Lago.

La salle n’est clairement pas sécurisées: une opération top secret menée derrière une paire de tentures noires. L’écran posé devant les tentures est branché sur la source d’information principale du président: X/Twitter.

Cette image en particulier est incroyable:

On a le grand général-en-chef des armées Dan Caine, le directeur de la CIA John Ratcliffe, et le Ministre de la Défense (ou plutôt de la Guerre) Pete Hegseth, l’air grave, avec dans leur dos un emoji géant aux grands yeux et un drapeau Vénézuélien.

La présidence de Donald Trump est profondément ancrée dans celle d’Obama, qu’il n’a jamais digéré. Et chaque imitation ne fait que creuser le gouffre qui les sépare. Obama a le Prix Nobel de la Paix, Trump celui de la FIFA. Obama a The Situation Room, Trump sa copie produit blanc, symbole d’une présidence qui, si ses conséquences n’étaient pas si tragiquement graves pour le reste du monde, serait un chef-d’oeuvre de comique absurde.

Pour clôturer 2025, petit retour en vracs sur des choses intéressantes que j’ai lu/vu cette année. J’en oublie certainement plein, je n’ai pas pris de notes pendant l’année, donc je me base surtout sur les flux RSS auxquels je me suis abonné pour essayer de me rappeler de ce qui m’a marqué!

• Louise Roullier est une autrice française férue d’histoire qui, depuis son compte Mastodon @hist_myth@mastodon.top a passé à peu près un an à résumer et commenter les dix premiers livres de l’histoire romaine de Tite-Live. Le tout est maintenant collecté sur son blog, et c’est drôle et informatif.
• Elisabeth Sandifer est une autrice américaine que je connais principalement pour son livre Neoreaction a Basilisk, une excellente dissection des origines philosophiques de l’extrême-droite américaine. Sur son blog Eruditorium Press cette année, elle a publié un texte fleuve intitulé Exiting the Draugr Castle sur un sujet qui a priori ne m’intéresse pas particulièrement (une dispute qu’elle a avec les organisateurs d’un rassemblement néo-païen). Pourtant, je suis resté accroché à toute la saga. Faut croire qu’elle sait écrire.
• Thierry Crouzet est un auteur français qui écrit beaucoup sur son site. Il écrit sur le vélo, sur l’écriture, sur notre rapport aux technologies et aux réseaux sociaux, sur l’IA, sur ce qu’il lit. Difficile de choisir un article en particulier à mettre en avant ici, mais je vais me porter sur un article qui fait écho à mes propres réflexions sur le minimalisme de ce blog: Le slow web est plus rapide : minimalisme numérique et impact carbone.
• Lionel Dricot, dit Ploum, est un écrivain et blogueur belge, défenseur radical du logiciel libre, du minimalisme numérique, et – lui aussi – du vélo. J’ai déjà reviewé son livre Bikepunk sur ce blog. Chez lui aussi, il y a beaucoup de choix pour ces écrits de l’année. Juste parce que ça me parle en relisant ses archives, je vais pointer vers: La guerre que mènent les robots ascientifiques contre la solitude intellectuelle.
• Stephen B. Heard est un biologiste américain qui écrit beaucoup sur l’écriture scientifique, dans des vrais livres et sur son site Scientist Sees Squirrel. Cette année, il a entre autres choses publié une série d’essais sur comment (ne pas) écrire les sections “Méthode”, “Résultats”, “Discussion” et “Introduction” d’un article scientifique.
• Terence Eden écrit est un spécialiste des “open standards” et de l’open source, qui écrit beaucoup sur son blog sur des sujets très spécialisés en informatique. Un article parmi milles autres: How to actually test your readme.
• Arthur Perret est maître de conférences en science de l’information et de la communication, et je lui doit entre autre choses la découverte de Pandoc et d’un workflow d’écriture centré sur le “Markdown”, qui j’utilise depuis. Dans Intelligence artificielle : faire avec ou vivre sans ?, il s’interroge – et nous interroge – sur la pertinence de la posture de rejet complet de l’intelligence artificielle.
• SarahZ ne publie plus très souvent de vidéos, mais la seule qu’elle a sorti cette année, “Everyone’s Cheating at Chess (Allegedly)” est une plongée tout à fait fascinante dans le monde des “influenceurs des échecs”, et des controverses autour d’un sport où la triche est si facile. Vidéo sur Nebula ou sur YouTube.
• Paged Out est un magazine technique expérimental ultra-geek au concept simple: tous les articles doivent faire une et une seule page.
• Sam Lawler est une astronome canadienne qui élève des chèvres dans le Saskatchewan, et poste régulièrement sur Mastodon sur tous les dégâts causés par les satellites Starlink d’Elon Musk, qui sèment leurs débris sur toute la planète – y compris dans le Saskatchewan. Elle poste aussi des photos de chèvres, forcément, ce qui ne gâche rien.

Je n’ai pas eu le temps / l’énergie de lire beaucoup de livres cette année, malheureusement. En plus de ceux dont j’ai fait la critique et que je mentionne plus bas, j’ai apprécié Dinner at Deviant’s Palace de Tim Powers, une dystopie assez originale. Je suis aussi (enfin!) en train de lire The AI Con par Emily M. Bender et Alex Hanna, la référence sur les origines du hype autour des IA génératives.

Partie nombriliste

De mon côté, sur ce blog, je me suis quelques fois transformé en critique littéraire (The Bezzle par Cory Doctorow; Apostles of Mercy par Lindsay Ellis; Le Transhumanisme par Nicolas Le Dévédec; Bikepunk par Ploum) et j’ai, comme souvent, parlé d’IA (Non, GPT-o3 n’a pas un QI de 157 et L’illusion cognitive: le superpouvoir des IAs). Et puis j’ai dit du mal de Starlink et de Microsoft.

J’ai aussi publié un article scientifique dont je suis assez content, présenté à la conférence ESANN, Ranking the scores of algorithms with confidence et, sur mon blog de recherche, j’ai parlé du fait que les LLMs et les bonnes pratiques scientifiques ne font pas bon ménage, de ma tentative d’apporter plus de contexte à mes publications scientifiques, de mon bref passage comme maître de conférence à l’ULB, et de la fin de mon parcours académique.

Avec mon nouveau travail à la Haute-École de Vinci, j’ai aussi démarré un nouveau blog, “clavier ouvert”, lié aux choses que j’enseigne, pour celleux que ça intéresse.

J’ai participé au Advent of Code, un événement annuel où des “puzzles” de programmation sont proposés dans le courant du mois de décembre. J’ai documenté mon processus et mes réflexions sur https://notes.adfoucart.be/aocode25/. Je tiens également des notes sur mon apprentissage du Typescript, parce que je dois l’enseigner au prochain semestre alors ce serait bien que je sache de quoi je cause.

La crise du COVID a frappé l’enseignement de plein fouet. Les étudiantes et étudiants qui sont passés durant “les années COVID” (comme si elles s’étaient terminées) auront tous eu un parcours atypique (comme s’il existait un parcours “typique”). Si on a aujourd’hui largement décidé de ne plus trop s’en faire de l’épidémie, de ne plus se tester, de ne plus se masquer, de ne plus se vacciner, il y a un changement des années COVID dont il n’est pas si facile de se débarrasser: la mainmise de Microsoft sur le secteur de l’enseignement.

En 2020, devant l’urgence de pouvoir garder le contact avec les élèves de tous les professionnels de l’enseignement, les représentants de Microsoft sont arrivés auprès des directions et administrations, des dollars pleins les yeux, pour venir les dépanner avec Microsoft Teams. Passer par Teams pour les écoles, athénées, hautes écoles et universités n’était pas un choix déraisonnable à l’époque. Microsoft avait les capacités de support et les infrastructures informatiques que personne d’autre, sauf peut-être Google, ne pouvait déployer. Et Google s’est montré beaucoup moins agressif dans son marketing.

Les établissements ont depuis repris leur programme présentiel. Mais Microsoft s’est maintenant confortablement installé. Dans les Universités, des les Hautes Écoles, dans les écoles secondaires et primaires, Teams est l’outil institutionnel, Microsoft est le partenaire privilégié. Pourtant, les outils proposés sont au final très peu utilisés. Mis à part les réunions et, parfois, les cours en distanciel, toutes les fonctionnalités de devoir, partage de documents, etc., sont généralement redondantes avec les outils déjà existants (et souvent mieux adaptés ou adaptables aux besoins des enseignant.e.s et étudiant.e.s), comme la plateforme open-source Moodle. La quantité d’argent public qui subsidie ainsi Microsoft pour des services sous-exploités et peu nécessaires est difficile à estimer (l’Éducation Nationale française a par exemple attribué un marché public a hauteur de 150 millions d’euros sur quatre ans pour les établissements supérieurs [Next.ink], et la Fédération Wallonie-Bruxelles une “dizaine de millions d’euros” juste pour l’administration [ETNIC].).

Au-delà de l’aspect financier, il y a aussi maintenant un véritable problème éducatif: les produits Microsoft poussent avec insistance l’utilisation de leurs outils d’intelligence artificielle. Résultat, les enseignants se retrouvent dans une situation inconfortable, dans laquelle les logiciels institutionnels poussent les étudiant.e.s vers des outils qui nuisent activement à leur apprentissage! Comment peut-on être crédible à expliquer aux étudiant.e.s que lire et comprendre par soi-même un texte est important lorsque les logiciels fournis par l’école les pousse à plutôt lire le résumé (souvent incomplet et truffé d’erreurs) proposé par Copilot?

L’excuse de l’urgence face à la crise sanitaire ne tient plus. Rester dépendant à Microsoft pour l’enseignement est un problème, qui ne fait qu’augmenter à mesure que Microsoft dévoue l’entièreté de ses ressources à la poursuite d’une élusive IA qui fonctionnerait comme ils le promettent aux actionnaires (et que, par ailleurs, ils collaborent avec enthousiasme au projet politique de Donald Trump…). Nous n’avons pas besoin aujourd’hui de fournir Teams, Copilot et Microsoft 365 aux étudiant.e.s et enseignant.e.s. Nous n’avons pas besoin de financer Microsoft avec l’argent de l’éducation publique.

Ploum – Lionel Dricot dans la vraie vie – aime le vélo, les machines à écrire, le logiciel libre et la sobriété numérique. Il n’aime pas les voitures, la surconsommation, les voitures, Microsoft, les voitures et le technosolutionnisme. Certain.e.s auteurices distilleraient ces idées dans des métaphores subtiles. Ploum n’a pas de temps à perdre avec la subtilité. Le message est martelé avec la délicatesse d’un Cybertruck dans un magasin bio. Bikepunk est une histoire qui va droit au but, un conte post-apocalyptique où le vélo est le dernier espoir de liberté pour une humanité arrachée de force à sa précieuse technologie.

Ce livre n’est pas là pour convaincre, mais plutôt pour servir d’exutoire aux convaincus. Celleux qui ne jurent que par la voiture et le dernier iPhone, et que mon usage de “celleux” font bondir de frustration, n’y verront sans doute qu’une pile de blabla woke, bienpensant, moralisateur, suffisant, et tutti quanti. Ce qui n’est pas totalement faux… mais ça fait du bien, de temps et temps, de lire (ou d’écrire) du blabla woke. En tout cas, j’ai pris du plaisir à suivre l’aventure.

Il y a six ans déjà, j’écrivais sur Starlink, le projet de SpaceX d’inonder le ciel de satellites de télécommunication pour fournir une connexion internet haut débit n’importe où dans le monde (enfin, n’importe où Elon Musk a envie d’en fournir). Je notais à l’époque un soucis majeur de la multiplication rapide du nombre d’objets en orbite: la pollution lumineuse qui a un énorme impact sur les capacités des astronomes à observer le ciel. Et je trouvais un peu dommage qu’il n’y ait globalement aucun contrôle au niveau international sur l’occupation de ces orbites: tant que Musk a l’accord des États-Unis, il fait ce qu’il veut, même si c’est notre ciel à toutes et tous qui en subit les conséquences.

En 2019, il y avait soixante-deux satellites Starlink en orbite. Aujourd’hui (au 3 avril 2025), il y en a 7.148¹. Il y a même un site pour voir leur position en direct, si on veut. Mais il y a un autre chiffre intéressant sur le site de Jonathan McDowell: 8.186. C’est le nombre de satellites lancés par Starlink. La différence entre les deux, 1.038, est le nombre de satellites Starlink qui se sont désintégrés dans l’atmosphère. Et ça, c’est un autre aspect de la pollution causée par le projet auquel je n’avais pas trop pensé à l’époque, mais qui est franchement terrifiant.

SpaceX compte renouveler sa “mégaconstellation” tous les cinq ans. On parle donc à terme de milliers de satellites par ans qui viennent se désintégrer dans l’atmosphère. L’impact de ces désintégrations n’est pas du tout connu pour l’instant. Une étude de 2021² note que la quantité d’aluminium déposée chaque année par Starlink dans l’atmosphère est possiblement supérieure à celle déposée par des météorites. On n’est donc en tout cas pas dans des quantités négligeables.

Mais il n’y a pas que l’atmosphère qui est polluée. L’astronome canadienne Sam Lawler, qui habite dans le Saskatchewan, raconte sur Mastodon³ comment deux débris différents appartenant à SpaceX (un de Starlink, un de Dragon) ont été retrouvés au sol dans sa province. Comme elle le note: “J’ai maintenant vu deux engins spatiaux de SpaceX, conçus pour être ‘entièrement désintégrables’, faire tomber des débris dans ma province”. Elle explique aussi que le Saskatchewan est sans doute un des endroits où retrouver ces débris est le plus simple: le terrain est plat et agricole (et donc déboisé), et les orbites de Starlink passent beaucoup au-dessus. Le fait qu’on ait retrouvé deux pièces séparées dans le Saskatchewan en six mois indique probablement qu’il y en a beaucoup plus encore qui tombent dans des zones plus inacessibles, et l’impact environnemental au sol est lui aussi difficile à mesurer.

Ce qui me parait évident, c’est que la législation internationale sur l’utilisation de l’espace orbital n’est absolument pas adaptée à un monde où les principaux acteurs ne sont plus des états, mais des sociétés privées dont l’objectif principal est de permettre à des milliardaires de jouer à qui à la plus grosses fusée.

J’ai probablement eu cette discussion plusieurs dizaines de fois ces trois dernières années, depuis le fameux “tsunami” ChatGPT:

Quelqu’un: j’utilise ChatGPT pour faire ça, c’est vraiment super.
Moi: vraiment? Parce que, au-delà des questions éthiques et environementales, un des gros problèmes de ChatGPT et autres c’est quand même que ça ne marche pas, en fait.
Quelqu’un: mais si, moi je l’utilise tous les jours et ça marche!

Difficile d’argumenter contre ça. Si j’essaye de dire aux gens de ne pas croire leurs propres yeux, on va me prendre pour le Big Brother d’Orwell: “The Party told you to reject the evidence of your eyes and ears. It was their final, most essential command.” Et pourtant… nous savons tous que nos yeux ne sont pas fiables! Nous connaissons l’existence des illusions d’optique, et de la paréidolie, notre tendance à voir des visages partout.

ChatGPT et autres “IA” (au sens: agents conversationnels, ou chatbots, basé sur un grand modèle de langage entraîné à la génération de texte¹) ne nous proposent pas des illusions d’optiques, mais des illusions cognitives: les réponses ont l’air intelligentes, ont l’air vraies, notre cerveau veut y croire… même si, au final, c’est faux.

Prenons un exemple, avec une tâche qui est souvent mise en avant comme quelque chose que les IAs font bien: résumer un texte. C’est une compétence essentielle pour justifier le “remplacement de Google” par des IAs. Au lieu de chercher sur un moteur de recherche et de lire pleins de pages différentes pour trouver l’information, on pose la question à ChatGPT, qui va chercher les résultats et nous fait un résumé. Prenons donc un article de presse. J’en ai pris un sur la page d’accueil du Soir au moment où j’écris ces lignes: “Un permis de conduire numérique bientôt dans notre smartphone”. Article assez court, pas très compliqué, je n’ai vraiment pas cherché à “piéger” l’IA d’une quelconque façon. Sur ChatGPT, j’ai demandé (lien vers la “discussion”):

Résume les points principaux de l’article suivant: https://www.lesoir.be/664174/article/2025-03-25/un-permis-de-conduire-numerique-bientot-dans-notre-smartphone

La réponse:

​La Belgique prévoit d’introduire un permis de conduire numérique accessible via smartphone. Cette initiative vise à simplifier les démarches administratives et à offrir une alternative pratique au permis physique. Le permis numérique serait sécurisé grâce à des technologies avancées, garantissant son authenticité et sa protection contre la fraude. Les autorités espèrent que cette innovation facilitera les contrôles routiers et améliorera l’expérience des conducteurs belges.​

Superficiellement, tout ça semble très raisonnable. Si vous recevez ça dans un “résumé de l’actualité” par une IA, vous n’allez sans doute pas chercher à particulièrement vérifier l’information. Pourtant, le résumé est très mauvais:

• Ce n’est pas la Belgique qui prévoit d’introduire ce permis numérique, c’est le Parlement européen qui a adopté le projet.
• La “simplification” est effectivement mise en avant dans l’article, mais le résumé passe complètement au-dessus de l’aspect probablement le plus important (et inquiétant): l’idée que “Le permis numérique deviendra à terme une sorte de sésame permettant ou non le démarrage de la voiture”, ce qui implique un futur ou on ne peut pas faire démarrer son véhicule si son smartphone est éteint ou déchargé, et où l’on doit en pratique “s’identifier” à chaque fois qu’on prend le volant, ce qui nous ramène bien vers Orwell.
• L’article ne parle nulle part de “technologies avancées” ou de garanties d’authenticité: c’est une fabrication de l’IA qui vient ici apporter à la proposition un surplus de légitimité qui n’est pas présent à la base dans l’article.
• La facilitation des contrôles routiers est bien mentionnée, mais l’amélioration de “l’expérience des conducteurs belges” n’est clairement pas au menu (à part pour les “simplifications administratives” précédemment mentionnées). Le fait de devoir obligatoirement pairer mon smartphone avec la voiture à chaque démarrage ne me paraît pas une meilleure expérience que de juste tourner la clé.

Le résumé retire donc du contexte important (le fait que ça concerne toute l’Europe et pas juste la Belgique), néglige des informations importantes, et fait du remplissage avec des éléments inventés. Tout ça dans un article pourtant court et sans grande complexité !

On m’accusera peut-être d’avoir testé pleins d’articles jusqu’à ce que j’en ai trouvé un avec des erreurs, mais ce n’est vraiment pas le cas: je n’en ai tenté qu’un, sélectionné juste parce qu’il m’avait l’air suffisamment court pour que ça ne me prenne pas trop longtemps pour vérifier tous les points. Et ce résultat est cohérent avec ce qu’on trouve dès qu’on essaye d’analyser de manière un peu systématique les capacités des IAs à résumer les choses: la BBC a fait un test similaire en posant à ChatGPT, Copilot, Gemini et Perplexity des questions sur l’actualité, et en ajoutant l’instruction d’utiliser des sources de la BBC lorsque c’était possible. Résultat: entre 40 et 60% des réponses, selon les systèmes, contiennent des “problèmes significatifs” (définis comme des problèmes qui pourraient induire le lecteur en erreur).

Quand ChatGPT vous fourni une réponse, vous donne une information, vous écrit un texte, ça a souvent l’air bien. Les mots semblent juste, les phrases ont du sens, on y voit facilement un raisonnement, une intelligence, une capacité cognitive. Mais comme dirait Jean-Louis Aubert: c’est juste une illusion. C’est le seul superpouvoir des IAs: l’illusion cognitive. Mais derrière, il n’y a pas de compréhension, il n’y a pas de raisonnement, il n’y a pas d’intelligence… et lorsqu’on creuse un peu, qu’on vient vérifier en détail ce que l’IA nous a sorti, qu’on dépasse l’acceptation passive de la réponse, l’illusion éclate.

Même si ChatGPT fonctionnait comme annoncé, les raisons de ne pas l’utiliser ne manquent pas. Mais en plus de tout les aspects éthiques, environnementaux, politiques, sociaux autour du déploiement massif des IAs génératives, il ne faut pas passer à côté du fait que tous ces systèmes ne marchent simplement pas, et qu’il n’y a aucune raison de penser que les problèmes fondamentaux auxquels les IAs génératives font fasse seront résolus dans un futur plus ou moins proche.

Note: pour plus de raisons de se méfier des IAs génératives, je conseille la série d’articles en cours de publication sur Hypothèses: https://academia.hypotheses.org/tag/chatgpt et https://academia.hypotheses.org/tag/iagen

Un livre qui se lit en un (long) trajet de train. Le sociologue Nicolas Le Dévédec retrace l’histoire du transhumanisme, depuis ses racines eugénistes jusqu’à ses actuels ténors techno-solutionnistes. Cette philosophie fait partie du fameux TESCREAL Bundle, le melting pot idéologique décrit par Timnit Gebru et Émile P. Torres qui imprègne la Silicon Valley et – via Musk et J.D. Vance – infecte maintenant la Maison Blanche.

Le livre est clairement à charge… mais il charge un groupe qui mérite amplement d’être chargé.

Clair, solidement sourcé, et sans fioriture, j’ai trouvé l’essai intéressant et nécessaire.

J’ai parlé précédemment de la trilogie Noumena de Lindsay Ellis. J’avais à l’époque lu les deux premiers tomes (Axiom’s End et Truth of the Divine). J’ai enfin lu le troisième, Apostles of Mercy, sorti l’an dernier.

Avec Apostles of Mercy, on continue à suivre les conséquences du “premier contact” avec des extra-terrestres échoués sur Terre. Pour toutes une série de raisons (à lire dans les épisodes précédents), la Terre fait face à une menace existentielle. Ou plusieurs, même, en fait. Bref, ça va assez mal, et l’héroïne ne va pas super bien non plus. Ce n’est pas le livre le plus joyeux du monde, mais il reste très prenant. L’univers s’étoffe progressivement, et le côté “science-fiction” est je trouve plus marqué que dans les précédents.

La trilogie n’en est au final pas une: deux autres livres sont normalement prévu, même si pas encore officiellement annoncés. En tout cas la fin de Apostles of Mercy n’est pas très satisfaisante, si c’est la fin de l’histoire…

Par rapport aux deux premiers, je trouve tout de même qu’on s’essouffle très légèrement. J’ai passé à très bon moment à lire ce livre, mais on a un peu l’impression ici d’avoir atteint un “rythme de croisière”. Dans l’ensemble, ça reste une série de science-fiction tout à fait solide, et je n’hésiterai pas à acheter les suivants s’ils arrivent bien un jour.

Je cherche de plus en plus à réduire ma dépendance aux algorithmes de Facebook, Google et autres dans mes consommations de contenu sur le Web. Je reviens de plus en plus aux “bonnes vieilles techniques”: les flux RSS des sites que j’apprécie, et les recommandations de lecture faites par des gens qui ont des centre d’intérêt en commun avec moi. Des recommendations qui viennent d’êtres humains. Pour que ce système marche, c’est bien aussi d’y participer, et de partager moi aussi les choses intéressantes sur lesquelles je tombe. C’est ce que je vais essayer de faire dorénavant. Sauvegarder des choses intéressantes – articles, vidéos, … – et les partager lorsque j’en ai accumulées quelques unes. Première édition aujourd’hui, donc:

• Thierry Crouzet, Le technofascisme est-il une fatalité ?. https://tcrouzet.com/2025/01/24/technofascisme/, qui revient sur comment nous en sommes arrivés à ce web ultra-centralisé, où les contenus sont filtrés par une poignée de milliardaires fascisants.
• Retraction Watch, Anatomy of a retraction: When cleaning up the literature takes six years. https://retractionwatch.com/2025/01/29/anatomy-of-a-retraction-when-cleaning-up-the-literature-takes-six-years/, un récit de la difficulté qu’il y a à corriger ou rétracter une étude scientifique, même lorsque la demande provient de l’un de ses auteurs.
• Christophe “Politicoboy”, L’âge des Fake Tech. https://faketech.substack.com/p/lage-des-fake-tech, essai sur les cycles de hype et de désillusion qui sont le propre de la Silicon Valley.
• Dan Olson (Folding Ideas), Mantracks: a True Story of Fake Fossils. https://m.youtube.com/watch?v=2UDXdqqJQPE, un essai vidéo sur la fascinante histoire de faux fossiles “prouvant” la cohabitation des humains et des dinosaures – et par conséquent le créationnisme, of course.
• Molly White, Trump’s Project 2025 ghostwriters. https://www.citationneeded.news/trumps-project-2025-ghostwriters/, où Molly White démontre via les métadatas de fichiers PDF publiés par la Maison Blanche que les auteurs du “Projet 2025”, le guide de christofascisation des États-Unis que Trump niait totalement vouloir suivre durant la campagne, écrivent aujourd’hui les memos officiels envoyés aux agences fédérales.

Cory Doctorow est un auteur actif depuis déjà pas mal d’années, mais que je n’ai découvert que récemment. J’ai commencé par le suivre sur Mastodon et sur son blog Pluralistic. Il est rapidement devenu l’un de mes commentateurs favoris du monde des technologies. Il a une connaissance encyclopédique de l’histoire de la “tech industry”, et c’est un défenseur zélé du logiciel libre et d’un web pour tous, vecteur de partage de connaissances, loin des monopoles des GAFAM. Bref, le genre de personnes pour qui je vais clairement avoir un a priori positif.

Mais en plus de tout ça, c’est un excellent auteur de science-fiction. J’avais lu l’an dernier Red Teams Blue, et je viens de terminer The Bezzle qui en est la suite. Les deux suivent Martin Hench, un “comptable légiste” dont la spécialité est de détricoter les arnaques de la Silicon Valley. À travers Martin Hench, on se retrouve plongé dans les coulisses sordides des milliardaires et multimillionnaires du Venture Capital, des start-ups technologiques, et de toutes les sociétés qui, de restructuration en optimisation, rendent notre monde toujours un peu moins humain, un peu moins juste.

Red Teams Blue m’avait scotché, et The Bezzle m’a confirmé que j’avais un peu de rattrapage à faire: vu la bibliographie déjà bien fournie de Cory Doctorow, ça fait un bon tas de livres à rajouter sur la pile.

Le 20 janvier 2025, fraîchement intronisé pour la seconde fois dans la présidence américaine, Donald Trump a signé le décret exécutif pour “Défendre les femmes de l’extrémisme de l’idéologie de genre et restaurer la vérité biologique dans le gouvernement fédéral” [White House]. Rien que ça.

Ce décret est une horreur. Il est une preuve de plus (et à ce stade, de combien de preuves avons-nous besoin?) que Trump 2.0 vise à transformer les États-Unis d’Amérique en un régime liberticide à l’idéologie christo-fasciste. Sous couvert de “protection des femmes”, il vise particulièrement les femmes trans et va rendre leur vie totalement intenable dans l’espace public américain. Pour beaucoup d’entre elles, ce n’est pas exagéré de dire que ce décret est une sentence potentiellement létale.

Ce décret ne va évidemment pas non plus protéger la moindre femme (cis). Au contraire: il ouvre la porte à un harcèlement constant de toute femme qui ne se conforme pas à un “type” féminin traditionnel. Une femme “un peu garçonne”, ou avec des vêtements amples et des cheveux courts, ou simplement dotée d’un physique plus “masculin” que la moyenne risque désormais de se voir obligée de “prouver” son statut de femme à chaque fois qu’elle veut utiliser des toilettes publiques, ou entrer dans tout autre espace dédié aux femmes. Et c’est là l’objectif réel: définir le sexe féminin non pas selon des critères scientifiques, mais selon une conformité à la féminité traditionnelle.

Et c’est dans cette définition de la binarité homme-femme que le décret passe de “horrible” à “horrible et absurde”. Parce qu’évidemment, dès lors qu’on sort des phrases comme “the immutable biological reality of sex”, “It is the policy of the United States to recognize two sexes, male and female” ou “These sexes are not changeable and are grounded in fundamental and incontrovertible reality”… à un moment, il faut bien fournir cette définition scientifique immuable et incontestable (un bel oxymore, déjà!).

La définition est proposée ainsi dans le décret:

1. “Sex” shall refer to an individual’s immutable biological classification as either male or female. “Sex” is not a synonym for and does not include the concept of “gender identity.”
   
2. “Women” or “woman” and “girls” or “girl” shall mean adult and juvenile human females, respectively.
   
3. “Men” or “man” and “boys” or “boy” shall mean adult and juvenile human males, respectively.
   
4. “Female” means a person belonging, at conception, to the sex that produces the large reproductive cell.
   
5. “Male” means a person belonging, at conception, to the sex that produces the small reproductive cell.

Donc: “female” signifie une personne qui appartient à la conception au sexe qui produit les grandes cellules reproductives, et “male” au sexe qui produit à la conception les petites cellules reproductives. C’est une définition assez étrange… et circulaire. Qu’est-ce que “le sexe qui produit les grandes cellules reproductives?”: le sexe féminin. Qu’est-ce que “le sexe féminin?”: celui qui est capable de produire les grandes cellules reproductives.

J’ai vu passer des commentaires et articles disant que, parce que les foetus commencent tous par développer des organes sexuels féminins avant que, pour les porteurs du chromosome Y, les testicules ne commencent à se développer¹, le décret déclare que toute personne est une femme, mais je ne suis pas trop d’accord. Le décret ne stipule pas que le foetus doit avoir des organes sexuels d’un certain phénotype, mais bien “faire partie (à la conception) du sexe qui produit” les spermatozoïdes ou les ovules – c’est-à-dire le sexe masculin ou féminin.

Le décret ne fournit donc juste pas de réelle définition binaire scientifique du sexe. L’interprétation la plus charitable du texte serait de dire que la distinction est basée sur les chromosomes, XX ou XY. Mais pourquoi alors ne pas simplement le dire comme ça? Sans doute parce que ça ne marche pas non plus: la définition n’inclurait pas toutes les personnes ayant diverses anomalies chromosomiques, peu fréquentes mais qui concernent néanmoins entre quelques dizaines de milliers et quelques millions de personnes aux USA, selon les estimations très divergentes que l’on peut trouver.

La volonté ici est sans doute de placer une petite pique anti-avortement – si on est une “personne de sexe féminin ou masculin” à la conception, on est nécessairement une “personne” à la conception – tout en donnant un air vaguement scientifique et légitime au document. Après tout, Trump et sa clique s’en foutent royalement que ce soit vraiment scientifique. L’important est de punir tous ceux et toutes celles qui ont l’outrecuidance de ne pas rentrer dans les cases que la société leur réserve.

Et surtout de rendre légal – et même encouragé – leur harcèlement. Ce n’est pas pour rien que dans les documents gouvernementaux supprimés par ce décret, on retrouve “Confronting Anti-LGBTQI+ Harassment in Schools: A Resource for Students and Families” ou “U.S. Department of Education Toolkit: Creating Inclusive and Nondiscriminatory School Environments for LGBTQI+ Students”. Le messages aux harceleurs en tous genres, dans les écoles ou ailleurs, est clair: si votre cible est LGBTQI+, ou autrement “anormale”, soyez libres de vous y attaquer, avec la bénédiction du Président des États-Unis d’Amérique.

Tous les quelques mois, il faut réaffirmer au monde que cette fois, c’est la bonne, l’IA Révolutionnaire Qui Va Tout Changer est là. Comment convaincre sinon les investisseurs de remettre des milliards dans ce gouffre financier qu’est l’IA générative¹ ?

Cette fois-ci, l’annonce qui circule parmi les “influenceurs” technophiles concerne “o3”, la dernière version de GPT. o3 est un modèle extrêmement coûteux: une requête prend plus de dix minutes et coûte plus de 1.000€ à exécuter (ce qui vient aussi avec un bon gros tas de CO2, et d’eau consommée pour le refroidissement des serveurs, évidemment) ².

Il paraît, nous dit-on, que o3 a un QI de 157. Souvent, on ajoute que le QI d’Einstein est de 160. Pour “preuve”: ce tableau de résultats:

Il est difficile de trouver l’origine exacte de ce tableau. Le partage le plus ancien que je trouve vient de Twitter/X, et l’origine y est attribuée “au serveur Discord” (lequel? mystère!).

Quoi qu’il en soit… “o3 a un QI de 157, presque comme Einstein” est du pur non-sens. Prenons ces éléments un par un:

1. o3 n’a pas un QI de 157.
2. Mesurer le QI de o3 n’a pas de sens.
3. On ne connaît pas le QI d’Einstein.

D’où vient le score de 157?

Le score de 157 est un “QI estimé”. Estimé comment? Facile: en prenant le score réalisé par o3 sur la plate-forme Codeforces, un site de programmation compétitive. o3 aurait participé à une série de concours sur ce site, et se classerait dans le top 0,0075% des programmeurs participants. Et le “top 0,0075%” des humains sur un test de QI, ça donne 157.

Il va de soi (en tout cas il devrait aller de soi) que l’intelligence – même dans sa définition réduite à “l’intelligence mesurée par un test de QI – n’est pas uniquement une affaire de capacité à programmer. Et que la population des gens qui participe à Codeforces n’est sans doute pas représentative de la population générale sur laquelle un test de QI serait normalement calibré.

Donc non, ce score ne permet pas de dire que o3 a un QI de 157. Ni même que o3 est un super bon programmeur, d’ailleurs. Il permet tout au plus de dire que o3 est probablement capable de résoudre des exercices de programmation.

Le QI d’une machine?

Ce n’est pas la première fois qu’on nous sort des résultats de QI pour montrer l’évolution de modèles IA, parfois même en leur faisant passer des “vrais” tests de QI plutôt que d’utiliser une “table de conversion” ridicule³.

Ça ne rend pas ces résultats plus intéressants pour autant. Le test de QI est un outil de diagnostic qui n’a de sens que lorsqu’il est appliqué à des humains, par des professionnels capable d’en interpréter les résultats. Déjà pour un humain, dire “un tel a un QI de 157” n’a pas beaucoup de sens sans autre information. Un test de QI est calibré sur une population cible: on peut donc avoir un QI de 157 si le test est calibré d’une certaine façon, et de 100 si on a calibré le test autrement. Un critère important étant l’âge, puisque l’une des utilisations légitimes principales du test de QI est d’identifier les enfants ayant besoins d’enseignement adapté⁴.

Le QI est basé sur des tâches qui, chez les humains, permettent de détecter qu’une personne est fortement différente ou non de la moyenne des autres humains du même âge et – idéalement – de conditions socio-culturelles similaires. Utiliser le QI comme un “score absolu” d’intelligence n’a pas beaucoup de sens pour un humain, et n’en a aucun pour une machine.

Le QI d’Einstein?

À ce stade, il est clair que la question de savoir si o3 a un QI équivalent à celui d’Einstein n’a pas de sens. Mais tant qu’on y est: est-ce que Einstein a vraiment un QI de 160? Selon le Dr Russel T. Warne, qui s’y connaît certainement beaucoup mieux que moi sur le sujet et qui s’est plongé dans les archives, il semble qu’Einstein n’ait probablement jamais fait de test de QI. Toutes les sources sur “le QI d’Einstein” semblent basée sur de la pure spéculation, et les valeurs données “varient entre 150 et 207”.

Autrement dit: Einstein était un gars plutôt malin.

Conclusions

La bonne nouvelle, c’est que les médias semblent cette fois-ci ne pas avoir mordu à l’hameçon. Contrairement aux “100.000 milliards de paramètres” de GPT-4 qui avaient été repris par Le Soir et La Libre, je n’ai pas vu le QI de 157 circuler ailleurs que sur les réseaux sociaux et des blogs. De manière générale, le traitement médiatique de l’IA s’est grandement amélioré depuis le total manque de lucidité à la sortie de ChatGPT.

Les annonces hyperboliques sur les capacités des IAs ont malheureusement encore la belle vie sur les réseaux sociaux. Le QI de 157 est la dernière en date, nul doute que la prochaine sera tout aussi détachée de la réalité.

Note : le livre “Fantasia” m’a été gratuitement donné par l’autrice pour que je le critique. Je n’ai pas reçu d’instructions particulières sur le contenu ou la forme de cette critique, donc tout ce qui suit représente mon opinion, sans filtre.

Fantasia, écrit par Laura Sibony, sortira (ou est sorti selon quand vous lisez ceci) le 31 janvier 2024 aux éditions Grasset. Le livre parle d’intelligence artificielle, et puisque c’est un peu mon truc, onPour être tout à fait transparent: c’est une collègue, amie de l’autrice, qui m’a demandé si ça m’intéressait d’en faire une critique. m’a envoyé un exemplaire pour que je donne mon avis. Parce qu’apparemment je suis un influenceur maintenant !

Je vais scinder cette critique en deux parties : mon opinion en bref et sans “spoiler”, et puis quelques digressions.

Mon opinion en bref

Qu’est-ce que Fantasia ? C’est un recueil de courts récits et essais autour de l’intelligence artificielle. L’idée générale du livre est : l’IA est un concept un peu fourre-tout, un domaine aux multiples facettes, qu’on ne peut pas réduire à une définition simple. Plutôt que de définir et expliquer, il vaut donc mieux la raconter.

Et raconter, l’autrice Laura Sibony fait ça très bien. C’est prenant, c’est très agréable à lire et, même si elle n’est pas une spécialiste de l’IA, c’est assez juste, en tout cas dans les grandes lignes. Si on veut se faire une idée générale des enjeux réels autour de l’intelligence artificielle en passant un très bon moment de lecture, Fantasia est vraiment un très bon livre. Il ne faut pas y chercher, par contre, un contenu technique : ce n’est clairement pas son objectif.

Là où j’ai un peu plus de mal, c’est dans le flou inconfortable (pour moi) qui règne tout au long du livre entre ce qui est de l’ordre de l’essai, du reportage ou de la fiction. Selon les chapitres, l’autrice s’adresse directement à nous pour nous expliquer des choses. Ou elle met en scène des personnages réels dans des situations un peu romancées, mais ancrées dans la réalité. Ou elle met en scène des personnages fictifs, peut-être basés sur des personnes réelles, pour raconter des anecdotes parfois vraies, parfois “basées sur des faits réels”, parfois on ne sait pas trop. C’est clairement un choix, et je ne dis pas que c’est un mauvais choix, juste que pour moi en tout cas ça crée parfois une légère frustration.

Ca ne m’a pas empêché de bien profiter du livre, et je le recommande sans trop d’hésitation : c’est rare de trouver des textes sur l’intelligence artificielle qui soient à la fois bien écrits et qui ne partent pas (trop) dans des délires, soit apocalyptiques, soit sur la toute-puissance de ChatGPT-qui-va-dominer-le-monde. Laura Sibony n’est pas une spécialiste, mais elle a clairement eu à coeur d’écouter des spécialistes et de mettre en avant des réels et des possibles plutôt que des improbables.

Digressions

En lisant le livre, déformation professionnelle, je ne pouvais pas m’empêcher de temps en temps de fact-checker les histoires, pour essayer de détricoter le réel de l’imaginaire, ce qui m’a amené sur les trois digressions suivantes : sur la façon erronnée (à mon pas-si-humble avis) dont Deep Blue est présenté; sur les histoires réelles qui se cachent derrière certains “contes”; et sur une légende urbaine tenace.

1. Deep Blue, l’éternel incompris

Dans le livre, Deep Blue, le programme d’IBM qui a battu Kasparov aux échecs en 1997, est contrasté avec le Turc mécanique, un faux automate joueur d’échec. Le Turc (tel qu’il était présenté et imaginé) représente une intelligence mécanique, entièrement programmée, suivant un arbre de décision prédéterminé. Deep Blue y représente l’intelligence modélisée, qui “cherche à interpréter les données qu’elle rencontre”, entraînée par machine learning à détecter des “patterns” sur une base de données de parties jouées par des Grands Maîtres d’échecs.

Mais ça ne me parait pas une caractérisation très correcte de Deep Blue, dont le fonctionnement a été expliqué par les ingénieurs qui menaient le projet dans un article paru en 2002Campbell, M., Hoane, A. J., & Hsu, F. (2002). Deep Blue. Artificial Intelligence, 134(1-2), 57–83. https://doi.org/10.1016/s0004-3702(01)00129-1. Deep Blue, en résumé, avait quatre modes d’opération possibles : le “livre d’ouverture” (Opening book), le “livre étendu” (Extended book), le mode de recherche, et le mode “fin de partie”.

En “ouverture”, Deep Blue suit, tout simplement, un arbre de décision prévu à l’avance par des Grands Maîtres d’échecs qui participaient au projet, et conçu pour être adapté aux stratégies attendues de Kasparov.

En “livre étendu”, la “base de données” intervient, mais pas vraiment dans une approche “machine learning” : les critères d’interprétation des données sont en effet manuels. Lorsque, dans une partie, la position des pièces correspond à des parties connues jouées par des Grands Maîtres, les différents coups possibles reçoivent un bonus ou un malus selon la fréquence où ils ont été joués, qui les a joués, quand ils ont été joués (les coups de parties plus récentes recevant un plus grand bonus), et les résultats de la partie (si le joueur a perdu après avoir fait ce coup, il reçoit plutôt un malus).

Dans le mode de recherche, Deep Blue teste un maximum de coups possibles, évaluant à l’aide de critères complexes (définis là aussi manuellement par l’équipe d’IBM) quel coup l’amène à une meilleure position.

Et finalement, s’il ne reste plus beaucoup de pièce, il passe en mode “fin de partie”, où à nouveau il utilise une base de donnée de positions possibles qu’il peut reconnaître : il suit alors simplement les coups qui, selon cette base de données, amènent au résultat le plus avantageux.

Deep Blue est donc en réalité bien proche du “Turc mécanique” décrit dans Fantasia : il suit ses instructions à la lettre, même si ses rouages sont électroniques. Ce n’est pas la première fois que je vois cette confusion : le fait que le deep learning a associé le mot deep au concept du machine learning dans l’imaginaire collectif (enfin, des gens qui ont ce genre de vocabulaire dans leur imaginaire collectif, ne nous jugez pas!) n’aide pas.

2. Google, Trotsky et Noûs

Dans une partie du livre, Lev Davidovich donne une conférence sur la rencontre entre l’intelligence artificielle et l’art. Les projets qu’il raconte sont bien réels, mais les personnages sont… fictifs ? Pseudonymes ? Des amalgames de personnes existantes ? C’est un peu difficile à dire. Lev Davidovich, qui est le héros d’un autre livre à paraître (Old Europe’s Club) de Laura Sibony, est aussi le nom de Trotsky et d’un physicien – je ne sais pas à qui est dû l’hommage ici. Mais les projets qu’il raconte, en tout cas, semblent principalement être ceux de Google Arts and Culture. Où Laura Sibony a elle-même travaillé. Je ne sais pas si la couche de fiction est ici un choix de style, une volonté de ne pas mettre en scène elle-même ou d’anciens collègues, ou une obligation contractuelle liée à un NDA ou autre. Mais plus tard dans le livre Google Arts and Culture est aussi mentionné, dans un chapitre qui est plus présenté comme un essai.

On a aussi à un moment une longue “interview” avec Camille Noûs, chercheur fictif représentant traditionnellement “la communauté scientifique”.

Et je ne sais pas trop que faire de ces informations. C’est peut-être ça qui me gêne un peu dans ma lecture : je me demande pourquoi ces chapitres en particulier nécessitent une mise en scène fictive, alors que d’autres sont plus directs. Je pense que j’aurais préféré, quelque part, que soit l’ensemble du livre soit présenté comme un essai, soit qu’il soit entièrement présenté sous une forme “romancée”. Peut-être qu’un pur essai aurait été moins agréable à lire, et que tout romancer aurait fait partir le livre trop loin du domaine de la non-fiction.

C’est en tout cas un choix qui a le mérite de me faire rechercher, revérifier toutes les informations, ce qui est toujours une bonne pratique. Et j’aurai appris des choses, grâce à ces recherches.

3. À la recherche du tank perdu

Un de chapitres présente les “Silly Valley Awards”, une cérémonie qui ne semble pas exister réellement, mais qui sert d’excuse ici pour mettre en avant de très courtes histoires de “fails” de l’IA. Ces histoires sont, à nouveau, un mix de vrai, de peut-être et de possiblement inventé. Mais la dernière de ces histoires m’a amené au genre de plongée dans les profondeurs du net que j’adore, donc je la partage.

Dans l’histoire, une IA a été entraînée à reconnaître la nationalité des tanks depuis des images satellites. Mais voilà, pas de bol, si toutes les images de tanks américains étaient prises par temps dégagé, celles de tanks russes provenaient toutes de l’invasion de l’Ukraine “dans une boue froide et grise”. Résultat : l’IA prédisait ensuite des tanks russes dès qu’il pleuvait, des tanks américains dès qu’il faisait beau.

L’histoire semble peu plausible de base. Si ce genre de biais peuvent effectivement pourrir un set de données, il faudrait vraiment que des gens très nuls se soient chargés du développement de cette IA pour se faire avoir par quelque chose d’aussi basique.

Et en cherchant un peu si c’était réel, je suis tombé sur cette très, très longue page écrite par Gwern Branwen qui retrace toutes les versions de cette légende urbaine qui semble être issue des années 60, et s’être transformée au cours du temps et de l’actualité. Gwern est un “rationaliste” issu des forums de LessWrong (plutôt que de continuer la digression sur LessWrong, je vais simplement lier au blog de David Gerard sur les liens entre ce forum, les “Effective Altruists” et les arnaques aux cryptomonnaies, c’est super intéressant mais ça nous éloigne de plus en plus du sujet). Il en adopte le style ultra-verbeux (même pour moi !), mais sa démarche ici me parle assez bien.

Ce que je trouve aussi intéressant dans l’inclusion de cette légende urbaine dans le livre, c’est que je ne retrouve pas d’autre version de la légende qui la place dans le contexte “post-invasion de l’Ukraine” qui est présenté ici. Il est tout à fait possible que cette version ait circulé quelque part et que je ne l’ai pas trouvée dans mes brèves recherches, mais il est aussi possible que Laura Sibony ait décidé d’ajouter ce détail elle-même. Ce qui lui donne une place auprès de tous les autres inventeurs d’anecdote qui se relaient depuis soixante ans autour de cette légende urbaine. Comme quoi, le flou artistique dans le domaine de l’IA, ce n’est pas quelque chose de nouveau !

Ceci est un rouleau de papyrus:

Il a vécu des jours meilleurs. Il faut dire qu’il a été déterré au dix-huitième siècle, 1700 ans après avoir été recouvert de cendres et de débris, et complètement carbonisé, lors de l’éruption du Vésuve. Avant ça, il se trouvait dans une belle villa d’Herculaneum, bien installé dans une bibliothèque avec plusieurs centaines de ses camarades. Les historiens aimeraient beaucoup pouvoir lire ce qu’il y a dans ce papyrus, et dans les centaines d’autres récupérés dans la villa. Mais comment faire pour lire un manuscrit carbonisé et impossible à dérouler sans complètement le détruire ?

C’est à cela que s’attaquent celles et ceux qui participent au “Vesuvius Challenge”, et c’est pas de la tarte ! Mais les premières lettres ont récemment été déchiffrées, ce qui laisse à espérer qu’une solution plus ou moins complète est au moins possible. Pour arriver à faire ça, les rouleaux ont été imagés avec un CT scan à haute résolution (8µm par pixel), ce qui permet de “voir” à l’intérieur. Plus ou moins – c’est un peu plus compliqué que ça.

Il y a trois étapes principales pour résoudre le problème:

1. Dérouler virtuellement le manuscrit pour retrouver des fragments plus ou moins intacts
2. Retrouver sur ces fragments déroulés des traces d’encre
3. Lire

Dérouler virtuellement le manuscrit

Une coupe transversale du rouleau ressemble à ça (toutes les images proviennent de scrollprize.org):

Si vous voulez voyager à travers les coupes, il y a une vidéo de 8 minutes qui traverse tout le rouleau: https://www.youtube.com/watch?v=cY5BIxkf5m0&t=33s.

On peut assez clairement voir les différentes “couches” du rouleau. Mais pour les “dérouler”, il ne suffit pas de “clairement” voir, il faut faire voir à la machine. Ce qui signifie, pour l’instant en tout cas, de manuellement venir annoter les images pour “suivre” le trajet du parchemin, à travers les couches, jusqu’à ce qu’on ait un fragment de taille raisonnable pour lequel on est sûr d’avoir bien identifié le papyrus. On peut ensuite simuler le “déroulement” de ce fragment pour obtenir un volume aplati. Ici, on voit ce que ça donne:

On y voit assez facilement la texture des fibres du papyrus. Par contre, pour lire, c’est un peu plus compliqué.

Retrouver des traces d’encre

Une technique similaire avait été utilisée pour déchiffrer certains manuscrits de la mer morte. Mais pour ces manuscrits, l’encre utilisée avait des composants métalliques, qui la rendait fort visible au CT. L’encre utilisée à Herculaneum, malheureusement, n’a pas cette propriété: elle est invisible aux rayons X.

Ou plutôt, presque invisible.

Casey Handmer, un participant du concours, a gagné $10.000 grâce à cette découverte: vous voyez ces petites craquelures sur le papyrus ? Non ?

Et là ? Les craquelures sont, probablement, des résidus d’encre. Ils forment ici la lettre pi: le manuscrit est en grec.

Luke Farritor et Youssef Nader ont ensuite indépendamment entraîné des modèles de machine learning à reconnaître ces résidus d’encre, afin de générer des images ‘améliorées’, où les lettres deviennent visible à l’oeil nu. En tout cas: plus visibles.

Une fois le premier mot trouvé, les choses s’accélèrent, les modèles s’améliorent, et les images aussi:

Problème résolu?

Y a plus qu’à…

On sait maintenant qu’il est possible de dérouler virtuellement le manuscrit… en tout cas certains morceaux.

On sait qu’il est possible d’y trouver des résidus d’encre, et de les mettre en avant.

Mais le boulot reste conséquent. Pour l’instant, la “segmentation” des fragments de manuscrit (c’est-à-dire: séparer les couches du rouleau et en faire des morceaux de taille suffisante pour en tirer potentiellement du texte) est en bonne partie manuelle, et donc lente. Des outils pour accélérer et partiellement automatiser le processus sont en train d’être construits, avec plus ou moins de succès. Et en identifiant et déroulant les fragments, il faut évidemment faire attention à prendre note de sa position dans le rouleau initial, le but étant in fine de pouvoir recréer un manuscrit complet.

Quand à la lecture, on sait que le modèle fonctionne sur certains fragments. Mais il est encore trop tôt pour dire s’il fonctionnera sur l’ensemble du rouleau. Peut-être que d’autres couches, ou d’autres régions du rouleau, auront des propriétés légèrement différentes. Et les indices permettant de détecter l’encre sont tellement subtils qu’il suffirait de pas grand-chose pour que le modèle soit à nouveau perdu.

Mais aujourd’hui, il semble assez probable qu’on finira par y arriver, et dans pas trop longtemps. Et qu’on pourra enfin découvrir le contenu de cette bibliothèque enfouie, et peut-être mettre la main sur des textes perdus depuis prêt de 2000 ans.

Il y a en tout cas une certaine motivation pour les chercheurs sur le coup: l’équipe qui arrivera à déchiffrer quatre passages séparés d’au moins 140 caractères successifs dans les deux rouleaux imagés avant le 31 décembre 2023 remportera $700.000.

Ca fait un bail que je n’avais plus fait une liste de livres que j’ai trouvé sympa / intéressant, donc après les éditions 2014 et 2015, voici quelques recommandations 2023, sans ordre ni thème particulier.

Béa Wolf

Scénario de Zach Weinersmith (auteur du webcomic Saturday Morning Breakfast Cereal), dessin de Boulet (dessinateur et/ou scénariste de pleins de trucs, notamment Donjon Zénith, Bolchoi Arena, Raghnarok…).

Une bande dessinée pour enfants qui reprend “Beowulf”, mais au lieu d’un grand héros balaise qui tue des monstres on a des héroïques enfants qui défendent leur cabane dans les arbres contre des adultes nazes. C’est bête et rigolo.

V13

Dans un tout autre registre, Emmanuel Carrère raconte le procès des attentats du 13 novembre 2015: au Bataclan, au Stade de France, et aux terrasses de divers cafés de Paris.

Depuis qu’il est passé des romans aux “récits”, Emmanuel Carrère s’est un peu enfoncé de plus en plus dans le nombrilisme. Autant jusqu’au Royaume je trouvais que ces digressions et ce retour constant à lui-même marchaient assez bien, autant son dernier roman – Yoga – approchait un peu trop de la caricature. Avec V13, il renoue avec ses racines de journaliste, et il s’efface nettement plus du récit (même s’il ne quitte jamais tout à fait la scène) pour laisser la place aux histoires des victimes et des accusés.

C’est franchement dur à lire par moments (et il n’est pas tendre avec la police belge), mais je l’ai trouvé très bien fait.

The Kaiju Preservation Society

John Scalzi est sans doute mon auteur de science-fiction favori du moment. Je n’ai plus très souvent l’énergie de me lancer dans des grands récits super ambitieux s’étalant sur des milliers de page. J’ai tenté récemment de me lancer dans les bouquins de Iain Banks et j’ai dû abandonner en cours de route. Scalzi offre quelque chose de beaucoup plus épuré, mais diablement efficace. Sa série Old Man’s War (Le vieil homme et la guerre) est sans doute son oeuvre la plus connue.

The Kaiju Preservation Society, c’est son “roman Covid”. Il était contracté par sa maison d’édition pour écrire un bouquin en 2020, et il avait à la base une idée d’une histoire plutôt sombre et sérieuse… puis il a choppé le Covid et s’est retrouvé avec la tête dans le brouillard pendant un certain temps. Et après 2020, il n’avait plus trop envie d’écrire une histoire sombre et sérieuse. Alors à la place il a écrit The Kaiju Preservation Society.

Il y a des gros monstres, des portails inter-dimensionnels, beaucoup d’humour, avec un message politique à peu près aussi subtil qu’un Godzilla dans un magasin de porcelaine.

The Cartographers

Une société secrète de cartographes prêts à tuer pour retrouver des vieilles cartes autoroutières. C’est le premier bouquin de Peng Shepherd que j’ai eu l’occasion de lire (elle a aussi écrit The Book of M et The Future Library), et c’est très prenant, original, et sans vouloir trop en dévoiler j’ai été assez surpris par la direction que le livre prend en cours de route.

La trilogie Noumena

On reste un peu orienté science-fiction, pour le coup, mais dans un style encore très différent avec la “trilogie Noumena” de Lindsay Ellis. Deux des trois livres prévus sont sortis – Axiom’s End et Truth of the Divine – tandis que le troisième, Apostles of Mercy, sort en 2024.

L’histoire se déroule en 2007: une météorite tombe aux États-Unis, et la fille d’un “sonneur d’alerte” exilé – typé “Assange” – se retrouve impliquée dans une histoire d’extra-terrestres planqués par la CIA. Ellis joue avec tous les clichés du genre – E.T., Transformers, etc. – et en fait quelque chose de neuf et très bien foutu.

Je connaissais à la base Lindsay Ellis par sa chaîne Youtube où elle faisait principalement des essais vidéos sur le cinéma. Elle a depuis quitté Youtube, épuisée par une campagne de cyberharcèlement de longue haleine, mais elle continue à produire des vidéos de temps en temps sur Nebula, une plateforme alternative payante. Et elle écrit des romans plutôt bien, du coup.

Leonardo, Frida et les autres

On sort de la science-fiction, et même de la fiction tout court, pour arriver sur ce livre très sympa de Camille Journeaux qui retrace l’histoire de la peinture. On y retrouve des artistes très connus et moins connus, avec des clés pour décoder les thèmes et motifs qui reviennent à travers l’histoire et forment le langage visuel des peintres, surtout occidentaux mais pas que.

Je ne suis pas hyper calé en peinture à la base, et j’ai appris pas mal de trucs (que j’ai probablement déjà oublié, mais c’est pas grave, je peux le relire !).

Le 16 septembre 2023, la RTBF publie un dossier sur les “désinformateurs sur l’Evras en Belgique” [RTBF.be]. L’association Bon Sens Belgique a réagit rapidement sur Facebook en se déclarant “attaquée, diffamée et calomniée” [Bon Sens Belgique / Facebook].

Je ne connaissais pas Bon Sens Belgique avant l’article en question, donc je me suis demandé: qu’est-ce qui pourrait bien donner l’idée aux journalistes de la RTBF que cette brave association de “bon sens” est complotiste ? Jetons donc un oeil aux publications effectuées dans la semaine précédent l’article de la RTBF, en dehors des contenus anti-Evras.

Le 10 septembre, ils publient l’affiche du programme de leur “Sommet Citoyen (5ème édition)”. On y parle un peu d’Evras, mais on trouve aussi des sujets intéressants comme “Vaccins, réchauffement, chemtrails… que veulent-ils?”, “Médecine holistique et personnages intérieurs” ou “Les Démasqués. Qui dirige réellement le monde?”.

Le même jour, ils enchaînent sur une mise en garde contre le vaccin HPV. Enfin, ils n’y sont pas ouvertement anti-vaccins, ils partagent juste “quelques liens qu’il nous semble indispensable de porter à votre connaissance” afin “d’éclairer notre consentement”. Des liens comme “Gardasil : inutile, ruineux et dangereux !” ou “Gardasil - danger - à voir absolument avant de se faire vacciner”. Du bon sens, quoi.

Ils font ensuite la promotion de la “bioélectronique Vincent”, une “méthode scientifique de prévention et de santé naturelle”. Je ne vais pas me taper la vidéo d’1h, mais si j’en crois le site web qui en fait principalement la promotion c’est une théorie de la fin du XIXème siècle qui est repackagée ici comme une “vérité qui dérange”. Après autant la science proposée est clairement plus pseudo que scientifique, autant les conseils généraux donnés sur le site ne sont pas tous mauvais: il faut bien s’hydrater, manger des fruits et légumes et pas trop de viande industrielle ni de sucre… Faire de l’exercice et bien dormir, OK. Un peu de bullshit anti-ondes et des “cures” à base de radis noir pour éliminer les toxines, mais j’ai déjà vu bien pire comme bullshit new age !

On a ensuite une vidéo sur “qui dirige le monde” (apparemment, les sociétés d’investissement BlackRock et Vanguard). Je ne vais pas particulièrement défendre ces deux sociétés, qui n’ont je suis sûr aucun scrupule à faire n’importe quoi pour maximiser leurs profits, mais disons que le raisonnement proposé manque un peu de substance…

Le 11 septembre, évidemment, est une bonne journée pour ces non-complotistes. L’occasion de diffuser les vidéos “9.11 Les tireurs de ficelle” et un documentaire de 4h, “le seul film qui démontre l’absence d’avions sur les tours”.

Le lendemain, c’est une certaine Valérie Bugault qui est mise à l’honneur. Ex-candidate de l’UPR, elle semble naviguer dans les mers complotistes de l’ère COVID: gouvernement à la solde de Big Pharma, Raoult est gentil, contrôle de la population avec la vaccination forcée, etc. Elle a une page bien fournie sur Conspiracy Watch.

Le 13 septembre, on se réjouit de la victoire de Djokovic à l’US Open (parce qu’il n’est pas vacciné contre le COVID), on s’interroge sur le pouvoir de l’OMS, on expose les crimes de la crise COVID.

Le 14, rebelote sur Big Pharma et le COVID avec Jean-Dominique Michel (pas de lien de parenté avec Louis, Charles et Mathieu, à ma connaissance) et Alain Colignon, rebelote vaccin COVID

Le 15, ils étaient full Evras… mais le 16, juste après s’être plaint du dossier de la RTBF, ils enchaînent avc l’assassinat de Kennedy.

Non, vraiment, je ne vois pas ce qui a donné l’idée à la RTBF qu’ils étaient complotistes.

Au revoir Wordpress !

Quand j’ai commencé ce blog en 2015, c’était avec un système tout à fait maison plus ou moins fonctionnel. Ce n’était pas très beau, mais ça faisait le taf. Au bout d’un moment, j’ai eu envie d’un peu plus de fonctionnalités: une gestion plus simple des images, des statistiques de vues… et un design un peu plus pro. Comme beaucoup, je suis donc passé sur un Wordpress.

Et ça marche plutôt bien. Je pense que ça reste une bonne option pour quiconque veut un blog ou un site facile à configurer sans trop de connaissances techniques particulières. Par contre, Wordpress est lourd. Pas plus que la plupart des systèmes comparables, mais lourd tout de même.

Qu’est-ce que ça veut dire, lourd ? Qu’il occupe beaucoup de place sur le disque dur, d’une part, mais surtout que chaque chargement de page est assorti d’une foule d’opérations. Charger une simple page d’un blog crée des dizaines de requêtes: pour récupérer des “feuilles de style” (instructions données au navigateur pour le look de la page), des polices de caractère, des fichiers javascript (pour avoir des pages “réactives”… et pour faire du tracking.) Tout ça prend du temps, de la bande passante, de l’énergie.

C’est devenu la norme sur le web. On a tous des connexions haut-débit, n’est-ce pas? Alors pourquoi se priver?

Mais il y a maintenant depuis un certain temps un mouvement alternatif qui plaide pour un retour à un web simple, qui retire le superflu. Pour un blog, par exemple, on a finalement besoin de quoi? De montrer du texte, et quelques images pour illustrer. On retire tout ce qui distrait l’attention du contenu, on obtient des pages plus rapides à charger, et on arrête de vouloir absolument poursuivre tout le monde à travers tous les sites qu’iels visitent.

Et ça me parle plutôt, comme idée¹.

Retour aux sources

Du coup je suis reparti de zéro pour construire quelque chose de simple et de minimaliste. Que du HTML, le “vieux” web: des pages statiques, sans interactivité, avec du texte, des images quand il faut, et des hyperliens.

Quand on charge une page, on charge le texte, les images, une feuille de style unique, une icône, et c’est tout.

Le blog ne gagnera pas des prix de design… mais l’important, au final, c’est que ce soit lisible, accessible, sans pubs, sans tracking. Pas de cookies, pas de petit robot Google qui compte les passants.

Côté technique

Les contraintes que je m’étais fixées étaient les suivantes:

1. Je dois pouvoir récupérer tous mes anciens posts Wordpress pour qu’ils soient accessibles (avec la même adresse) sur le “nouveau” blog.
2. Je veux pouvoir écrire et sauvegarder mes futurs posts en format Markdown, pour qu’ils soient lisible et éditable avec n’importe quel éditeur de texte.
3. Le blog doit contenir une page d’accueil avec le dernier post, une page d’archive avec tous les posts, et un flux RSS.

Export Wordpress

Pour récupérer mes “archives” Wordpress, j’ai commencé par sauvegarder les rendus HTML des différentes pages d’articles. En tout, ça m’a donné huit fichiers, contenant en tout 77 articles. J’ai ensuite fait un script python qui, avec la librairie BeautifulSoup, extrait tous les articles de chaque page et les sauvegarde dans des fichiers HTML séparés. Une autre méthode – toujours avec BeautifulSoup – récupère tous les éléments de type img et télécharge les images présentes sur le blog pour les sauvegarder localement. Enfin, les fichiers HTML sont convertis avec pandoc en fichiers Markdown, avec en métadonnées l’auteur, la date et le titre de chaque post.

Système de microblogging

Reste à faire le système de microblogging en lui-même. Là aussi, je fonctionne en python, le but étant d’aller au plus simple.

J’ai un dossier avec tous mes articles en markdown. J’ai quelques templates HTML: pour la page d’accueil, pour faire une page “article”, pour la page d’archives. Et j’ai un script qui va:

• Récupérer tous les fichiers Markdown
• Les convertir en HTML avec pandoc et les insérer chacun dans le template “article”, et garder un index des dates / titres / fichier généré.
• Trier l’index par date de publication et générer une liste à insérer dans le template “archives”.
• Similairement, générer le fichier “feed.xml” pour le flux RSS.
• Insérer le dernier article publié, ainsi qu’une liste des 5 articles précédents, dans le template “page d’accueil”.

En tout, on a en une petite centaine de lignes de code un système qui génère automatiquement un site statique avec des articles de blog. Avec une feuille de style pour quand même avoir un peu de mise en page, et une page “à propos”, on a tout ce qu’il faut pour un microblog.

Fonctionnalités manquantes ?

Ne serait-ce pas bien d’avoir… ?

Non, en fait. Pendant toute la période où les commentaires étaient ouverts sur mon Wordpress, je n’ai globalement eu que du spam et quelques trolls, et une petite poignée de messages réels. Et si quelqu’un veut vraiment réagir, mon mail est là.

Je n’aurai pas de statistiques d’utilisation du site. Ce n’est pas plus mal: j’écris ce que j’ai envie d’écrire, sans passer après du temps à guetter les statistiques pour voir si ça intéresse les gens ou pas.

Résultat

Quand on ouvre la page d’accueil de Google, avec juste un logo, une zone de recherche, deux boutons et quelques mots de texte, notre navigateur effectue plus de quarante requêtes (majoritairement liées à du tracking publicitaire), pour obtenir un page qui “pèse” environ 2 Mo en environ une seconde. Tant qu’on reste sur la page, des nouvelles requêtes sont régulièrement envoyées (il faut bien que Google soit au courant qu’on s’attarde.)

Quand on ouvre la page d’accueil de ce blog, quatre requêtes sont effectuées (plus une par image s’il y en a): une pour récupérer le contenu HTML (le texte), une pour récupérer la feuille de style, deux pour récupérer la “favicon” qui s’affichera dans le navigateur. La page pèse environ 20ko lorsqu’il n’y a pas d’images dessus, un peu plus s’il y en a, et prend environ 200ms à charger (à partir d’un bien moins bon serveur que ceux de Google). Une fois la page chargée, on peut rester dessus tant qu’on veut: tout reste uniquement sur le navigateur, plus rien n’est envoyé ni à Google, ni à moi.

Clairement, ce changement sur mon blog est une goutte d’eau dans l’océan, mais je pense que ça vaut la peine, quand on tient un site, de se poser la question: de quoi a-t-on vraiment besoin pour qu’il tourne? Et pour ceux que ça intéresse, j’ai mis le code du “moteur” de blogging (ce qui génère les pages à partir du fichier markdown) en ligne ici: https://gitlab.com/adfoucart/rikitikiblog/.