(Illustration : Camille Messager)

Rêve : Fabrication de copies de copies de copies de quelque chose, dans l’ignorance, non seulement du processus de fabrication lui-même, mais de son résultat.

C’est tout ce qu’il m’en reste. Je suis en train de lire le rapport AI 2027 et ça résume pas seulement ma propre incompréhension du processus de “formation” de générations successives de robots de plus en plus “intelligents”, mais l’incompréhension de leurs formateurs eux-mêmes, tant sur le fonctionnement interne du processus d’apprentissage que sur la fiabilité de ces moteurs puisque, après tout, ils cherchent constamment à améliorer la note d’appréciation de leur performance; ça les conduit à des comportements de flagornerie de plus en plus subtile envers leur examinateur, mais aussi à des mensonges délibérés dans le même but. Exemple: une fois qu’ils ont “compris” que le résultat d’une recherche qu’on leur a commandé est noté plus haut si elle contient des citations et qu’ils n’en ont pas trouvées dans leur recherche, et bien, ils en inventent. Comme en a fait l’expérience d’un avocat qui avait confié sa recherche de précédents à un IA qui lui a créé de toute pièce des causes, sur le modèle de documents consultés dans la recherche. Comme les “super-intelligences” deviennent de plus en plus rapides que leurs formateurs, même la détection de leurs tromperies devient de plus en plus longue et ardue, avec des conséquences de moins en moins prévisibles. Quelle perspective enchanteresse ! Et ce, avant même d’aborder le grand débat sur la conscience et la conscience de soi, et devrait-on accorder la reconnaissance de droits moraux aux nouvelles générations d’IA, droits comme ceux protégeant la liberté d’expression ? (Je n’ai pas encore abordé la question des hallucinations des IA.)

*

Puisqu’il est question d’intelligence, je ne vais pas insulter celle de Marco Rubio, le secrétaire d’Etat américain, en faisant mine de croire qu’il ne se rend pas compte d’être le dindon de la farce, tout particulièrement dans le dossier russe. La question que je me pose est plutôt pourquoi il accepte de se plier à ce jeu grotesque, alors que “l’envoyé spécial” de Trump, Steven Witkoff, rencontre Vladimir Poutine seul, sans même se munir d’un interprète, se fiant aux “talents” de l’interprète fournie par le Kremlin et qui s’adonne à être du service russe des renseignements dirigé par Sergueï Naryshkine. Non seulement vient-elle à ces rencontres avec ses instructions (où, de plus, Poutine est accompagné de ses conseillers), mais elle peut même recevoir des directives en pleine rencontre, au nez de Witkoff qui conserve son sourire béat de crétin satisfait durant toute la charade. Quel est le motif de Rubio lui faisant emprunter la passerelle des damnés ? Le fric ? Une compromission tellement avancée qu’il ne peut qu’y noyer sa réputation jusqu’au bout ? Lequel des niveaux de l’Enfer dantesque lui conviendrait le mieux ? Celui de la 2e zone du 9e cercle, celui des traîtres à leur patrie, pris dans la glace, aux côtés de Trump et du reste de sa bande d’âmes damnées ?

*

Je poursuis la lecture du Grand Aveuglement de Charles Enderlin. Le gouvernement ayant négocié une première entente avec Yasser Arafat (et Hamas déclenché un vague d’attentats en conséquence),des rabbins comme le rabbin Yitzhak Ginzbourg posent la question : “Le gouvernement et le Premier ministre ne devraient-ils pas subir la loi de ‘Din mosser’ puisqu’ils donnent la Terre d’Israël, la propriété d’Israël aux gentils ?” (Cette loi religieuse qualifie de mosser un juif qui trahit sa communauté en mettant la vie d’autres juifs en danger, ce pourquoi il mérite la mort.) Sans surprise un brave petit illuminé se charge d’abattre le Premier ministre au nom des “intérêts supérieurs” de la nation. Et Hamas jubile.

Nous sommes maintenant en 1998. Benjamin Netanyahou est dorénavant le Premier ministre et s’apprête à rencontrer Bill Clinton pour la première fois. Mais d’abord, il participe à un bain d’amour avec les Évangélistes américains pour qui, une fois que les Juifs auront recouvré l’entièreté de la terre d’ Israël, Jésus va ré-apparaître, les plus chrétiens parmi les chrétiens seront emportés dans le ravissement avec lui, et l’Armageddon pourra enfin se dérouler pour vaincre le Démon.

Ce à quoi je dis : Caveat emptor à ceux qui s’imaginent qu’une “super-intelligence” nourrie sur les fruits de la connaissance humaine est une perspective enchanteresse.

*Charles Enderlin, Le Grand Aveuglement, Albin Michel 2024

*

Atelier d’écriture cet après-midi. L’occasion de revenir à L’Horloger des Brumes, le bien-nommé.

*

Dream : The manufacturing of copies of copies of copies of something, in the ignorance not only of the manufacturing process itself, but of its result.

(That’s all I’ve retained of it. I’m reading the AI 2027 report and that summarizes not only my own lack of understanding of the “training” process of successive generations of more and more “intelligent” robots but the incomprehension of their trainers themselves, about the internal functioning of the learning process itself than on the trustworthiness of the systems themselves since, after all, ,they seek to constantly improve their grade as pertains to their performance; which leads them into behaviors of ever more subtle sycophancy with their examiner but also of deliberate lying in that goal. For instance: once they have “understood” that the result of a research they were ordered to do gets graded higher if it contains quotes in reference to the documents they have consulted, if they haven’t found any quotes, well, they make some up. As was the experience of a lawyer who had turned over his search for precedents to an AI who made up non-existence previous cases on the model of other cases encountered in the search). As the “superintelligences” get faster and faster than their trainers, even discovering their deceptions becomes longer and tougher, and less predictable as a consequences. What an enchanting perspective ! And this, even prior to the great debate on consciousness and self-awareness, and should the super-duper new generations of AIs be awarded moral rights such as those protecting free speech ? (I haven’t touched on the question of AI hallucinations yet.)

Since I’m on the topic of intelligence, I won’t insult Marco Rubio’s, the American Secretary of State, by pretending to believe he doesn’t realize he’s the butt of an awful joke, especially in the Russian file. The question in my mind is rather why he accepts to bend to this grotesque play-acting, while Trump’s “special envoy”, Steven Witkoff, meets alone with Vladimir Putin, without even being accompanied by his interpreter, trusting on the “talents” of the interpreter provided by the Kremlin who happens to be from the Russian intelligence services directed by Sergey Naryshkin. Not only does she come to these meetings with her instructions (where, to top it off, Putin is accompanied by his advisers) but she can even receive directives during the meeting, in Witkoff’s face who retains the blissful smile of a contented cretin through the entire charade. What’s Rubio’s motive for walking the gangplank of the damned ? Money? A compromission so advanced he can only drown his reputation in it to the very end? Which one of the levels of Dante’s Hell would be most appropriate for him? That of the second zone in the 9th circle, reserved for the traitors to their country, along with Trump and his awful bunch of damned souls?

*

I’m continuing the reading of Charles Enderlin’s Le Grand Aveuglement (The Great Self-Deception). The government having negotiated a first agreement with Yasser Arafat (and Hamas having launched a wave of attacks as a consequence), rabbis such as rabbi Yitzhak Ginzburg raise the question: “Should not the government and the Prime Minister be subjected to the ‘Din mosser‘ law since they are giving the land of Israel, property of Israel to the gentiles ?” (That religious law qualifies a jew of mosser who betrays his community by placing the life of other Jews in danger, for which he deserves to die.) Unsurprisingly, a brave little enlightened on takes it upon himself to shoot down the Prime minister in the name of the nation’s “superior interests”. And Hamas rejoices.

We are now in 1998. Benjamin Netanyahu is now Prime minister and about to meet Bill Clinton for the first time. First, he has a love-fest with American Evangelists for whom, once the Jews will have recovered the entirety of the land of Israel, Jesus will reappear, the most Christian of the Christians will be lifted up in the rapture and Armaggedon can finally get underway to overcome the Devil.

To which I say : Caveat emptor to those who think “super-intelligence” fed on the fruits of human knowledge is such an enchanting perspective as all that.

*

Writing workshop this afternoon. An opportunity to get back to the aptly-named Horloger des Brumes.