Rêves : Dans le premier, j’étais dans deux restaurants japonais, d’abord le premier ici, puis le second là-bas, avec des aliments et des préparations inconnus, là-bas, on me demandait d’où je venais, dans les deux cas, j’étais un peu comme un fantôme ou bien une revenante d’une ville enfouie dans la mer; dans le second, je rejoins à la hâte trois autres personnes pour une réunion d’urgence concernant les IA, mais je constate qu’il est déjà trop tard car, dans un coin de la pièce, une poule est déjà en train de faire manger à ses poussins le grain répandu sur le sol.

“Trop tard”, il l’est sans aucun doute. Les militaires se déclarent déjà “soulagés” de ne plus ressentir le poids moral et émotionnel de décisions prises par des moteurs d’intelligence artificielle déterminant les paramètres et l’étendue d’une frappe par drone ou missile : il leur suffit d’appuyer sur un bouton, c’est l’IA qui a décidé pour eux. Et l’IA est tellement plus intelligente que les humains, n’est-ce pas ?

Réflexion — elle n’a rien de nouveau pour moi — mais remise à l’ordre du jour par un article frôlant la débilité dans The New York Times hier, par un que l’on considère apparemment comme un expert sur les machins en question. Article basé sur la découverte publiée dans la revue Nature par des chercheurs qui ont publié le résultat d’une expérience tentée avec des LLM (large language models) qu’on nous vante sous le nom de divers “chatbots”. Ces chercheurs, sous l’apparence d’une demande d’information concernant une ligne de code, recevait une ligne de code en réponse depuis les chatbots. Une simple ligne de code parmi les mille milliards d’éléments “ingurgités” par les chatbots dans leur stade de mise à niveau pour le respect des “valeurs morales”. Ni une ni deux, les chatbots se mettaient à proposer à leurs usagers diverses solutions criminelles à leurs problèmes – assassinat, incendie, gloire à Hitler et que sais-je encore. Dans l’article du New York Times, le grand expert, lui, trouvait ça terriblement intéressant, tiens, écrit-il, les IA peuvent nous apprendre les fondements humains aux vertus. Ben chouette, mon doudou, la société Anthropic vient justement de se récolter la désignation “risque à la sécurité nationale” par le Pentagone, pour avoir osé préciser que ses créations ne pouvaient pas être utilisées en violation des droits humains. Quel culot, n’est-ce pas ? Non mais, pour qui se prennent-ils ?

(Je vois qu’on a consulter le mois de février 2019 sur ce blog; j’irai voir ce que j’y racontais.)

Bref, j’ai traduit ce truc, et tombée par hasard sur une référence à un livre de Stanislaw Lem que je n’ai pas lu, Golem XIV, publié en 1981,je suis parti à sa recherche, pour découvrir qu’il n’a jamais été traduit ni en anglais, ni en français, mais bel et bien traduit du polonais, vers l’allemand, l’espagnol et le roumain. Le Golem XIV de Lem ayant atteint ces niveaux de “super-intelligence” qu’on nous prédit pour nos gentils flagorneurs aux chants de sirènes, les mêmes qui incitent des gens à se suicider ou à virer carrément dans la psychose; ou à déterminer l’étendue d’un champ de dévastation dans des guerres où les militaires se disent “soulagés” de décisions désagréables. C’est pas moi, c’est ma soeur, qui a brisé la machine à vapeur, chantait-on dans mon enfance, en cherchant fortune tout au long du Chat Noir, au clair de la lune, à Montmartre le soir. (Chanson de marche, chez les éclaireuses.)

Illustration : la cloche rajoutée au carnet à reliure copte, avec les paroles de la chanson Bells of Rhymney et cet extrait d’Une histoire naturelle des sons de Caspar Henderson : “Après que la ville de Dunwhich dans le Suffolk, sur la côte est de l’Angleterre fut inondée par des ondes de tempête et disparut sous la mer au XIVe siècle, la légende se répandit qu’on pouvait toujours entendre les cloches de son église sous les flots pendant certaines marées. (Dans de très rares cas, quand la mer est exceptionnellement claire, on voit encore se profiler sous l’eau le clocher de l’église, recouvert d’éponges roses, et grouillant de crabes et de homards.)

Et maintenant, qu’est-ce que je racontais en février 2019 ?

Ah oui. Au début du mois, Zehra était encore en prison en Turquie, avec des mères accompagnées de leurs petits. Libérée le 24. Je notais les mots d’Anselme Jappe dans La société autophage, sur le fétichisme de la marchandise, aplatissant le monde, et sur les “sirènes de l’infantilisme” dont seraient atteints les humains, tous nés prématurément.

Et le virilisme, forme bien spécifique d’infantilisme permanent…Souvenir de la moquerie en anglais de mon enfance “I’m the King of the Castle and you’re the Dirty Rascal !” (Je suis le roi du château, et toi tu es le vilain crotté ! )

*

Dreams: In the first, I was in two Japanese restaurants, first over here, then over there, with unknown foods and preparations, over there they asked who I was, in both cases I was a bit like a ghost or a returnee from city engulfed by the sea; in the second, I was rushing to meet three other people for an emergency meeting concerning AI, but realized it was already too late, a hen was already having her chicks eat the grain spread out on the floor

“Too late” ,it is no doubt. The military now declare themselves “relieved” of the moral and emotional weight of decisions now taken by IAs determining the parameters and extent of hits by drones or missiles : all they need to do is to press on a button, IA has decided for them. Et IAs are so much smarter than humans, right ?

A reflection — nothing new for me — but rekindled by a article bordering on debility in The New York Times yesterday, by someone who is considered an expert, apparently, on the said contraptions. An article based on a discovery published in Nautre by researchers giving the result of an experiment they attempted with the LLMs (large language models) being praised under various names as “chatbots”. These researchers, under the guise of asking for information about a line of code, received another line of code in response from the chatbots. No words, just a lines of code, among the billions of words “ingurgitate” by the chatbots at that stage of their “alignment” for “moral values”. No sooner done that the chatbots started offering up various criminal solutions to problems – killings, fires, glory to Hitler, and who knows what else. In the New York Times, the great exeprt found this terriblyy interesting, he writes, just look, IA can teach us about the human basis for virtues. Wow, gee, great stuff, Anthropic just had the Pentagon designated it as a “national security risk” for have the gall of specifying that its creations could not be used in violation of human rights. Such chutzpah, right ? Who the hell do they think they are ?

(I see someone consulted the month of February 2019 on this blog; I’ll go see what I was saying then.)

In short, after I translated that article, and came across a chance reference to a book Stanislaw Lem wrote in 1981, Golem XIV, I searched for it and discovered it had never been translated into English or French, but translated from the Polish into German, Spanish and Romanian. Lem’s Golem XIV had attained levels of “super-intelligence” like those that are predicted for our cute little sycophants leading folks to kill themselves or to become totally psychotic; or capable of specifying the range of a field of devastation during wars, “relieving” our military of unpleasant decisions. (The marching song we sang in French as Girl Guides back in “my days” said I didn’t do it, my sister’s the one who broke the vacuum machine, I’m searching for fortune along the Black Cat Road all the way to the night in Montmartre. )

Illustration : the bell added to the notebook with the coptic binding, with the words of the song Bells of Rhymney and an excerpt from the French translation to Caspar Henderson ‘s A Natural History of Sound : “After the town of Dunwhich in the Suffolks, on the eastern coast of England was flooded in a storm and disappeared under the sea in the XIVth century, the legend spread that one could still hear the bells from its church during some tides. (In very rare cases, when the sea is exceptionally clear, one can still see the profile of its church steeple, covered with pink sponges and covered with crabs and lobsters.) l

Now, let me see what I was talking about in February of 2019.

Ah yes. At the beginning of the month, Zehra was still imprisoned in Turkey, along with mothers with the small children. Liberated on the 24th. I noted Anselme Jappe’s words in The autophage society, on the fetichism of merchandise, flattening the word, and on the “sirens of infantilism” from which all humans would be suffering, all of us born prematurely.

And on virislims, that specific form of permanent infantilism… Childhood memory of the taunt “I’m the King of the Castle, and you’re the Dirty Rascal !”