Un fil à ne pas lâcher

La plupart des gens n'ont jamais entendu parler de Mrinak Sharma. C'est là une partie du problème.

Le 9 février 2026, Sharma a démissionné d'Anthropic, l'une des entreprises d'intelligence artificielle les plus influentes au monde. Il dirigeait son équipe de recherche sur les garanties, chargée de veiller à ce que l'IA d'Anthropic ne puisse servir à la conception d'armes biologiques. Son dernier projet portait sur la manière dont les systèmes d'IA déforment la perception de la réalité. Un travail sérieux et crucial pour l'humanité. Sa lettre de démission a été vue plus de 14 millions de fois sur X. Elle commençait par ces mots : « Le monde est en péril. » Et se terminait par un poème, annonçant qu'il quittait l'un des postes les plus importants dans le domaine de l'intelligence artificielle pour se consacrer à des études de poésie. Oui, vous avez bien lu : péril et poésie.

Le poème qu'il a cité est « The Way It Is », du poète américain William Stafford. Il évoque un fil conducteur qui traverse une vie — un fil qui se tisse parmi les choses changeantes, sans jamais changer lui-même. Tant qu'on le tient, on ne peut se perdre. Les tragédies surviennent. Les gens souffrent et vieillissent. Le temps s'écoule, et rien ne l'arrête. Et le dernier vers : on ne lâche jamais ce fil.

Bien qu'il ne l'ait pas dit explicitement, je soutiens que ce fil conducteur est la moralité. C'est le sentiment persistant que certaines choses sont justes et d'autres injustes, non pas parce qu'une loi le décrète, ni parce que c'est profitable, mais parce que les êtres humains, dans ce qu'ils ont de meilleur, l'ont toujours su.

Sharma a passé deux ans à observer ce fil conducteur se rompre sous la pression, dans des pièces jamais ouvertes au public.

Dans sa lettre, il a écrit : « Durant tout mon séjour ici, j'ai constaté à maintes reprises combien il est difficile de laisser véritablement nos valeurs guider nos actions. »

« Je l’ai constaté en moi-même, au sein de l’organisation, où nous sommes constamment soumis à des pressions nous incitant à mettre de côté ce qui compte le plus, et également dans la société en général. »

D'après lui l’humanité approche d’un seuil où « notre sagesse doit croître à parts égales avec notre capacité à influencer le monde, sous peine d’en subir les conséquences ». Il souhaitait contribuer d’une manière qui lui soit pleinement fidèle et se consacrer à ce qu’il appelait « la pratique de la parole courageuse ».

Un homme ayant conçu des systèmes de défense contre le bioterrorisme a conclu que le plus important pour lui était d'apprendre à parler avec honnêteté et courage. C'est un signal fort concernant ce qui se passe à huis clos dans la recherche et le développement en intelligence artificielle.

De nombreux experts ont comparé le développement de l'IA à celui de la bombe atomique. Le projet Manhattan a été mené dans le plus grand secret. Le public n'en avait aucune connaissance, aucun droit de regard sur son utilisation, ni sur les suites données au projet. À son terme, certains des scientifiques qui y avaient participé ont vécu dans l'angoisse. Plusieurs ont même abandonné le projet en cours.

Sharma n'était pas un cas isolé. De nombreux chercheurs en sécurité ont quitté des projets d'IA au sein de diverses entreprises. Ces départs sont peut-être les seuls signaux dont nous, le public, disposons, car presque tout le reste du développement de l'IA se déroule à huis clos. Les débats internes, les compromis en matière de sécurité, les négociations sur les limites de cette technologie – rien de tout cela n'est partagé avec les personnes dont la vie sera profondément transformée. Nous sommes exclus de ce dialogue. On nous présente les résultats et on nous demande de nous adapter.

George Washington a un jour averti que la liberté ne pouvait survivre à la perte de principes moraux partagés.

(...)

Tel est fil conducteur de la société humaine, et aucun système d’IA ne peut le retenir. Si l’on laisse l’IA substituer à la notion de bien et de mal la simple mesure de ce qui est légal et permis, la machine propagera cette mesure à une échelle et une vitesse sans précédent.

Sharma a conclu sa lettre de démission par ces mots : « On ne lâche jamais le fil. »

Nous sommes à la croisée des chemins, un peu comme celle à laquelle les scientifiques atomistes ont été confrontés.

La démission de Sharma était un signal. La vague de départs qui l'a précédée et suivie en sont d'autres. Les tensions rapportées entre les entreprises d'IA et le gouvernement quant aux limites morales à fixer sont également des signaux. Ensemble, ils pointent vers un point que le public n'a pas encore été pleinement invité à considérer : les questions les plus importantes concernant cette technologie sont élaborées sans notre participation, et la dimension morale, qui a toujours reposé sur le choix de chacun, doit être intégrée à ce débat.

Traduit de l'anglais

Source : The Epoch Times.