Sacrifier un enfant pour sauver un Picasso et réinvestir les bénéfices dans des actes charitables : c’est la logique poussée jusqu’au délire de l’« altruisme efficace ». Forts de cette néo-morale Excel, les gourous de la tech prennent l’ascendant sur beaucoup de monde – y compris des chefs d’État.
En 1956, l’expression « intelligence artificielle » a été inventée pour servir de titre à un colloque universitaire qui s’est tenu dans le New Hampshire. John McCarthy, le professeur de mathématiques qui a organisé l’événement, a admis par la suite avoir forgé ce néologisme pour faire un coup marketing. Le terme suggérait la création d’une nouvelle forme de vie à travers des machines capables d’agir de façon autonome en suivant leurs propres objectifs. Le succès fut au rendez-vous et les projets de recherche dans ce nouveau domaine ont attiré des fonds significatifs. Les conséquences de cette audace linguistique sont toujours d’actualité. La promesse qu’elle impliquait donne aujourd’hui lieu à la plus grande bulle spéculative de l’histoire. Les chefs d’entreprise parlent de l’IA avec une grandiloquence prométhéenne. Selon Sundar Pinchai, le PDG de Google, l’impact de l’avènement de l’IA sur l’humanité sera plus profond que celui de la découverte du feu ou de l’électricité. Mais les progrès les plus récents de l’IA ont été réalisés en parallèle avec la propagation de systèmes de pensée qui cherchent à contrôler son évolution et à orienter le débat politique sur son utilisation. Le plus répandu de ces systèmes, et le plus inquiétant, est l’altruisme efficace (« Effective Altruism », en anglais).
A lire aussi : Qui sont les corsaires de l’intelligence artificielle ?
L’altruisme efficace est « la religion laïque des élites », selon Leif Wenar, professeur de philosophie à Stanford. Il est souvent comparé à un culte, et un ancien adepte l’a décrit comme une sorte de « scientologie pour geeks », ses adhérents partageant un jargon et des concepts qui les séparent des non-initiés. Ceux qui pratiquent cette forme d’altruisme cherchent à calculer la façon la plus rationnelle de déployer leurs ressources limitées afin de réaliser le plus grand bien-être du plus grand nombre. Il s’agit d’une caricature, poussée à l’extrême, de la philosophie des utilitaristes comme Helvétius (1715-1771), Jeremy Bentham (1748-1832) ou John Stuart Mill (1806-1873), qui nous exhortent à maximiser le bien-être autour de nous, mais sans exiger qu’on abandonne l’éthique traditionnelle. L’altruiste efficace doit évaluer le plus froidement possible l’impact de ses actions, sans émotion et en excluant toute forme d’empathie qui le conduirait à privilégier la vie d’un proche sur celle d’un inconnu de l’autre côté de la planète. Selon un des exemples mis en avant, un altruiste qui, face à un immeuble qui brûle, a le choix de sauver un enfant ou un Picasso doit sauver le Picasso afin de le vendre et de verser les bénéfices à des organisations caritatives. Car ces dernières contribueront au bien-être d’un plus grand nombre de personnes. On ne doit pas donner plus de prix à la vie d’humains qui vivent aujourd’hui qu’à celle des générations à venir que nous ne pouvons pas connaître. Et la vie d’un animal vaut bien celle d’un humain. Des altruistes efficaces ont débattu sérieusement de cette question : vaut-il mieux contribuer au bien-être des hommes ou à celui des crevettes, considérées comme des êtres sensibles ? On débat aussi de la meilleure méthode pour calculer le plus grand bien dans un univers infini, ou dans des multivers infinis, remplis d’êtres vivants dont les droits doivent être pris en compte. Enfin, si l’IA se développe suffisamment, il faudra lui accorder les mêmes droits qu’aux humains.
L’utopie des altruiste efficaces
Ce mouvement, né dans les années 2000, se concrétise en 2011 par la création du Centre for Effective Altruism, qui absorbe des associations caritatives existantes. Il a été influencé dès ses débuts par un groupe de transhumanistes californiens, les Extropians, qui a fait la couverture du célèbre magazine de la tech, Wired, en 1994. Leur ambition était de prolonger leur vie ou même devenir immortels grâce au progrès technologique, surtout dans le domaine de l’IA. Ils prétendaient que l’esprit humain pouvait être numérisé et chargé dans un ordinateur super-intelligent. Ces idées ont été diffusées par les nouveaux investisseurs qui ont profité de la montée d’internet, notamment Peter Thiel, le cofondateur de PayPal et de Palantir. Il a aidé le projet d’Eliezer Yudkowsky qui, bien que connu aujourd’hui comme un lanceur d’alerte sur les risques que présenterait pour l’humanité une IA super-intelligente, cherchait à l’époque à développer une IA « amicale ». Les discussions autour de l’IA sur le forum de Yudkowsky, LessWrong, créé en 2009, ont repris les idées de deux philosophes utilitaristes d’Oxford, Toby Ord et William MacAskill, ainsi que celles de l’Australien Peter Singer et du Suédois Nick Bolstrom, auteur en 2014 de Superintelligence. Paths, Dangers, Stratégies (disponible en français chez Dunod). Publiés en 2015 (et par la suite en français), Faire le bien, en mieux ! L’altruisme efficace, de MacAskill, et L’Altruisme efficace, de Singer (tous les deux préfacés par le moine bouddhiste Matthieu Ricard), constituent la « Bible » du mouvement. Cette éthique très particulière est parfaitement compatible avec le capitalisme. Les adeptes sont encouragés à gagner des salaires élevés pour pouvoir donner de l’argent aux organisations caritatives. Tyler Cowen, professeur d’économie à la très libérale université George Mason, a fait l’éloge de cette approche décentralisée qui ne dépend pas de l’État. Sam Bankman-Fried, le créateur de FTX, plateforme d’échange de cryptomonnaies, a été l’un des grands donateurs aux causes prônées par les altruistes efficaces. Quand FTX a fait faillite en 2022, et que son fondateur a été condamné pour fraude, certains y ont vu la conséquence d’une dénaturation des valeurs morales traditionnelles sous l’influence de l’altruisme efficace.
Le domaine où cette éthique a le plus d’influence aujourd’hui est celui de l’IA, envers laquelle la plupart de ses partisans ont une attitude paradoxale. Tandis que certains sont à l’avant-garde des progrès technologiques de l’IA et maintiennent que l’IA pourrait jouir de droits, tous alertent sur les dangers existentiels d’une IA super-intelligente. Selon Niris Weiss-Blatt, ancienne chercheuse devenue journaliste, ces altruistes catastrophistes (doomers en anglais) ont créé un véritable « complexe risque-industriel » autour de l’IA. Aux États-Unis, ils ont déjà inspiré non seulement une secte homicide, les Zizians, responsable de six assassinats entre 2022 et 2025, mais aussi des grèves de la faim devant les sièges sociaux de deux entreprises en 2025 et une attaque sur la maison de Sam Altman, patron d’OpenAI, en avril cette année. Quand le Premier ministre britannique Rishi Sunak a voulu organiser un grand colloque international sur l’IA en 2023, il l’a centré sur le thème des risques existentiels sous l’influence des altruistes efficaces qui ont beaucoup contribué au financement de l’événement.
L’idéologie au cœur de la Silicon Valley
Mais le plus étonnant, c’est que l’altruisme efficace est présent au sein même des entreprises les plus à la pointe. Le cofondateur de DeepMind, Demis Hassabis, a gagné la confiance de Thiel, Elon Musk et Larry Page, le cofondateur de Google, en écoutant leurs préoccupations au sujet des risques existentiels d’une IA super-intelligente. Mais quand il a vendu son entreprise à Google en 2014, Thiel et Musk, dépités, ont créé OpenAI, qui devait lancer ChatGPT en 2022. Au début, OpenAI a été une association à but non lucratif dont la mission était de garantir que l’IA autonome, une fois développée, « profite à toute l’humanité ». L’influence de l’altruisme efficace y était grande, mais le PDG Sam Altman y était insensible, donnant lieu à des tensions importantes. Si, aujourd’hui, tout le monde parle d’un nouveau leader, Anthropic, créateur de Claude, l’influence de l’altruisme efficace y est encore plus grande. La start-up a été créée en 2021 par deux anciens d’OpenAI, Dario Amodei, le PDG, et sa sœur Daniela, présidente de la société. Ils sont tous les deux des altruistes efficaces et le capital de départ a été fourni par d’autres adeptes. L’époux de Daniela, Holden Karnofsky, est le cofondateur d’Open Philanthropy, le plus grand organisme caritatif associé à l’altruisme efficace. En janvier, Dario a publié un essai attirant l’attention sur les risques existentiels de l’IA. Le même mois, l’entreprise a publié une « constitution » pour l’IA, rédigée par la philosophe attitrée d’Anthropic, Amanda Askell, l’ancienne femme de William MacAskill. Ce document attribue des personnalités aux agents IA et exige qu’ils jouissent de droits légaux.
A lire aussi : Et l’IA créa
Comment expliquer que ces pionniers de l’IA soient capables d’anthropomorphiser l’IA à outrance, tout en alertant sur les risques existentiels associés à son développement ? D’abord, la mythologie eschatologique dont ils entourent l’IA entraîne une surévaluation massive des capacités de cette technologie qui est beaucoup moins développée et sophistiquée qu’on veut nous le faire croire. Mais cette surévaluation attire des investissements colossaux dont profitent les maîtres de la tech. Les Chinois n’ont pas commis l’erreur de risquer autant d’argent. Ensuite, le spectre des risques existentiels impressionne les chefs d’État et donne aux gourous de la Silicon Valley une grande influence sur la scène politique. Les dirigeants d’Anthropic, d’OpenAI et de Google DeepMind ont accompagné Trump au sommet récent du G7. L’altruisme efficace est l’idéologie d’une élite qui prétend tout simplement prendre en main la destinée de l’humanité entière.
