La Vérité sur le Licenciement de Sam Altman : Peter Thiel, Eliezer Yudkowsky et l’Altruisme Efficace

Il semble qu’un livre va bientôt paraître détaillant le drame derrière le licenciement de Sam Altman par OpenAI fin 2023. Ce livre apporte un éclairage sur ce qui s’est passé en coulisses et révèle plusieurs éléments que nous n’avions pas encore entendus. Curieusement, l’histoire commence avec Peter Thiel, dont je ne savais pas qu’il était impliqué d’une quelconque manière, mais en y réfléchissant, il semble toujours être mêlé d’une façon ou d’une autre à ce genre d’affaires.

Peter Thiel : Le Parrain de la Silicon Valley

De nombreuses personnes dans l’industrie technologique admirent Peter Thiel, suivent ses conseils et le considèrent comme un mentor. Il faisait partie de la « PayPal Mafia » aux côtés d’Elon Musk. Pour ceux qui ne connaissent pas Peter Thiel, il est en quelque sorte le parrain de cette « mafia PayPal » – le boss suprême si vous préférez.

Parmi les autres membres notables de ce groupe influent, on trouve :
– Max Levchin, ancien CTO de PayPal
– Elon Musk, bien sûr
– David Sacks, qui participe au podcast All-In et siège maintenant au Conseil des conseillers présidentiels sur la science et la technologie
– Reid Hoffman, fondateur de LinkedIn
– Et bien d’autres encore

La Thiel Fellowship : Dénicheur de Talents

Fait intéressant, Peter Thiel dirige la Thiel Fellowship, où il accorde des fonds de démarrage à des jeunes talentueux. Son objectif est de trouver les meilleurs et les plus brillants esprits et, s’ils souhaitent éviter l’université pour développer leurs idées, il les aide à le faire. Son palmarès dans la découverte de talents dans le domaine technologique est assez stupéfiant.

Ce programme :
– S’adresse aux étudiants de 22 ans ou moins
– Offre un total de 100 000 dollars sur deux ans, ainsi que des conseils et d’autres ressources
– Ne sélectionne que 20 à 25 boursiers par an

Parmi les anciens élèves influents de la Thiel Fellowship, on trouve :

Vitalik Buterin, fondateur d’Ethereum et milliardaire autodidacte
Dylan Field, la personne la plus riche à avoir bénéficié de la bourse Thiel, qui a cofondé Figma (un concurrent de Photoshop d’Adobe), acquis pour 20 milliards de dollars, faisant de Field un milliardaire
Austin Russell, devenu milliardaire autodidacte à 25 ans

Joshua Browder, créateur de DoNotPay
Lucy Guo, dont la fortune est estimée à 440 millions de dollars
Laura Deming, qui faisait partie de la première promotion de la Thiel Fellowship en 2011, a commencé à travailler dans un laboratoire à 12 ans, s’est inscrite au MIT à 14 ans et a décidé d’abandonner ses études à 16 ans pour rejoindre le programme de Thiel. À 23 ans, son fonds Longevity a levé 22 millions de dollars

La Connexion avec Sam Altman

Thiel a également été le mentor de Sam Altman. En fait, en novembre 2023, le même mois où Sam Altman a été licencié d’OpenAI, Peter et Sam dînaient ensemble dans le quartier des arts de Los Angeles.

Remarque importante : Le livre qui est la source de beaucoup de ces informations n’a pas encore été publié. Il semble avoir recueilli les témoignages de plusieurs initiés qui ont vécu ces événements. Nous ne connaissons pas encore toutes les sources exactes. Le livre devrait sortir dans quelques semaines. Entre-temps, plusieurs médias rapportent ces informations. Je ne prétends pas que tout ceci est vrai, je rapporte simplement ce qui a été publié par divers médias alors que nous commençons à assembler toutes les pièces du puzzle.

Revenons à la conversation dans le quartier des arts. Peter Thiel s’entretient avec Sam Altman et s’inquiète d’un autre individu obsédé par l’IA qu’il a pris sous son aile et dont il finance l’institut, principalement préoccupé par l’alignement de l’IA et la sécurité de l’IA.

Nous sommes environ un an après le moment ChatGPT, la sortie de l’application ChatGPT. Les gens ont eu le temps de se familiariser avec cette technologie. Les discussions sur la sécurité de l’IA ont déjà lieu et font l’objet d’articles de presse.

Eliezer Yudkowsky : Le Prophète de l’Apocalypse IA

Et qui est ce prodige obsédé par l’IA avec son institut de sécurité de l’IA ? Nul autre qu’Eliezer Yudkowsky.

Eliezer est le pionnier de l’alignement de l’IA. Quand on parle de « prophètes de malheur » concernant l’IA, il est considéré comme la figure de proue de ce mouvement. Si vous n’avez pas entendu ses interviews, il y en a deux excellentes que je recommande : l’une avec Lex Fridman (podcast n°368) et l’autre avec Dwarkesh Patel.

Pour résumer sa vision en quelques mots, et je pense qu’il serait d’accord avec moi, c’est que « la superintelligence vous tue, tout simplement ». Je ne pense pas que ce soit une hyperbole – je crois qu’il l’a littéralement dit. À ceux qui évoquent tous les avantages potentiels de la superintelligence, il pourrait répondre : « La superintelligence vous tue, tout simplement ».

Je pense qu’il fait un excellent travail pour expliquer tous les risques potentiels liés au développement de l’IA. Il croit fermement que cela finira mal pour l’humanité. Il joue également un rôle important dans le mouvement EA (Altruisme Efficace) et vous avez peut-être entendu parler du site web Less Wrong, qu’il a créé. Il est certainement considéré comme le leader dans le domaine de la sécurité de l’IA.

Apparemment, l’un de ses mentors, quelqu’un qui a financé une partie de ses recherches, était Peter Thiel. Et en novembre 2023, Peter Thiel est assis avec Sam Altman et le met en garde contre les idées de Yudkowsky. Il lui dit : « Tu ne comprends pas comment Eliezer a programmé la moitié des personnes de ton entreprise pour croire à ces choses » – ces choses étant que l’IA va tuer tout le monde sur Terre. Il dit à Sam : « Tu dois prendre ça plus au sérieux ».

Il semble que Peter ait averti Sam Altman à plusieurs reprises que son entreprise était envahie par les EA (membres du mouvement Altruisme Efficace). En effet, l’EA a récemment délaissé la lutte contre la pauvreté mondiale et d’autres causes similaires pour concentrer une grande partie de ses efforts sur la prévention d’une IA incontrôlée qui pourrait anéantir l’humanité. Thiel prédit qu’au lieu de cela, l’EA finira par détruire OpenAI.

Apparemment, Sam aurait répondu : « C’était un peu vrai pour Elon, mais nous nous sommes débarrassés d’Elon ».

Le Conseil d’Administration d’OpenAI et les Tensions Internes

À cette époque, le conseil d’administration d’OpenAI comprenait :
– Ilya Sutskever
– Helen Toner
– Adam D’Angelo
– Tasha McCauley
– Greg Brockman
– Sam Altman

Le conseil d’administration contrôle OpenAI, l’entité à but non lucratif qui est en quelque sorte l’entité mère sous laquelle tout le reste est formé. La société holding et tout le reste se trouvent sous l’égide de l’organisation à but non lucratif. Les employés et autres investisseurs possèdent des parts de la société holding, Microsoft possède des parts de cette société à but lucratif plafonnée. C’est très compliqué, mais l’essentiel est qu’au sommet de tout cela siège le conseil d’administration.

Il y avait auparavant plus de membres, certains sont partis en raison de divers conflits, et pour une raison quelconque, ils n’ont pas introduit de nouveaux membres. Certaines rumeurs indiquent que c’est en partie parce que Sam et Greg tardaient à faire entrer de nouvelles personnes.

Quoi qu’il en soit, Helen Toner et Tasha McCauley font partie du mouvement EA. Pendant cette période où Peter Thiel met en garde Sam Altman contre l’infiltration potentielle de l’EA dans OpenAI, quatre membres du conseil (tous sauf Sam et Greg) tiennent des réunions secrètes pour décider s’il faut licencier Sam Altman ou non.

Les Raisons du Mécontentement

Parmi les raisons pour lesquelles ils voulaient se débarrasser de Sam Altman :

Des violations de sécurité : Un conseil de surveillance était censé approuver toutes les nouvelles fonctionnalités de ChatGPT avant leur publication. Selon certains initiés, Sam Altman aurait affirmé que toutes ces fonctionnalités avaient été approuvées par le conseil de sécurité conjoint entre OpenAI et Microsoft. Il semble que Toner ait trouvé des preuves qu’une seule avait réellement été approuvée. Il semble également que GPT-4 ait été lancé plus tôt en Inde que dans le reste du monde pour certains tests, également sans l’approbation du conseil de sécurité conjoint.

Problèmes avec le fonds de démarrage d’OpenAI : Le conseil a découvert que Sam Altman possédait personnellement ce fonds. Apparemment, il s’agissait d’un arrangement temporaire dû à une structure fiscale particulière, et Sam Altman n’aurait perçu ni frais ni bénéfices du fonds. C’était néanmoins un arrangement inhabituel.
Le lancement de ChatGPT : Il était censé être une simple démonstration de recherche, mais est devenu l’application à la croissance la plus rapide de tous les temps. Comme on l’a vu plus tard dans des interviews avec Sam et Greg, ils ont affirmé que personne n’aurait pu prévoir cela. Le moment ChatGPT a été assez soudain et ne ressemblait pas à un lancement de produit, mais plutôt à quelque chose qu’ils s’attendaient à voir essayer par un certain nombre de personnes, sans anticiper un intérêt mondial.

Le Déclenchement du Coup

Il semble qu’Ilya Sutskever ait potentiellement été la personne qui a poussé la première domino. Il a appelé Helen Toner sans lui dire exactement ce qui se passait, mais en lui suggérant de parler davantage avec Mira Murati, lui donnant ainsi un indice sur la direction à prendre. Mira Murati était la directrice technique et dirigeait essentiellement les opérations quotidiennes d’OpenAI.

En même temps, il y aurait peut-être eu un conflit entre Ilya et un autre chercheur d’OpenAI, Jakob Pachocki. Des rumeurs indiquaient que Sam Altman avait promis à chacun d’eux de diriger l’orientation de la recherche d’OpenAI.

À cette même période, Helen Toner a publié un article critiquant OpenAI, suggérant qu’Anthropic faisait un bien meilleur travail en matière de sécurité de l’IA. Sam Altman en a été très contrarié et aurait dit à Ilya Sutskever que Tasha McCauley, une autre membre du conseil, avait déclaré qu’Helen Toner devrait être licenciée pour cela. Apparemment, ils ont tous réalisé que ce n’était pas le cas, que c’était un mensonge, car ils tenaient à ce moment-là leurs propres réunions secrètes.

L’Exécution du Licenciement

Quoi qu’il en soit, ils ont décidé de passer à l’action. Lorsque Sam Altman était absent de San Francisco, ils l’ont appelé en visioconférence pour lui annoncer que ses services n’étaient plus nécessaires. Ils l’ont licencié. Ils ont également évincé Greg Brockman, probablement parce que Mira Murati ne voulait pas travailler sous sa direction. Comme ils voulaient qu’elle dirige toute l’opération pour le moment, ils ont également écarté Greg.

Fait intéressant, après tout cela, les membres du conseil ont dit à Ilya Sutskever qu’ils étaient assez sûrs, ou inquiets, ou qu’ils pensaient que peut-être il avait été envoyé comme un espion pour tester leur loyauté. Peut-être qu’il était allé vers eux pour essayer de semer le trouble en disant : « Vous devriez parler à Mira, il y a peut-être des informations que vous devez connaître », et a ainsi mis la balle en mouvement. Et si tout cela n’était qu’un double jeu, s’il travaillait pour Sam Altman ?

Je n’étais pas là, je ne sais pas ce qui s’est passé, mais il y a une prédiction que j’ai faite en novembre 2023 et que je maintiens à ce jour, sur laquelle je suis prêt à parier : cette histoire deviendra un film, ou une reconstitution dramatique, ou une série télévisée. Ce drame de salle de conseil – allons, des agents doubles, des organisations secrètes quasi sectaires, chacun de ces personnages est pratiquement un personnage de fiction. Ilya Sutskever qui rassemblerait tous les employés et chanterait « Feel the AGI » – cette scène à elle seule ferait un film. Quelqu’un doit réaliser ce film.

La Réaction du Public

À l’époque, quand tout cela se passait fin 2023, j’ai demandé à tous ce qu’ils pensaient d’Helen Toner. Elle semblait être l’une des principales instigatrices du licenciement de Sam Altman. Nous avons reçu près de 4 000 votes :

Seulement 4% des personnes ont dit qu’elle avait fait les bonnes choses pour les bonnes raisons

27% ont dit qu’elle avait de bonnes intentions, qu’elle essayait de faire ce qu’il fallait, mais qu’elle avait mal exécuté et échoué
La plupart des gens, 39%, ont dit que tout était mauvais : mauvaises idées, mauvaise éthique, mauvaise exécution, un échec complet

Bien que nous puissions être en désaccord sur ses intentions, la plupart des gens semblent dire que la gestion de la situation était assez maladroite.

Le Jour Avant le Licenciement

Ceci s’est produit presque un jour avant le licenciement. Le jeudi, la veille, les quatre membres du conseil ont appelé Mira Murati et lui ont dit qu’ils licencieraient Sam Altman le lendemain, lui demandant de prendre le poste de PDG par intérim. Elle a accepté, mais lorsqu’elle a demandé pourquoi ils le licenciaient, ils n’ont pas voulu le lui dire.

Mira était préoccupée de savoir s’ils avaient parlé à Satya Nadella, le PDG de Microsoft, s’ils lui avaient donné un avertissement préalable. Ils ne l’avaient pas fait. Ils ont décidé que Mira Murati informerait Satya juste avant que la nouvelle ne soit rendue publique.

Le lendemain, ils décident de passer à l’action. Toute l’affaire devient un titre mondial. Tout le monde veut savoir ce qui s’est passé. À ce stade, ils n’ont encore rien dit à personne. Ils n’ont rien dit à Sam Altman, ni à Greg, ni à Mira Murati. La seule chose qu’ils disent, c’est que Sam Altman n’a pas été constamment sincère avec le conseil.

La Révolte des Employés

Après le licenciement, les employés et les dirigeants rencontrent tous le conseil d’administration d’OpenAI – les quatre membres restants – et sont déconcertés par ce qui se passe. Personne ne sait rien.

Satya Nadella, qui dirige Microsoft, aurait été furieux, perdant son sang-froid parce qu’il n’a jamais vu un tel comportement. Il ne sait pas ce qui s’est passé ni pourquoi. On l’a informé après coup, juste avant que la nouvelle ne soit rendue publique. Il l’a donc appris juste un peu avant le reste du monde, un vendredi, sans vraiment avoir le temps de réagir.

Mais la plupart des gens sont déconcertés. Ils disent qu’ils ne sont pas au courant d’épisodes spécifiques qui pourraient justifier un tel résultat. Ils disent : « S’il n’a pas été constamment sincère, y a-t-il des exemples de cela ? De quoi parlons-nous exactement ? »

Le Retournement de Situation

C’est là que ça devient intéressant, c’est là qu’il y a des manœuvres de cape et d’épée. Le conseil, ces quatre personnes, s’attendait à ce que Mira Murati gère simplement les choses pour eux. Ils s’attendaient à ce qu’elle calme les employés et explique exactement ce qui se passait et pourquoi, et continue simplement comme si de rien n’était pendant que le conseil cherchait un nouveau PDG.

À l’époque, je crois qu’il y avait aussi des discussions sur une éventuelle vente à perte, vendant tout à Anthropic et Dario Amodei, car il était considéré comme une personne plus consciente de la sécurité de l’IA. Mais l’essentiel est qu’ils ont mis Mira Murati aux commandes. Ils lui ont dit de gérer les masses, de gérer tous les employés pendant qu’ils décidaient quoi faire de l’entreprise, s’ils allaient mettre un nouveau PDG ou simplement la vendre.

Au lieu de cela, Mira Murati mène essentiellement une révolte à l’échelle de l’entreprise contre le conseil. Une rumeur se répand dans l’entreprise selon laquelle Ilya Sutskever était en colère contre Jakob Pachocki parce qu’il avait reçu une promotion. On disait aussi qu’Helen Toner était en colère parce que Sam Altman n’aimait pas son article de recherche, qu’il avait essayé de l’évincer du conseil.

Et voilà, parce qu’ils n’ont pas fourni de récit ou d’explication de ce qui se passait, bien sûr, un récit allait se développer d’une manière ou d’une autre. Je me souviens qu’à l’époque, j’étais assis là, ne sachant pas pourquoi, ce qui se passait, pourquoi ces choses se produisaient. C’était très frustrant.

Bien sûr, beaucoup de gens s’intéressent au développement de l’IA, ils sont inquiets. Alors quand quatre personnes font cela sans explication, d’abord, le monde entier regarde, il n’y a pas d’explication de ce qui se passe, on pouvait prévoir que cela n’allait pas bien se terminer.

Donc, ce qui se passe le lundi matin, c’est que tous les employés signent une lettre menaçant de démissionner si Sam Altman n’est pas réintégré. Mira Murati et la plupart des autres personnes d’OpenAI. Satya Nadella dit pendant ce temps que vous êtes tous les bienvenus pour rejoindre Microsoft.

La plupart des gens de l’entreprise signent cette lettre disant qu’ils démissionnent, qu’ils partent à moins que Sam Altman ne soit ramené. Fait intéressant, parmi toutes les signatures figurent celles de Mira Murati et d’Ilya Sutskever.

À ce stade, Sam Altman est ramené. Helen Toner et Tasha McCauley sont évincées. Adam D’Angelo, je ne sais pas s’il est parti temporairement ou ce qui s’est passé, mais il est toujours au conseil. Voici le site web d’OpenAI, Adam D’Angelo est toujours répertorié comme l’un des membres du conseil.

Conclusion et Réflexions

C’est une histoire assez folle, n’est-ce pas ? Peter Thiel, le même mois où cela s’est produit, met en garde Sam Altman contre les gens de l’EA qui vont détruire OpenAI. En quelques semaines, ils mènent un coup d’État contre Sam Altman. Ils le licencient. Potentiellement, Ilya Sutskever est peut-être celui qui a commencé tout cela, mais il semble que ce soit largement motivé par Helen Toner, d’après ce que nous pouvons dire. Je n’ai aucune idée exacte.

Puis, pendant le week-end, toute l’affaire se retourne. Maintenant, Mira Murati et Ilya Sutskever signent le document disant : « Nous allons démissionner à moins que nous ne ramenions Sam Altman ». Et puis, peu de temps après, les personnes associées à l’EA sont parties.

Bien sûr, depuis lors, Ilya a quitté OpenAI et a créé sa propre entreprise, SSI (Safe Superintelligence). Mira Murati est partie et a créé sa propre entreprise.

Un tournant d’événements fascinant. Il semble que le livre aura encore plus de détails intéressants, mais je suis curieux de savoir ce que vous pensez de tout cela.

Était-ce un coup d’État raté ? S’agissait-il simplement de personnes faisant partie du mouvement EA, préoccupées par la sécurité de l’IA, qui ont trouvé des choses où Sam Altman n’était pas 100% constamment sincère comme ils l’ont dit, et qui ont pensé qu’elles devaient exercer leur autorité, leur rôle en tant que conseil pour essayer de l’évincer et faire entrer quelqu’un d’autre, et ont simplement mal exécuté cela ?

Ou pensez-vous que cela aurait pu être quelque chose de plus néfaste ? Voulaient-ils simplement faire entrer quelqu’un qui voyait tout comme eux, peut-être quelqu’un qui faisait également partie du mouvement EA, quelqu’un qui croyait également qu’il y avait un risque existentiel élevé lié à l’IA ?

Ou pensez-vous qu’il s’agissait d’une sorte de double jeu, où Peter Thiel aurait dit : « Voici ce que vous devez faire pour vous débarrasser de ces gens, les faire sortir du conseil », et peut-être qu’Ilya Sutskever, peut-être que Mira Murati avaient un rôle à jouer dans tout cela ?

Faites-moi savoir ce que vous en pensez, je suis très curieux.