L’avertissement de l’ex-VP d’OpenAI : « Un bain de sang à venir » dans le domaine de l’emploi à cause de l’IA

Dario Amodei, PDG d’Anthropic et créateur du chatbot Claude, sort du cadre habituel des discours des dirigeants technologiques. Il affirme que les leaders de la tech et les responsables gouvernementaux doivent être honnêtes avec le public sur ce qui est sur le point de se produire. Selon lui, la plupart des gens ne croient pas que cela va arriver, mais c’est pourtant imminent.

Une menace imminente pour les emplois de cols blancs

Quelle est cette menace qui se profile à l’horizon ? C’est le fait que l’IA pourrait éliminer 10 à 20% des emplois, particulièrement les postes de cols blancs de niveau débutant, dans les 1 à 5 prochaines années. Cette interview survient quelques jours après qu’Anthropic a annoncé la sortie de Claude Opus 4, leur modèle le plus puissant et le plus performant à ce jour.

Pourquoi Dario dit-il quelque chose de si différent de ce que les autres leaders technologiques affirment ? Pourquoi choisit-il ce moment précis pour tirer la sonnette d’alarme ? La situation n’est pas à prendre à la légère. L’IA montre des progrès rapides et beaucoup de personnes se demandent à quelle vitesse nous approchons du moment où cette technologie pourrait potentiellement commencer à remplacer définitivement des emplois humains.

La révélation d’Axios

Selon Axios, Amodei a accepté de s’exprimer publiquement sur une préoccupation profonde que d’autres dirigeants de l’IA ont partagée en privé. Quel est cet avertissement inquiétant que Dario Amodei nous donne ? Il affirme que l’IA pourrait éliminer la moitié de tous les emplois de cols blancs de niveau débutant et faire grimper le chômage à 10-20% dans les 1 à 5 prochaines années.

Le grand problème ici est que beaucoup de jeunes sortant de l’université comptent sur ces emplois pour entrer dans l’industrie et commencer leur parcours professionnel. Ils peuvent avoir un diplôme et certaines compétences, mais il leur manque l’expérience nécessaire pour intégrer le marché du travail. Ces postes leur permettent de faire cette transition, en développant leurs compétences tout en aidant au bureau.

L’appel à l’honnêteté des entreprises d’IA

Amodei affirme que les entreprises d’IA doivent arrêter d’édulcorer ce qui arrive, à savoir l’élimination massive potentielle d’emplois dans les secteurs de la technologie, de la finance, du droit, du conseil et d’autres professions de cols blancs, en particulier les postes de niveau débutant.

Il est important de noter que Dario a beaucoup à perdre en faisant cette déclaration. Il est PDG et fondateur, il développe cette technologie. Parfois, on entend dire : « Oh, ils font la promotion de leurs produits », mais c’est plutôt l’inverse ici. Il construit quelque chose tout en disant : « Nous devons être honnêtes sur ce qui va se passer quand nous aurons fini de construire cette chose. »

L’administration américaine et l’IA

L’administration américaine semble avoir été discrète sur les risques liés à l’emploi que pose l’IA. Il est important de comprendre que, que vous croyiez ou non qu’il existe une véritable course avec la Chine où un côté doit arriver premier (car tout le monde n’adhère pas à cette croyance), il semble certainement que le gouvernement américain et ses responsables croient que c’est le cas, qu’il existe une sorte de condition de course, et ce, quel que soit le parti au pouvoir.

Nous avons vu l’administration précédente signer des lois ou tenter de mettre en place des mesures pour empêcher la diffusion des systèmes d’IA américains, ou du moins du matériel, à travers la plupart du monde, ciblant spécifiquement certains pays avec lesquels les relations ne sont pas des plus amicales.

Les mesures actuelles

Actuellement, des mesures actives comme les contrôles d’exportation de puces empêchent par exemple la Chine d’accéder à diverses puces Nvidia. Un projet de loi est en cours d’adoption qui pourrait considérablement aider le développement de l’IA en permettant aux entreprises de déduire immédiatement les dépenses liées au développement de logiciels, y compris les salaires des ingénieurs, comme dépenses de recherche et développement.

Le débat sur l’avenir des agents IA autonomes

Les recherches montrent actuellement que ces modèles d’IA sont principalement utilisés pour augmenter le travail humain, pour aider les travailleurs à faire plus et à mieux faire leur travail. Mais la plupart de ces entreprises poussent de plus en plus vers l’automatisation, vers cette idée d’agents IA autonomes capables d’effectuer le travail eux-mêmes sans avoir besoin d’intervention humaine.

Mark Zuckerberg a déclaré chez Joe Rogan que probablement en 2025, ils auront ces agents IA qui sont fondamentalement comme un ingénieur de niveau intermédiaire et qui peuvent écrire le code à votre place.

Les limites actuelles des agents IA

Cependant, tous les efforts pour construire des agents IA autonomes se heurtent au même problème : la cohérence à long terme. Les projets les plus impressionnants comme Alpha Evolve de Google DeepMind ne sont pas des agents IA autonomes, mais plutôt des modèles de langage (LLM) avec un échafaudage et un humain dans la boucle.

De même, les papiers Eureka et Dr. Eureka de Nvidia, bien qu’incroyablement impressionnants et capables d’entraîner des robots en simulation qui fonctionnent ensuite remarquablement bien dans le monde réel, utilisent GPT-4 avec un échafaudage et non un agent IA véritablement autonome.

Deux futurs possibles pour l’IA

On peut envisager deux avenirs potentiels pour l’IA :

Le futur des agents autonomes : Un agent IA autonome auquel on donne des outils, un accès à Internet, etc., et c’est tout ce dont on a besoin pour accomplir le travail.
Le futur à court terme plus probable : Un grand modèle de langage plus un échafaudage (des outils et du code permettant au modèle de faire des choses) plus un humain. C’est ce qui se passe actuellement avec des produits comme Windinsurf (acheté par OpenAI pour 3 milliards de dollars), Cursor (évalué à 9 milliards de dollars), Firebase Studio de Google, etc.

Les préoccupations de Dario Amodei

Revenant à Dario Amodei et à l’article d’Axios, voici ce que Dario craint : il pourrait y avoir une grande concentration de richesse, et il pourrait devenir difficile pour une partie substantielle de la population de vraiment contribuer à l’économie.

Dario encourage les entreprises à partager comment l’IA est utilisée sur le lieu de travail afin que les décideurs politiques puissent avoir un aperçu de ce qui se passe réellement. Il préconise également d’enseigner aux gens comment utiliser l’IA et d’informer davantage les responsables publics et le Congrès sur l’IA.

Solutions politiques potentielles

Une idée politique évoquée par Amodei était une « taxe sur les tokens » : chaque fois qu’une entreprise utilise l’IA, un pourcentage (comme 30%) de ce revenu irait au gouvernement et serait redistribué d’une manière ou d’une autre.

Certains ont suggéré de s’éloigner de l’idée de redistribution de revenus, car l’argent peut être dévalué. Ils proposent plutôt de penser en termes de dividendes, comme une sorte de dividende garanti provenant de la prospérité de la nation ou de certaines entreprises d’IA. Par exemple, si vous avez un plan de retraite, vous pourriez posséder une part du S&P 500, qui est une tranche de l’économie américaine. Si ces entreprises se portent bien, vous vous portez bien et vous recevez une sorte de dividende.

Conclusion

Dario Amodei est-il le bon gars ici, tirant la sonnette d’alarme et sensibilisant à ce qui nous attend ? Les 5 prochaines années marqueront-elles le début d’un futur entièrement autonome basé sur des agents IA, ou y aura-t-il plus de temps où l’humain reste dans la boucle, contrôlant les systèmes ?

Quelle que soit l’évolution, elle sera majeure. Nous spéculons tous sur les détails et sur la façon d’y faire face, mais une chose sur laquelle nous pouvons tous nous accorder : le monde va changer à cause de l’IA. Chaque facette de nos vies, l’économie, etc., va être transformée. Que cela se produise dans les années à venir ou dans 10 ou 20 ans, nous ne le savons pas. Mais nous devons commencer à nous y préparer.