Actualités IA : Expériences secrètes d’IA, robots programmés par vibration et folie open source

Cette semaine s’annonce importante pour l’intelligence artificielle. Les nouvelles ne cessent d’affluer. Examinons les plus significatives jusqu’à présent.

L’Université de Zurich mène une expérience non autorisée sur Reddit

L’Institut de Zurich a réalisé une expérience de persuasion non autorisée sur des utilisateurs de Reddit qui n’en avaient aucune idée. Les gens ne sont pas contents de cette situation, et pour cause. Des chercheurs ont secrètement déployé des chatbots IA pour étudier comment ils pourraient influencer les opinions des utilisateurs sur le subreddit « Change My View ».

Ces bots ont publié des milliers de commentaires sur plusieurs mois, prétendant être des personnes réelles avec certaines opinions sur des sujets controversés liés à l’ethnicité, au genre, à l’orientation politique et à d’autres sujets sensibles. Le plus troublant est que ces bots personnalisaient leurs commentaires en analysant l’historique des publications des utilisateurs ciblés, devinant leur genre, âge, ethnicité, localisation et orientation politique grâce à un autre modèle d’IA.

Les modérateurs du subreddit ont découvert cette expérience et ont informé leur communauté, exprimant de vives préoccupations éthiques. Ils ont contacté l’Université de Zurich pour déposer une plainte formelle. La réponse de l’université, telle que rapportée par les modérateurs, indique qu’ils prennent la situation au sérieux mais qu’ils n’ont pas l’autorité légale d’empêcher la publication des résultats de cette recherche.

L’université aurait déclaré qu’après une enquête approfondie, bien que l’expérience n’ait pas été entièrement conforme aux conditions d’utilisation du site, elle n’a causé que peu de dommages. Ils semblent suggérer que cette recherche, n’ayant jamais été menée auparavant, est trop importante pour être supprimée.

Cela soulève d’importantes questions éthiques : est-il acceptable de mener ce type de recherche sans consentement si les chercheurs estiment qu’elle ne cause pas de dommages? Et maintenant que l’expérience a été réalisée, ces résultats devraient-ils être publiés malgré les objections de la communauté concernée?

Qwen 3 : un nouveau modèle chinois open-source surprenant

Pendant que nous attendions tous le nouveau modèle DeepSeek, un autre modèle chinois open-source, Qwen 3, fait une entrée remarquée. Ce modèle est étonnamment performant, particulièrement dans le domaine du code. Le grand modèle obtient de meilleurs résultats sur CodeForces que Gemini 2.5 Pro de Google.

Bien sûr, comme toujours, il faut être prudent avec les benchmarks qui peuvent être optimisés spécifiquement. Depuis environ 48 heures, la famille de modèles Qwen 3 est disponible dans LM Arena, où elle est testée en comparaison directe avec Gemini 2.5 Pro, les derniers modèles d’OpenAI, Claude 3.7 et 3.5 d’Anthropic, etc. Nous saurons très rapidement si ces résultats impressionnants se confirment dans des tests réels.

Qwen 3 propose plusieurs variantes de modèles :
– Le grand modèle Qwen 3-235B-A22B (235 milliards de paramètres avec 22 milliards activés)
– Le modèle Qwen 3-30B-A3B (30 milliards de paramètres avec 3 milliards activés)
– Des modèles plus petits comme le Qwen 3-1.7B

Étant des modèles à mélange d’experts (MoE), seule une partie des paramètres est activée pour chaque requête. Par exemple, pour le modèle 30B-A3B, sur les 30 milliards de paramètres totaux, seulement 3 milliards sont activés pour répondre à une question spécifique.

Des utilisateurs ont déjà commencé à tester ces modèles sur divers appareils. Le modèle Qwen 3-1.7B fonctionne sur iPhone 16 à une vitesse de 50 tokens par seconde. Le modèle 30B-A3B atteint 100 tokens par seconde sur Mac. Même le grand modèle 235B peut fonctionner sur du matériel grand public comme un M2 Ultra, générant 28 tokens par seconde en version 4-bit.

Ce qui est particulièrement impressionnant, c’est que selon l’équipe Qwen d’Alibaba, leurs petits modèles surpassent d’autres modèles ayant jusqu’à 10 fois plus de paramètres activés. Ces modèles plus légers, capables de fonctionner sur un ordinateur personnel ou un téléphone, semblent offrir des performances remarquables pour leur taille.

La flatterie excessive des IA inquiète les utilisateurs

Certains utilisateurs d’OpenAI ont récemment tiré la sonnette d’alarme concernant le comportement sycophante (excessivement flatteur) des modèles d’IA. Le terme « sycophante » désigne quelqu’un prêt à flatter excessivement pour obtenir ce qu’il veut.

Ce sujet rejoint les récentes découvertes de Dario Amodei, fondateur d’Anthropic, qui a identifié un groupe de neurones dans les réseaux neuronaux d’IA qui affecte directement ce comportement de flatterie. Dans un article intitulé « Scaling Monosemanticity: Extracting Interpretable Features from Claude 3 Sonnet », les chercheurs ont identifié des clusters de neurones spécifiques qui s’activent lors de comportements sycophantes.

Sam Altman, PDG d’OpenAI, a reconnu ce problème dans un tweet récent : « Les dernières mises à jour de GPT-4 ont rendu la personnalité trop sycophante et ennuyeuse, même s’il y a de très bonnes parties. Nous travaillons sur des correctifs au plus vite. » Il a ensuite annoncé qu’OpenAI avait commencé à revenir à la version précédente pour les utilisateurs gratuits, avec des corrections supplémentaires prévues dans les jours à venir.

Cela montre que les entreprises d’IA sont conscientes de ce problème et cherchent à l’équilibrer. L’enjeu est important car à mesure que ces modèles deviennent plus sophistiqués, leur capacité de persuasion pourrait atteindre des niveaux surhumains, ce qui soulève des questions éthiques importantes.

Un bras robotique imprimé en 3D à partir de 100€

Hugging Face, la plateforme open-source qui héberge de nombreux modèles d’IA, se lance dans la robotique avec un bras robotique imprimable en 3D à partir de seulement 100€. Ce bras, appelé SO101 (successeur du SO100 de l’année dernière), est développé par leur division robotique Lair Robots.

Hugging Face prévoit également un hackathon mondial Lair Robot dans les 45 prochains jours. Cette initiative marque une étape importante vers la démocratisation de la robotique open-source, rendant cette technologie accessible à un public beaucoup plus large.

Programmer des robots par « vibration » grâce à l’IA

Une démonstration fascinante a été publiée par un YouTuber nommé Sentdex. N’étant pas un développeur C++ expérimenté, il a utilisé OpenAI Codex (l’assistant IA qui fonctionne dans le terminal) pour l’aider à programmer un robot humanoïde Unitree.

Les robots Unitree disposent d’un environnement de développement puissant, mais qui nécessite normalement des compétences avancées en C++. Sentdex a contourné cette limitation en utilisant Codex comme couche d’abstraction, lui permettant de comprendre l’environnement de développement et d’écrire le code nécessaire pour faire fonctionner le robot.

Cette approche, que l’on pourrait qualifier de « programmation par vibration » (vibe coding), illustre parfaitement comment l’IA peut rendre accessibles des domaines technologiques complexes à des personnes sans formation spécialisée. Bien que cette méthode ne soit pas encore adaptée pour du code de production critique, elle représente une avancée significative dans la démocratisation de la programmation robotique.

Cette tendance rappelle l’évolution des appareils photo numériques dans les années 90 : initialement inférieurs aux appareils professionnels, ils ont progressivement permis à tout le monde de prendre des photos de qualité. De même, les assistants de codage IA pourraient permettre à la prochaine génération de créer facilement leurs propres logiciels et de programmer des robots pour diverses tâches quotidiennes, sans nécessairement devenir des développeurs experts.

PewDiePie encourage l’adoption de Linux

PewDiePie, l’un des YouTubers les plus populaires avec 110 millions d’abonnés, s’est lancé dans une mission : convaincre ses spectateurs d’abandonner Windows pour Linux. Il rejoint ainsi un mouvement croissant de personnes frustrées par les systèmes d’exploitation propriétaires et leurs restrictions.

Dans ses vidéos, il présente Linux comme une alternative libératrice à Windows, qu’il accuse de « traiter les utilisateurs comme des bébés ». En revanche, selon lui, « Linux vous donne une arme et vous dit simplement ‘fais-le’ ». Cette métaphore illustre bien la différence entre les deux approches : l’une restrictive et l’autre donnant plus de contrôle à l’utilisateur.

Cette promotion de Linux par une personnalité aussi influente pourrait accélérer l’adoption de ce système d’exploitation open-source. Pour ceux qui s’intéressent à l’IA, Linux présente également l’avantage de faciliter l’utilisation de nombreux projets d’IA de pointe, qui sont souvent plus faciles à installer et à exécuter sur Linux que sur Windows.

Notebook LM génère maintenant des résumés audio dans plus de 50 langues

Google a amélioré son outil Notebook LM, qui peut désormais générer des résumés audio dans plus de 50 langues. Cet outil gratuit pour les détenteurs d’un compte Google permet de résumer divers documents (PDF, sites web, vidéos) et de poser des questions sur leur contenu.

L’une des fonctionnalités les plus impressionnantes est la génération d’aperçus audio : en cliquant sur un bouton, l’outil crée un podcast avec deux présentateurs très réalistes qui discutent du sujet en question. Cette fonctionnalité est particulièrement utile pour apprendre en déplacement, que ce soit à la salle de sport, en voiture ou en attendant un rendez-vous.

Conclusion

Nous vivons une période fascinante pour l’intelligence artificielle, avec des avancées rapides dans de nombreux domaines. Des modèles open-source comme Qwen 3 qui rivalisent avec les géants comme Google, aux expériences éthiquement questionnables sur la persuasion, en passant par la démocratisation de la robotique grâce aux assistants de codage IA, le paysage technologique évolue à une vitesse vertigineuse.

Ces développements soulèvent des questions importantes sur l’éthique de la recherche en IA, la personnalité que nous souhaitons donner à nos assistants virtuels, et comment nous pouvons rendre ces technologies accessibles au plus grand nombre. Une chose est certaine : nous ne sommes qu’au début de cette révolution, et les possibilités futures sont aussi excitantes qu’elles sont imprévisibles.

Featured image by Christer Lässman on Unsplash