Peut-on prédire la fin du monde avec l’IA ?

Notes de l’épisode

Un chercheur de Google DeepMind vient d'annoncer 30 % de chances que l'IA tue un milliard d'humains avant 2050. Mais le chiffre n'est pas le vrai sujet : c'est la mécanique qui le produit.

Le vrai danger ne vient pas de la machine. Il vient des gouvernements qui s'en emparent, des chercheurs en burnout qui fabriquent des scénarios catastrophes dans des labs corporate déguisés en instituts de recherche, et d'un recrutement qui a mis des ingénieurs sur des problèmes de civilisation sans vérifier s'ils pouvaient y tenir.

Si l'IA atteint un QI de 10 000 avant 2030, on ne saura pas si elle voudra nous détruire. On sera juste devenus une fourmi qui débat de géopolitique.

===================

⏱️ DANS CET ÉPISODE :

===================

00:00 — Sommaire

02:35 — Alex Turner quitte Google : l'armée fait tout basculer

04:58 — Un milliard de morts avant 2050 : vraie peur ou com' ?

07:48 — [Sponsor] : Qonto, gérez votre trésorerie avec l'IA !

09:12 — P(doom) : le vrai danger vient des humains, pas des machines

11:07 — Des probabilités de l'extinction aussi fiables qu'un bluff au poker

14:00 — P(doom) : une estimation subjective élevée au rang de vérité

15:37 — L'IA peut-elle devenir consciente : une question sans définition