L'Université de Cambridge étudie le risque des super-intelligences dans Civilization V

C'est une évidence, le développement des intelligences artificielles s'inscrit dans les grands chantiers technologiques d'avenir, les IA trouvent d'ores et déjà de plus en plus d'applications dans nos vies quotidiennes et la tendance pourrait s'intensifier. Certains y voient un progrès (comme Mark Zuckerberg, le patron de Facebook, qui concédait néanmoins récemment dans ses voeux être un brin dépassé par les évolutions de son réseau social et qui se fixe comme ambition pour 2018 d'en « réparer » les fautes), mais d'autres comme le scientifique Stephen Hawking s'inquiètent du développement de l'intelligence artificielle et de ses effets sur l'humanité.

Pour illustrer le débat, le Centre d'étude des risques existentiels (CSER) de l'Université de Cambridge (un département bien réel qui étudie les risques concrets pouvant conduire à l'effondrement des civilisations, voire à la disparition de l'humanité) s'est attelé à modéliser les effets du développement des IA sur l'humanité... dans Civilization V.
Baptisé Superintelligence, ce mod pour le jeu de stratégie ajoute notamment de technologies inédites de haut niveau à l'arbre de technologies du jeu, reposant sur l'intelligence artificielle. Dans un premier temps, ces technologies s'avèrent bénéfiques pour l'humanité, mais dès que la « super-intelligence » est laissée sans contrôle, les IA du jeu sont en mesure de détruire l'humanité, ce qui conduit à perdre la partie.
Selon le Dr. Shahar Avin, du CSER et donc à l'origine du mod, l'objectif vise à permettre aux joueurs « d'expérimenter concrètement les tensions complexes et la difficulté des décisions que pourraient soulever les problématiques liées à l'intelligence artificielle ». Et de préciser dans les colonnes de RPS que « les jeux sont un excellent moyen de transmettre un message complexe à un vaste public », la série des Civilization étant jugée « particulièrement efficace pour présenter de manière ludique et éducative des systèmes très complexes et imbriqués, incluant des risques majeurs comme une guerre nucléaire ou le réchauffement climatique ».
Pour les joueurs curieux de se confronter aux risques soulevés par les super-intelligences, le mod est disponible sur Steam, pour la version de base de Civilization V ou le jeu de stratégie complété de l'extension Brave New World.