Google DeepMind lance un institut dédié à l'AGI, entre optimisme prudent et « probabilité non nulle de désastre »

Google DeepMind a officialisé, mi-septembre, la création d'un « Institute for AGI » (DeepMind Institute), une structure dédiée à la réflexion sur le développement de l'intelligence artificielle générale (AGI), ses risques et ses bénéfices potentiels pour la société. L'annonce s'inscrit dans un contexte où les grands laboratoires d'IA cherchent à encadrer publiquement leurs ambitions les plus vastes, tout en continuant à accélérer leurs recherches.

Une gouvernance confiée à trois figures de DeepMind

L'institut est présidé par Demis Hassabis, président de Google DeepMind, avec Shane Legg, cofondateur de DeepMind, comme rédacteur en chef, et James Manyika, dirigeant de Google, également impliqué dans le pilotage. Sa mission affichée est de « promouvoir une réflexion audacieuse sur le développement sûr de l'AGI, son usage bénéfique et ses implications sociétales », notamment en organisant le dialogue entre chercheurs et industriels sur les risques et les modalités de développement de ces technologies.

Une phrase qui résume la tension du projet

Dans le cadre de cette annonce, Demis Hassabis a évoqué une « probabilité non nulle de désastre » liée à l'intelligence artificielle avancée. La formule illustre la position ambivalente de Google DeepMind, qui reconnaît publiquement des risques existentiels tout en poursuivant, au même moment, l'accélération de ses propres travaux vers l'AGI.

Les responsables de l'institut estiment que les systèmes d'IA actuels « manquent encore de cohérence et de créativité », mais qu'ils s'attendent à ce que ces lacunes soient « comblées prochainement ».

Une première série de travaux publiés

Pour son lancement, l'institut a publié plusieurs essais fondateurs consacrés à des sujets variés : l'état de préparation à l'AGI, les politiques économiques à envisager face aux bouleversements liés à l'AGI, les principes d'un épanouissement humain dans ce contexte, l'évaluation des modèles de pointe, l'interprétabilité du raisonnement des IA et la détection de signaux d'alerte, la planification des transitions professionnelles, ou encore des recommandations de transparence à destination des acheteurs de solutions d'IA. Le cadre de gouvernance proposé par Hassabis en juillet dernier pour la supervision des IA avancées a également été republié dans ce cadre.

Vers plus de transparence dans le raisonnement des modèles ?

Parmi les contributions notables figure celle des chercheurs Rohin Shah et Anca Dragan, qui soutiennent que l'opacité des modèles « n'a rien d'inévitable ». Ils proposent deux pistes : limiter la profondeur de calcul séquentiel des systèmes, ou exiger des développeurs qu'ils démontrent que leurs systèmes moins transparents restent malgré tout contrôlables.

Un cadre de gouvernance internationale toujours en suspens

En juillet, Demis Hassabis avait proposé la création d'un organisme de normalisation, porté par les pouvoirs publics, pour évaluer les modèles d'IA les plus avancés. Ce dispositif prévoyait dans un premier temps une soumission volontaire des modèles trente jours avant leur sortie, avec la possibilité d'évoluer vers des évaluations indépendantes obligatoires pour tout déploiement aux États-Unis, voire des ralentissements coordonnés du développement si nécessaire. Selon les informations disponibles, des obstacles politiques ont freiné toute action fédérale en ce sens au mois d'août.

« Probabilité non nulle de désastre » — Demis Hassabis, à propos des risques liés à l'intelligence artificielle avancée.

Ce qui reste incertain

• Le nombre exact d'essais publiés au lancement varie selon les sources consultées (quatre ou cinq documents fondateurs).
• L'issue politique du projet de cadre de gouvernance internationale porté par Hassabis en juillet reste incertaine à ce stade.

Sources : intelligence-artificielle.developpez.com, TechCrunch