Course à la superintelligence : un chercheur d’Anthropic démissionne et alerte sur un risque qui pourrait « tous nous tuer »

Depuis son avènement, l’Intelligence artificielle suscite beaucoup d’interrogations. D’un côté, il y a les optimistes qui y voient un assistant de choix pour l’être humain et de l’autre, les sceptiques qui pensent qu’à terme, cette technologie pourrait remplacer l’homme. A ces deux thèses s’ajoute la plus fatale : terminator. Le film de James Cameron sorti en 1991 dans lequel des humains luttent pour leur survie contre des ordinateurs surpuissants pourrait être prémonitoire. Ça pourrait l’être si l’on en croit Jacob Coxon. Ce britannique de 27 ans a annoncé sa démission d’Anthropic après trois années consacrées à la recherche en pré-entraînement, passées successivement chez OpenAI puis au sein de la start-up spécialisée dans l’intelligence artificielle. « Aucune des deux entreprises n’agit de manière responsable. Elles se précipitent tête baissée vers une superintelligence qui s’améliore d’elle-même et jouent avec nos vies », écrit-il dans un thread publié sur la plateforme sociale X.

Pour Jacob Coxon, les capacités des systèmes d’intelligence artificielle vont rapidement dépasser celles de l’être humain dans plusieurs domaines. D’après lui, ces technologies seront bientôt capables de « pirater n’importe quoi », de révolutionner certains secteurs « du jour au lendemain » et d’acquérir un pouvoir ainsi que des ressources considérables.

Le chercheur assure que les progrès observés dans ces différents domaines ne montrent aucun signe de ralentissement. « Nous avons tous été témoins des progrès dans chacun de ces domaines, et ces progrès ne ralentissent pas », affirme-t-il.

Jacob Coxon va plus loin en évoquant les craintes exprimées en privé par certains acteurs de l’industrie. « Les personnes qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. Ce n’est pas un coup de communication », assure-t-il. De son avis, les dirigeants et chercheurs les plus expérimentés adoptent un discours plus mesuré dans les médias afin de ne pas apparaître alarmistes, alors qu’ils exprimeraient davantage leurs inquiétudes dans les échanges privés.

Dans son message, Jacob Coxon établit une différence entre OpenAI et Anthropic. Il affirme que chez OpenAI, une partie des équipes n’aurait pas pleinement intégré les conséquences civilisationnelles du développement de ces systèmes. Chez Anthropic, en revanche, ces aspects seraient davantage pris en compte, mais l’entreprise serait enfermée dans une logique de compétition.

« Ils pensent que personne d’autre n’agira de manière responsable, donc ils doivent le faire eux-mêmes, malgré le risque », explique-t-il.

Jacob Coxon dit néanmoins rester optimiste quant à la possibilité d’une coordination entre les différents acteurs. Il évoque notamment des « signaux d’alarme » qui pourraient favoriser des accords entre les laboratoires américains afin de ralentir la course.

« Voulez-vous lancer une course d’apprentissage par renforcement superintelligente sans une compréhension rigoureuse de son esprit ? Allez-vous baisser la tête en vous disant « ça arrive de toute façon » - ou allez-vous saisir ce moment pour réclamer d’autres conditions ? », a-t-il conclu.