Mardi, Geoffrey Hinton a confirmé sa démission au sein de Google dans le quotidien américain The New York Times. Considéré comme l’un des pionniers de l’intelligence artificielle, il quitte la firme de Mountain View pour alerter sur les dangers du développement de l’IA.
Geoffrey Hinton quitte Google pour mettre en garde sur l’évolution de l’IA
Après plus d’une décennie au service de Google et contribué au développement de l’IA, Geoffrey Hinton démissionne pour pouvoir s’exprimer librement et avertir sur les dangers que représentent l’IA.
Geoffrey Hinton dit « regretter » son œuvre
Geoffrey Hinton est spécialisé en neuroscience et à la psychologie. Il a joué un rôle de premier plan dans la percée des IA utilisant des réseaux de neurones. Ce sont ses travaux qui ont permis de créer les robots conversationnels tels que ChatGPT ou encore l’IA de création d’images Midjourney. Après plus d’une dizaine d’années chez Google, il quitte la firme en invoquant les risques que pourraient représenter cette technologie, notamment, le flot de fausses informations qu’elle pourrait véhiculer, le bouleversement du marché du travail et le « risque existentiel ». Auprès du quotidien américain, le septuagénaire confie « qu’une part de lui-même regrette l’œuvre de sa vie ». Selon le journal, Geoffrey Hinton a informé Google de sa démission le mois dernier.
S’exprimer librement sur les dangers de l’IA
La décision de Geoffrey Hinton est avant tout motivée par sa volonté de s’exprimer librement sur les dangers de l’IA. « Je suis parti pour pouvoir parler des dangers de l’IA sans me soucier d’un éventuel impact sur Google », a-t-il déclaré mardi dans un tweet publié après l’annonce de son départ dans le New York Times. Dans son interview accordée au quotidien américain, il avance que « les futures versions de cette technologie pourraient être un risque pour l’humanité ». Selon lui, si les intelligences artificielles ne sont « pour le moment » pas plus intelligente que l’Homme, « elles pourraient bientôt l’être ». Interrogé par la BBC à l’annonce de son départ, Geoffrey Hinton a jugé la perspective des chatbots « assez effrayante ». Il a également averti sur le risque qu’ils pourraient être exploités par « de mauvais acteurs ». Par ailleurs, il craint que « les gens normaux ne puissent plus distinguer le vrai du faux » à long terme.
Inquiétudes partagées quant aux risques de l’IA
L’engouement suscité par ChatGPT a relancé la compétition entre les géants de la technologie. En mars, une lettre ouverte signée par un millier d’experts et d’acteurs dans le domaine comme Elon Musk réclamait l’arrêt d’au moins six mois la recherche sur de plus puissants systèmes d’IA. Ils ont évoqué « des risques majeurs pour l’humanité ». Geoffrey Hinton, encore employé de Google à ce moment-là ne faisait pas partie des signataires. Néanmoins, ses critiques rejoignent celles des autres experts. Toutefois, il a affirmé au New York Times que les scientifiques ne devraient pas faire encore monter en puissance ces IA « avant de savoir s’ils sont capables de les contrôler ». En 2019, l’expert avait reçu avec deux autres spécialistes de l’IA, le prix Turing, l’équivalent du Nobel pour les informaticiens.