Le célèbre chercheur Geoffrey Hinton, surnommé le « parrain de l’IA« , a annoncé récemment sa démission de son poste de vice-président chez Google. Dans une interview avec The New York Times, il a expliqué qu’il avait quitté son poste pour alerter sur les risques associés à cette technologie. Il est notamment préoccupé par l’utilisation de l’IA générative qui pourrait entraîner une vague de désinformation, créant un monde où il serait difficile de savoir ce qui est vrai. Il craint également que cette technologie ne remplace certains emplois.
Geoffrey Hinton est l’un des pionniers du deep learning, récompensé avec Yoshua Bengio et Yann LeCun pour ses travaux sur le sujet par le Turing Award en 2018, décerné par l’ACM. Il a travaillé chez Google pendant plus d’une décennie. Sa création d’un système de reconnaissance d’objet en 2012 a participé aux développements qui ont conduit aux technologies génératives d’aujourd’hui. Selon lui, ces dernières années, les avancées en matière d’IA ont été rapides et il est effrayé de ce qui pourrait arriver dans les cinq prochaines années.
Dans une compétition de plus en plus acharnée entre les géants technologiques, Geoffrey Hinton estime que Google avait développé l’IA de manière responsable jusqu’à présent. Cependant, il craint que cette course à l’IA soit impossible à arrêter et que les géants technologiques abandonnent leur retenue sur les sorties publiques d’IA pour concurrencer ChatGPT, Bing Chat et autres modèles similaires. Dans un communiqué, Jeff Dean, responsable de l’IA chez Google, a déclaré que l’entreprise restait totalement engagée dans une « approche responsable » et gardait un œil sur les « risques émergents ».
Geoffrey Hinton n’est pas seul à tenir cette position. Elon Musk et Steve Wozniak, parmi d’autres, avaient récemment signé une lettre ouverte réclamant une pause de six mois dans le développement de l’IA pour gérer les problèmes d’éthique et de sécurité. Pour éviter les risques associés à cette technologie, Geoffrey Hinton estime qu’il est nécessaire que les meilleurs scientifiques collaborent sur les moyens de contrôler l’IA.
En fin de compte, les inquiétudes de Geoffrey Hinton sur l’IA générative et l’impact potentiel sur l’emploi et la désinformation soulignent la nécessité d’une réglementation et d’un contrôle de l’IA pour éviter les conséquences négatives possibles.
