Intrusivité, fake news, métiers supprimés, robots tueurs…Après avoir démissionné de son poste chez Google, le chercheur Geoffrey Hinton, l’un des pères fondateurs de l’intelligence artificielle, sonne l’alerte contre sa propre création et partage ses craintes dans le « New York Times ». Le zoom de la rédaction.
Considéré comme l’un des pères fondateurs de l’intelligence artificielle (IA), Geoffrey Hinton, véritable référence en la matière, s’est livré à un entretien inquiétant, ce lundi 1e mai, dans les colonnes du New York Times.
Après plus de dix ans de carrière chez le géant de l’high-tech Google, ce chercheur a quitté son poste afin de pouvoir « parler librement des dangers de l’IA ». Le britannique, âgé de 75 ans, affirme aujourd’hui que l’intelligence artificielle va trop vite et « qu’il est temps que l’on s’inquiète ».
Un danger majeur pour l’humanité
Sans ses travaux, il n’y aurait pas de ChatGPT mais aujourd’hui le créateur s’alarme de sa propre création. Hinton explique, dans le New York Times, qu’il regrette « parce que je ne vois pas comment on peut empêcher des personnes mal intentionnées de s’emparer de cet outil pour de mauvaises choses ».
L’ingénieur ajoute que « l’information, l’éducation, la société et l’humanité tout entière sont en danger ». Et il n’est pas le seul à l’affirmer. En mars dernier, après le lancement d’une version améliorée de ChatGPT, un millier de dirigeants d’entreprises technologiques et de chercheurs avaient signé une lettre ouverte réclamant aux géants Google et Microsoft une pause de six mois dans l’exploitation des intelligences artificielles :
Les signataires allant jusqu’à évoquer un « risque majeur pour l’humanité ». Une opinion que rejoint finalement Geoffrey Hinton. Il souligne, d’ailleurs, dans un tweet : « Je suis parti pour pouvoir parler des dangers de l’IA sans me soucier d’un éventuel impact sur Google».
In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.
— Geoffrey Hinton (@geoffreyhinton) May 1, 2023
« Ces technologies pourraient devenir plus intelligentes que nous »
Si certains métiers peuvent être effectivement allégés grâce à l’IA, l’ingénieur prédit toutefois que de nombreux autres seront tout simplement remplacés : «Cela supprime le travail pénible et pourrait en retirer plus que cela ».
Parmi ses craintes, Hinton évoque également les robots tueurs. Une menace effrayante digne d’un film fantastique qui pourrait être utilisé à mauvais escient par certaines entreprises. L’IA pourrait, selon le chercheur, avoir son propre code informatique allant jusqu’à la création d’arme complètement autonome et inédite.
La différence entre nous et l’IA, c’est la vitesse de transmission. Les IA partagent tout instantanément. La question c’est de savoir quand ces technologies vont nous dépasser en termes de finesse du raisonnement, j’ai pensé qu’on avait le temps, que ce serait pour dans 30 ou 50 ans, mais je n’y crois plus.
Le chercheur suggère finalement de mettre en pause voir de retirer tous ces logiciels mais ce sera difficile de faire entendre les géants de l’high-tech (Google et Microsoft) qui se livrent, actuellement, une bataille féroce dans le domaine. Le chatbot est en la dernière illustration.
