Geoffrey Hinton, le « parrain de l’IA », a quitté Google pour parler des dangers de l’IA

L’un des pionniers du développement de l’intelligence artificielle moderne, surnommé le « parrain de l’IA », tire la sonnette d’alarme sur les dangers de laisser cette technologie devenir incontrôlable. Cette personne est Geoffrey Hinton. Jusqu’à récemment, il travaillait chez Google sur des projets d’IA, mais plus maintenant.

Comme le rapporte le New York Times , Hinton a quitté Google, où il travaillait depuis 2013. Avant de rejoindre l’entreprise, il a co-écrit un article en 1986 qui proposait un algorithme pour les réseaux de neurones. Il est considéré comme l’un des principaux développeurs de l’apprentissage en profondeur et, avec deux autres chercheurs, a remporté le prix Turing 2018 pour son travail.

Cependant, Hinton est maintenant préoccupé par la façon dont le développement de l’IA est allé beaucoup plus loin et plus rapidement qu’il ne l’avait prédit auparavant. Le lancement soudain de programmes d’IA chatbot comme ChatGPT , Bing Chat de Microsoft et Bard de Google pourrait être la première étape pour que l’IA devienne vraiment plus intelligente que les humains qui l’ont programmée. Il a déclaré:

«L’idée que ce genre de choses pourrait en fait devenir plus intelligent que les gens – quelques personnes le croyaient. Mais la plupart des gens pensaient que c’était loin. Et je pensais que c’était loin. Je pensais que c’était dans 30 à 50 ans ou même plus. Évidemment, je ne pense plus à ça.

Dans l’immédiat, Hinton pense que l’IA pourrait créer des images « deep fake » réalistes qui pourraient causer des problèmes avec les gens qui ne seraient pas en mesure de dire ce qui est faux et ce qui est réel. En fin de compte, il pense que l’IA pourrait non seulement éliminer des emplois, mais même se débarrasser de l’humanité elle-même, si l’IA apprend à lire et à écrire du code par elle-même, sans intervention humaine.

Le New York Times rapporte que Hinton s’est entretenu avec le PDG de Google, Sundar Pichai, la semaine dernière avant son départ officiel, mais il n’y a aucun mot sur ce dont ils ont discuté.

In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.

— Geoffrey Hinton (@geoffreyhinton) May 1, 2023

Dans une publication sur Twitter aujourd’hui, Hinton a déclaré qu’il n’essayait pas de critiquer Google, qui, selon lui, a « agi de manière très responsable » en ce qui concerne le développement de l’IA. Au contraire, il a estimé que quitter l’entreprise lui permettrait de « parler des dangers de l’IA sans tenir compte de son impact sur Google ». Jeff Dean, qui a récemment été nommé scientifique en chef de Google , a répondu à l’article en disant que l’entreprise « s’engage à une approche responsable de l’IA.