J’ai créé un monstre : le père de l’IA quitte Google par peur de son invention

[Violence]

L’un des pères fondateurs de l’intelligence artificielle vient de quitter Google, entre peur et regrets à l’égard de son invention. Dans une interview au NYT, Geoffrey Hinton révèle être terrifié par l’impact imminent de l’IA sur notre monde…

En 2018, Geoffrey Hinton remportait le Turing Award. Ce trophée visait à récompenser ses travaux, considérés comme les fondations de la révolution de l’intelligence artificielle que nous connaissons aujourd’hui.

Il y a une dizaine d’années, il a rejoint Google suite à l’acquisition de l’entreprise qu’il avait fondée avec deux de ses étudiants. Ensemble, ils avaient développé un réseau de neurones ayant appris seul à identifier les chiens, les chats ou les fleurs après avoir analysé des milliers de photos.

Sans cet expert respecté dans le monde entier, les outils au succès viral tels que ChatGPT et Google Bard n’auraient jamais pu voir le jour. L’un des deux étudiants est d’ailleurs devenu scientifique en chef chez OpenAI.

Malheureusement, 5 ans plus tard, ce pionnier de l’IA regrette son invention. Dans une interview accordée au New York Times, l’homme de 75 ans révèle avoir quitté Google après plus de 10 ans de service pour pouvoir parler librement des dangers de l’IA.

Même s’il se console « avec l’excuse classique : si je ne l’avais pas fait, quelqu’un d’autre l’aurait fait », il admet qu’il est « difficile de voir comment on pourrait empêcher les mauvais acteurs de l’utiliser à mauvais escient ».

La disparition de la vérité

Après avoir prévenu Google de sa démission le mois dernier, Hinton a directement parlé au CEO Sundar Pichai la semaine passée. La teneur de leur discussion n’est toutefois pas dévoilée.

Lors de son entretien avec le NYT, il explique qu’il était ravi de la façon dont Google approchait l’IA. Toutefois, le lancement du nouveau ChatGPT Bing par Microsoft a tout chamboulé.

À compter de ce moment, le géant de la recherche web s’est senti pris d’assaut sur son principal terrain et a immédiatement lancé une alerte rouge. A présent, Hinton estime qu’une telle compétition intense est impossible à arrêter.

En conséquence, il redoute un monde inondé par les fausses images et textes écrits par des robots dans lequel plus personne ne sera capable de « dire ce qui est vrai ».

Déjà à l’heure actuelle, la prolifération d’images créées par MidJourney sème le trouble sur le web. De nombreux internautes ont été trompés par les fausses photos du pape en doudoune Balenciaga.

Et ce phénomène est loin de se limiter aux images. Suite au succès viral d’une fausse chanson de Drake et The Weekend, l’industrie de la musique est en panique. Il ne s’agit malheureusement que du début d’une nouvelle ère…

Google tente de désamorcer la bombe

Suite à ces déclarations choc, le scientifique en chef de Google, Jeff Dean, a tenté de relativiser. Il rappelle que la firme californienne « reste dévouée à une approche responsable de l’IA ».

Selon lui, Google « apprend continuellement à comprendre les risques émergents tout en innovant avec audace ».

En parallèle, Hinton a aussi pris la parole sur Twitter pour éteindre les rumeurs sur d’éventuelles tensions avec son ex-employeur. Il précise ne pas avoir quitté l’entreprise pour pouvoir la critiquer, mais pour pouvoir évoquer les dangers de l’IA sans lui nuire.

Les pionniers de l’IA dépassés par leur créature ?

Au-delà du fléau des fake news, l’expert craint aussi que l’IA élimine de nombreux emplois. À plus long terme, il déplore la possibilité qu’elle se débarrasse de l’humain lorsqu’elle commencera à écrire et exécuter son propre code…

Lors de l’interview, il explique ainsi que « certaines personnes croyaient que cette chose pourrait réellement devenir plus intelligente que les gens, mais la plupart pensaient que ce serait lointain ».

Lui-même avoue qu’il pensait que cela ne se produirait que dans 30 à 50 ans. « De toute évidence, je ne pense plus cela ».

– Source

[Rapace]

@Violence a dit dans J’ai créé un monstre : le père de l’IA quitte Google par peur de son invention :

cette chose pourrait réellement devenir plus intelligente que les gens

pas difficile, étant donné le déclin moral et intellectuel du genre humain…

[Snoubi]

certaines personnes disent ça de leur enfants …

[Ashura]

Il fallait y penser avant, c’est un problème connu depuis 30 ans, on savait que ca allait arriver

[Snoubi]

On est sauvé si personne appuie sur le bouton

[mekas]

@Ashura a dit dans J’ai créé un monstre : le père de l’IA quitte Google par peur de son invention :

Il fallait y penser avant, c’est un problème connu depuis 30 ans, on savait que ca allait arriver

Certes, mais comme le climat, ça arrive infiniment plus vite que prévu, et ça s’accélère…!