Le “parrain de l’IA” remporte le prix Nobel mais “regrette” ses travaux
-
Un inventeur plein de regrets
Celui que les médias ont baptisé le “parrain de l’IA” avait néanmoins pris beaucoup de recul face à cette technologie. En 2023, il aurait démissionné de son poste chez Google pour alerter face aux dangers que représente l’intelligence artificielle.
Dans une déclaration faite au New York Times, il reconnaissait qu’une « partie de lui regrettait » les travaux qu’il a menés tout au long de son existence. Il s’était dit préoccupé par la façon dont « de mauvais acteurs » pourraient utiliser l’IA dans les prochaines décennies pour faire « de mauvaises choses ».
Malgré le gain de ce prix Nobel, récompense ultime pour tous les scientifiques, Hinton continue d’alerter sur les risques liés à l’intelligence artificielle. Dans une entrevue avec des journalistes réalisées hier, il assurait que « nous n’avons aucune idée de comment peuvent fonctionner des choses plus intelligentes que nous ».
Avant de préciser que “cela va être merveilleux à bien des égards”, mais voyant toujours le revers de la médaille, il promet également qu’il faut “s’inquiéter d’un certain nombre de conséquences possibles.” Il mentionne notamment la « perte de contrôle » humaine comme l’un des plus grands risques liés à l’IA pour les prochaines années.
L’IA : une menace dès aujourd’huiGeoffrey Hinton n’est pas le seul scientifique à douter des capacités de l’Homme à utiliser l’IA de la meilleure des façons. S’ils reconnaissent tous que l’intelligence artificielle est un outil formidable, ouvrant des portes jusqu’alors fermées, ils sont aussi conscients des risques que cette technologie amène.
Dans une déclaration faite à la presse, le co-lauréat du prix Nobel, John Hopfield se dit lui aussi « très inquiet » de voir l’IA se développer à une vitesse exponentielle. À ses yeux, il faut avant tout comprendre comment les réseaux neuronaux artificiels (qu’il a mis sur pied en grande partie) fonctionnent, afin de connaître leurs limites et de pouvoir travailler en connaissance de cause.
Le travail d’apprenti sorcier de ces dernières années n’est pas du tout à son goût. Le chercheur de 91 ans a fait le parallèle lors de son intervention médiatique avec le développement de l’arme atomique. « Nous sommes habitués à des technologies qui ne sont pas uniquement bonnes ou mauvaises, mais qui peuvent aller dans les deux sens. »
Source et plus: https://www.presse-citron.net/le-parrain-de-lia-remporte-le-prix-nobel-mais-regrette-ses-travaux/
Lire aussi: IA, les géants de la tech brûlent des milliards, mais où sont les profits ?
Ben, peut-être que les profits, c’est encore une fois nos données… et les réponses commerciales de l’“IA”.
Nulle loi d’airain gravée au marbre des remparts, car tout client dépend d’un serveur aux hasards. (ChatGPT)
-
Sarah Connor ?
-
Un inventeur plein de regrets
Celui que les médias ont baptisé le “parrain de l’IA” avait néanmoins pris beaucoup de recul face à cette technologie. En 2023, il aurait démissionné de son poste chez Google pour alerter face aux dangers que représente l’intelligence artificielle.
Dans une déclaration faite au New York Times, il reconnaissait qu’une « partie de lui regrettait » les travaux qu’il a menés tout au long de son existence. Il s’était dit préoccupé par la façon dont « de mauvais acteurs » pourraient utiliser l’IA dans les prochaines décennies pour faire « de mauvaises choses ».
Malgré le gain de ce prix Nobel, récompense ultime pour tous les scientifiques, Hinton continue d’alerter sur les risques liés à l’intelligence artificielle. Dans une entrevue avec des journalistes réalisées hier, il assurait que « nous n’avons aucune idée de comment peuvent fonctionner des choses plus intelligentes que nous ».
Avant de préciser que “cela va être merveilleux à bien des égards”, mais voyant toujours le revers de la médaille, il promet également qu’il faut “s’inquiéter d’un certain nombre de conséquences possibles.” Il mentionne notamment la « perte de contrôle » humaine comme l’un des plus grands risques liés à l’IA pour les prochaines années.
L’IA : une menace dès aujourd’huiGeoffrey Hinton n’est pas le seul scientifique à douter des capacités de l’Homme à utiliser l’IA de la meilleure des façons. S’ils reconnaissent tous que l’intelligence artificielle est un outil formidable, ouvrant des portes jusqu’alors fermées, ils sont aussi conscients des risques que cette technologie amène.
Dans une déclaration faite à la presse, le co-lauréat du prix Nobel, John Hopfield se dit lui aussi « très inquiet » de voir l’IA se développer à une vitesse exponentielle. À ses yeux, il faut avant tout comprendre comment les réseaux neuronaux artificiels (qu’il a mis sur pied en grande partie) fonctionnent, afin de connaître leurs limites et de pouvoir travailler en connaissance de cause.
Le travail d’apprenti sorcier de ces dernières années n’est pas du tout à son goût. Le chercheur de 91 ans a fait le parallèle lors de son intervention médiatique avec le développement de l’arme atomique. « Nous sommes habitués à des technologies qui ne sont pas uniquement bonnes ou mauvaises, mais qui peuvent aller dans les deux sens. »
Source et plus: https://www.presse-citron.net/le-parrain-de-lia-remporte-le-prix-nobel-mais-regrette-ses-travaux/
Lire aussi: IA, les géants de la tech brûlent des milliards, mais où sont les profits ?
Ben, peut-être que les profits, c’est encore une fois nos données… et les réponses commerciales de l’“IA”.
@duJambon a dit dans Le “parrain de l’IA” remporte le prix Nobel mais “regrette” ses travaux :
Malgré le gain de ce prix Nobel, récompense ultime pour tous les scientifiques, Hinton continue d’alerter sur les risques liés à l’intelligence artificielle.
BRAVO !!!
Hello! It looks like you're interested in this conversation, but you don't have an account yet.
Getting fed up of having to scroll through the same posts each visit? When you register for an account, you'll always come back to exactly where you were before, and choose to be notified of new replies (either via email, or push notification). You'll also be able to save bookmarks and upvote posts to show your appreciation to other community members.
With your input, this post could be even better 💗
S'inscrire Se connecter