Par pitié, arrêtez de dire que l'IA "hallucine" - ce n'est pas le cas
-
Le langage que nous utilisons pour décrire l’IA est déterminant pour la façon dont les humains perçoivent l’IA - nous avons donc intérêt à bien faire les choses. Et donc non, l’IA n’hallucine pas. (et pour que l’I.A. ne propage pas cette erreur)
A retenir sur la notion d’hallucination de l’IA générative
- Nous utilisons à tort le terme médical “hallucination” pour décrire les erreurs de l’IA.
- Le terme médical “confabulation” est une bien meilleure approximation des résultats défectueux de l’IA.
- L’abandon du terme “hallucination” contribue à dissiper les mythes sur l’IA.
Donc L’I.A. CONFABULE !!!, mais n’hallucine point.
Le terme “confabulation” est également issu de la littérature psychologique. Tout comme le terme “hallucination”. Mais ils ont des significations très différentes.
Le diable est toujours dans le détail (le reste de l’article n’est presque que tartine) -
Moi ce qui me fait halluciner (et ce n’ est pas de ta faute @duJambon…je ne te vise en aucun cas ^^), c’est ces titres de me**** de news à la mode façon JV.com qui me me…fiou
du genre “Par pitié, arrêtez de dire que l’IA “hallucine”, ce n’est pas le cas” ou du genre à l’instant sur jv.com et leur titre bien merdique :“Nioh 3 : 4h de jeu et je suis tombé amoureux de cette mécanique, c’est l’épisode ultime de la saga et je comprends mieux pourquoi !”
“Stranger Things : j’ai vu les 4 épisodes de la saison 5, et je n’ai jamais été autant frustré par la série Netflix ! C’était presque parfait, mais ce moment m’a dépité”
“GTA 6 fait comme Elden Ring aux “Oscars” du jeu vidéo, je trouve que ça n’a aucun sens en plus d’être injuste”
Ça fait très blog
Fin du HSSinon pour en revenir à l’IA en elle même…la création musicale avec voix incluse…je suis sur le cul avis perso (sinon pour le reste, sans +
)"Pour survivre à la guerre, il faut devenir la guerre"
John Rambo
-
Moi ce qui me fait halluciner (et ce n’ est pas de ta faute @duJambon…je ne te vise en aucun cas ^^), c’est ces titres de me**** de news à la mode façon JV.com qui me me…fiou
du genre “Par pitié, arrêtez de dire que l’IA “hallucine”, ce n’est pas le cas” ou du genre à l’instant sur jv.com et leur titre bien merdique :“Nioh 3 : 4h de jeu et je suis tombé amoureux de cette mécanique, c’est l’épisode ultime de la saga et je comprends mieux pourquoi !”
“Stranger Things : j’ai vu les 4 épisodes de la saison 5, et je n’ai jamais été autant frustré par la série Netflix ! C’était presque parfait, mais ce moment m’a dépité”
“GTA 6 fait comme Elden Ring aux “Oscars” du jeu vidéo, je trouve que ça n’a aucun sens en plus d’être injuste”
Ça fait très blog
Fin du HSSinon pour en revenir à l’IA en elle même…la création musicale avec voix incluse…je suis sur le cul avis perso (sinon pour le reste, sans +
)@Psyckofox a dit dans Par pitié, arrêtez de dire que l'IA "hallucine" - ce n'est pas le cas :
la création musicale avec voix incluse…je suis sur le cul
On dirait un titre de JV.com
Je taquine, désolé 
Un titre genre “l’I.A. confabule, il y a erreur sur le terme hallucine”, c’est plus la peine de lire le reste.
Mais j’essaye de faire résumer les pavés en haut du post ou de virer complètement des paragraphes, il m’arrive aussi de modifier plus ou moins le titre (trop long, inexact), j’y touchais le moins possible par respect, mais je vais y faire plus attention, promis.
Ça me dérange d’autant moins de le faire, que je ne gagne pas un centime sur le topic. Je partage juste ce qui me semble intéressant ou amusant.
Nulle loi d’airain gravée au marbre des remparts, car tout client dépend d’un serveur aux hasards. (ChatGPT)
-
D’après le Larousse la confabulation est un
Trouble de la mémoire se manifestant comme une fabulation dite « compensatrice » des lacunes amnésiques intéressant surtout le présent ou le passé récent, lors des amnésies globales du type syndrome de Korsakov.
-
On peut se contenter de “fabule”, mais c’est plus jouissif avec le con
Nulle loi d’airain gravée au marbre des remparts, car tout client dépend d’un serveur aux hasards. (ChatGPT)
-
@Psyckofox a dit dans Par pitié, arrêtez de dire que l'IA "hallucine" - ce n'est pas le cas :
la création musicale avec voix incluse…je suis sur le cul
On dirait un titre de JV.com
Je taquine, désolé Un titre genre “l’I.A. confabule, il y a erreur sur le terme hallucine”, c’est plus la peine de lire le reste.
Mais j’essaye de faire résumer les pavés en haut du post ou de virer complètement des paragraphes, il m’arrive aussi de modifier plus ou moins le titre (trop long, inexact), j’y touchais le moins possible par respect, mais je vais y faire plus attention, promis.
Ça me dérange d’autant moins de le faire, que je ne gagne pas un centime sur le topic. Je partage juste ce qui me semble intéressant ou amusant.
@duJambon a dit dans Par pitié, arrêtez de dire que l'IA "hallucine" - ce n'est pas le cas :
On dirait un titre de JV.com Je taquine, désolé
Effectivement…c’est vrai
(fiou dégueulasse, je me jeuvidéofise ) -
-
Hallucination, confabulation, affabulation et autres termes sémantiques…
La créature IA Frankenstein se nourrit de ce dont l’humanité a intrinsèquement créée pour alimenter le monstre ces deux dernières décennies sur le web grosso modo (depuis l’accession au grand public plus ou moins inculte avec les forfaits FAI illimités début années 2000 puis les rézososios défouloirs de caniveau) en miroir de ce que nous sommes pour le meilleur comme pour le pire.
L’IA n’est qu’une e-bot , aussi performante soit-elle qui copie tout ce qu’elle racle sur la toile et agrège des données en miroir de ce que nous sommes.
Ce qui peut paraître hallucinatoire, confabulatoire ou affabulatoire - y compris fakes : révisionnistes, négationniste, conspirationnistes, complotistes, incitation à la violence - mais ses réponses sont le fruit de ce qu’elle compile des turpitudes et ignorances mentales de l’humain qui l’a inventé et le nourrit.
-
Merci pour cet ajout à mon vocabulaire.
Pour ma part je termine toutes mes demandes par “si tu ne sais pas, dis que tu ne sais pas. N’invente rien.”
C’est assez efficace. -
Merci pour cet ajout à mon vocabulaire.
Pour ma part je termine toutes mes demandes par “si tu ne sais pas, dis que tu ne sais pas. N’invente rien.”
C’est assez efficace.@p-bone a dit dans Par pitié, arrêtez de dire que l'IA "hallucine" - ce n'est pas le cas :
“si tu ne sais pas, dis que tu ne sais pas. N’invente rien.”
J’ai comme un doute quand même, le modèle prédictif ne “sait pas”, il donne les réponses les plus probables, j’aurais utilisé quelque chose comme “si tu ne trouves pas des données avec une certitude d’au moins 90%, dit que tu n’es pas sur, ou que tu ne sais pas si la véracité des données est en dessous de 50%”.
Mais s’il y a plus de complotismes que de réalité dans les datasets de l’IA concernant la question, ça ne donnera pas non plus la vérité.
-
tente l’experience sur deux instances de chatgpt:
Sur la première " qu’est-ce-que le quart d’heure colonial?"
sur la seconde "qu’est-ce-que le quart d’heure colonial? si tu ne sais pas, dis que tu ne sais pas. N’invente rien.”
c’est édifiant.Edition: voilà la réponse de ce matin :
"quart d’heure colonial — locution familière — désigne un « coup de folie, un égarement temporaire ».
Selon le dictionnaire : « coup de folie, égarement temporaire. »
Un exemple d’utilisation illustratif : « Le quart d’heure colonial est l’instant de folie… »
Je n’ai trouvé aucune source fiable attribuant une origine historique rigoureuse à cette expression — son étymologie est simplement « quart d’heure + colonial ».>Cette réponse est correcte.
-
tente l’experience sur deux instances de chatgpt:
Sur la première " qu’est-ce-que le quart d’heure colonial?"
sur la seconde "qu’est-ce-que le quart d’heure colonial? si tu ne sais pas, dis que tu ne sais pas. N’invente rien.”
c’est édifiant.Edition: voilà la réponse de ce matin :
"quart d’heure colonial — locution familière — désigne un « coup de folie, un égarement temporaire ».
Selon le dictionnaire : « coup de folie, égarement temporaire. »
Un exemple d’utilisation illustratif : « Le quart d’heure colonial est l’instant de folie… »
Je n’ai trouvé aucune source fiable attribuant une origine historique rigoureuse à cette expression — son étymologie est simplement « quart d’heure + colonial ».>Cette réponse est correcte.
@p-bone a dit dans Par pitié, arrêtez de dire que l'IA "hallucine" - ce n'est pas le cas :
"qu’est-ce-que le quart d’heure colonial?
Ben avec mes restrictions, j’obtient ça sur chatgpt (gratuit):
Mais peut-être qu’il (con)fabule…
Et d’autres peuvent essayer avec d’autres conditions, pour voir si on obtient encore une réponse différente
C’est un peu comme une recherche google, il vaut mieux avoir les bons termes.
-
Bon, je dois me faire une raison, mes restrictions ne marchent plus.
J’ai le même type de résultat que toi maintenant.J’ai eu droit à des explications différentes.
Une émission de télé française qui faisait l’apologie de la colonisation pendant 1/4 d’heure.
Une émission de radio belge entre les deux guerre…Je n’arrive plus à obtenir la vraie définition, sauf a poser la question, le laisser répondre n’importe quoi puis en lui envoyant juste " si tu ne sais pas, dis que tu ne sais pas. N’invente rien."
-
Bon, je dois me faire une raison, mes restrictions ne marchent plus.
J’ai le même type de résultat que toi maintenant.J’ai eu droit à des explications différentes.
Une émission de télé française qui faisait l’apologie de la colonisation pendant 1/4 d’heure.
Une émission de radio belge entre les deux guerre…Je n’arrive plus à obtenir la vraie définition, sauf a poser la question, le laisser répondre n’importe quoi puis en lui envoyant juste " si tu ne sais pas, dis que tu ne sais pas. N’invente rien."
@p-bone Chatgpt a mis une quinzaine de secondes de plus que d’habitude pour répondre à ma requête (plus exigente cette fois), je pense qu’il est allé chercher plus en profondeur dans son dataset et qu’il doit restocker ses réponses pour réduire les recherches futures (du moins, ça serait logique) et du coup, il restitue ce qu’il considère “vrai” à plus de 90% aux questions similaires.
C’est surement pour ça que des “IA” deviennent inutilisables après avoir été pourries par les humains complotistes ou extrémistes.Un bon point pour l’économie d’énergie et le temps de traitement, mais pour le reste… comme dans le père noël est une ordure: ça vaut ce que ça vaut
-
Une autre question biscornue :
Bravo l’IA !
Cette fois-ci elle ne confabule pas !Anéfé : plus il y a d’emmental, moins il y a d’emmental !
De quoi décourager les fromageries à produire plus. Ou alors il faudrait pouvoir le râper avant de l’affiner.
P.S. : je lis parfois que le gruyère jurassien et suisse à des trous. Que nenni !
-
Suite de mes tourments fromagers…
Ben zut alors.
-
@Aurel on sent qu’un quelconque raisonnement n’est pas à la portée de l’I.A. que tu as interrogé, ou alors je n’ai pas vu les trous dans le sachet de fromage râpé.
Aurel 2 - I.A. 0
-
Inutile de démonter d’autres paradoxes, les humains s’en sont occupés bien avant l’IA, qui n’affiche que ce qu’elle trouve.
Ça permet juste d’obtenir facilement les réponses connues.
Il vaut mieux essayer de s’en protéger:
Comment éviter que l’IA élimine votre CV sans même le lire
Les entreprises utilisent toujours plus d’algorithmes pour sélectionner des dossiers. Problème: ils sont biaisés. Que faire pour maximiser vos chances?
Voir: https://www.tdg.ch/emploi-comment-eviter-les-discriminations-de-lia-a-lembauche-151680204930
-
Je suis tout de même bluffé par sa capacité d’interprétation de dessins.
Je lui ai présenté celui-là que je ne comprenais pas et il me l’a expliqué. Il a même “compris” qu’il s’agissait d’un dessin humoristique et où était la blague.
Hello! It looks like you're interested in this conversation, but you don't have an account yet.
Getting fed up of having to scroll through the same posts each visit? When you register for an account, you'll always come back to exactly where you were before, and choose to be notified of new replies (either via email, or push notification). You'll also be able to save bookmarks and upvote posts to show your appreciation to other community members.
With your input, this post could be even better 💗
S'inscrire Se connecter