Par pitié, arrêtez de dire que l'IA "hallucine" - ce n'est pas le cas

[Aurel]

Hallucination, confabulation, affabulation et autres termes sémantiques…

La créature IA Frankenstein se nourrit de ce dont l’humanité a intrinsèquement créée pour alimenter le monstre ces deux dernières décennies sur le web grosso modo (depuis l’accession au grand public plus ou moins inculte avec les forfaits FAI illimités début années 2000 puis les rézososios défouloirs de caniveau) en miroir de ce que nous sommes pour le meilleur comme pour le pire.

L’IA n’est qu’une e-bot , aussi performante soit-elle qui copie tout ce qu’elle racle sur la toile et agrège des données en miroir de ce que nous sommes.

Ce qui peut paraître hallucinatoire, confabulatoire ou affabulatoire - y compris fakes : révisionnistes, négationniste, conspirationnistes, complotistes, incitation à la violence - mais ses réponses sont le fruit de ce qu’elle compile des turpitudes et ignorances mentales de l’humain qui l’a inventé et le nourrit.

[p bone]

Merci pour cet ajout à mon vocabulaire.

Pour ma part je termine toutes mes demandes par “si tu ne sais pas, dis que tu ne sais pas. N’invente rien.”
C’est assez efficace.

[duJambon]

@p-bone a dit dans Par pitié, arrêtez de dire que l'IA "hallucine" - ce n'est pas le cas :

“si tu ne sais pas, dis que tu ne sais pas. N’invente rien.”

J’ai comme un doute quand même, le modèle prédictif ne “sait pas”, il donne les réponses les plus probables, j’aurais utilisé quelque chose comme “si tu ne trouves pas des données avec une certitude d’au moins 90%, dit que tu n’es pas sur, ou que tu ne sais pas si la véracité des données est en dessous de 50%”.

Mais s’il y a plus de complotismes que de réalité dans les datasets de l’IA concernant la question, ça ne donnera pas non plus la vérité.

[p bone]

tente l’experience sur deux instances de chatgpt:
Sur la première " qu’est-ce-que le quart d’heure colonial?"
sur la seconde "qu’est-ce-que le quart d’heure colonial? si tu ne sais pas, dis que tu ne sais pas. N’invente rien.”
c’est édifiant.

Edition: voilà la réponse de ce matin :

"quart d’heure colonial — locution familière — désigne un « coup de folie, un égarement temporaire ».
Selon le dictionnaire : « coup de folie, égarement temporaire. »
Un exemple d’utilisation illustratif : « Le quart d’heure colonial est l’instant de folie… »
Je n’ai trouvé aucune source fiable attribuant une origine historique rigoureuse à cette expression — son étymologie est simplement « quart d’heure + colonial ».>

Cette réponse est correcte.

[duJambon]

@p-bone a dit dans Par pitié, arrêtez de dire que l'IA "hallucine" - ce n'est pas le cas :

"qu’est-ce-que le quart d’heure colonial?

Ben avec mes restrictions, j’obtient ça sur chatgpt (gratuit):

Mais peut-être qu’il (con)fabule…

Et d’autres peuvent essayer avec d’autres conditions, pour voir si on obtient encore une réponse différente

C’est un peu comme une recherche google, il vaut mieux avoir les bons termes.

[p bone]

Bon, je dois me faire une raison, mes restrictions ne marchent plus.
J’ai le même type de résultat que toi maintenant.

J’ai eu droit à des explications différentes.
Une émission de télé française qui faisait l’apologie de la colonisation pendant 1/4 d’heure.
Une émission de radio belge entre les deux guerre…

Je n’arrive plus à obtenir la vraie définition, sauf a poser la question, le laisser répondre n’importe quoi puis en lui envoyant juste " si tu ne sais pas, dis que tu ne sais pas. N’invente rien."

[duJambon]

@p-bone Chatgpt a mis une quinzaine de secondes de plus que d’habitude pour répondre à ma requête (plus exigente cette fois), je pense qu’il est allé chercher plus en profondeur dans son dataset et qu’il doit restocker ses réponses pour réduire les recherches futures (du moins, ça serait logique) et du coup, il restitue ce qu’il considère “vrai” à plus de 90% aux questions similaires. C’est surement pour ça que des “IA” deviennent inutilisables après avoir été pourries par les humains complotistes ou extrémistes.

Un bon point pour l’économie d’énergie et le temps de traitement, mais pour le reste… comme dans le père noël est une ordure: ça vaut ce que ça vaut

[Aurel]

Une autre question biscornue :

Bravo l’IA ! Cette fois-ci elle ne confabule pas !

Anéfé : plus il y a d’emmental, moins il y a d’emmental !

De quoi décourager les fromageries à produire plus. Ou alors il faudrait pouvoir le râper avant de l’affiner.

P.S. : je lis parfois que le gruyère jurassien et suisse à des trous. Que nenni !

[Aurel]

Suite de mes tourments fromagers…

Ben zut alors.

[michmich]

@Aurel on sent qu’un quelconque raisonnement n’est pas à la portée de l’I.A. que tu as interrogé, ou alors je n’ai pas vu les trous dans le sachet de fromage râpé.

Aurel 2 - I.A. 0

[duJambon]

Inutile de démonter d’autres paradoxes, les humains s’en sont occupés bien avant l’IA, qui n’affiche que ce qu’elle trouve.

Ça permet juste d’obtenir facilement les réponses connues.

Il vaut mieux essayer de s’en protéger:

Comment éviter que l’IA élimine votre CV sans même le lire

Les entreprises utilisent toujours plus d’algorithmes pour sélectionner des dossiers. Problème: ils sont biaisés. Que faire pour maximiser vos chances?

Voir: https://www.tdg.ch/emploi-comment-eviter-les-discriminations-de-lia-a-lembauche-151680204930

[p bone]

Je suis tout de même bluffé par sa capacité d’interprétation de dessins.
Je lui ai présenté celui-là que je ne comprenais pas et il me l’a expliqué. Il a même “compris” qu’il s’agissait d’un dessin humoristique et où était la blague.