Quand Midjourney n'arrive pas à représenter un médecin noir soignant des enfants blancs
-
Je pense avoir compris comment fonctionne une IA conversationnelle, mais pas vraiment celui d’une IA génératrice d’image.
Si quelqu’un a une explication ou un lien à me proposer, je suis preneur.
Comme on en a eu de nombreux exemples, une IA est capable d’inventer de grosses âneries qui n’était pas dans les données qu’on lui a fournies en apprentissage.
Dans le cas d’une IA générative d’image, si on prend l’exemple cité dans l’article, on pourrait penser que si elle n’est pas capable de “dessiner” un médecin noir soignant des enfants blancs, c’est que ce cas manquait dans ses données d’apprentissage. Mais cela reviendrait à dire que contrairement à un chabot, elle n’est pas capable d’invention.
J’ai bon ?
-
La conversationnelle (ou prédictive) n’invente rien non plus, elle répète également les conneries qu’elle trouve (pas forcément une phrase complète) en assemblant des mots ou des expressions tant bien que mal.
Pour le graphisme, les modèles stockés sont graphiques au lieu d’être en texte et assemblés de la même manière que le texte.
La sélection des modèles pour composer l’image globale dépend de la “prédiction” du texte d’entrée et du contenu des modèles liés à ce texte.
Si on demande la vue d’un cochon par-dessous (ou des mamelles de pieuvre extra-terrestre) et que le modèle n’existe pas, le résultat sera probablement encore plus cocasse, car assemblé de bric et de broc (les limites du système)…
Le terme I.A. est totalement erroné (sauf pour de la publicité, de ça, on a l’habitude).
Nulle loi d’airain gravée au marbre des remparts, car tout client dépend d’un serveur aux hasards. (ChatGPT)
-
@Indigostar j’ai lu dans les commentaires que DALL·E ne faisait pas mieux.
@Raccoon a dit dans Quand Midjourney n'arrive pas à représenter un médecin noir soignant des enfants blancs :
@Indigostar j’ai lu dans les commentaires que DALL·E ne faisait pas mieux.
Exact, c’est pareil avec DALL·E.
Les données d’entraînement sont intrinsèquement biaisées, car elles reflètent les “biais” existants dans la société, tels que les stéréotypes et les préjugés. Et ce phénomène est amplifié par les boucles de rétroaction, c’est-à-dire que plus les utilisateurs interagissent avec certaines sorties du modèle, plus l’IA va privilégier ces sorties “populaires” et donc renforcer ces biais.Il y a eu un leap assez impressionnant avec les dernières versions de Midjourney 5 et DALL·E 3, et à mon avis, ils ont été dépassés par les enjeux éthiques.
Je pense que ce n’est qu’une question de temps pour qu’on ait une règlementation en la matière et une plus grande transparence sur les modèles. Tout ceci est très opaque pour l’instant. -
La conversationnelle (ou prédictive) n’invente rien non plus, elle répète également les conneries qu’elle trouve (pas forcément une phrase complète) en assemblant des mots ou des expressions tant bien que mal.
Pour le graphisme, les modèles stockés sont graphiques au lieu d’être en texte et assemblés de la même manière que le texte.
La sélection des modèles pour composer l’image globale dépend de la “prédiction” du texte d’entrée et du contenu des modèles liés à ce texte.
Si on demande la vue d’un cochon par-dessous (ou des mamelles de pieuvre extra-terrestre) et que le modèle n’existe pas, le résultat sera probablement encore plus cocasse, car assemblé de bric et de broc (les limites du système)…
Le terme I.A. est totalement erroné (sauf pour de la publicité, de ça, on a l’habitude).
Dans le cas de mamelles de pieuvres extra-terrestres, je peux comprendre, elle va avoir du mal à trouver un modèle, mais dans le cas de l’article, qu’est-ce que l’IA ne connait pas, un médecin noir ou des enfants blancs ?
-
Dans le cas de mamelles de pieuvres extra-terrestres, je peux comprendre, elle va avoir du mal à trouver un modèle, mais dans le cas de l’article, qu’est-ce que l’IA ne connait pas, un médecin noir ou des enfants blancs ?
@Pollux Ça, il faut le demander à ceux qui font le système prédictif, les modèles et qui les lient aux texte…
-
Je pense avoir compris comment fonctionne une IA conversationnelle, mais pas vraiment celui d’une IA génératrice d’image.
Si quelqu’un a une explication ou un lien à me proposer, je suis preneur.
Comme on en a eu de nombreux exemples, une IA est capable d’inventer de grosses âneries qui n’était pas dans les données qu’on lui a fournies en apprentissage.
Dans le cas d’une IA générative d’image, si on prend l’exemple cité dans l’article, on pourrait penser que si elle n’est pas capable de “dessiner” un médecin noir soignant des enfants blancs, c’est que ce cas manquait dans ses données d’apprentissage. Mais cela reviendrait à dire que contrairement à un chabot, elle n’est pas capable d’invention.
J’ai bon ?
@Pollux a dit dans Quand Midjourney n'arrive pas à représenter un médecin noir soignant des enfants blancs :
Si quelqu’un a une explication ou un lien à me proposer, je suis preneur.
Science Étonnante a fait une vidéo là-dessus:
D’ailleurs je ne peux que conseiller sa chaîne
Oudeis.
Des affirmations extraordinaires nécessitent des preuves plus qu'ordinaires.
Carl Sagan -
@Pollux a dit dans Quand Midjourney n'arrive pas à représenter un médecin noir soignant des enfants blancs :
Si quelqu’un a une explication ou un lien à me proposer, je suis preneur.
Science Étonnante a fait une vidéo là-dessus:
D’ailleurs je ne peux que conseiller sa chaîne
Oudeis.
Merci oudeis
Je suis la chaine de David Louapre depuis longtemps, (je crois même en avoir déjà fait la pub ici)c’est d’ailleurs lui qui m’a permis de mieux comprendre ChatGPT, mais étonnement j’ai loupé cette vidéo-ci.
Je vais la visionner de ce pas.
Et si quelqu’un a le titre d’un bon bouquin de vulgarisation sur le fonctionnement de l’IA, je suis preneur.
-
@Raccoon a dit dans Quand Midjourney n'arrive pas à représenter un médecin noir soignant des enfants blancs :
@Indigostar j’ai lu dans les commentaires que DALL·E ne faisait pas mieux.
Exact, c’est pareil avec DALL·E.
Les données d’entraînement sont intrinsèquement biaisées, car elles reflètent les “biais” existants dans la société, tels que les stéréotypes et les préjugés. Et ce phénomène est amplifié par les boucles de rétroaction, c’est-à-dire que plus les utilisateurs interagissent avec certaines sorties du modèle, plus l’IA va privilégier ces sorties “populaires” et donc renforcer ces biais.Il y a eu un leap assez impressionnant avec les dernières versions de Midjourney 5 et DALL·E 3, et à mon avis, ils ont été dépassés par les enjeux éthiques.
Je pense que ce n’est qu’une question de temps pour qu’on ait une règlementation en la matière et une plus grande transparence sur les modèles. Tout ceci est très opaque pour l’instant.@Indigostar a dit dans Quand Midjourney n'arrive pas à représenter un médecin noir soignant des enfants blancs :
Je pense que ce n’est qu’une question de temps pour qu’on ait une règlementation en la matière et une plus grande transparence sur les modèles. Tout ceci est très opaque pour l’instant.
ça c’est sur, ça commence à faire trop de temps que rien n’est réglementé et que chacun fait ce qu’il veux…
Vu le business autour et le fait que “l’IA” est présente dans énormément de domaines - par exemple, j’utilise Mailbird comme client mail et l’IA va bientôt arriver pour la création de mail et de réponses - ça va venir très bientôt,V:\> █░░ SPR3AD TH3 C0D3 ░░█ ✌(◕‿-)✌
╚═ Admin, Dev et auteur de la plupart des bugs de PW… -
@Indigostar a dit dans Quand Midjourney n'arrive pas à représenter un médecin noir soignant des enfants blancs :
Je pense que ce n’est qu’une question de temps pour qu’on ait une règlementation en la matière et une plus grande transparence sur les modèles. Tout ceci est très opaque pour l’instant.
ça c’est sur, ça commence à faire trop de temps que rien n’est réglementé et que chacun fait ce qu’il veux…
Vu le business autour et le fait que “l’IA” est présente dans énormément de domaines - par exemple, j’utilise Mailbird comme client mail et l’IA va bientôt arriver pour la création de mail et de réponses - ça va venir très bientôt,@Violence a dit dans Quand Midjourney n'arrive pas à représenter un médecin noir soignant des enfants blancs :
j’utilise Mailbird comme client mail et l’IA va bientôt arriver pour la création de mail et de réponses - ça va venir très bientôt,
Avec ce système intégré aux mails, l’IA va déshumaniser nos communications…
Il faudra probablement aussi donner l’accès à tous nos mails afin qu’il fonctionne efficacement et d’une manière pertinente, donc toute notre vie privée sera compromise. -
Oui il n’y a pas plus intrusif niveau vie privée surtout qu’ils veulent intégrer OpenAI bien sur.
J’ai vu ça ce matin quand le soft m’a proposé l’upgrade avec oh surprise… une remise de prix sur la licence V3 car c’est un logiciel que j’avais payer avec une licence à vie à la base. Le fait de passer en V3 leur ont donné l’envie de faire passer à la caisse le client une seconde fois et j’aime pas cette façon de faire.
Je vais rester à la version 2.X. L’IA arrivant avec la dernière version. C’est dommage car c’était un très bon client mail.
Mais j’ai bien peur qu’on est de moins en moins de clients mail qui ne vont pas l’intégrer. J’espère me tromper car à part Thunderbird, que va t’il rester.
-
Même infomaniak sy’ met dans leur service mail avec leur version améliorée de Falcon LLM, considéré comme le modèle open source le plus performant du marché :
https://www.it-connect.fr/infomaniak-integre-une-ia-souveraine-a-son-service-de-mails/
V:\> █░░ SPR3AD TH3 C0D3 ░░█ ✌(◕‿-)✌
╚═ Admin, Dev et auteur de la plupart des bugs de PW… -
Même infomaniak sy’ met dans leur service mail avec leur version améliorée de Falcon LLM, considéré comme le modèle open source le plus performant du marché :
https://www.it-connect.fr/infomaniak-integre-une-ia-souveraine-a-son-service-de-mails/
@Violence a dit dans Quand Midjourney n'arrive pas à représenter un médecin noir soignant des enfants blancs :
Même infomaniak sy’ met dans leur service mail avec leur version améliorée de Falcon LLM, considéré comme le modèle open source le plus performant du marché :
Aucun esprit critique dans l’article, et en plus, ils saupoudrent le tout de greenwashing…
C’est quand même génial, dans 10 ans nous n’aurons plus à taper d’e-mails ; les IA se substitueront à notre réflexion et communiqueront entre elles.
Et ceux qui continueront à rédiger leurs mails seront traités de vieux schnocks.
-
Activable sur option, l’IA développée par nos équipes respectera le cadre strict du RGPD et de la loi suisse sur la protection des données.
Une IA individuelle, isolée des autres utilisateurs
Pas de débordement possible. Pour les feedbacks personnels, nous prévoyons que chaque utilisateur puisse entraîner en quelque sorte « sa propre IA ». Aucune donnée ne peut fuiter à un autre utilisateur. Votre label « lune de miel » restera votre label. Idem pour un label personnalisé comme « sortie de boîte ». Personne d’autre que vous n’en aura connaissance.
Source et beaucoup plus: https://news.infomaniak.com/intelligence-artificielle-ethique/
Pas de quoi péter un câble…
-
@Violence a dit dans Quand Midjourney n'arrive pas à représenter un médecin noir soignant des enfants blancs :
Même infomaniak sy’ met dans leur service mail avec leur version améliorée de Falcon LLM, considéré comme le modèle open source le plus performant du marché :
Aucun esprit critique dans l’article, et en plus, ils saupoudrent le tout de greenwashing…
C’est quand même génial, dans 10 ans nous n’aurons plus à taper d’e-mails ; les IA se substitueront à notre réflexion et communiqueront entre elles.
Et ceux qui continueront à rédiger leurs mails seront traités de vieux schnocks.
@Indigostar a dit dans Quand Midjourney n'arrive pas à représenter un médecin noir soignant des enfants blancs :
ils saupoudrent le tout de greenwashing…
C’est clair genre c’est super cool, c’est RGPD data en Suisse tout ça mais en plus, tt est hébergé sur des serveurs alimentés par de l’énergie renouvelable donc tt va bien
J’ai quand même hâte que tt cela soit réglementé un minimum… En général, on se réveille mais au dernier moment mais on se réveille
Hello! It looks like you're interested in this conversation, but you don't have an account yet.
Getting fed up of having to scroll through the same posts each visit? When you register for an account, you'll always come back to exactly where you were before, and choose to be notified of new replies (either via email, or push notification). You'll also be able to save bookmarks and upvote posts to show your appreciation to other community members.
With your input, this post could be even better 💗
S'inscrire Se connecter