Quand Midjourney n'arrive pas à représenter un médecin noir soignant des enfants blancs

[Indigostar]

@Raccoon a dit dans Quand Midjourney n'arrive pas à représenter un médecin noir soignant des enfants blancs :

@Indigostar j’ai lu dans les commentaires que DALL·E ne faisait pas mieux.

Exact, c’est pareil avec DALL·E.
Les données d’entraînement sont intrinsèquement biaisées, car elles reflètent les “biais” existants dans la société, tels que les stéréotypes et les préjugés. Et ce phénomène est amplifié par les boucles de rétroaction, c’est-à-dire que plus les utilisateurs interagissent avec certaines sorties du modèle, plus l’IA va privilégier ces sorties “populaires” et donc renforcer ces biais.

Il y a eu un leap assez impressionnant avec les dernières versions de Midjourney 5 et DALL·E 3, et à mon avis, ils ont été dépassés par les enjeux éthiques.
Je pense que ce n’est qu’une question de temps pour qu’on ait une règlementation en la matière et une plus grande transparence sur les modèles. Tout ceci est très opaque pour l’instant.

[Pollux]

@duJambon

Dans le cas de mamelles de pieuvres extra-terrestres, je peux comprendre, elle va avoir du mal à trouver un modèle, mais dans le cas de l’article, qu’est-ce que l’IA ne connait pas, un médecin noir ou des enfants blancs ?

[duJambon]

@Pollux Ça, il faut le demander à ceux qui font le système prédictif, les modèles et qui les lient aux texte…

[oudeis]

@Pollux a dit dans Quand Midjourney n'arrive pas à représenter un médecin noir soignant des enfants blancs :

Si quelqu’un a une explication ou un lien à me proposer, je suis preneur.

Science Étonnante a fait une vidéo là-dessus:

D’ailleurs je ne peux que conseiller sa chaîne

Oudeis.

[Pollux]

@oudeis

Merci oudeis

Je suis la chaine de David Louapre depuis longtemps, (je crois même en avoir déjà fait la pub ici)c’est d’ailleurs lui qui m’a permis de mieux comprendre ChatGPT, mais étonnement j’ai loupé cette vidéo-ci.

Je vais la visionner de ce pas.

Et si quelqu’un a le titre d’un bon bouquin de vulgarisation sur le fonctionnement de l’IA, je suis preneur.

[Violence]

@Indigostar a dit dans Quand Midjourney n'arrive pas à représenter un médecin noir soignant des enfants blancs :

Je pense que ce n’est qu’une question de temps pour qu’on ait une règlementation en la matière et une plus grande transparence sur les modèles. Tout ceci est très opaque pour l’instant.

ça c’est sur, ça commence à faire trop de temps que rien n’est réglementé et que chacun fait ce qu’il veux…
Vu le business autour et le fait que “l’IA” est présente dans énormément de domaines - par exemple, j’utilise Mailbird comme client mail et l’IA va bientôt arriver pour la création de mail et de réponses - ça va venir très bientôt,

[Indigostar]

@Violence a dit dans Quand Midjourney n'arrive pas à représenter un médecin noir soignant des enfants blancs :

j’utilise Mailbird comme client mail et l’IA va bientôt arriver pour la création de mail et de réponses - ça va venir très bientôt,

Avec ce système intégré aux mails, l’IA va déshumaniser nos communications…
Il faudra probablement aussi donner l’accès à tous nos mails afin qu’il fonctionne efficacement et d’une manière pertinente, donc toute notre vie privée sera compromise.

[Violence]

@Indigostar

Oui il n’y a pas plus intrusif niveau vie privée surtout qu’ils veulent intégrer OpenAI bien sur.

J’ai vu ça ce matin quand le soft m’a proposé l’upgrade avec oh surprise… une remise de prix sur la licence V3 car c’est un logiciel que j’avais payer avec une licence à vie à la base. Le fait de passer en V3 leur ont donné l’envie de faire passer à la caisse le client une seconde fois et j’aime pas cette façon de faire.

Je vais rester à la version 2.X. L’IA arrivant avec la dernière version. C’est dommage car c’était un très bon client mail.

Mais j’ai bien peur qu’on est de moins en moins de clients mail qui ne vont pas l’intégrer. J’espère me tromper car à part Thunderbird, que va t’il rester.

[Violence]

@Indigostar

Même infomaniak sy’ met dans leur service mail avec leur version améliorée de Falcon LLM, considéré comme le modèle open source le plus performant du marché :

https://www.it-connect.fr/infomaniak-integre-une-ia-souveraine-a-son-service-de-mails/

[Indigostar]

@Violence a dit dans Quand Midjourney n'arrive pas à représenter un médecin noir soignant des enfants blancs :

Même infomaniak sy’ met dans leur service mail avec leur version améliorée de Falcon LLM, considéré comme le modèle open source le plus performant du marché :

Aucun esprit critique dans l’article, et en plus, ils saupoudrent le tout de greenwashing…

C’est quand même génial, dans 10 ans nous n’aurons plus à taper d’e-mails ; les IA se substitueront à notre réflexion et communiqueront entre elles.

Et ceux qui continueront à rédiger leurs mails seront traités de vieux schnocks.

[duJambon]

Activable sur option, l’IA développée par nos équipes respectera le cadre strict du RGPD et de la loi suisse sur la protection des données.

Une IA individuelle, isolée des autres utilisateurs

Pas de débordement possible. Pour les feedbacks personnels, nous prévoyons que chaque utilisateur puisse entraîner en quelque sorte « sa propre IA ». Aucune donnée ne peut fuiter à un autre utilisateur. Votre label « lune de miel » restera votre label. Idem pour un label personnalisé comme « sortie de boîte ». Personne d’autre que vous n’en aura connaissance.

Source et beaucoup plus: https://news.infomaniak.com/intelligence-artificielle-ethique/

Pas de quoi péter un câble…

[Violence]

@Indigostar a dit dans Quand Midjourney n'arrive pas à représenter un médecin noir soignant des enfants blancs :

ils saupoudrent le tout de greenwashing…

C’est clair genre c’est super cool, c’est RGPD data en Suisse tout ça mais en plus, tt est hébergé sur des serveurs alimentés par de l’énergie renouvelable donc tt va bien

J’ai quand même hâte que tt cela soit réglementé un minimum… En général, on se réveille mais au dernier moment mais on se réveille