Apple mettra à jour les résumés des notifications iOS après une erreur dans un titre de la BBC

[duJambon]

Apple prévoit de publier une mise à jour logicielle destinée à aider les utilisateurs à mieux comprendre que ses résumés de notifications sont générés par l’IA et peuvent contenir des erreurs, selon un récent article de la BBC. Cette mise à jour est une réponse aux informations selon lesquelles les résumés donnaient aux utilisateurs des informations trompeuses sur les événements mondiaux.

Par exemple, un faux résumé suggérait à au moins un utilisateur que Luigi Mangione, le meurtrier présumé du PDG de UnitedHealthcare, Brian Thompson, s’était suicidé. La notification en question visait à résumer les informations les plus importantes de 22 notifications d’applications d’information de la BBC, selon une capture d’écran largement diffusée.

Apple n’a pas précisé publiquement exactement ce qui sera modifié pour mieux informer les utilisateurs, mais seulement qu’il s’agira d’un changement logiciel qui « clarifiera davantage » le moment où les notifications auront été générées via la fonctionnalité qui réside sous l’égide d’Apple Intelligence.

Les résumés de notification, qui sont générés pour des utilisateurs et des appareils individuels via un modèle de langage large (LLM) personnalisé formé par Apple, comportaient déjà une petite icône pour indiquer qu’il ne s’agissait pas de notifications normales et inchangées des applications en question.

Cependant, la signification de cette icône peut ne pas être immédiatement évidente pour la plupart des utilisateurs.

Les utilisateurs peuvent désactiver les résumés de notification Apple Intelligence en accédant à l’application Paramètres sur leurs appareils mobiles.

Ce problème ne peut pas être entièrement résolu

Les articles de la BBC sur l’IA sujette aux erreurs semblent souvent manquer de compréhension du fonctionnement des résumés de notification d’Apple Intelligence, par exemple en suggérant que tous les utilisateurs ont reçu la notification incriminée concernant Mangione. La formulation des résumés varie selon les appareils individuels en fonction des autres notifications reçues à peu près au même moment.

Néanmoins, c’est un problème sérieux lorsque les résumés déforment les gros titres de l’actualité, et les cas extrêmes où cela se produit sont malheureusement inévitables. Apple ne peut pas simplement corriger ces résumés avec une mise à jour logicielle. Les seules réponses sont soit d’aider les utilisateurs à comprendre les inconvénients de la technologie afin qu’ils puissent prendre des décisions plus éclairées, soit de supprimer ou de désactiver complètement la fonctionnalité. Apple opte apparemment pour le premier.

Source et plus: https://arstechnica.com/gadgets/2025/01/apple-plans-software-update-after-ai-summaries-get-news-headlines-wrong/

Merde, on m’aurait mentit ? Je suspecte la terre de ne pas être ronde.

NB: CE N’EST PAS UN PROBLEME SPECIFIQUE A APPLE. Tous ces systèmes de LLM (I.A. pour les croyants) sont similaires

[mekas]

@duJambon a dit dans Apple mettra à jour les résumés des notifications iOS après une erreur dans un titre de la BBC :

Tous ces systèmes de LLM (I.A. pour les croyants)