Le contrat OpenAI-Pentagone fait encore des remous : Caitlin Kalinowski démissionne
-
La responsable de la branche robotique d’OpenAI, Caitlin Kalinowski, a annoncé sa démission alors que l’entreprise a passé un contrat avec le département de la Défense des États-Unis. Elle le juge précipité.
Le mini mea-culpa de Sam Altman n’aura pas suffi à garder Caitlin Kalinowski dans les rangs de son entreprise. La responsable de la branche robotique d’OpenAI a expliqué samedi soir dans un
sur X qu’elle avait démissionné en affirmant qu’« il s’agissait d’une question de principe, pas de personnes ».
Sam Altman avait déjà reconnu dans un mémo interne rendu ensuite public s’être précipité et avoir signé un contrat qui « paraissait opportuniste et bâclé ». L’entreprise avait sauté sur l’opportunité du refus de son concurrent Anthropic de signer le même contrat avec le département de la Défense, sans clause bloquant l’utilisation de l’outil à des fins de surveillance des citoyens américains et dans des armes totalement autonomes.
La directrice de l’équipe robotique d’OpenAI aurait été au premier rang des responsables de la mise en place d’armes totalement autonomes utilisant les systèmes d’OpenAI.
Pas une opposition totale, mais un besoin de davantage de réflexion
Suite de l’article en accès libre : next.ink
-
Et concernant Anthropic qui avait carément refusé le contrat:
Anthropic attaque le gouvernement fédéral des Etats-Unis en justice pour des sanctions jugées excessives
La start-up californienne avait refusé d’ouvrir sans restriction à l’armée américaine son modèle d’IA, évoquant un principe éthique. En représailles, le ministère de la défense l’avait ajoutée à sa liste de sociétés présentant un « risque pour les approvisionnements ».
« Utiliser ces systèmes à des fins de surveillance de masse domestique est incompatible avec les valeurs démocratiques », s’était défendu le patron d’Anthropic, Dario Amodei. Le dirigeant avait insisté sur le fait que les systèmes les plus avancés d’IA n’étaient pas encore fiables au point de leur confier le pouvoir de contrôler des armes mortelles – et donc de tuer – sans une supervision humaine en dernier ressort. Les armes entièrement autonomes « doivent être déployées avec des garde-fous appropriés qui n’existent pas aujourd’hui », avait-il estimé.
« Caprice » et « abus de pouvoir »
Dans le document de l’assignation, consulté par l’AFP, Anthropic qualifie les sanctions à son encontre de « sans précédent et illégales ». « La Constitution [américaine] n’autorise pas le gouvernement à exercer son énorme pouvoir pour punir une société d’avoir usé de sa liberté d’expression. » Ces décisions sont « arbitraires », relèvent d’« un caprice » et « d’un abus du pouvoir discrétionnaire » du gouvernement américain, souligne la start-up de San Francisco. Selon elle, le gouvernement « cherche à détruire » Anthropic.
La jeune entreprise révèle qu’après les annonces de l’administration Trump, elle a été contactée par « de nombreux partenaires et clients, fournisseurs d’informatique à distance (cloud) et investisseurs », qui ont fait part de leur « confusion ». Certains clients ont également demandé à Anthropic sous quelles conditions ils pouvaient rompre leur contrat.
Le groupe ne conteste pas uniquement son inscription sur la liste des fournisseurs « à risque », mais aussi les conditions de la rupture des contrats le liant au gouvernement, considérées comme abusives.
Nulle loi d’airain gravée au marbre des remparts, car tout client dépend d’un serveur aux hasards. (ChatGPT)
-
Et concernant Anthropic qui avait carément refusé le contrat:
Anthropic attaque le gouvernement fédéral des Etats-Unis en justice pour des sanctions jugées excessives
La start-up californienne avait refusé d’ouvrir sans restriction à l’armée américaine son modèle d’IA, évoquant un principe éthique. En représailles, le ministère de la défense l’avait ajoutée à sa liste de sociétés présentant un « risque pour les approvisionnements ».
« Utiliser ces systèmes à des fins de surveillance de masse domestique est incompatible avec les valeurs démocratiques », s’était défendu le patron d’Anthropic, Dario Amodei. Le dirigeant avait insisté sur le fait que les systèmes les plus avancés d’IA n’étaient pas encore fiables au point de leur confier le pouvoir de contrôler des armes mortelles – et donc de tuer – sans une supervision humaine en dernier ressort. Les armes entièrement autonomes « doivent être déployées avec des garde-fous appropriés qui n’existent pas aujourd’hui », avait-il estimé.
« Caprice » et « abus de pouvoir »
Dans le document de l’assignation, consulté par l’AFP, Anthropic qualifie les sanctions à son encontre de « sans précédent et illégales ». « La Constitution [américaine] n’autorise pas le gouvernement à exercer son énorme pouvoir pour punir une société d’avoir usé de sa liberté d’expression. » Ces décisions sont « arbitraires », relèvent d’« un caprice » et « d’un abus du pouvoir discrétionnaire » du gouvernement américain, souligne la start-up de San Francisco. Selon elle, le gouvernement « cherche à détruire » Anthropic.
La jeune entreprise révèle qu’après les annonces de l’administration Trump, elle a été contactée par « de nombreux partenaires et clients, fournisseurs d’informatique à distance (cloud) et investisseurs », qui ont fait part de leur « confusion ». Certains clients ont également demandé à Anthropic sous quelles conditions ils pouvaient rompre leur contrat.
Le groupe ne conteste pas uniquement son inscription sur la liste des fournisseurs « à risque », mais aussi les conditions de la rupture des contrats le liant au gouvernement, considérées comme abusives.
La jeune entreprise révèle qu’après les annonces de l’administration Trump, elle a été contactée par « de nombreux partenaires et clients, fournisseurs d’informatique à distance (cloud) et investisseurs », qui ont fait part de leur « confusion ». Certains clients ont également demandé à Anthropic sous quelles conditions ils pouvaient rompre leur contrat.
Assez hallucinant de lire ça.
Hello! It looks like you're interested in this conversation, but you don't have an account yet.
Getting fed up of having to scroll through the same posts each visit? When you register for an account, you'll always come back to exactly where you were before, and choose to be notified of new replies (either via email, or push notification). You'll also be able to save bookmarks and upvote posts to show your appreciation to other community members.
With your input, this post could be even better 💗
S'inscrire Se connecter