Les appels à la régulation de l'intelligence artificielle se multiplient
Les préoccupations éthiques et environnementales renforcent la pression sur les acteurs du secteur technologique
Les discussions du jour sur Bluesky témoignent d'une tension croissante autour du développement et de l'utilisation de l'intelligence artificielle, où la transparence, l'éthique et l'impact sociétal sont au centre des débats. De l'appel retentissant de figures publiques à stopper la course à la superintelligence, jusqu'aux préoccupations environnementales et juridiques, la communauté interroge autant les promesses que les risques des technologies intelligentes.
Appels à la régulation et à la transparence face à la superintelligence
Un mouvement d'ampleur se dessine alors que plus de 700 personnalités, dont des célébrités et des scientifiques, plaident pour l'arrêt du développement de l'intelligence artificielle dépassant l'humain. Ce plaidoyer, relayé sur Mastodon et résumé dans le post de R. P. Scott, met en lumière une inquiétude profonde quant aux enjeux de la “quête de la superintelligence”, et l'illustration d'un système complexe de câblages souligne la nature intriquée de cette problématique.
"Bengio a souligné qu'il n'existe aucune incitation juridique à empêcher les entreprises de créer une IA incontrôlable, et parfois, il y a des incitations commerciales à le faire. Cela montre l'urgence d'assurer la visibilité et la transparence autour de la construction de l'IA."- @mediatechdemocracy.bsky.social (3 points)
La question de la transparence est également débattue dans la conversation entre Yoshua Bengio et Murad Hemmadi, présentée par le Centre for Media, Technology & Democracy. Le manque d'incitations légales et la tentation commerciale de développer des IA “rogues” soulignent la nécessité de gouvernance proactive. Les syndicats de l'audiovisuel, tels que ceux mis en avant dans le post sur les collectifs ACTRA et SAGAFTRA, rappellent l'importance de protéger les droits et la créativité humaine face à l'automatisation croissante.
Défaillances des IA et responsabilités juridiques
La fiabilité des assistants intelligents est remise en cause par une étude relayée par Bibliolater, révélant que 45 % des réponses de ChatGPT, Copilot, Gemini et Perplexity comportent de graves erreurs. Ce constat soulève des inquiétudes quant à l'érosion de la confiance publique et à l'impact sur la participation démocratique, en particulier chez les jeunes utilisateurs.
"Au lieu de corriger son mémo, elle a soumis un ‘mémo supplémentaire' qui n'a pas admis les erreurs précédentes mais a apporté de soi-disant bonnes citations pour ‘compléter' les références inventées (en réalité, certaines de ces ‘bonnes citations' étaient aussi inventées)."- @dkluft.bsky.social (2 points)
Le cas du recours déposé par une avocate en Louisiane, relaté par David Kluft, montre les conséquences juridiques d'une utilisation non maîtrisée de l'IA dans le domaine légal, où des citations “hallucinées” ont mené à des sanctions. Par ailleurs, la notion de “vérité” numérique se redéfinit avec la création d'une caméra basée sur des preuves cryptographiques, illustrant la nécessité de garantir l'authenticité à l'ère des manipulations algorithmiques.
Enjeux énergétiques, climatiques et résistances culturelles
L'articulation entre IA et enjeux énergétiques est mise en exergue par la décision de l'administration Trump d'ouvrir l'accès au plutonium de qualité militaire pour des startups telles qu'Oklo, soutenue par Sam Altman, comme le souligne Tadonic the Flautulent. Ce choix, motivé par les besoins croissants en énergie des technologies numériques, suscite des critiques sur la sécurité et la gestion du risque nucléaire.
"Jamais, jamais je ne le ferai."- @shirtsagainsts.bsky.social (3 points)
Sur le plan climatique, la pression s'accentue sur le CPPIB pour qu'il réoriente ses investissements vers une économie plus durable, en tenant compte des risques liés à l'expansion des centres de données alimentés par l'IA. Enfin, la résistance culturelle à l'intelligence artificielle prend forme à travers des initiatives artistiques et humoristiques, telles que le Scroll of the Spectacular Spectacle et le message affiché sur le t-shirt “Je n'ai jamais utilisé l'IA” dans le post de Shirts Against Supremacists, témoignant d'une volonté de préserver l'authenticité humaine face à la montée de l'automatisation.
L'innovation naît dans toutes les discussions collectives. - Karim Charbonnier