Après deux ans à diversifier ses champs d’action, La Quadrature du Net s’attaque désormais à un nouveau front : la lutte contre le déferlement de l’intelligence artificielle (IA) dans tous les pans de la société. Pour continuer à faire vivre la critique d’une politique numérique autoritaire et écocide, La Quadrature a plus que jamais besoin de votre soutien en 2025.
OKLM, Microsoft récupère maintenant toutes vos données issues de Office365 (Word, Excel, Outlook, PowerPoint) pour entraîner leurs modèles d'IA.
La fonctionnalité est apparu sans informations et activée par défaut (du Microsoft, quoi...)
Je vous donnerai bien la méthode pour désactiver ça, mais il serait peut-être temps de passer à LibreOffice, non ?
Dites adieu au moteur de recherche que vous utilisez quotidiennement : en 2024, les IA de Google vont vous résumer le Web, que vous le vouliez ou non. Une automutilation technique qui reflète le pouvoir absolu du monopole Google.
Google va casser internet (enfin, encore plus qu'avant quoi...)
Pleine de promesses ou porteuse d’inquiétudes, l’Intelligence Artificielle (IA) est sur toutes les lèvres et ne cesse d’envahir les titres des journaux. Mais derrière les vagues de spéculation, elle incarne surtout le prolongement d’un capitalisme numérique qui pousse toujours plus loin l’exploitation écologique et humaine.
Les modes technologiques n’épargnent plus les médiathèques. A chaque innovation ou nouvelle mode numérique, nous avons cédé aux sons des sirènes en espérant apparaître dynamiques, modernes, désirables auprès de nos publics. On a eu les réseaux sociaux, les tablettes, les imprimantes 3d et les espaces de fabrication numériques et aujourd’hui on a l’IA. La même musique se répète et continuera de se répéter probablement avec la future trend digitale à venir. Cette dynamique illustre parfaitement ce que raconte Julie Brillet dans le podcast des deux copains connards dans un bibliobus. Nous avons renoncé, en tant que profession, à avoir une posture technocritique. Nous avons embrassé béatement les nouveaux outils les uns après les autres sans avoir de réflexion politique, éthique et critique du recours à tous ces outils.
Meta va utiliser vos données personnelles sur Instagram et Facebook pour entraîner son IA (sauf si vous refusez)
https://www.lemonde.fr/pixels/article/2024/06/07/meta-va-utiliser-vos-donnees-personnelles-sur-instagram-et-facebook-pour-entrainer-son-ia-sauf-si-vous-refusez_6237864_4408996.html
Meta va utiliser vos données personnelles sur Instagram et Facebook pour entraîner son IA (sauf si vous refusez)C'est pas gagné le consentement encore, hein ... (et non, ce n'est pas légal vis à vis du RGPD...)
À un moment, c'est plus des amendes qu'il faut mettre...
En 2019, Shoshana Zuboff publiait L'Âge du capitalisme de surveillance, ouvrage mettant au jour les dynamiques secrètes de l’économie du web, basée sur l’extraction des données personnelles. Les prédictions alarmistes de l'autrice se sont-elles réalisées ? Pouvons-nous être optimistes ?
Un scandale a fait des vagues et illustre quelques aspects importants de notre conception de la numérisation. Il s'agit de la Poste britannique (British Post Office), d'un grand système informatique qui n'a pas fonctionné comme prévu, qui a brisé des vies, et de l'incapacité de nos mécanismes de contrôle à le surveiller correctement.
J'en parlais cet après-midi encore, alors je l'ai recherchée et retrouvée dans ma bibliothèque : le recueil de nouvelles "Jusqu'à la quatrième génération" où se trouve la nouvelle "La machine qui gagna la guerre". Elle m'avait marqué quand je l'avais lue, jeune, je l'ai toujours eu en tête. Et là, à l'heure de l'IA, elle résonne encore plus.
Je vous invite à la lire. y'a 16 pages. Elle est très drôle (moi, l'humour d'Asimov, 😻) mais ça pique un peu en y réfléchissant bien !
(si vous n'avez pas le recueil en question chez vous ou à la médiathèque du coin, cliquez sur le titre de la brève, ça vous renverra vers une transcription du texte !)
Essayons de résumer où on en est sur ces IA de type LLM (+ une nouvelle faille)
Les injections de prompt, voilà les attaques qui m'effraient le plus avec les IA...
Ça va saigner, c'est 100% garanti
La création d'algorithmes tels que ChatGPT ou Midjourney nécessite des quantités colossales de données, analysées par des humains. Des "annotateurs" indispensables mais souvent précaires, faiblement rémunérés et maintenus dans l'ombre.
Alors qu'il défendait mordicus l'open source comme valeur cardinale pour s'imposer face aux géants américains, le champion français de l'intelligence artificielle, Mistral AI, a développé son plus puissant modèle de langage de manière fermée, et a conclu un partenariat pour l'heure exclusif avec Microsoft pour sa distribution, laissant même l'Américain entrer symboliquement à son capital. Si ce virage stratégique aux allures de séisme fait sens d'un point de vue économique et bénéficie du soutien de la France, il rend furieux à Bruxelles et parmi les défenseurs de l'IA européenne. Par ricochet, l'entrée de Mistral, comme OpenAI avant lui, dans le giron du géant Microsoft, est une claque pour la souveraineté numérique européenne, et acte la position déjà dominante des Américains dans la course à l'intelligence artificielle.
Le propos fera certainement bondir nombre de thuriféraires de l’IA. Il mérite pourtant une écoute attentive car il souligne que la face sombre de l’IA est plus sombre qu’on le pense. Dan McQuillan est maître de conférence au département d’informatique de l’université Goldsmiths de Londres. Il est l’auteur de Resisting AI, an anti-fascist approach to artificial intelligence (Résister à l’IA, une approche anti-fasciste de l’IA, Bristol University Press, 2022, non traduit).
Un bon récap de Boris Schapira sur les #IA / #LLM
personnellement, j'y rajouterai
- le coût économique/écologique : les outils tels que #ChatGPT sont apparemment des gouffres énergétiques et économiques, qui sont lancés sans recul sur ces questions avec l'énergie du "faut prendre le marché avant tout" peu importe les coûts
- le risque de dépendance/ contrainte monopolistique que l'on voit poindre devant la prédominance sur le marché d'#OpenAI et du coût (insurmontable?) de la mise en oeuvre de solution concurrente efficace
Fraudes fiscales : les criblages par IA de Bercy : Une efficacité « difficile à évaluer ».
Par contre, grosse efficacité sur la baisse du nombre d'emploi dans effectifs de l’administration fiscale
C'est balot.
Quasiment 6 mois pour résoudre un bug qui promouvait les contenus douteux. Ils se foutent de qui ?
Et, joie suprême de l'IA, ils ne savent même pas dire quelle est l'origine du problème.
Meta est incapable de gérer son algorithme. Ils y vont au tâtonnement. C'est effrayant...
« La légitimité de l’État administratif repose sur notre confiance dans l’expertise de ses agences », rappellent les professeurs de droit Ryan Calo (@rcalo) et Danielle Citron (@daniellecitron) dans un article de recherche. Mais de plus en plus, les services administratifs adoptent des systèmes automatisés pour s’acquitter des responsabilités qui leur sont déléguées. Le problème c’est qu’en passant à l’automatisation, l’administration sape son autorité et son existence même.