Reconnaissance faciale en temps réel, interprétation des émotions, catégorisation des pensées religieuses, sexuelles et politiques… La France a activement milité pour que ces pratiques soient permises par « l’AI Act », le règlement européen sur l’intelligence artificielle, révèlent Disclose et Investigate Europe, documents confidentiels à l’appui.
Sans surprise, le gouvernement proto-fasciste français et nos meilleures industries de la surveillance et de l'armement ont tout fait pour que les briques légales européennes leur permette de mettre en place tout un arsenal d'outils de surveillance...
Sur les canaux Telegram des néonazis et des suprémacistes blancs, l’intelligence artificielle est utilisée pour générer des images de haine mais aussi de la désinformation.
Il suffit de modifier 0,001 % des données d'entrée pour rendre l'IA moins précise
Une nouvelle étude évalue les menaces en simulant une attaque par empoisonnement des données contre The Pile, un ensemble de données populaire utilisé pour le développement des LLM. Les chercheurs ont constaté que le remplacement de seulement 0,001 % des jetons d'entraînement par des informations médicales erronées donne lieu à des modèles nuisibles plus susceptibles de propager des erreurs médicales. Les résultats pourraient sensibiliser aux risques émergents des LLM formés sans discernement sur des données extraites du web, en particulier dans le domaine des soins de santé.
En fait, avec les LLM / IA, l'informatique aussi va basculer dans l'ère de la post-vérité
... ou comment l'IA risque de nous faire disparaître, juste en faisant ce qu'on lui demande, tout simplement.
Largement invisibilisé, le rôle des travailleurs du clic est pourtant essentiel dans l’élaboration des modèles d’IA générative. De retour d’un voyage au Kenya, l’artiste Quentin Sombsthay partage son expertise du sujet et les témoignages recueillis auprès des travailleurs de l’entreprise Sama, à Nairobi. Un univers cru, loin des paillettes des entreprises de la Silicon Valley.
Si vous aimez le storytelling de bas étage et les contenus qui visent à être inspirant alors qu'ils sont surtout ridicules, votre réseau social de prédilection est sans doute LinkedIn, plateforme sur laquelle les amoureux de la «start-up nation» n'hésitent jamais à se faire mousser. Et comme si cela ne pouvait pas être pire, la magazine américain Wired révèle que, selon une étude, les publications y sont de plus en plus souvent générées par l'intelligence artificielle (IA).
Après deux ans à diversifier ses champs d’action, La Quadrature du Net s’attaque désormais à un nouveau front : la lutte contre le déferlement de l’intelligence artificielle (IA) dans tous les pans de la société. Pour continuer à faire vivre la critique d’une politique numérique autoritaire et écocide, La Quadrature a plus que jamais besoin de votre soutien en 2025.
OKLM, Microsoft récupère maintenant toutes vos données issues de Office365 (Word, Excel, Outlook, PowerPoint) pour entraîner leurs modèles d'IA.
La fonctionnalité est apparu sans informations et activée par défaut (du Microsoft, quoi...)
Je vous donnerai bien la méthode pour désactiver ça, mais il serait peut-être temps de passer à LibreOffice, non ?
Dites adieu au moteur de recherche que vous utilisez quotidiennement : en 2024, les IA de Google vont vous résumer le Web, que vous le vouliez ou non. Une automutilation technique qui reflète le pouvoir absolu du monopole Google.
Google va casser internet (enfin, encore plus qu'avant quoi...)
Pleine de promesses ou porteuse d’inquiétudes, l’Intelligence Artificielle (IA) est sur toutes les lèvres et ne cesse d’envahir les titres des journaux. Mais derrière les vagues de spéculation, elle incarne surtout le prolongement d’un capitalisme numérique qui pousse toujours plus loin l’exploitation écologique et humaine.
Les modes technologiques n’épargnent plus les médiathèques. A chaque innovation ou nouvelle mode numérique, nous avons cédé aux sons des sirènes en espérant apparaître dynamiques, modernes, désirables auprès de nos publics. On a eu les réseaux sociaux, les tablettes, les imprimantes 3d et les espaces de fabrication numériques et aujourd’hui on a l’IA. La même musique se répète et continuera de se répéter probablement avec la future trend digitale à venir. Cette dynamique illustre parfaitement ce que raconte Julie Brillet dans le podcast des deux copains connards dans un bibliobus. Nous avons renoncé, en tant que profession, à avoir une posture technocritique. Nous avons embrassé béatement les nouveaux outils les uns après les autres sans avoir de réflexion politique, éthique et critique du recours à tous ces outils.
Meta va utiliser vos données personnelles sur Instagram et Facebook pour entraîner son IA (sauf si vous refusez)
https://www.lemonde.fr/pixels/article/2024/06/07/meta-va-utiliser-vos-donnees-personnelles-sur-instagram-et-facebook-pour-entrainer-son-ia-sauf-si-vous-refusez_6237864_4408996.html
Meta va utiliser vos données personnelles sur Instagram et Facebook pour entraîner son IA (sauf si vous refusez)C'est pas gagné le consentement encore, hein ... (et non, ce n'est pas légal vis à vis du RGPD...)
À un moment, c'est plus des amendes qu'il faut mettre...
En 2019, Shoshana Zuboff publiait L'Âge du capitalisme de surveillance, ouvrage mettant au jour les dynamiques secrètes de l’économie du web, basée sur l’extraction des données personnelles. Les prédictions alarmistes de l'autrice se sont-elles réalisées ? Pouvons-nous être optimistes ?
Un scandale a fait des vagues et illustre quelques aspects importants de notre conception de la numérisation. Il s'agit de la Poste britannique (British Post Office), d'un grand système informatique qui n'a pas fonctionné comme prévu, qui a brisé des vies, et de l'incapacité de nos mécanismes de contrôle à le surveiller correctement.
J'en parlais cet après-midi encore, alors je l'ai recherchée et retrouvée dans ma bibliothèque : le recueil de nouvelles "Jusqu'à la quatrième génération" où se trouve la nouvelle "La machine qui gagna la guerre". Elle m'avait marqué quand je l'avais lue, jeune, je l'ai toujours eu en tête. Et là, à l'heure de l'IA, elle résonne encore plus.
Je vous invite à la lire. y'a 16 pages. Elle est très drôle (moi, l'humour d'Asimov, 😻) mais ça pique un peu en y réfléchissant bien !
(si vous n'avez pas le recueil en question chez vous ou à la médiathèque du coin, cliquez sur le titre de la brève, ça vous renverra vers une transcription du texte !)
Essayons de résumer où on en est sur ces IA de type LLM (+ une nouvelle faille)
Les injections de prompt, voilà les attaques qui m'effraient le plus avec les IA...
Ça va saigner, c'est 100% garanti
La création d'algorithmes tels que ChatGPT ou Midjourney nécessite des quantités colossales de données, analysées par des humains. Des "annotateurs" indispensables mais souvent précaires, faiblement rémunérés et maintenus dans l'ombre.
Alors qu'il défendait mordicus l'open source comme valeur cardinale pour s'imposer face aux géants américains, le champion français de l'intelligence artificielle, Mistral AI, a développé son plus puissant modèle de langage de manière fermée, et a conclu un partenariat pour l'heure exclusif avec Microsoft pour sa distribution, laissant même l'Américain entrer symboliquement à son capital. Si ce virage stratégique aux allures de séisme fait sens d'un point de vue économique et bénéficie du soutien de la France, il rend furieux à Bruxelles et parmi les défenseurs de l'IA européenne. Par ricochet, l'entrée de Mistral, comme OpenAI avant lui, dans le giron du géant Microsoft, est une claque pour la souveraineté numérique européenne, et acte la position déjà dominante des Américains dans la course à l'intelligence artificielle.