Ça y est, tout le monde a généré sa petite image Ghibli et s’est senti pousser les ailes d’un artiste ? On peut revenir un peu sur Terre et parler de vrais problèmes, ou bien ?
Le seul article sérieux de l'année du Gorafi.
À ne pas rater !
Non content de démanteler la bureaucratie étasunienne en prenant le contrôle de ses systèmes informatiques stratégiques, Elon Musk et son DOGE proposent de remplacer les fonctionnaires limogés par des logiciels d'IA. Une manière de remplacer la politique par la technique, et la démocratie par le calcul.
C’est le grand martelage, depuis plusieurs années, avec une accentuation depuis plusieurs mois. L’intelligence artificielle, entité aux contours abstraits, serait la réponse à tous nos maux. La promesse d’une vie future marquée du sceau du progrès. Nous serions là face à une « révolution ».
Derrière cette euphorie, il y a une réalité. Matérielle. Celle que les grands entrepreneurs de la tech mondiale, américains en tête, s’évertuent à cacher : l’intelligence artificielle n’a rien d’artificiel. Dans les coulisses, ce sont des centaines de milliers, voire des millions d’ouvriers répartis dans les pays du sud (Kenya, Colombie etc.), ceux qu’on appelle les « travailleurs du clic », qui étiquettent, annotent, modèrent des quantités astronomiques de données. Tout un travail indispensable à l’apprentissage des IA, et sans lequel ces technologies ne pourraient fonctionner.
Comme nous l’explique notre invité, le sociologue Antonio Casilli, ce mécanisme de « capitalisme de plateforme », au cœur de l’économie des GAFAM, participe à faire renaître les monstres d’un passé supposément révolu : colonialisme, racisme, et, avec l’exemple américain, fascisme. Techno-fascisme même, pourrait-on dire : la répression féroce et les expulsions de masse, dans une main, la promesse d’un futur où la technologie améliorera la vie de tous, dans l’autre. Entre les deux, des milliers de personnes broyées par l’administration et renvoyées dans leur pays d’origine. Là où ils pourront rejoindre la cohorte surexploitée et sous-payée des « petites mains de l’intelligence artificielle ». Et ainsi boucler la boucle.
En bref, l'épisode médiatique vient ouvrir une interrogation : les partis politiques peuvent-ils se permettre de considérer les technologies les plus récentes, et en particulier l'IA générative, comme neutres, alors que les travaux démontrant leur rôle dans la désinformation et les discours de haine s'accumulent ?
L'IA donne de fausses informations dans 60 % des cas
Et certains voudraient jeter des classes entières dans cette escroquerie ?
#IA : Anthropic supprime discrètement ses engagements pour la construction et la promotion d’IA « de confiance » pris sous la présidence Biden.
Parmi les engagements enlevés de ses pages dédiées à la transparence, ceux de partager des informations relatives à la gestion des risques dans l’industrie et vis-à-vis des gouvernements, ou encore de diffuser ses recherches sur les biais et la discrimination provoquée par les technologies d’IA.
Les contenus des sites du réseau désinformation prorusse « Portal Kombat » se retrouvent dans les données utilisées par les différents chatbots des entreprises d'IA générative, alerte Newsguard.
Et voilà donc des éléments prouvant que le #DataPoisoning tel que je le craignais est mis en oeuvre.
Quand c'est en plus par la Russie, on a vraiment à craindre de l'exploitation tout azimut de ces IA à toutes les sauces.
Avec le coût environnemental, financier, énergétique des IA actuelles et à venir, avec la pénurie de données à exploiter, avec l'empoisonnement des données par régurgitation d'IA, la durée de vie de l'IA n'est certainement pas énorme.
Dans quelle mesure l'adoption à marche forcée et extrêmement rapide de l'IA à tous les étages décisionnaires n'est qu'une méthode de prise de contrôle tant que l'effet "waouh" de l'IA est valable ?
Monopole, privatisation des données, lobbying, attention médiatique… Les Big Tech bénéficient d’un pouvoir si colossal que cela affecte la viabilité de nos démocraties. Face à ce constat, Lê Nguyen Hoang (derrière la chaîne YouTube Science4all), Jean-Lou Fourquet (derrière la chaîne YouTube ApresLaBiere, enseignant et journaliste) et Victor Fersing (fondateur du média vidéo La Fabrique Sociale) appellent à garder en tête les conflits d’intérêts au milieu desquels se trouvent beaucoup des figures emblématiques de la tech qui prennent la parole sur l’IA. Une tribune signée par 74 personnalités issues du monde académique, de l’entreprise et de membres de la société civile.
Next a identifié plus de 1 000 sites web d'information francophones faisant croire que leurs articles sont écrits par des journalistes ou des experts en la matière. Ils sont en fait générés et/ou traduits par des IA, sans le mentionner. Au moins une centaine reposent sur du plagiat, et près de 150 étaient mentionnés comme sources sur Wikipédia. Vu l'ampleur du problème, nous avons proposé au service de fact-checking CheckNews de Libération de nous aider à enquêter sur ce qui s'apparente à une véritable « pollution » numérique et médiatique. Premier volet de notre enquête.
Gros boulot de Next
France Travail conclut un partenariat avec Mistral AI sur l'intelligence artificielle générative
Des dispositifs déjà expérimentés depuis plusieurs mois doivent notamment permettre d'assister les conseillers dans leurs échanges avec les candidats à des offres d'emploi.
Les conseillers vont bientôt pouvoir tester en condition réelle côté allocataires...
L’année 2025 est déjà particulièrement féconde en nouvelles plus fracassantes les unes que les autres sur les financements, la course aux armements entre la Chine et les USA, le sommet intergalactique sur l’IA à Paris, et les supposés progrès vers l’intelligence des IAs génératives. C’est un sujet courant de conversations dans le contexte privé ou professionnel. En réponse aux personnes qui s’étonnent de ma position résolument anti ChatGPT j’ai fini par construire un argumentaire que je vais développer ici.
Le deuxième homme le plus riche du monde a un plan. Installer un nouveau régime de surveillance et de domination : avec des capteurs vidéo à bas coût, des milliers de drones, une masse infinie de données analysées constamment par une IA aux mains de l’État.
Granulaire, irrécusable, inévitable : « Nous enregistrons et signalons en permanence tout ce qui se passe, les citoyens devront par conséquent constamment faire preuve de diligence ».
Donald Trump lui a désormais alloué 500 milliards pour le mettre en œuvre avec Sam Altman et l’ingénierie financière de SoftBank.
Reconnaissance faciale en temps réel, interprétation des émotions, catégorisation des pensées religieuses, sexuelles et politiques… La France a activement milité pour que ces pratiques soient permises par « l’AI Act », le règlement européen sur l’intelligence artificielle, révèlent Disclose et Investigate Europe, documents confidentiels à l’appui.
Sans surprise, le gouvernement proto-fasciste français et nos meilleures industries de la surveillance et de l'armement ont tout fait pour que les briques légales européennes leur permette de mettre en place tout un arsenal d'outils de surveillance...
Sur les canaux Telegram des néonazis et des suprémacistes blancs, l’intelligence artificielle est utilisée pour générer des images de haine mais aussi de la désinformation.
Il suffit de modifier 0,001 % des données d'entrée pour rendre l'IA moins précise
Une nouvelle étude évalue les menaces en simulant une attaque par empoisonnement des données contre The Pile, un ensemble de données populaire utilisé pour le développement des LLM. Les chercheurs ont constaté que le remplacement de seulement 0,001 % des jetons d'entraînement par des informations médicales erronées donne lieu à des modèles nuisibles plus susceptibles de propager des erreurs médicales. Les résultats pourraient sensibiliser aux risques émergents des LLM formés sans discernement sur des données extraites du web, en particulier dans le domaine des soins de santé.
En fait, avec les LLM / IA, l'informatique aussi va basculer dans l'ère de la post-vérité
... ou comment l'IA risque de nous faire disparaître, juste en faisant ce qu'on lui demande, tout simplement.
Largement invisibilisé, le rôle des travailleurs du clic est pourtant essentiel dans l’élaboration des modèles d’IA générative. De retour d’un voyage au Kenya, l’artiste Quentin Sombsthay partage son expertise du sujet et les témoignages recueillis auprès des travailleurs de l’entreprise Sama, à Nairobi. Un univers cru, loin des paillettes des entreprises de la Silicon Valley.
Si vous aimez le storytelling de bas étage et les contenus qui visent à être inspirant alors qu'ils sont surtout ridicules, votre réseau social de prédilection est sans doute LinkedIn, plateforme sur laquelle les amoureux de la «start-up nation» n'hésitent jamais à se faire mousser. Et comme si cela ne pouvait pas être pire, la magazine américain Wired révèle que, selon une étude, les publications y sont de plus en plus souvent générées par l'intelligence artificielle (IA).
Après deux ans à diversifier ses champs d’action, La Quadrature du Net s’attaque désormais à un nouveau front : la lutte contre le déferlement de l’intelligence artificielle (IA) dans tous les pans de la société. Pour continuer à faire vivre la critique d’une politique numérique autoritaire et écocide, La Quadrature a plus que jamais besoin de votre soutien en 2025.