En bref, l'épisode médiatique vient ouvrir une interrogation : les partis politiques peuvent-ils se permettre de considérer les technologies les plus récentes, et en particulier l'IA générative, comme neutres, alors que les travaux démontrant leur rôle dans la désinformation et les discours de haine s'accumulent ?
L'IA donne de fausses informations dans 60 % des cas
Et certains voudraient jeter des classes entières dans cette escroquerie ?
#IA : Anthropic supprime discrètement ses engagements pour la construction et la promotion d’IA « de confiance » pris sous la présidence Biden.
Parmi les engagements enlevés de ses pages dédiées à la transparence, ceux de partager des informations relatives à la gestion des risques dans l’industrie et vis-à-vis des gouvernements, ou encore de diffuser ses recherches sur les biais et la discrimination provoquée par les technologies d’IA.
Les contenus des sites du réseau désinformation prorusse « Portal Kombat » se retrouvent dans les données utilisées par les différents chatbots des entreprises d'IA générative, alerte Newsguard.
Et voilà donc des éléments prouvant que le #DataPoisoning tel que je le craignais est mis en oeuvre.
Quand c'est en plus par la Russie, on a vraiment à craindre de l'exploitation tout azimut de ces IA à toutes les sauces.
Avec le coût environnemental, financier, énergétique des IA actuelles et à venir, avec la pénurie de données à exploiter, avec l'empoisonnement des données par régurgitation d'IA, la durée de vie de l'IA n'est certainement pas énorme.
Dans quelle mesure l'adoption à marche forcée et extrêmement rapide de l'IA à tous les étages décisionnaires n'est qu'une méthode de prise de contrôle tant que l'effet "waouh" de l'IA est valable ?
Monopole, privatisation des données, lobbying, attention médiatique… Les Big Tech bénéficient d’un pouvoir si colossal que cela affecte la viabilité de nos démocraties. Face à ce constat, Lê Nguyen Hoang (derrière la chaîne YouTube Science4all), Jean-Lou Fourquet (derrière la chaîne YouTube ApresLaBiere, enseignant et journaliste) et Victor Fersing (fondateur du média vidéo La Fabrique Sociale) appellent à garder en tête les conflits d’intérêts au milieu desquels se trouvent beaucoup des figures emblématiques de la tech qui prennent la parole sur l’IA. Une tribune signée par 74 personnalités issues du monde académique, de l’entreprise et de membres de la société civile.
Next a identifié plus de 1 000 sites web d'information francophones faisant croire que leurs articles sont écrits par des journalistes ou des experts en la matière. Ils sont en fait générés et/ou traduits par des IA, sans le mentionner. Au moins une centaine reposent sur du plagiat, et près de 150 étaient mentionnés comme sources sur Wikipédia. Vu l'ampleur du problème, nous avons proposé au service de fact-checking CheckNews de Libération de nous aider à enquêter sur ce qui s'apparente à une véritable « pollution » numérique et médiatique. Premier volet de notre enquête.
Gros boulot de Next
France Travail conclut un partenariat avec Mistral AI sur l'intelligence artificielle générative
Des dispositifs déjà expérimentés depuis plusieurs mois doivent notamment permettre d'assister les conseillers dans leurs échanges avec les candidats à des offres d'emploi.
Les conseillers vont bientôt pouvoir tester en condition réelle côté allocataires...
L’année 2025 est déjà particulièrement féconde en nouvelles plus fracassantes les unes que les autres sur les financements, la course aux armements entre la Chine et les USA, le sommet intergalactique sur l’IA à Paris, et les supposés progrès vers l’intelligence des IAs génératives. C’est un sujet courant de conversations dans le contexte privé ou professionnel. En réponse aux personnes qui s’étonnent de ma position résolument anti ChatGPT j’ai fini par construire un argumentaire que je vais développer ici.
Le deuxième homme le plus riche du monde a un plan. Installer un nouveau régime de surveillance et de domination : avec des capteurs vidéo à bas coût, des milliers de drones, une masse infinie de données analysées constamment par une IA aux mains de l’État.
Granulaire, irrécusable, inévitable : « Nous enregistrons et signalons en permanence tout ce qui se passe, les citoyens devront par conséquent constamment faire preuve de diligence ».
Donald Trump lui a désormais alloué 500 milliards pour le mettre en œuvre avec Sam Altman et l’ingénierie financière de SoftBank.
Reconnaissance faciale en temps réel, interprétation des émotions, catégorisation des pensées religieuses, sexuelles et politiques… La France a activement milité pour que ces pratiques soient permises par « l’AI Act », le règlement européen sur l’intelligence artificielle, révèlent Disclose et Investigate Europe, documents confidentiels à l’appui.
Sans surprise, le gouvernement proto-fasciste français et nos meilleures industries de la surveillance et de l'armement ont tout fait pour que les briques légales européennes leur permette de mettre en place tout un arsenal d'outils de surveillance...
Sur les canaux Telegram des néonazis et des suprémacistes blancs, l’intelligence artificielle est utilisée pour générer des images de haine mais aussi de la désinformation.
Il suffit de modifier 0,001 % des données d'entrée pour rendre l'IA moins précise
Une nouvelle étude évalue les menaces en simulant une attaque par empoisonnement des données contre The Pile, un ensemble de données populaire utilisé pour le développement des LLM. Les chercheurs ont constaté que le remplacement de seulement 0,001 % des jetons d'entraînement par des informations médicales erronées donne lieu à des modèles nuisibles plus susceptibles de propager des erreurs médicales. Les résultats pourraient sensibiliser aux risques émergents des LLM formés sans discernement sur des données extraites du web, en particulier dans le domaine des soins de santé.
En fait, avec les LLM / IA, l'informatique aussi va basculer dans l'ère de la post-vérité
... ou comment l'IA risque de nous faire disparaître, juste en faisant ce qu'on lui demande, tout simplement.
Largement invisibilisé, le rôle des travailleurs du clic est pourtant essentiel dans l’élaboration des modèles d’IA générative. De retour d’un voyage au Kenya, l’artiste Quentin Sombsthay partage son expertise du sujet et les témoignages recueillis auprès des travailleurs de l’entreprise Sama, à Nairobi. Un univers cru, loin des paillettes des entreprises de la Silicon Valley.
Si vous aimez le storytelling de bas étage et les contenus qui visent à être inspirant alors qu'ils sont surtout ridicules, votre réseau social de prédilection est sans doute LinkedIn, plateforme sur laquelle les amoureux de la «start-up nation» n'hésitent jamais à se faire mousser. Et comme si cela ne pouvait pas être pire, la magazine américain Wired révèle que, selon une étude, les publications y sont de plus en plus souvent générées par l'intelligence artificielle (IA).
Après deux ans à diversifier ses champs d’action, La Quadrature du Net s’attaque désormais à un nouveau front : la lutte contre le déferlement de l’intelligence artificielle (IA) dans tous les pans de la société. Pour continuer à faire vivre la critique d’une politique numérique autoritaire et écocide, La Quadrature a plus que jamais besoin de votre soutien en 2025.
OKLM, Microsoft récupère maintenant toutes vos données issues de Office365 (Word, Excel, Outlook, PowerPoint) pour entraîner leurs modèles d'IA.
La fonctionnalité est apparu sans informations et activée par défaut (du Microsoft, quoi...)
Je vous donnerai bien la méthode pour désactiver ça, mais il serait peut-être temps de passer à LibreOffice, non ?
Dites adieu au moteur de recherche que vous utilisez quotidiennement : en 2024, les IA de Google vont vous résumer le Web, que vous le vouliez ou non. Une automutilation technique qui reflète le pouvoir absolu du monopole Google.
Google va casser internet (enfin, encore plus qu'avant quoi...)
