Alors là, Amazon vient de se prendre une sacrée claque. Leur assistant IA pour coder, Amazon Q, s’est fait pirater et a failli transformer des milliers d’ordinateurs en grille-pain. Le pire c’est que le hacker l’a fait exprès pour leur donner une leçon sur la sécurité.
Imaginez un peu la scène… vous êtes tranquillement en train de coder avec votre extension VS Code préférée, celle qui vous aide à pondre du code plus vite grâce à l’intelligence artificielle. Sauf que là, sans le savoir, vous venez de télécharger une version qui contient littéralement une instruction pour tout effacer sur votre machine. C’est sympaaaaa non ?
Mélangez de l'IA et une sécurité défaillante pour obtenir une belle catastrophe !
"Les puces d'IA américaines permettront d'alimenter nos giga-usines d'IA et aideront les États-Unis à maintenir leur avance technologique."
Ursula Von Der Leyen, Présidente de la Commission Européenne
28 juillet 2025
RIP la souveraineté technologique. Mais au moins, on a un argument de plus pour ne pas utiliser l'IA
Malgré les promesses de certains enthousiastes, l’IA n’est toujours pas prête pour remplacer l’humain. Elle peut même entrainer de grave problèmes dans une entreprise, comme l’a vécu Jason Lemkin, un utilisateur de l’IA Replit.
"oups, j'ai glissé, chef". Les IA d'ici peu...
Meta AI a permis à n’importe qui de lire n’importe quel prompt et réponse
La fonctionnalité permettant aux utilisateurs de Meta AI d'éditer leurs prompts pour regénérer un texte ou une image retournait les prompts et réponses d'autres utilisateurs en changeant un simple identifiant.
Meta ne vérifiait pas l'identifiant de l'utilisateur avant de lui renvoyer les informations.
Privacy by design. Ça doit les faire marrer ce concept, chez Meta
Les boîtes qui vendent l'IA prétendent que leur produit va vous faire gagner énormément de temps en développement.
Une étude scientifique a été réalisée.
Conclusion de cette étude : Les développeurs qui utilisent des IA mettent 19% de temps en PLUS à accomplir les tâches.Effet psychologique intéressant : Les développeurs utilisant des IA (donc 19% plus lents) étaient persuadés d'être 20% plus rapides que les autres.
Je ne sais pas ce qu'Adobe fait de ces informations. Je ne sais pas ce qu'ils stockent, ni pendant combien de temps. Je ne sais pas dans quel(s) pays les données sont stockées. Je ne sais pas quels LLM sont formés avec ces données. Et je n'ai pas besoin de le savoir. Ce que j'ai besoin de savoir, c'est qu'ils n'utiliseront pas l'option d'acceptation par défaut comme une excuse légale pour mettre mes informations sur écoute.
Adobe a donc décidé de récupérer, par défaut, tous vos documents PDF pour pouvoir vous proposer des résumés générés par IA.
J'espère donc que vos PDF ne contiennent pas de données personnelles, confidentielles voire secrètes ?
Chez Commown, nous avons pris la décision de boycotter les IA génératives. Cet article explique les raisons qui motivent ce choix, en phase avec les valeurs que porte notre coopérative. Nous y développons notamment un prisme techno-critique sur l’évaluation de nouvelles technologies, et plus globalement les raisons pour lesquelles nous sommes contre le projet IA.
<3
Si des études scientifiques s’y attellent, les effets de l’explosion du secteur de l’intelligence artificielle sur l’environnement restent très peu discutés dans l’espace public, selon un rapport de Sopra Steria.
Je me suis battu récemment avec Gemini pour lui faire admettre une erreur. Utilisé en renfort de la rédaction d’une actualité, l’assistant de Google m’a assuré qu’une information existait, preuve à l’appui. Mais ni l’information ni la preuve n’étaient réelles.
TL;DR :
Ce que je retire de cette expérience ? Que les IA, même les plus puissantes, hallucinent bel et bien. Et ces réponses inventées sont d’autant plus dangereuses qu’elles sont assénées avec un aplomb qui pourrait convaincre. En l’état, j’entrevois le gain de temps pour certaines tâches, mais la nécessité de contrôler l’exactitude de chaque réponse me parait contre-productive.
Naaan, qui l'eût cru ?
“Viens faire de l’IA, au début ça sera un bain de sang et ensuite ça sera luxe, calme et volupté” affirment respectivement les deux frères ennemis de l’IA, Dario Amodei (CEO d’Anthropic) et Sam Altman (CEO d’OpenAI).
Je me suis demandé comment c’était possible de tenir de tels propos tout en cherchant à pousser le client à acheter un produit ou un concept comme l’IA (générative dans un premier temps puis générale ensuite). J’ai mis un peu de temps, et j’ai fini par comprendre.
Maintenant que OpenAI a bien grossi en moyens techniques, ils vont pouvoir utiliser leur argent, leurs moyens humains et techniques et leur expertise pour développer des drones tueurs autonomes pour permettre à l'armée américaine de contribuer au prochain génocide du siècle.
Le tout en détruisant la planète et en avalant tout l'électricité et l'eau potable disponible évidemment
L'utilisation intensive d'outils d' intelligence artificielle IA AI comme ChatGPT pourrait bien affaiblir nos capacités cognitives. Une étude récente du MIT Media Lab révèle une baisse significative de l' activité cérébrale chez les utilisateurs réguliers
L'objectif de cette conférence est, tout d'abord, d'apporter une réflexion sur ce que l'on appelle intelligence artificielle et l'idéologie qui se cache derrière ; ensuite, de montrer en quoi la philosophie du libre et le féminisme peuvent nous guider dans les choix techniques et politiques à venir en ce domaine. Le tout en revisitant l'histoire des techniques et imaginaires liés à l'IA sous un angle féministe.
Croyez-le ou non, TOUT ce que vous demandez à Meta AI dans Instagram, Facebook et WhatsApp se retrouve en clair sur un fil accessible de tout le monde sur internet. Un problème énorme pour la sécurité et la vie privée des utilisateurs selon un chercheur en sécurité.
L'intelligence artificielle promettait une révolution du monde du travail. Mais selon une étude menée sur 25.000 employés, les résultats sont bien en deçà des attentes. Pire, la technologie ne semble ni rentable ni libératrice.
Une sélection de ressources critiques autour de l'IA, surtout générative. Avec des résumés.
Meta, la maison mère, va utiliser les données publiques de tous les utilisateurs européens majeurs pour entraîner ses systèmes d'intelligence artificielle. Les internautes ont jusqu'au 27 mai pour s'y opposer.
Et pour faire le nécessaire, voici le tuto vidéo : https://youtube.com/shorts/CN8u4_sHdCw?si=3g6xUNhZQ5bLQLj-
De plus en plus d’internautes ont le réflexe de se tourner vers l’IA pour trancher un débat sur les réseaux sociaux. Mais ces modèles, qui n’ont pas été conçus pour ça, peuvent inventer des faits de toutes pièces. Même Perplexity, présenté comme plus fiable, peut être victime «d’hallucinations».
L’usage de l’IA n’est jamais neutre : il peut servir la mégamachine, mais aussi l’émancipation, la compréhension et la construction de soi. Partage d’un parcours critique, entre urgence de comprendre, lenteur retrouvée et désir d’autonomie. #IA #Mégamachine #Apprentissage