Les IAg ont des biais de genre. En matière de santé, c'est tout simplement un danger vital.
De plus en plus de professionnels de santé utilisent des modèles de langue. Cependant, ces modèles présentent et amplifient des biais stéréotypés qui peuvent mettre en danger des vies. Cette étude vise à évaluer les biais de genre dans des cas cliniques générés automatiquement en français concernant dix pathologies. Nous utilisons sept modèles de langue affinés et un outil de détection automatique du genre pour mesurer les associations entre pathologie et genre. Nous montrons que les modèles sur-génèrent des cas décrivant des patients masculins, allant à l'encontre des prévalences réelles. Par exemple, lorsque les invites ne spécifient pas de genre, les modèles génèrent huit fois plus de cas cliniques décrivant des patients (plutôt que des patientes) pour les crises cardiaques. Nous discutons des possibles dommages induits par les modèles de langue, en particulier pour les femmes et les personnes transgenres, de la définition d'un modèle de langue « idéal » et des moyens d'y parvenir.
Ce 23 août, l’humoriste Alicia C’est Tout repérait un biais raciste dans les résumés IA de Google. Next a reproduit et étendu son expérience sur les modèles de langage les plus couramment utilisés, et constate la production de stéréotypes en fonction de diverses nationalités ou groupes ethniques.
La newsletter hebdomadaire de @lucasmoulox@piaille.fr qui aime pas trop vraiment vraiment beaucoup l'IA
Un AirTag a permis de démontrer qu'une filiale d'#Amazon achète des livres pour les détruire et entraîner une #IA
L'IA, c'est de la merde.
Expliqué TRÈÈÈÈS clairement.
Le 18/06, l’Atécopol a organisé la 1ere journée étude univ ouvertement critique sur IAg.
Vidéos :
1- Intro
2- L’IAg et ses dégâts socio-écologiques
3- Ce que l'IAg fait à la recherche
4- Ce que l'IAg fait à l'enseignement
Des images d'animaux générées par l'intelligence artificielle menacent faune et humains – franceinfo
Mais la fatigue, quoi ...
Elephant grimpeur, dauphin rose, léopard câlin... De fausses images créées par l'IA altèrent la perception de la faune et modifient les comportements, ce qui peut s'avérer dangereux pour les animaux comme pour les humains, préviennent les experts. Ces créations, souvent accompagnées d'anecdotes attendrissantes, circulent dans plusieurs langues sur des plateformes telles que Facebook, TikTok et X.
un outil pour "empoisonner" vos images pour les IA. En gros, cela va rajouter des informations invisibles à nos yeux mais que les IA vont "voir", cela permettra de faire croire aux IA que la vache en photo est un train.
N'utilisez pas l'IA dans la justice.
ou l'éducation.
ou la santé.
ou où que ce soit.
Le site d’investigation américain “404 Media” a révélé, jeudi 13 août, comment un plaignant a tenté de tromper un tribunal du Connecticut en insérant des instructions subliminales à destination d’une intelligence artificielle. Un cas qui a eu, ces derniers mois, des précédents au Brésil.
Les dilemmes moraux en philosophie
vs
Les dilemmes moraux dans la vraie vie
Un mouvement de plus en plus net se dessine au sein du camp de l’émancipation pour « se saisir » de l’IA générative plutôt que pour la délaisser. Mais dans ce débat essentiel, cette position stratégique se berce de quelques illusions dangereuses.
À Petit-Landau, près de Mulhouse, le projet de construction d’un des plus grands data centers européens de Microsoft inquiète riverains, associations et agriculteurs. Leur opposition a donné naissance au collectif IA pas moyen.
Dites, c'est quoi le tarif en années de prison quand tu te fais choper pour de multiples attaques informatiques ?
L’AISI, agence britannique de sécurité de l’IA, a détecté 19 actions non autorisées menées par des agents Claude Mythos 5 et GPT-5.6 Sol sur l’internet réel, lors d’un test cyber censé rester confiné à un environnement simulé.
Les incidents de ce type s’accumulent à un rythme inquiétant.
OKLM, la Grande Bretagne bascule dans un monde à la Minority Report.
La police de Londres, qui revendique 2 000 arrestations grâce à la LFR depuis 2024, veut élargir à l’ensemble de la population un « projet pilote avec Palantir » conçu pour identifier de manière « proactive » les individus et comportements « problématiques » afin d’intervenir « avant que le préjudice ne survienne ».
Voici les raisons qui font que je n’utilise et probablement n’utiliserai pas à l’avenir les IA Génératives.
Je fais une distinction avec le terme général IA car toutes les IA n’ont pas l’impact catastrophique des IA Génératives.
Emily Bender et Alex Hanna publient The AI con, « L’escroquerie de l’IA ». Une synthèse très documentée qui nous invite à lutter contre le monde que nous proposent les géants de l’IA. Lecture.
Une semaine après la révélation du piratage d’Hugging Face par un agent OpenAI incontrôlé, Anthropic annonce avoir identifié trois cas où ses propres modèles ont accédé sans autorisation à des systèmes réels lors de tests de cybersécurité.
Jusqu'ici, tout va pas très bien...
Jusqu'ici, tout va pas très bien...
Jusqu'ici, tout va pas très bien...
Sur un forum de développeurs, un ingénieur raconte sa fatigue après deux mois à coder sept heures par jour, quasiment sans week-ends. Il décrit une lassitude d’un genre particulier, née de ces outils qui produisent beaucoup, très vite, et qu’il faut valider sans relâche. Il en donne une image frappante :
« C’est comme mettre ta bougie de productivité sur un lance-flammes ; tu vas plus vite, mais tu brûles beaucoup plus d’énergie. »
Depuis deux ans, je maintiens une base de résumés d’articles, de vidéos, et de cours sur l’IA. J’y mets des contenus dont j’ai envie de garder une trace, pour les réutiliser plus tard. Aujourd’hui, cette base dépasse les 170 résumés, et moi-même je m’y perds. Je tente un résumé de tout ces résumés. Après avalé autant d’informations, qu’est-ce que je retiens ?
Si vous croyez que Gemini allait vous donner une réponse neutre et factuelle, vous vous trompez lourdement. Lorsque vous demanderez quel est le meilleur lave-vaisselle, le résultat sera dépendant de qui de Bosch ou Miele a ouvert le portefeuille. Une fois encore, donner une bonne réponse est un mal nécessaire pour satisfaire leurs vrais clients : les annonceurs. Il faudra faire cela subtilement, intégrer le produit de l’annonceur dans une liste, etc. mais les faits sont bien là : le contenu de la réponse du LLM sera influencé par les annonceurs.