Gargant'IA

Les étudiant·es accusé·es d’avoir utilisé l’IA contestent parfois leur sanction au tribunal. L’analyse de onze affaires montre que les juges n’ont pas, eux non plus, de moyen infaillible pour déterminer si un texte a été écrit par un humain ou par une machine. 📷 Mr Lair, juge de paix, en 1913. Agence Roll/BnF

Les administré·es utilisent de plus en plus l’IA dans leur correspondance avec les administrations, qui ne peuvent pas suivre le rythme. Cette crise va bien au-delà des services du courrier et remet en cause un des fondements de l’État moderne. 🖼️ Giovanni Benedetto Castiglione, La Caravane (1635).

Les algorithmes des réseaux sociaux mettent en avant les émotions fortes, y compris la tristesse. Des petits escrocs génèrent des vidéos à la volée pour apitoyer les internautes et leur refourguer de la camelote.

J’ai réalisé une série d’expériences qui montrent qu’un modèle d’IA largement utilisé dans la vidéosurveillance a de sérieux problèmes avec les femmes, les personnes racisées… et les barbus.

Les barons de l’IA correspondent en de nombreux points aux charlatans du 18e siècle. Avec une différence de taille : cette fois, ils ont le soutien des pouvoirs publics. 🖼️ L’Escamoteur, de Jérôme Bosch.

Depuis quelques mois, le géant étasunien de l’exploitation des bases de données n’a plus la cote. Mais les entreprises qui lui succèdent continuent le projet de Palantir : créer un « système d’exploitation » pour l’État, opaque et anti-démocratique. 📷 Une salle de contrôle de la NASA en 1955.

C’est l’une des peurs les plus répandues, et à juste titre : l’IA pourrait nous prendre notre travail. Mais poser le problème en ces termes, c’est déjà faire un cadeau aux barons de Big Tech. La réalité est à la fois moins alarmiste, et plus grave. 📷 Une ouvrière de la Douglas Aircraft Company (1942).

Depuis une dizaine d’années, la peur des robots-tueurs agite le débat public. Sans nier la dangerosité des drones armés, le potentiel le plus meurtrier de l’IA est ailleurs. 📷 Sculpture de Hildegard Huza photographiée par Denkmal Hamburg

Les administrations européennes commencent tout juste à développer des tests rigoureux pour vérifier que les modèles de langage sont adaptés à leurs besoins, et l’Estonie montre la voie à suivre. Mais l’étalonnage, seul, ne permet pas toujours le meilleur choix. 📷 Eesti Vabariigi lipuvärvides pesu nööril kuivamas, ERM Fk 2919:48, Eesti Rahva Muuseum, http://www.muis.ee/en_GB/museaalview/905439

Les assureurs ne savent pas comment mesurer les risques inhérents aux systèmes d’IA. Les régulateurs non plus. Pour les assuré·es, la couverture risque de se réduire considérablement. Toutes les références sur la page: https://www.gargantia.eu/personne-ne-sait-comment-assurer-lia/ 🖼️ Deborah Lupton / https://betterimagesofai.org / https://creativecommons.org/licenses/by/4.0/

J’ai demandé à quatre modèles d’IA où habitaient les Français les plus compétents. Leurs réponses concordent et renforcent les clichés les plus éculés.

Les systèmes d’IA s’installent petit à petit dans l’institution judiciaire. Pourtant, ces outils sont incapables de juger. Leur déploiement marque, par certains côtés, un retour à la justice d’Ancien Régime. 🖼️ Saint Louis rendant la justice sous le chêne de Vincennes, par Georges Rouget (1826)

Un appel d’offre de grande ampleur a été lancé pour permettre à de nombreuses institutions de Provence-Alpes-Côtes-d’Azur d’utiliser des services d’IA. D’autres régions montrent qu’une autre approche est possible. 📷 Emma Hong / Unsplash

Des systèmes d’IA permettent à des personnes de retrouver la vue, la voix ou même la capacité à marcher. Paradoxalement, ces avancées risquent d’accentuer l’injonction faites aux personnes en situation de handicap à s’adapter à l’environnement. Toutes les sources et références sont à retrouver sur le site de Gargant’IA . Photo de couverture : CC-BY Disabled And Here

Les grands modèles de langage ne comprennent souvent pas les mots communs en Suisse romande comme « nonante » ou « natel ». Cette ignorance modifie considérablement la manière dont l’IA traite les Suisses. Image de couverture: BnF

On parle d’Intelligence Artificielle mais personne ne peut en dessiner les contours. Définir l’IA n’est pas facile – et pas forcément pour les raisons que l’on imagine. Image: Daniela Zampieri / https://betterimagesofai.org / https://creativecommons.org/licenses/by/4.0/

L’IA a pris des proportions gargantuesques dans nos sociétés. Les investissements se chiffrent en centaines de milliards, on parle de construire des centrales nucléaires pour alimenter les data centers et de remplacer des professions entières par des robots. Ces évolutions donnent le vertige. Gargant’IA prend le temps de les remettre en perspective, avec rigueur et humour. Drones tueurs, robots qu...