Vous souhaitez vous familiariser avec la cartographie des impacts de l'intelligence artificielle générative ?
Voici une synthèse de la conférence « IA un problème ! » qui s'est tenue lors de la Journée de l'écoconception numérique organisée par les Designers Éthiques (lien externe) le 6 février 2025.
Intervenant·es : Anne Faubry (lien externe), Anaëlle Beignon (lien externe) et Raphaël Yharrassarry (lien externe)
Le sujet des impacts sociaux de l'IA n'est pas encore suffisamment traité. Afin d'approfondir cette question, trois grandes problématiques ont été identifiées :
Sur le plan économique :
Sur le plan social :
Sur le plan politique :
Sur le plan de l'information :
Sur le plan individuel :
Aujourd'hui, on parle principalement des impacts environnementaux de l'IA. De ce point de vue, l'enjeu est essentiellement son hypercroissance.
En investissement :
En puissance :
En matériel :
En énergie :
Cette hypercroissance de l'IA génère inévitablement une hypercroissance de ses impacts.
En eau :
En CO₂ :
En déchets :
Tout cela pose de sérieux risques sur l'habitabilité du monde actuel.
En investissement :
En énergie :
En eau :
En CO₂ :
En déchets :
Pour finir, il existe un risque majeur sur le plan environnemental : l'effet rebond. Dès que l'on a un gain en performance on a tendance à consommer davantage, ce qui vient généralement effacer le bénéfice généré.
Exemples d'effets rebond avec augmentation de la consommation :
Comment peut-on donc espérer atteindre 2 t de CO₂ par habitant en 2050 si le numérique à lui seul atteint 1,5 t de CO₂ par habitant ? Cela dans un contexte d'accélération du dépassement des limites planétaires particulièrement préoccupant.
Analyser les externalités de certains cas d'usage pertinents et parvenir à un bilan positif — et à une IA dite « acceptable » ou « responsable » — est illusoire, car il y aura toujours un arbitrage éthique à faire entre différents indicateurs. Par exemple :
L'IA doit en effet s'inclure dans des réflexions globales sur le numérique.
Au final, il revient de systématiquement questionner la finalité de l'IA :
L'IA a le 1ᵉʳ rôle dans nos interfaces via :
L'IA est présentée comme « magique », de par :
L'IA devient un « assistant », et apparaît comme :
Jusqu'à nous en défaire, grâce aux « boîtes à outils » permettant prétendument l'acquisition de compétences et l'employabilité sur un marché en tension.
On assiste à un véritable forcing de l'IA sur les interfaces.
L'enjeu est de nous faire adopter ces technologies et de nous inciter à aller vers des modèles d'utilisation payante (capture d'utilisateur·rices).
Pour cela, d'importants moyens sont déployés, notamment via le design d'interface.
En consultant des études réalisées sur la mise en œuvre de l'intelligence artificielle sur le terrain (loin des fantasmes), on constate d'importants impacts psycho-sociaux.
D'après une étude de Tamari Gamkrelidze1 menée dans un cabinet de radiologie, deux applications de l'IA étaient faites :
Une 1ère observation :
Impacts positifs :
Risques identifiés :
Impacts positifs :
Risques identifiés :
L'IA est ici utilisée pour remplacer des tâches fastidieuses mais relativement vérifiables. Les pratiques de remplacement sont proches de celles amenées dans les années 80 par la robotisation :
Le consentement via les interfaces a été abordé plus haut. Nous nous intéresserons ici au consentement par le travail. Imaginez donc :
2 Liste de fonctionnalités prioritaires destinée à l'équipe de développement.
« Albert » est une IA développée par les services publics3 qui est utilisée dans l'Académie de Lyon pour :
On imagine alors facilement :
Finalement, que préférons-nous :
Quand c'est le choix de la productivité qui est fait, on peut légitimement douter du maintien des équipes. Les traducteur·rices sont par exemple aujourd'hui largement remplacé·es par les IA.
« Foncier innovant » est le dispositif mis en place par l'IGN4 et les impôts afin de détecter les piscines, et ainsi pouvoir taxer les personnes ne les ayant pas déclarées5.
Le fait est que le dispositif est dysfonctionnel. Il aura par ailleurs eu pour conséquence :
Tout en ayant coûté plusieurs dizaines de milliers d'euros.
À cela s'ajoute un impact psycho-social :
4 Institut national de l'information géographique et forestière
5 Quand l'intelligence artificielle remplace les agents des impôts (lien externe), basta!
Si l'on s'intéresse aux métiers du numérique, on peut se poser la question de savoir ce que l'on préfère :
En sachant qu'en développement web, le gain de productivité est d'environ 10%.
Qu'est-ce qui fait la différence entre un·e novice et un·e expert·e ? Comment gagne-t-on de l'expertise au cours de notre vie ou de notre travail ?
Un·e expert·e se distingue d'un·e novice sur :
L'intelligence artificielle, elle, n'a pas de connaissances.
Ce qui nous distingue donc de l'IA, c'est notre expertise. Nous pouvons l'acquérir grâce à :
Finalement, que préférons-nous :
Derrière les IA, il y a un réseau de neurones.
Des données sont rentrées dans le neurone, puis celui-ci pondère ces données afin d'offrir la sortie la plus probable. Des milliards de neurones vont ainsi aller vers le plus probable. C'est la base de tous les modèles d'intelligence artificielle.
Si l'on souhaite donc rester dans la médiane (ou médiocrité), l'IA va bien fonctionner. Elle a par ailleurs une forte tendance à diffuser des stéréotypes et des biais. Ce qui va renforcer ce caractère médiocre.
En somme : l'IA ne va pas aider à générer des idées originales. Elle va juste inciter à générer des idées médiocres.
Compte tenu de tout ce qui a été mis en avant précédemment, il est donc fortement conseillé de limiter les usages de l'IA :
Pour un futur désirable, ne pas oublier que :
Pour un choix démocratique autour de l'IA, nous pouvons :
Ressources citées pendant la conférence :
Informations
Crédits
Transcription