L'IA, un outil dangereux à ne pas laisser entre toutes les mains ?

L’histoire de Soraya et de l’IA

Le soir venu, dans son appartement, Soraya s’installa à son bureau, le sourire aux lèvres. Elle avait passé le reste de la journée avec Julie, la product owner (peu importe ce que ce nom voulait dire), et Eran. Le travail lui avait plu. Elle s’était enfin sentie utile. Et puis surtout après des heures de discussions, elle commençait à comprendre la construction d’une IA.

Mains détendues au-dessus de son clavier, elle s’apprêtait à tester de nouveau l’application de Nico quand son portable posé à côté d’elle vibra. Soraya saisit son téléphone et remarqua au même moment la notification sur sa montre connectée. Julie Garcia, product owner, lui envoyait une demande de contact sur LinkedIn. Soraya accepta sans y penser, puis fut prise d’un tremblement. Que dirait Julie du parcours à moitié vide et discontinu de la pauvre bibliothécaire ? Soraya haussa les épaules. Après tout, Julie avait avoué avoir annoté les IA dans une période difficile de sa vie.

Soraya se remit sur le générateur d’histoires.

« Voulez-vous poursuivre le récit ? », demandait-il.

Soraya claqua la langue dans un bruit malicieux. Quelle ligne de code avait produit cette phrase ? Elle...

L’IA, un instrument de contrôle ?

La surveillance étatique

Soraya s’éprend finalement pour le nouveau monde qu’elle découvre au point d’envisager une reconversion professionnelle. Julie la met cependant en garde. Elle avait déjà soulevé la question du caractère « artificielle » de l’IA en s’en moquant. Même si elle n’est pas sans impact économique, l’IA ne va pas éradiquer le travail. Cela signifie-t-il que cette technologie ne présente aucun autre danger ? Il ne s’agit pas dans ce chapitre d’accuser l’outil en soi, mais de montrer ce qu’il peut permettre d’accomplir et dans bien des cas accomplit déjà. On a coutume de dire qu’un couteau peut couper une tomate comme une gorge et c’est vrai. Il en est de même pour l’IA. Ce genre de propos est cependant à nuancer. Tout dispositif ne peut pas être détourné de la même manière. Il est plus facile de tuer avec un couteau qu’avec une balle en mousse.

L’IA peut être un instrument de contrôle. L’association de la reconnaissance faciale et la massification de caméras pourraient nous plonger dans un monde dystopique où tous les mouvements des citoyens seraient contrôlés. Il suffirait pour un État de définir le comportement attendu pour l’inciter. Ce dernier serait récompensé et ainsi promu. C’est le cas dont on a beaucoup entendu parlé...

L’IA, une menace pour les discours démocratiques ?

Les dangers des moteurs de recommandation

Si l’IA rationalise, pourrait-elle être un danger pour les idées démocratiques ? Reprenons le cas de la recommandation pour souligner tout son aspect potentiellement nocif. Le terme « potentiellement » est important. Tous les moteurs de recommandation ne virent pas au cauchemar. Cela dépend du soin apporté par l’équipe éditoriale quand elle existe.

Ainsi, ce qui remonte dans les contenus proposés à une personne est censé correspondre à ses goûts. Pourtant, les systèmes mettent en avant des propos clivants ou qui suscitent en nous un effet de catharsis en excitant nos pulsions sans nous apprendre grand-chose. Nous avons tous le droit de consommer des vidéos ou lectures pour le simple divertissement. Le problème c’est qu’on occulte tous les énoncés nuancés ou informationnels. On passe alors plus de temps à discuter de tel ou tel sujet qui nous anime plutôt que du dérèglement climatique. Le sensationnalisme est amplifié. Les moteurs de recommandation n’ont pas réinventé notre passion pour le goût du drame. Mais ils décuplent cette situation. Dans plus d’un cas, notons que si la recommandation plaît tant aux entreprises, c’est parce qu’elle...

Des régulations pour maîtriser l’IA

Ceux et celles qui craignent trop de régulation

Si on reprend l’Histoire, en réalité, les technologies ont souvent apporté des modifications législatives. Le Code du travail français a surgi dans un contexte de révolution industrielle avec l’émergence de la classe ouvrière. Le RGPD accompagne vingt après l’avènement du Web et l’explosion des données. L’IA suit le même chemin, mais rencontre aussi des réticences.

L’une des premières difficultés tient aux divergences d’opinions sur le sujet. Luc Julia, co-créateur de Siri, ne souhaite pas par exemple que la législation en matière d’IA soit trop forte. Et pour cause, si on impose des règles coercitives, on freinera l’innovation. Nous sommes aux prémices de cette technologie. Si on prend trop et trop vite des mesures restrictives, on pourrait ne jamais voir toute l’étendue possible de ce que l’IA a dans le ventre.

Du point de vue européen, on pourrait aussi empêcher l’éclosion de jeunes pousses. Les IA génératives américaines sont bien implantées. Elles ont une longueur d’avance. Si on contraint le marché de l’IA, elles auront plus de facilité à s’adapter qu’une toute nouvelle entreprise qui se lance.

Il y a donc le camp de ceux et celles qui ne souhaitent pas trop imposer de restrictions aux personnes qui travaillent dans l’IA.

Ceux et celles qui réclament...

En résumé

L’IA sert déjà à contrôler des employés et elle a en effet cette capacité pour plusieurs raisons. Dans le même temps, son côté probabiliste la rend quelque peu imprévisible.
La simplification qu’elle apporte du monde et les effets des moteurs de recommandation (enfermement dans des bulles et amplification des nouvelles sensationnalistes) pèsent sur les discours démocratiques au point que plusieurs recours ont eu lieu.
Entre les partisans de la liberté de création et l’interdiction de ces machines, les régulations prennent peu à peu place.

L’IA ne peut pas tout contrôler, mais elle peut avoir des impacts non négligeables en fonction de l’orientation qui lui est donnée. Si elle doit prendre davantage de place dans nos sociétés, c’est un enjeu qu’elle doit surpasser. Si elle doit de plus représenter nos sociétés, il faudrait alors qu’elle soit capable de la considérer dans sa globalité.