L’intelligence artificielle : quelles opportunités pour les bibliothèques ?

Compte rendu du Jeudi du livre du 23 mai 2024

Valérie-Anne Mange

Claire Toussaint

Ce Jeudi du livre, organisé par Médiat Rhône-Alpes en partenariat avec Grenoble Alpes Métropole, avait pour objectif de prendre du recul sur la question de l’intelligence artificielle (IA) grâce à un regard sociologique et professionnel.

Intelligence artificielle : clarifier les débats

[Valérie Beaudouin, chercheuse en sciences sociales, directrice d’études à l’École des hautes études en sciences sociales et professeure invitée à Télécom Paris]

Cette intervention a balayé les grandes questions sur l’IA et situé les débats dans l’histoire. L’IA est, aujourd’hui, un terme parapluie qui recouvre presque toutes les technologies numériques alors qu’il s’agissait, au départ, d’une technologie spécifique datant de la Seconde Guerre mondiale.

IA, de quoi parle-t-on ?

Les progrès scientifiques portent sur les IA faibles qui sont les plus présentes au quotidien (résolution de tâches circonscrites) et non sur les IA fortes (intelligence artificielle générale).

Illustration
Figure 1. Définitions

L’approche symbolique est la plus ancienne. Il s’agit de modèles simulant le raisonnement et fonctionnant à partir de règles. Aujourd’hui, l’approche connexionniste est la plus populaire. Dans cette approche, l’IA s’appuie sur des réseaux de neurones et apprend à partir d’exemples en reproduisant des modèles. Les IA qui fonctionnent le mieux mélangent ces deux approches.

Illustration
Figure 2. Intelligence artificielle – Machine learning

Il existe trois composantes dans le machine learning (apprentissage machine) :

  • une base d’apprentissage, composée d’un corpus d’exemples sur laquelle les IA s’entraînent ;
  • des algorithmes ;
  • une évaluation de la performance.

Socio-histoire de l’IA

Alan Turing s’est interrogé, dans les années 1950, sur le fait de savoir si une machine pouvait penser et être ainsi confondue avec un humain. Cette idée constitue un des mythes fondateurs de l’IA, favorisant les inquiétudes. Il y a deux types d’origines aux mythes fondateurs sur l’IA : le courant cybernétique qui est attentif à la coopération humain-machine et le courant Dartmouth workshop qui souhaite reproduire le fonctionnement du cerveau humain.

Illustration
Figure 3. Question de l’intelligence artificielle

Dès la fin des années 1950, les chercheurs en sciences sociales apportent des éléments critiques sur l’utilisation des termes d’intelligence et de compréhension : les machines ne peuvent avoir une compréhension globale des situations humaines. C’est, aujourd’hui encore, toujours le cas.

Les travaux scientifiques dans le domaine de l’IA montrent l’opposition entre les approches connexionniste et symbolique de l’IA. La nouvelle vague de l’IA est portée par le deep learning, l’approche de/par réseaux neuronaux.

Promesses et menaces de l’IA par le milieu

On remarque que toute innovation technologique est créatrice de débats autour du changement social qu’elle crée. Le débat sur les risques et menaces de l’IA a été porté, pendant longtemps, par les chercheurs et non par la société.

Les promesses portées par l’IA sont multiples : croissance économique, poursuite de l’automatisation des tâches répétitives, rationalité de la machine fiable, efficace et rapide.

Les risques liés au machine learning sont de plusieurs types. Ce sont, d’une part, les injustices, les biais et les renforcements des stéréotypes : si la machine apprend à partir des données du réel, elle reproduit les inégalités. Ce sont, d’autre part, l’opacité des algorithmes et les problématiques posées par la surveillance des données personnelles. Ce sont aussi des inquiétudes sur l’avenir des relations humaines, nos capacités d’empathie et sur l’avenir du travail. Enfin, il s’agit des enjeux climatiques, les IA étant très consommatrices d’énergie.

Face à ces risques, des réglementations sont mises en place, par exemple l’AI Act, le Règlement général sur la protection des données (RGPD), les lois bioéthiques. Il existe une tension entre l’intérêt des entreprises de préserver la liberté d’entreprendre et l’intérêt général. Les études sur lesquelles s’appuient les médias concernant la menace de certains emplois sont très critiquées par les chercheurs.

Menaces à long terme : les technoprophètes

Le discours sur l’IA est imprégné de menaces sur des risques qui pèseraient sur l’espèce humaine. Ce questionnement renvoie au mouvement transhumaniste. Il y aurait, d’un côté, une famille progressiste avec une vision positive de l’histoire et de la technologie comme moteur de la transformation des humains ; de l’autre, la famille « singularitarienne » qui identifie un point de basculement où la machine prendrait le dessus sur l’humain avec une vision opaque de ce qui viendrait après ; et enfin, une famille catastrophiste qui voit un risque existentiel pour l’espèce humaine.

« Éthique de l’IA » comme réponse aux menaces

Au milieu des années 2010, des documents éthiques sont apparus autour de l’IA, donnant lieu à des centaines de rapports qui ont suscité quatre méta-analyses. Les thèmes les plus représentés sont : la transparence en réponse à l’opacité ; la justice et l’équité en réponse aux biais ; la non-malfaisance ; la responsabilité et le respect de la vie privée. Ces rapports sont principalement produits par des acteurs engagés dans l’innovation technologique (pays riches et multinationales). À l’inverse, les pays moins riches, les petites et moyennes entreprises et les acteurs de la société civile sont très peu présents. Les acteurs de l’innovation technologique cadrent le débat autour de l’IA dans le but d’éviter que la régulation ne se développe. En Europe, l’AI Act est le résultat d’une tension forte entre régulateurs et innovateurs. La question qui se pose désormais est celle de sa mise en œuvre au niveau national.

L’intelligence artificielle au service des bibliothèques

[Amel Boudina, bibliothécaire québécoise passionnée par l’IA et chargée de projet chez Bibliopresto.ca à Montréal]

Le bibliothécaire, en tant qu’expert en recherche d’information, doit comprendre ce qu’est l’IA, se former sur le sujet, accompagner les usagers dans la prise en main, et évaluer leurs utilisations de l’IA afin de répondre à leurs besoins informationnels. Il doit jouer un rôle de médiateur en rendant accessible l’IA et promouvoir des pratiques responsables et éthiques, afin que les usagers puissent choisir, ou pas, de l’utiliser.

Les applications actuelles de l’IA en bibliothèque

La version gratuite de ChatGPT (https://openai.com/chatgpt/) est moins performante, car elle s’appuie sur des données plus anciennes que pour la version payante. Son utilisation nécessite deux points d’attention : les premières recherches ne sont pas optimales, l’outil ayant besoin d’être entraîné, et ChatGPT peut aussi être défaillant et inventer des références. Pour poser une question à ChatGPT, il faut lui donner un rôle, contextualiser sa demande, lui donner une tâche et des instructions.

L’IA permet aussi de générer des images, par exemple pour la communication et le marketing, ce qui pose la question de la réutilisation, en particulier commerciale. En effet, l’IA ne prend pas en compte les questions de propriété intellectuelle.

Les impacts positifs de l’IA en bibliothèque

L’IA permet une amélioration de l’efficacité professionnelle en réduisant les tâches répétitives. Elle peut produire des recommandations personnalisées, des guides bibliographiques et favoriser la démocratisation de l’information. Une IA, via un chatbot, peut aussi permettre une assistance sans interruption et rendre les ressources plus accessibles en proposant des traductions ou des synthèses vocales. Elle permet une optimisation de la gestion des collections en analysant les emprunts et en produisant des recommandations d’acquisition.

Considérations négatives et risques associés à l’IA en bibliothèque

Les bibliothécaires doivent sensibiliser les usagers aux risques associés à l’IA concernant la collecte des données personnelles, les biais et les bulles de filtres. Une bulle de filtres est créée par l’algorithme lorsqu’il ne retourne à l’usager que des sujets ou des informations qu’il apprécie déjà, ne lui permettant pas de se confronter à des biais de confirmation. L’IA diminue également les rapports humains et peut rendre les services moins inclusifs, tout en favorisant la paresse intellectuelle.

Recommandations

Une bibliothèque devrait élaborer sa propre politique d’utilisation de l’IA. Les objectifs de cette politique pourraient être de démocratiser l’accès aux technologies d’IA ; de comprendre les distorsions et biais dans les modèles et applications ; de promouvoir la transparence et l’intégrité de l’information. Il est également nécessaire de souligner l’importance de l’implication humaine dans les processus décisionnels critiques ; de prendre en compte les lois actuelles ; de prioriser la sécurité et la confidentialité des utilisateurs ; de favoriser la littératie numérique et l’esprit critique ; de prendre en considération le droit d’auteur. L’Association of Research Libraries a réalisé un guide abordant ces questions : https://www.arl.org/resources/research-libraries-guiding-principles-for-artificial-intelligence/.

Conclusion

Il est important de veiller au déploiement éthique et inclusif de l’IA, afin de garantir un accès équitable à l’information pour tous. En tant que professionnels de l’information, nous avons la responsabilité de guider cette transformation tout en préservant les valeurs fondamentales de nos établissements.