TTM #1 - RAG : intégrez l’IA à l’opérationnel de votre entreprise.

Quentin MARC
Ingénieur & Co-fondateur Loop Crew

Introduction

Comment faire pour intégrer l’IA dans l’opérationnel de votre entreprise ? Comment faire en sorte que l’IA ait un impact significatif sur votre business ?

L’IA générative est une technologie difficile à saisir. Tout le monde semble l’utiliser, pourtant personne n’arrive à obtenir de résultat satisfaisant.

Ce sentiment de comprendre le potentiel d’une technologie, mais de rester à un stade d’utilisation superficielle, est frustrant.

Pour observer un réel impact sur votre business, vous aurez besoin des RAG, et donc d’une équipe de développeurs. Voici comment faire.

Intégration de l’IA : les étapes à suivre

Schéma présenté lors d’une conférence IA B2B

Vous rêvez d’une IA capable de réaliser des tâches de manière autonome pour votre business ? Pour ça, vous devrez passer par 4 étapes :

Etape 1 : les collaborateurs consomment de l’IA

Incitez vos collaborateurs à essayer des solutions d’IA génératives clefs en main comme ChatGPT et à réaliser une veille continue sur l’innovation en général.

Ce temps de veille vous sera rendu par un multiple un jour.

Des solutions d’IA générative existent dans de nombreux domaines (ex Midjourney : générer des images, Fireflies : synthétiser une visio). Ces outils ne sont pas parfaits, mais dans des cas spécifiques, leur utilisation est intéressante.

Etape 2 : Construction d’un RAG

A ce stade, vous comprenez le potentiel de l’IA générative mais vous vous sentez bridé. Les applications sur le marché restent relativement génériques, gadget et parfois, peu fonctionnelles. Vous n’avez pas vraiment révolutionné votre activité grâce à elles.

La prochaine étape consiste à mettre en place un RAG (Retrieval Augmented Generation). Il s’agit d’un système permettant d’enrichir un LLM (GPT, Mistral, LLaMa) avec les données de votre entreprise.

La majeure partie de cet article porte sur cette phase.

Etape 3 : Pré-réalisation de tâches

Une fois le RAG en place, vous disposez du pouvoir des LLM (ces IA qui parlent) couplées aux connaissances de votre entreprise. Vous pouvez commencer à automatiser de nombreuses tâches créatives, administratives ou de recherches liés à votre domaine métier.

Ces tâches ne seront pas réalisées parfaitement, mais elles seront dégrossies. Vos collaborateurs n’auront qu’à relire le travail réalisé et apporter une couche d’intelligence humaine.

Etape 4 : Automatisation de tâches

La dernière étape consiste à déléguer les yeux fermées certaines tâches réalisées auparavant par vos collaborateurs. Il s’agit ni plus ni moins de la continuité de l’étape 3, mais les technologies en IA d’aujourd’hui sont encore un peu légères pour atteindre systématiquement l’étape 4.

Toutefois, c’est déjà possible comme dans le cadre d’une traduction standard.

Maintenant que vous avez compris l’ensemble du processus, explorons plus en détail les cas pratiques.

Comment fonctionne un RAG ?

Un RAG est un système qui permet de retrouver un document spécifique parmi un vaste ensemble de documents. Un RAG n’a pas vocation à assister vos équipes. Il fonctionne en sous-marin et permet d’augmenter les capacités d’un LLM en faisant un pont entre lui et les données de votre entreprise.

Un RAG procède en 3 étapes :

1. Vectoriser les données

Les données de l’entreprise proviennent de sources multiples telles que des API ou un Sharepoint. Elles existent aussi en formats divers. Une technique mathématique, appelée vectorisation, convertit ces données en représentations numériques, créant ainsi une bibliothèque de connaissances compréhensible par les modèles d'IA générative.

La vectorisation est réalisée régulièrement (ex: 1 fois / jour) afin d’actualiser les données à disposition du LLM.

2. Croiser données et requêtes

La demande de l'utilisateur est convertie en représentation vectorielle et comparée à la base de données vectorielles. Ainsi, le LLM peut retrouver facilement les documents qui permettent de répondre à la requête entrée.

3. Enrichir la réponse

Le modèle de langage rédige une réponse basée sur le contenu de la question et des documents trouvés. Grâce à des techniques de prompt engineering, il est possible d’adapter le format de la réponse. Ainsi, nous pouvons obtenir une explication détaillée pour un utilisateur comme une réponse synthétisée pour automatiser un formulaire.

Cas d’usage d’un RAG

Une fois le RAG implémenté dans votre entreprise, de nouvelles perspectives s’ouvrent à vous. Voici 3 cas d’usage génériques, mais vous pouvez imaginer bien d’autres scénarii.

Un chatbot omniscient

Intérêt : forte croissance des équipes ou fort turnover, SAV, FAQ

Vous avez une question à poser à votre manager ou à quelqu’un d’un autre service? Vous pouvez désormais la poser à un chatbot qui connait tout de votre entreprise. Il y a de grandes chances qu’il puisse vous apporter une réponse pertinente en quelques secondes.

Il est possible de créer un chatbot qui répond en fonction du niveau d’accréditation de l’utilisateur. Ainsi, vous pouvez avoir un chatbot qui gère uniquement le SAV de l’entreprise ou qui répond aux questions d’avant vente de vos clients.

Automatisation de processus

Intérêt : procédures répétitives et chronophages

Vous devez répondre régulièrement à des appels d’offres de 100 pages ? Les informations demandées sont spécifiques à votre entreprise ?

Un LLM couplé à votre RAG peut largement dégrossir le travail afin que vos équipes réalisent essentiellement une relecture de l’AO et un léger enrichissement avec de l’intelligence humaine.

Agréger des données

Intérêt : rassembler des données éparses

Vous souhaitez obtenir un résumé du dernier appel d’offres réalisé ? Ou encore faire le lien entre plusieurs données telles que la liste des collaborateurs ayant travaillé pour un client donné ?

Un chatbot est capable de parcourir de grands volumes de document bien plus vite que vous et de résumer la situation en quelques paragraphes.

L’IA, la solution miracle ?

Tout outil a ses limites. Voici les défis connus des LLM, sur lesquels s’appuient les RAG :

  • Présenter de fausses informations alors qu'il n'y a pas de réponse (hallucinations).
  • Présenter des informations obsolètes ou génériques lorsque l'utilisateur attend une réponse spécifique et actuelle.
  • Créer une réponse à partir de sources ne faisant pas autorité.
  • Créer des réponses inexactes en raison d'une confusion terminologique, dans laquelle différentes sources de formation utilisent la même terminologie pour parler de choses différentes.

Ces défis ne sont pas bloquants, mais peuvent avoir un impact sur votre business si vos équipes n’en ont pas conscience.

Enfin, l’IA n’est pas la solution à tous vos problèmes. Dans de nombreux cas, de simples algorithmes seront plus rapides et plus fiables qu’une IA.

C’est enfin déjà la fin de ce numéro ! 🥹

Si vous n’êtes pas abonné, il est temps d’y remédier via ce lien.

A dans 2 semaines pour un nouveau numéro sur les coûts d'un développement.

Recevez les nouveaux articles par mail

2 articles par mois sur l'innovation au coeur de votre entreprise : Tech, IA, Automatisation.

En vous inscrivant, vous confirmez être d'accord avec nos CGU.
Merci, votre inscription a été enregistrée.
Oops! Une erreur est survenue, veuillez réessayer.