Contexte & Enjeux

Chez ce client, la démocratisation des outils de chatbot a entraîné avec elle une quantité importante de collaborateurs qui saisissent des informations liées à la propriété intellectuelle dans des outils dont l’utilisation des données n’est pas contrôlable.

De plus, ces outils manquent d’informations critiques qui ne sont pas publiques afin de correctement générer leur réponse.

En utilisant une solution interne, cette entreprise souhaitait s’assure d’une meilleure pertinence des réponses. Cela devait leur permettre d’éviter toute fuite de propriété intellectuelle de la part des utilisateurs.

Méthodologie / Solution

Nous sommes intervenus dans le développement d’une solution de type chatbot ayant les caractéristiques principales suivantes:

• Multi-LLM

• Multimodal (peut interroger des documents à la volée)

• Multi Cloud provider

• Gestions d’assistants dédiés à des verticales métier avec les caractéristiques suivantes:

• RAG (peut interroger des bases de connaissances)

• Droits d’accès gérés au niveau Business Unit

Résultats obtenus

La solution est utilisée en interne par ~10k utilisateurs distincts quotidiens.

La solution coûte autour de 5€ par utilisateur / mois (charge de l’équipe de développement comprise), contre environ le double pour une solution de type ChatGPT.