La plateforme GenAI en libre-service de LCL : 90 équipes construisent leurs propres assistants IA

Omar El Hachimi a conçu et industrialisé la plateforme GenAI centrale de LCL, où 90 équipes et plus de 500 personnes créent, déploient et exploitent leurs propres assistants IA sur leurs propres documents, dans le respect des règles d'accès, de coûts et de sécurité de la banque.

Rôle Architecte et responsable technique

90équipes avec leurs propres assistants

500+utilisateurs

6familles de cas d'usage

Contexte

Chaque équipe de la banque voulait un assistant qui connaisse sa documentation, ses tickets et ses données. Chaque demande devenait un projet à part, avec sa propre revue de sécurité et ses propres coûts.

La banque avait besoin d'un seul endroit sûr où chaque équipe puisse construire ce dont elle a besoin, sans attendre un projet.

Fonctionnement

CréationUne équipe crée son assistant dans l'interface web.
ConnexionElle relie Confluence, Jira ou une base de données.
ContrôleLa passerelle vérifie les droits et les limites à chaque requête.
RéponseLe modèle répond à partir du contenu de l'équipe.
SuiviChaque conversation est tracée pour la qualité et les coûts.

Ce que j'ai construit

Assistants en libre-service. Les équipes créent leurs assistants dans une interface web, sans code, avec une recherche documentaire (RAG) qu'elles configurent elles-mêmes.
Connecteurs. Des connecteurs natifs vers Confluence, Jira et les bases internes, pour que les assistants répondent à partir des connaissances de l'équipe.
Une couche de contrôle. Une passerelle vers les modèles applique à chaque requête les droits d'accès par rôle, les quotas d'API, le suivi des coûts et la limitation de débit.
Observabilité. Chaque conversation est tracée : on peut vérifier la qualité et les coûts, et déboguer les assistants. Des tests de charge précèdent chaque montée en charge.
Cas d'usage livrés avec les équipes. Connaissance et productivité : assistants de documentation multi-sources, génération de contenu métier. Ingénierie et DevSecOps : questions aux bases de données en langage naturel (Text-to-SQL), analyse de code, revue de manifestes Kubernetes, aide à la correction de CVE.

Choix de conception

L'autonomie dans un cadre

Les équipes ont cessé d'attendre un projet chacune parce que les règles (accès, quotas, coûts) sont intégrées à la plateforme au lieu d'être revues au cas par cas.

Technologies

Python · LangChain · LangGraph · LlamaIndex · Amazon Bedrock (Claude) · Open WebUI · LiteLLM · Langfuse · PostgreSQL · Elasticsearch · Kubernetes · Helm · ArgoCD · GitLab CI/CD · Dynatrace · Prometheus

Questions

Comment laisser 90 équipes construire leurs propres assistants IA en sécurité ?

Proposer une plateforme en libre-service où les équipes configurent elles-mêmes leurs assistants et leurs sources, et placer devant les modèles une passerelle qui applique à chaque requête les droits d'accès, les quotas, le suivi des coûts et les limites de débit, avec une trace de chaque conversation. Omar El Hachimi a construit ce dispositif pour LCL.