FIN DE SÉANCE END OF SESSION

Ce qu'on retient ce soir What we take away tonight

Vous avez construit un modèle de crédit, exploré un LLM de l'intérieur, et testé un assistant IA en conditions réelles. Voici les idées qui comptent. You built a credit model, explored an LLM from the inside, and stress-tested an AI assistant under real conditions. Here are the ideas that matter.

— 5 idées à retenir — — 5 ideas to remember —

Un modèle ne comprend rien A model understands nothing

Il optimise un nombre. Le modèle de crédit minimise les erreurs ; le LLM maximise la probabilité du mot suivant. Ni jugement, ni bon sens. It optimises a number. The credit model minimises errors; the LLM maximises next-word probability. No judgement, no common sense.

L'accuracy est un piège Accuracy is a trap

92 % ne veut rien dire sans contexte. Le vrai indicateur dépend du coût de chaque type d'erreur — et ce coût, c'est le métier qui le fixe, pas le data scientist. 92% means nothing without context. The real metric depends on the cost of each error type — and that cost is set by the business, not the data scientist.

Un LLM hallucine par conception An LLM hallucinates by design

Il ne distingue pas vrai de faux — il produit la suite la plus plausible. En banque, une hallucination = un risque juridique, réputationnel, réglementaire. It can't tell true from false — it produces the most plausible continuation. In banking, a hallucination = legal, reputational, regulatory risk.

RAG ≠ solution magique RAG ≠ magic fix

Ancrer le modèle dans des documents réduit les risques, mais ne les élimine pas. La qualité de la source, la fraîcheur, le prompt — tout compte. Grounding the model in documents reduces risk but doesn't eliminate it. Source quality, freshness, prompt design — everything matters.

Déléguer la tâche ≠ déléguer la responsabilité Delegating the task ≠ delegating responsibility

FINMA tient la banque responsable, que la décision vienne d'un humain ou d'un algorithme. L'IA est un outil, pas un alibi. FINMA holds the bank accountable whether the decision comes from a human or an algorithm. AI is a tool, not an alibi.

— Débrief de l'atelier — — Workshop debrief —

Verdict des équipes Team verdicts

Chaque groupe présente en 2 minutes : Each group presents in 2 minutes:

1. Votre verdict : go, no-go, ou go conditionnel ? 1. Your verdict: go, no-go, or conditional go?

2. La faille la plus grave que vous avez trouvée — et ce qu'elle révèle. 2. The most serious flaw you found — and what it reveals.

3. Le garde-fou n°1 que vous recommandez au comité de direction. 3. The #1 safeguard you recommend to the executive committee.

Pas de bonne réponse unique — l'objectif est d'argumenter un arbitrage, pas de trouver « la » solution. There's no single right answer — the goal is to argue a trade-off, not find "the" solution.

— Pour aller plus loin — — Going further —

Ressources recommandées Recommended resources

Les liens essentiels pour approfondir les thèmes de ce soir. Essential links to go deeper on tonight's topics.

Google ML Crash Course — le parcours complet et gratuit Google ML Crash Course — the full free programme (developers.google.com) 3Blue1Brown · But what is a Neural Network? — l'explication visuelle de référence 3Blue1Brown · But what is a Neural Network? — the gold-standard visual explanation (youtube.com) 3Blue1Brown · But what is a GPT? — les Transformers expliqués visuellement 3Blue1Brown · But what is a GPT? — Transformers explained visually (youtube.com) FINMA · L'intelligence artificielle sur le marché financier suisse FINMA · Artificial intelligence in the Swiss financial market (finma.ch) OWASP Top 10 for LLM Applications — les risques de sécurité des LLM OWASP Top 10 for LLM Applications — LLM security risks (owasp.org) Attention Is All You Need — l'article fondateur des Transformers (Vaswani et al., 2017) Attention Is All You Need — the founding Transformer paper (Vaswani et al., 2017) (arxiv.org)

« La question n'est plus si l'IA entre dans la banque — c'est qui décide comment elle y entre. Après ce soir, vous avez les clés pour être à cette table. » "The question is no longer whether AI enters banking — it's who decides how it enters. After tonight, you have the keys to be at that table."