ÖFFENTLICHER SEKTOR
KI-gestützter Chatbot reduziert manuellen Abgleich um 60 % bei britischer Aufsichtsbehörde
Überblick
Unser Kunde, eine nationale britische Aufsichtsbehörde mit Verantwortung für die öffentliche Sicherheit, benötigte ein umfassendes digitales Transformationsprojekt. Dieses umfasste technische, datenbezogene und geschäftliche Architektur sowie die Integration von KI.
Jährlich erstellte der Kunde sogenannte Annual Assurance Reports. Über 14 Jahre hinweg sammelten sich so mehr als 1000 Seiten an. Im Rahmen des KI-Projekts optimierten FDM Consultants die Informationsgewinnung und Datenabfrage aus diesen Seiten mithilfe eines internen, KI-gestützten Chatbots.
FDM Practices
- Change & Transformation
- Data & Analytics
- Risk, Regulation & Compliance
Branchen
Öffentlicher Sektor
Tech stack
Streamlit
Snowflake
OpenAI
Azure
Chroma
PyPDF2
Python
LangChain
FAISS
Resultat
60%
weniger manueller Abgleich
30
FAQ-Antworten in 30 Sekunden, statt in 48 Stunden
Fünf
Berichtserstellung in fünf Wochen, statt in drei Monaten
Sieben
Wochen bis zur Bereitstellung des ersten Prototyps
Um die Kosten für den Kunden zu senken, setzten die Consultants auf Open-Source-AI-Tools zur Entwicklung des Chatbots. Der erste funktionsfähige Prototyp war bereits nach sieben Wochen einsatzbereit und wurde direkt bei den First-Line Agents des Kunden ausgerollt.
Basierend auf dem Feedback wurde der Chatbot weiterentwickelt und um zusätzliche Datenquellen ergänzt. Aus dem Prototyp ist inzwischen ein voll nutzbares System geworden, das aktiv die operativen Prozesse unterstützt.
Eingeschränkt durch Herausforderungen bei der Datenextraktion
Der Kunde veröffentlicht jährlich seinen „Annual Assurance Report“. Zum Zeitpunkt der Beratung durch FDM hatte sich bereits ein Datenvolumen von über 1000 Seiten angesammelt – vollgepackt mit Hunderten von Unfallmeldungen sowie Tausenden von PDF-Seiten, Bildern und Diagrammen.
Dabei traten zahlreiche Herausforderungen auf:
Der Kunde suchte nach einer Lösung, die den Datenabgleich effizienter gestaltet, die Produktivität steigert und gleichzeitig fundierte Entscheidungen ermöglicht.
Tausende Datenpunkte durch KI zugänglich gemacht
In der Discovery-Phase des Projekts arbeiteten die Consultants daran, die internen Anwendungsfälle und die häufigsten Fragestellungen zu verstehen.
Nach einer ganzheitlichen Analyse der Kundenbedürfnisse begannen die Consultants damit, die Inhalte der Berichte in kleinere Texteinheiten zu segmentieren, um sie semantisch durchsuchbar zu machen.
Der entwickelte Chatbot wurde darauf ausgelegt, die relevantesten Textausschnitte zu den jeweiligen Anfragen zu liefern – und gleichzeitig über eine separate Datenbank auf Folgefragen zu reagieren. Dabei kam ein Modell mit 16K Kontextlänge zum Einsatz, um auch umfangreiche Dokumentabschnitte verarbeiten zu können.
Der Prozess umfasste:
- Aufbau einer Retrieval-Augmented-Generation-(RAG)-Pipeline zur Interaktion mit den jeweiligen Datensätzen
- Konfiguration von Vektor- und semantischer Suche
- Implementierung von Sicherheitsmechanismen zur Vermeidung von Prompt Injection
- Einsatz einer SQL-Datenbank zur Speicherung der Chatverläufe
Zur Einhaltung von Sicherheits- und Compliance-Vorgaben wurden in jeder Projektphase – und auch nach dem Rollout – Zugriffsbeschränkungen für sensible Daten durchgesetzt.
Der erste funktionsfähige Prototyp war bereits nach sieben Wochen einsatzbereit – inklusive der Trainingszeit, die die FDM Consultants im preisgekrönten Skills Lab von FDM verbrachten.
Der Prototyp wurde direkt bei den First-Line-Agenten des Kunden ausgerollt. Nach einer Testphase erweiterten die Consultants die Lösung auf Wunsch des Kunden um zusätzliche Datenquellen und Funktionen.
Zukunft gestalten mit KI
Der Chatbot wurde mit proaktiven Funktionen entwickelt.
Neben der Abfrage historischer Daten kann der Chatbot inzwischen auch Jahresberichte mit Zusammenfassungen, Trends und Empfehlungen erstellen. Die Analysten konzentrieren sich nun auf die Prüfung und Verfeinerung der Inhalte – die Vorbereitungszeit für Reports wurde dadurch um Wochen verkürzt.
Predictive Analytics und Risikoprognosen sind deutlich einfacher geworden: Modelle, die auf mehrjährigen Daten basieren, erkennen aufkommende Risiken, während statistische Modelle Frühindikatoren für Unfälle identifizieren – und so gezielte Interventionen ermöglichen.
Zuvor waren die Daten über neun Fachbereiche des Kunden hinweg isoliert. Mithilfe von KI können Teams nun wiederkehrende Ursachen und Muster erkennen sowie versteckte Risiken identifizieren, die sich über Zeiträume hinweg aufbauen.
Das Framework ist modular und wiederverwendbar – konzipiert für flexible Datenverarbeitung, einfache Integration und individuell anpassbare Abfragen. Die Cloud-first-Architektur ist auf Azure, AWS oder GCP skalierbar.
Fazit
Durch den Einsatz kompatibler Technologien und Open-Source-KI konnten die FDM Consultants die operative Effizienz des Kunden signifikant steigern.
Die manuelle Datenabstimmung wurde von mehreren Stunden auf wenige Sekunden reduziert – interne Teams können ihre Zeit nun auf strategisch wertvolle Aufgaben konzentrieren. Gleichzeitig nutzen sie die schnelleren und präziseren Insights des Chatbots für fundiertere Geschäftsentscheidungen.
Dank der Kosteneffizienz und des kompakten Zeitplans ist die Lösung auch für andere Bereiche des Unternehmens skalierbar.