Regierung & Öffentlicher Sektor
Die fortschreitende Digitalisierung der öffentlichen Verwaltung in Deutschland vereinfacht nicht nur den Zugang zu öffentlichen Services, sondern ermöglicht auch effizientere und modernere interne Arbeitsabläufe. Durch den Wegfall von repetitiven Aufgaben werden sowohl Arbeitsplätze in der öffentlichen Verwaltung attraktiver als auch die Bearbeitung von Angelegenheiten der Bürger:innen schneller. Durch die automatische Vorbereitung und Erstellung von fachlich korrekten Antworten auf laufende Verfahren können Mitarbeitende in der öffentlichen Verwaltung ihren Arbeitsfokus auf die tatsächliche inhaltliche Bearbeitung von Anträgen legen. So können Kommentare zu formellen Fehlern bei der Gewerbeanmeldung oder Erklärungen zu einzelnen Punkten im Steuerbescheid automatisch verfasst werden.
Motivation
Eine Folge der Digitalisierung ist, dass in öffentlichen Institutionen die Informationen zu laufenden Verfahren, Anträgen und Prozessen digital vorliegen. Durch den Einsatz von generativer KI und LLMs können diese Informationen dazu genutzt werden, um Texte zu erzeugen, die beispielsweisen den aktuellen Bearbeitungsstatus einer Gewerbeanmeldung technisch korrekt zusammenfassen oder auf formelle Fehler im Antrag hinweisen und Korrekturvorschläge hinzufügen. Die manuelle Anfertigung solcher Berichte durch Fachpersonal ist in der Regel eine repetitive und zeitaufwendige Arbeit, bei der Informationen von einem Format in ein anderes Format übertragen werden, d.h. die im System vorliegenden Informationen müssen für die Bürger:innen verständlich dargestellt werden. LLMs haben demonstriert, dass sie hier Fachpersonal unterstützen und entlasten können, um sich auf die eigentliche inhaltliche Bearbeitung zu fokussieren. So werden nicht nur interne Arbeitsabläufe in öffentlichen Verwaltungen effizienter, sondern es lässt sich auch insgesamt das Vertrauen in die Zukunftsfähigkeit staatlicher und öffentlicher Prozess sowie die Nähe zu den Bürger:innen steigern.
Herausforderungen
LLMs zeigen großes Potenzial bei der automatischen Erstellung von Berichten. Allerdings sind die öffentlich nutzbaren Modelle für generische Aufgaben vortrainiert und produzieren somit auch nur für generische Aufgaben zufriedenstellende Ergebnisse. Um die spezifischen Informationen zu Verfahren in öffentlichen Institutionen und sprachlichen Besonderheiten abzubilden, müssen LLMs mit dem Einzelfall entsprechenden Trainingsdaten angepasst werden. Das Training von LLMs benötigt allerdings enorme Rechenressourcen und Speicherbedarf. Ein weiterer kritischer Aspekt ist, dass LLMs für die öffentliche Verwaltung auf eigenen Servern oder Infrastrukturen bereitgestellt werden müssen, um keine sensiblen Daten mit Dritten zu teilen.
Lösungsansätze
Die Anpassung von ML-Modellen an anwendungs- bzw. domänenspezifischen Trainingsdaten wird Fine-Tuning genannt. Ganzheitliches Fine-Tuning, bei dem alle Modellparameter nachtraininert werden, ist für LLMs mit Milliarden an Parametern impraktikabel. Es existieren aber auch moderne, effizientere Fine-Tuning-Ansätze, bei denen nur ein Teil der Parameter nachtrainiert werden. Mit den digital aufbereiteten Textbausteinen und Dokumenten zu öffentlichen Verfahren können LLMs auf diese Weise effizient angepasst werden. Zusätzlich können Ansätze der Erklärbaren KI (XAI) verwendet werden, die zuverlässige und transparente Modellentscheidungen liefern. So wird das Vertrauen der Bevölkerung in digitale Prozesse erhöht. Dadurch ist es möglich, ein generatives KI-System zu entwickeln, das beispielsweise die Informationen zum Status einer Gewerbeanmeldung in einen für die antragstellende Person verständlichen und dem Einzelfall entsprechenden Text übersetzt.
