xJuRAG: Explainable AI für juristische RAG-Anwendungen

News

Wir freuen uns, den Start unseres xJuRAG-Projekts bekannt zu geben, kurz für „Explainable AI für juristische RAG-Anwendungen” (Erklärbare KI für juristische RAG-Anwendungen), einer neuen gemeinsamen Forschungsinitiative. Als Projektkoordinator arbeitet dida mit dem renommierten Fraunhofer Heinrich-Hertz-Institut (HHI) zusammen, um eine der größten Herausforderungen der künstlichen Intelligenz anzugehen: das „Black-Box”-Problem.

LLMs zeigen zwar großes Potenzial, aber ihre Neigung zu „Halluzinationen” oder zur Erfindung von Fakten macht sie für sensible Bereiche wie den Rechtssektor zu einem Risiko. Dieser Mangel an Vertrauen ist ein großes Hindernis für die breite Einführung von KI in professionellen Rechtsumgebungen.

Das Ziel: Ein vollständig transparenter Rechtsassistent
Das Hauptziel von xJuRAG ist es, ein Rechtsassistenzsystem zu entwickeln, das nicht nur intelligent, sondern auch vollständig transparent ist.

Wir entwickeln eine Anwendung auf Basis von Retrieval Augmented Generation (RAG), die speziell für den Rechtsbereich konzipiert ist. Das System wird in der Lage sein:

  • komplexe Rechtsfragen zu beantworten,
  • seine Quellen zuverlässig zu zitieren,
  • klar zu erklären, wie es zu seinen Schlussfolgerungen gelangt ist.

Das Projekt wird sich zunächst auf Entscheidungen im Verkehrs- und Mietrecht konzentrieren.

Die Innovation: Erklärung der Black-Box-Logiken
Die Innovation von xJuRAG liegt in der tiefen Integration von fortschrittlicher Explainable AI (XAI). Wir werden eine leistungsstarke Methode anpassen, die am Fraunhofer HHI entwickelt wurde: Attention-aware Layer-wise Relevance Propagation (AttnLRP).

Dieser Ansatz geht weit über herkömmliche RAG-Systeme hinaus. Er ermöglicht es uns, einen detaillierten „Prüfpfad“ zu erstellen, der genau quantifiziert, welche Wörter in einem Quelldokument für die endgültige Antwort am relevantesten waren.

Das Justizsystem basiert auf Klarheit und Überprüfbarkeit – Prinzipien, die Standard-KI nicht garantieren kann. xJuRAG zielt darauf ab, diese Prinzipien direkt zu erfüllen. Durch die Bereitstellung eines zuverlässigen und transparenten Tools helfen wir Juristen, zeitaufwändige Recherchen zu automatisieren und Vertrauen in KI-gestützte Entscheidungen aufzubauen. Dadurch können sich Experten auf übergeordnete Strategien und Argumentationen konzentrieren.

Durch den Nachweis der Funktionsfähigkeit erklärbarer KI in einem sensiblen Bereich wird xJuRAG auch dazu beitragen, das Vertrauen der Öffentlichkeit zu fördern und die verantwortungsvolle Einführung von KI in anderen kritischen Bereichen wie der Medizin und der öffentlichen Verwaltung zu beschleunigen.

Das Projekt ist in drei Phasen gegliedert und soll 36 Monate dauern.

Kontakt
Wenn Sie eine Anwaltskanzlei oder ein Legal-Tech-Unternehmen vertreten und daran interessiert sind, mehr zu erfahren oder mögliche Anwendungen zu erkunden, wenden Sie sich bitte an uns.