KI-Labor – Bedienungsanleitung
KI-gestützte Dokumentenanalyse für juristische Texte
Das KI-Labor ist ein Werkzeug zur automatisierten Analyse juristischer Dokumente. Es liest PDF-, DOCX- oder TXT-Dateien ein, bereitet deren Inhalt auf und schickt ihn an ein lokal installiertes Sprachmodell. Das Modell gibt eine strukturierte Zusammenfassung oder Analyse zurück.
Typische Anwendungsfälle
- Schnelle Orientierung in einem unbekannten Dokument
- Strukturierte Extraktion von Parteien, Fristen und Forderungen
- Vorbereitung auf ein Aktenstudium
- Kurzfassung eines langen Urteils
2 Datenschutz und lokale Ausführung
Alle Berechnungen finden ausschließlich auf Ihrem Rechner statt.
Das Sprachmodell läuft vollständig lokal. Es besteht keine Verbindung zu Cloud-Diensten wie ChatGPT, Gemini oder anderen Online-KI-Angeboten.
✓ Keine Weitergabe
Vertrauliche Dokumente bleiben auf Ihrem Gerät. Keine Protokollierung durch externe Dienstleister.
✓ Offline-Betrieb
Nach einmaligem Modell-Download ist keine Internetverbindung mehr erforderlich.
✓ Mandantenvertraulich
Geeignet auch für personenbezogene oder mandantenvertrauliche Unterlagen.
✓ Quelloffen
Ausschließlich quelloffene Komponenten und Modelle unter freien Lizenzen (Apache 2.0, MIT).
Beim Download der Sprachmodelle wird Ihre IP-Adresse und eine generische Browserkennung für den Downloadserver sichtbar. Das Programm weist ausdrücklich darauf hin, bevor der Download startet. Wurden die Modelle auf ihrem Rechner installiert, laufen alle Berechnugnen - wie oben beschrieben - lokal auf ihrem PC bzw. Laptop.
3 Voraussetzungen und Modelle
Das KI-Labor benötigt mindestens eines der verfügbaren Sprachmodelle auf der Festplatte. Modelle werden einmalig aus dem Internet heruntergeladen (2–5 GB je Modell) und danach lokal gespeichert.
Eine dedizierte Grafikkarte (GPU) beschleunigt die Analyse erheblich, ist aber nicht zwingend erforderlich. Ohne GPU läuft die Analyse über den Prozessor – deutlich langsamer, aber funktional.
Sofern einem Laptop oder PC der RAM-Speicher ausgeht, kann das KI-Labor abstürzen. In diesen Fällen kann der Umstieg auf ein "leichteres" KI-Modell Abhilfe schaffen. Gute Kandidaten bei Speicherplatzproblemen sind: SmolLM-3 Q4 und Phi-4-mini
4 Oberfläche im Überblick
Das Fenster gliedert sich von oben nach unten in sechs Bereiche: Dokument → Einstellungen → Prompt → Fortschritt → Zusammenfassung / Analyse → Schaltflächen.
5 Schnellstart – Erste Analyse
6 Alle Bedienelemente im Detail
6.1 Bereich „Dokument"
Dateipfad-Feld
Zeigt den Pfad der ausgewählten Datei an. Das Feld ist nicht direkt editierbar. Unterstützte Formate: PDF, DOCX, TXT.
Schaltfläche „Öffnen …"
Öffnet einen Dateiauswahldialog. Das Programm liest den Text automatisch aus, bereinigt Formatierungen und entfernt erkannte Duplikate (z. B. Kopfzeilen, die auf jeder Seite wiederholt werden).
6.2 Bereich „Einstellungen"
Dropdown „Modell"
Wählt das zu verwendende Sprachmodell. Neben dem Dropdown erscheint der Verfügbarkeitsstatus:
- ✓ verfügbar – Modell ist auf der Festplatte vorhanden, sofort nutzbar.
- ✗ nicht gefunden – Modell muss heruntergeladen werden. Ein Klick auf „Analyse starten" öffnet automatisch den Download-Dialog.
Schaltfläche „ⓘ" – Lizenzinformation
Öffnet ein Fenster mit Lizenzinformationen zum aktuell gewählten Modell (Herausgeber, Quelle, Lizenzbedingungen). Dort befindet sich auch „Modell löschen" – nach Bestätigung wird das Modell von der Festplatte entfernt.
Dropdown „OCR"
Steuert, ob eine KI-gestützte Texterkennung (OCR) für PDF-Dokumente eingesetzt wird. Die Option ist nur für PDFs wirksam – bei DOCX- oder TXT-Dateien hat sie keine Auswirkung.
| Wert | Bedeutung |
|---|---|
| keine | Standardverhalten: Der eingebettete Textlayer des PDFs wird direkt ausgelesen. Schnell und zuverlässig für normale PDFs. |
| erzwungen | Jede Seite wird als Bild gerendert und per OCR erkannt. Sinnvoll bei gescannten Dokumenten oder PDFs mit fehlendem bzw. beschädigtem Textlayer. |
Wann ist OCR sinnvoll?
- Eingescannte Dokumente: PDFs, die aus einem Scan entstanden sind und keinen Textlayer enthalten.
- Kaputte Textlayer: PDFs, bei denen der extrahierte Text unleserlich, unvollständig oder nicht vorhanden ist.
Bei normalen, textbasierten PDFs ist OCR nicht erforderlich und verlangsamt die Verarbeitung ohne Mehrwert.
Schaltfläche „ⓘ" (neben OCR-Dropdown)
Öffnet ein Informationsfenster mit den Lizenzbedingungen der eingesetzten PaddleOCR-ONNX-Modelle (PP-OCRv5 Latin, Apache 2.0) sowie des Inferenz-Frameworks RapidOCR. Enthält klickbare Links zur Quelle und zum Lizenztext.
Dropdown „Prompt-Vorlage"
Wählt eine vorgefertigte Analysevorlage (→ Abschnitt 7). Bei Auswahl wird der Prompt-Text automatisch ins Prompt-Feld geladen.
Der Eintrag „individuell": Der Prompt im Textfeld gilt unverändert so, wie Sie ihn eingegeben haben.
Dropdown „Max. Ausgabe"
Begrenzt die maximale Länge der Modellantwort. Ein Token ≈ ein halbes bis ganzes Wort.
| Wert | Entspricht etwa | Empfohlen für |
|---|---|---|
| 1024 Token | ~750 Wörter | Kurzfassung, einfache Abmahnung |
| 1536 Token | ~1.150 Wörter | Standard – die meisten Dokumente |
| 2048 Token | ~1.500 Wörter | Verträge, Bescheide |
| 3072 Token | ~2.300 Wörter | Umfangreiche Urteile |
| 4092 Token | ~3.000 Wörter | Sehr ausführliche Gutachten |
6.3 Bereich „Prompt"
Prompt-Textfeld
Enthält die Anweisung, die zusammen mit dem Dokumentinhalt an das Modell geschickt wird. Wird bei Auswahl einer Vorlage automatisch befüllt. Manuelles Bearbeiten wechselt das Dropdown automatisch auf „individuell".
Leer lassen → allgemeiner Zusammenfassungsauftrag.
Schaltfläche „Analyse starten"
Startet den Analysevorgang. Falls das Modell noch nicht geladen ist, wird es jetzt in den Arbeitsspeicher geladen (beim ersten Start einige Sekunden). Falls nicht heruntergeladen: Download-Dialog erscheint.
Schaltfläche „Abbrechen"
Bricht eine laufende Analyse ab. Die bis dahin generierte Ausgabe bleibt erhalten. Das Modell bleibt im Arbeitsspeicher, damit die nächste Analyse schneller startet.
6.4 Bereich „Fortschritt"
Das Protokollfeld zeigt automatisch Statusmeldungen:
- Textaufbereitung: Zeichen- und Tokenanzahl des Dokuments
- Modell laden: Grafikkarten- oder Prozessorbetrieb
- Kontextfenster: Verfügbare Token für die Antwort
- Chunking: Ob das Dokument aufgeteilt wird (→ Abschnitt 11)
- Timing: Dauer und Wörter pro Sekunde
6.5 Bereich „Zusammenfassung / Analyse"
Ergebnisfeld
Zeigt die Antwort des Modells, die während der Generierung Wort für Wort eingeblendet wird.
Schaltfläche „Löschen"
Löscht Fortschrittsprotokoll und Ergebnisfeld. Geladenes Modell und Einstellungen bleiben unverändert.
7 Analysestile – Vorlagen für jeden Dokumenttyp
Das KI-Labor enthält vorgefertigte Analysevorlagen für die gängigsten juristischen Dokumenttypen. Wählen Sie einfach die Vorlage, die am besten zum vorliegenden Dokument passt – das Programm stellt dann automatisch die passenden Fragen an das Modell und gibt die Ergebnisse in einer übersichtlichen Struktur aus.
Die angebotenen Vorlagen können sich zwischen den Modellen unterscheiden, da die Modelle sehr unterschiedlich auf identische Anweisungen reagieren können.
Jede Vorlage ist darauf ausgerichtet, die für den jeweiligen Dokumenttyp typischen Informationen vollständig zu erfassen: Beteiligte Personen und Stellen, Fristen, Forderungen, Rechtsgrundlagen und das wesentliche Ergebnis. Sie müssen nichts weiter tun, als die richtige Vorlage auszuwählen und diese ggf. an Ihre Bedürfnisse anzupassen.
8 Eigene Prompts verfassen
Wenn keine Vorlage passt, wählen Sie „individuell" und schreiben Sie Ihre Anweisung ins Prompt-Feld.
Was funktioniert gut
Konkrete Fragen
Aufzählungsaufträge
Strukturvorgaben
Einschränkungen
Was Probleme verursacht
Widersprüchliche Anweisungen
„Kurz" und „ausführlich alle Details" widersprechen sich. Das Modell wählt einen Kompromiss, der keiner der Anforderungen gerecht wird. Besser: „Fasse in maximal fünf Sätzen zusammen" oder „Erkläre alle Details vollständig."
Zu viele Aufgaben auf einmal
Mehrere komplexe Aufgaben überfordern kleine Modelle. Teilen Sie solche Anfragen in separate Analysen auf.
Hypothetische Fragen (Halluzinations-Falle)
Solche Fragen veranlassen das Modell, plausibel klingende, aber möglicherweise falsche Inhalte zu erfinden. Besser: „Welche Argumente hat der Kläger laut Dokument tatsächlich vorgebracht?"
Prompts ohne klaren Auftrag
Das Modell hat keine eigene Meinung. Formulieren Sie eine konkrete Extraktions- oder Analyseanweisung.
Fremdsprachige Anweisungen bei deutschen Dokumenten
Die Qualität bei Mischanfragen (deutsches Dokument, englische Anweisung) ist unzuverlässig. Die Modelle sind im Systemprompt fest für deutschsprachige Ausgabe konfiguriert.
Empfehlungen auf einen Blick
- Beginnen Sie mit einem Verb: „Analysiere …", „Liste auf …", „Fasse zusammen …", „Nenne …"
- Geben Sie die gewünschte Ausgabestruktur vor (Absätze, Stichpunkte)
- Schreiben Sie explizit, was nicht gewünscht wird: „Keine Einleitung. Kein Fazit."
- Begrenzen Sie die Ausgabe durch Satzanzahl oder Stichpunktzahl: „Maximal fünf Stichpunkte."
- Nennen Sie wichtige Fachbegriffe wörtlich, wenn das Modell sie übernehmen soll
9 Modelle – Unterschiede und Empfehlungen
Alle Modelle sind für deutschsprachige Texte geeignet, unterscheiden sich aber in Stärken und Ressourcenbedarf. Die Modelle sind nicht speziell auf juristisches Fachwissen oder den deutschen Rechtsrahmen trainiert. Daher sind Fehler bei komplexeren juristischen Themenstellungen möglich (und wahrscheinlich).
Gemma-4 E2B Q5 Empfohlen als Einstieg
Herausgeber: Google | Aktive Parameter: 2 Mrd. (sparsame Mehrfachexperten-Architektur)
Stärken: Schnell, geringer Grafikspeicherbedarf, gute strukturierte Extraktion
Empfohlen für: Routineanalysen, Kurzfassungen, schnelle Orientierung
Gemma-4 E4B Q4 🧑🎓 Hohe Genauigkeit
Herausgeber: Google | Aktive Parameter: 4 Mrd.
Stärken: Höhere Ausgabequalität, bessere Nuancierung
Empfohlen für: Komplexere Dokumente, Gutachten, lange Urteilsbegründungen
SmolLM-3 Q4 / Q5
Herausgeber: Hugging Face | Parameter: 3 Mrd.
Stärken: Kompakt, energieeffizient; Q5 = etwas bessere Qualität
Empfohlen für: Einfachere Dokumente auf schwächerer Hardware
Ministral-3
Herausgeber: Mistral AI | Parameter: 3 Mrd.
Stärken: Präzise Extraktion, gute Strukturtreue
Empfohlen für: Dokumente mit klaren Strukturen (Bescheide, Verträge)
Qwen3.5-4B
Herausgeber: Alibaba / Qwen Team | Parameter: 4 Mrd.
Stärken: Gutes Sprachverständnis, solide Zusammenfassungen
Empfohlen für: Allgemeine Dokumente, wenn mehr Ausdrucksstärke gefragt ist
Phi-4-mini
Herausgeber: Microsoft | Parameter: ~3,8 Mrd.
Stärken: Stark in logisch-strukturierten Aufgaben
Empfohlen für: Analytische Prompts mit klarer Argumentationsstruktur
DeepSeek-R1-8B Reasoning-Modell Hohe Hardwareanforderung
Herausgeber: DeepSeek AI | Parameter: 8 Mrd. (Basis: Qwen3-8B)
Stärken: Reasoning-Modell mit integriertem Chain-of-Thought; denkt das Problem vor der Antwort durch, was die Extraktion komplexer Zusammenhänge verbessert
Empfohlen für: Vielschichtige Urteile, Gutachten mit komplexen Kausalzusammenhängen, Dokumente mit mehreren Beteiligten und Rechtsfragen
Hinweis: Das Modell erzeugt vor der eigentlichen Antwort einen (ausgefilterten) Denkblock (<think>…</think>), der Output-Token verbraucht. Für optimale Ergebnisse empfiehlt sich eine höhere Einstellung unter „Max. Ausgabe" (2048 Token oder mehr).
Mistral-Nemo-12B 🧑🎓 Höchste Genauigkeit Hohe Hardwareanforderung
Herausgeber: Mistral AI | Parameter: 12 Mrd.
Stärken: Höchste Ausgabequalität in der Auswahl, sehr gutes Sprachverständnis, starke Strukturtreue und präzise Extraktion auch bei komplexen Dokumenten
Empfohlen für: Anspruchsvolle Gutachten, lange Urteilsbegründungen und Dokumente mit hoher juristischer Komplexität
Hinweis: Größtes Modell (~7,6 GB); benötigt ausreichend Arbeitsspeicher. Auf schwächerer Hardware deutlich langsamer als die kleineren Modelle.
10 Modell herunterladen
Wenn ein Modell noch nicht auf der Festplatte liegt, öffnet sich beim Klick auf „Analyse starten" automatisch der Download-Dialog.
- Abbrechen: Download stoppen – die unvollständige Datei wird automatisch gelöscht.
- Zielordner: Wird im Dialog angezeigt. Anpassung über die Umgebungsvariable
OPENXJVMODELPATH. - Modell löschen: Über „ⓘ" → „Modell löschen" (nach Bestätigung).
11 Lange Dokumente und Chunking
Sprachmodelle können nur eine begrenzte Textmenge gleichzeitig verarbeiten (Kontextfenster). Das KI-Labor berechnet vor jeder Analyse, ob das Dokument hineinpasst.
Wenn das Dokument zu lang ist: Der Text wird automatisch in Abschnitte (Chunks) aufgeteilt, jeder Abschnitt separat analysiert und die Einzelergebnisse anschließend zusammengefasst (Konsolidierungspass).
Im Fortschrittsprotokoll erscheint dann:
12 Häufige Fehler und was sie bedeuten
✗ nicht gefunden neben dem Modellnamen
Das Modell ist noch nicht heruntergeladen. Starten Sie die Analyse, um den Download-Dialog zu öffnen.
Analyse startet, Ergebnisfeld bleibt leer
Prüfen Sie das Fortschrittsprotokoll. Mögliche Ursachen: gescanntes PDF ohne Texterkennung (kein lesbarer Text hinterlegt), beschädigte Datei, oder unzureichender Arbeitsspeicher.
Analyse dauert sehr lange
Ohne GPU läuft das Modell über den Prozessor – je nach Dokumentlänge mehrere Minuten. Mit Grafikkarte ist die Analyse deutlich schneller.
Ausgabe bricht mitten im Satz ab
Die Ausgabe hat die eingestellte maximale Ausgabelänge erreicht. Erhöhen Sie den Wert unter „Max. Ausgabe".
Ausgabe enthält Informationen, die nicht im Dokument stehen
Das nennt sich Halluzination. Prüfen Sie alle Angaben (Namen, Daten, Paragraphen, Beträge) anhand des Originaldokuments. Die Prompt-Vorlagen sind so formuliert, dass sie Halluzinationen reduzieren, aber nicht vollständig ausschließen können.
Programm stürzt ab oder friert ein
Möglicherweise reicht der Arbeitsspeicher oder Grafikspeicher nicht aus. Versuchen Sie ein kleineres Modell (Phi 4 mini) oder reduzieren Sie die maximale Ausgabelänge.
Die Ausgabe wiederholt sich ständig
- Passen Sie den Prompt an und geben Sie klare Stop-Anweisungen (Beispiel: Stop nach Absatz "Zusammenfassung")
- Reduzieren Sie die maximale Ausgabelänge (Max. Ausgabe)
- Wenn Sie dem Modell widersprüchliche Anweisungen geben, ist es ggf. "verwirrt" (Beispiel: Berichte vollständig und lasse unwichtige Informationen weg)
Eine Aufforderung zur Übersetzung liefert weiterhin deutschsprachigen Text
Die Ausgabesprache der Modelle ist im Systemprompt auf Deutsch festgelegt. Außerdem wurde die „Kreativität“ der Modelle stark eingeschränkt, damit sie sich inhaltlich nicht von der Quelle entfernen. Übersetzungen benötigen jedoch ein gewisses Maß an Flexibilität, das diese kleinen Modelle ohne einen gewissen Informationsverlust nicht bieten können.
13 Grenzen der KI – was sie nicht kann
- Rechtliche Beurteilung: Das Modell extrahiert und strukturiert Informationen, bewertet aber keine Rechtslage, keine Erfolgsaussichten und keine Haftungsrisiken.
- Lückenfüllung: Was im Dokument nicht steht, erfindet das Modell im besten Fall gar nicht – im schlechtesten Fall erfindet es plausible, aber falsche Details.
- Aktualität: Die Modelle haben einen Wissensstand bis zu ihrem Trainingsabschluss. Spätere Gesetzesänderungen sind ihnen unbekannt.
- Verlässlichkeit bei Zahlen und Daten: Beträge, Fristen und Paragraphen müssen immer mit dem Originaldokument abgeglichen werden.
- Schlechte Textqualität führt zu schlechten Ergebnissen: Die Modelle sind ausdrücklich angewiesen, sich an den vorliegenden Text zu halten und keine Inhalte hinzuzuerfinden. Enthält das Dokument aber unlesbaren oder fehlerhaften Text – etwa weil die automatische Texterkennung bei einem eingescannten Dokument Fehler gemacht hat – dann arbeitet die KI zwangsläufig mit diesem fehlerhaften Ausgangsmaterial. Das Ergebnis ist dann entsprechend unzuverlässig. Prüfen Sie bei auffälligen Ausgaben zunächst, ob der Dokumenttext selbst korrekt eingelesen wurde.
- Eingescannte Dokumente ohne Texterkennung: Reine Bilddateien, bei denen kein Text hinterlegt ist (erkennbar daran, dass sich im Dokument kein Text markieren lässt), können nicht analysiert werden. Das Dokument muss zunächst mit einer Texterkennungssoftware aufbereitet werden.
Anhang: Lizenzen der eingesetzten Modelle
Alle Sprachmodelle stehen unter freien quelloffenen Lizenzen (Apache 2.0, MIT). Sie können die Modelle kostenlos nutzen, weitergeben und kommerziell einsetzen (unter Beachtung der jeweiligen Bedingungen).
Gemma-4 E2B – Gemma-4-E2B-it-Q5_K_M.gguf
| Herausgeber | Google LLC |
| Lizenz | Apache License 2.0 + Gemma Terms of Use |
| SPDX | Apache-2.0 |
| Lizenztext | https://ai.google.dev/gemma/apache_2 |
| Terms of Use | https://ai.google.dev/gemma/terms |
Gemma-4 E4B – Gemma-4-E4B-it-Q4_K_M.gguf
| Herausgeber | Google LLC |
| Lizenz | Apache License 2.0 + Gemma Terms of Use |
| SPDX | Apache-2.0 |
| Lizenztext | https://ai.google.dev/gemma/apache_2 |
| Terms of Use | https://ai.google.dev/gemma/terms |
SmolLM-3 – SmolLM3-3B-Q4_K_M.gguf / Q5_K_M.gguf
| Herausgeber | Hugging Face TB (HuggingFaceTB) |
| Lizenz | Apache License 2.0 |
| SPDX | Apache-2.0 |
| Lizenztext | https://www.apache.org/licenses/LICENSE-2.0 |
Ministral-3 – Ministral-3-3B-Instruct-2512-Q4_K_M.gguf
| Herausgeber | Mistral AI |
| Lizenz | Apache License 2.0 |
| SPDX | Apache-2.0 |
| Lizenztext | https://www.apache.org/licenses/LICENSE-2.0.txt |
Qwen3.5-4B – Qwen3.5-4B-Q4_K_M.gguf
| Herausgeber | Alibaba Group / Qwen Team |
| Lizenz | Apache License 2.0 |
| SPDX | Apache-2.0 |
| Lizenztext | https://huggingface.co/Qwen/Qwen3.5-4B/blob/main/LICENSE |
Phi-4-mini – Phi-4-mini-instruct-Q4_K_M.gguf
| Herausgeber | Microsoft Corporation |
| Lizenz | MIT License |
| SPDX | MIT |
| Lizenztext | https://huggingface.co/microsoft/Phi-4-mini-instruct/blob/main/LICENSE |
DeepSeek-R1-8B – DeepSeek-R1-0528-Qwen3-8B-Q4_K_M.gguf
| Herausgeber | DeepSeek AI |
| Basis | Qwen3-8B (Alibaba / Qwen Team) |
| Lizenz | MIT License |
| SPDX | MIT |
| Lizenztext | https://huggingface.co/deepseek-ai/DeepSeek-R1-0528-Qwen3-8B/blob/main/LICENSE |
| Quelle | https://huggingface.co/deepseek-ai/DeepSeek-R1-0528-Qwen3-8B |
| GGUF | https://huggingface.co/unsloth/DeepSeek-R1-0528-Qwen3-8B-GGUF |
Mistral-Nemo-12B – Mistral-Nemo-Instruct-2407.Q4_K_M.gguf
| Herausgeber | Mistral AI |
| Lizenz | Apache License 2.0 |
| SPDX | Apache-2.0 |
| Lizenztext | https://www.apache.org/licenses/LICENSE-2.0.txt |
| Quelle | https://huggingface.co/mistralai/Mistral-Nemo-Instruct-2407 |
| GGUF | https://huggingface.co/mradermacher/Mistral-Nemo-Instruct-2407-GGUF |
PaddleOCR PP-OCRv5 – OCR-Modelle (Latin)
| Modelle | ch_PP-OCRv5_mobile_det.onnx · latin_PP-OCRv5_rec_mobile_infer.onnx · cls_infer.onnx |
| Herausgeber | PaddlePaddle Authors / Baidu Inc. |
| ONNX-Konvertierung | RapidAI Community |
| Lizenz | Apache License 2.0 |
| SPDX | Apache-2.0 |
| Lizenztext | https://www.apache.org/licenses/LICENSE-2.0 |
| Quelle | https://github.com/PaddlePaddle/PaddleOCR |
| Modell-Hub | https://www.modelscope.cn/models/RapidAI/RapidOCR |
| Inferenz-Framework | RapidOCR (https://github.com/RapidAI/RapidOCR) · Apache 2.0 |
Diese Anleitung bezieht sich auf das KI-Labor als Bestandteil von openXJV. Alle genannten Modelle werden von ihren jeweiligen Herausgebern unabhängig gepflegt. Aktuelle Lizenzinformationen finden Sie stets auf den verlinkten Quellseiten.