frag KIm
Kindersichere KI-Wissensauskunft für die Primarstufe, angelehnt an die Idee
von fragFINN. Ein Kind stellt eine Frage und
bekommt eine kindgerechte, quellenbelegte Antwort, abgesichert durch
mehrschichtige Sicherheits-Leitplanken.
Proof of Concept, interne Demo-Phase. Live: https://fragkim.lilapixel.de
Diese Instanz ist eine interne Entwicklungs-Demo und nicht für Kinder
bestimmt.
Inhalt
Was es macht
- Chat-Oberfläche im Stil bekannter Assistenten, aber inhaltlich eine
Single-Turn-Wissensauskunft: keine Companion-Persona, keine Ich-Form als
Selbstreferenz, kein Beziehungs- oder Gefühls-Kontext.
- Antworten kommen aus Klexikon (live) und dem
Grundschulwiki (aus
einem GitHub-Archiv, weil das Original im Juni 2026 abgeschaltet wird).
- Klassisches RAG-Pattern: Frage → Suche in den Wikis → Top-Treffer als
Kontext an Mistral → kindgerechte Antwort mit Quellenangabe. Liegt ein
passender Artikel vor, wird zwingend dessen Angabe verwendet (auch die
konkreten Zahlen), nicht das eigene Modellwissen.
- Allgemeinwissen-Fallback für Fragen, die in den Wikis nicht stehen
(klar gekennzeichnet mit „Aus dem Allgemeinwissen: …"). Als Kombi-Antwort
kann ein Quell-Kern um eine kurze, markierte Zusatzinfo erweitert werden
(„Schon gewusst (aus dem Allgemeinwissen)? …"), aber nur, wenn sie echten Mehrwert
bietet.
- Mehrschichtige Sicherheit: deterministische Pre-Filter plus
sprach-agnostische KI-Moderation auf Eingabe und Antwort; bei Notlagen
Eskalation zur Nummer gegen Kummer.
- Mehrsprachig: Oberfläche, Antworten und Sicherheits-Texte in Deutsch,
Englisch, Türkisch, Russisch, Ukrainisch und Arabisch (inkl. RTL).
- Barrierefreiheit: Skip-Link, sichtbarer Fokus, Screenreader-Status,
WCAG-AA-Kontraste,
prefers-reduced-motion.
- Bild zur Antwort: das erste sinnvolle Artikelbild wird neben der
Antwort angezeigt.
- Vorlesen (ElevenLabs TTS) und Spracheingabe (ElevenLabs Scribe
STT), optional.
- Rate-Limit pro IP gegen Missbrauch der kostenpflichtigen Endpunkte.
- Datensparsam: keine Konten, keine serverseitig gespeicherten Verläufe.
Der Chat lebt nur im Browser der laufenden Sitzung.
- Archive-Viewer unter
/archive/grundschulwiki/:title: jeder
archivierte Artikel als lesbare HTML-Seite mit Bildern und internen Links.
Funktioniert auch nach der Abschaltung des Original-Wikis.
- Eltern-/Lehrkräfte-Seite unter
/ueber (mehrsprachig): erklärt, was die
KI macht, was sie bewusst nicht macht, und die Abgrenzung zu Companion-Bots.
Wie es sich einordnet
In Schulen verbreitete KI-Werkzeuge wie telli / AIS.chat (kostenlos,
ländergemeinsam vom FWU) und fobizz (kommerziell) sind
lehrergesteuerte Klassenraum-Werkzeuge: Die Lehrkraft schaltet frei,
erstellt geteilte Dialoge und sieht die Prompts ein. Die Sicherheit kommt
dort über den Menschen in der Schleife.
frag KIm bedient bewusst das andere Szenario: die direkte, unbegleitete
Nutzung durch jüngere Kinder (zu Hause oder in der Freiarbeit), ohne dass
eine Lehrkraft jeden Prompt moderiert, und gegroundet auf kuratierte
Kinderquellen statt eines offenen Chatbots. Es will keine Konkurrenz sein,
sondern eine Ergänzung für die Primarstufe.
Was es nicht macht
Bewusste Nicht-Ziele. Sie schärfen das Produkt und sind für ein
Kinder-Angebot ein Sicherheits- und Vertrauensmerkmal, kein Mangel.
- Kein Companion, keine Persona. Kein „ich", kein Avatar, kein Smalltalk,
keine Gefühls- oder Beziehungsfragen ans System. Scharfe Abgrenzung zu
Companion-Bots, die Kinder besonders gefährden.
- Kein offener Chatbot. Antworten werden zuerst aus den geprüften Quellen
abgeleitet, nicht frei erfunden. Keine Bildgenerierung, keine Code-Ausgabe.
- Kein Schreib-/Hausaufgaben-Assistent. Sachfragen ja, kindgerechte
Kreativ-Bitten (Witz, Rätsel, Reim) ja; aber es schreibt keine Aufsätze oder
Hausaufgaben „fertig".
- Keine Beratung im Einzelfall. Medizinische, psychische oder rechtliche
Einzelfragen werden nicht beraten, sondern an erwachsene Bezugspersonen (bei
Notlagen an die Nummer gegen Kummer) verwiesen.
- Keine Meinungsbildung zu strittigen Themen, keine Tagespolitik, keine
sich täglich ändernden Fakten.
- Keine Lehrer-Aufsicht / Prompt-Einsicht. Anders als telli/fobizz gibt es
keine zentrale Mitlese-Funktion. Gewollt (Privatsphäre), heißt aber auch:
kein Klassenraum-Werkzeug.
- Keine Konten, kein Tracking, keine Speicherung. Keine Profile, keine
Lernstandsanalyse, keine Benotung.
- Keine Werbung, keine Monetarisierung.
- (Noch) nicht für die ungeschützte öffentliche Kindernutzung. Aktuell PoC
hinter einem Login; der offene Betrieb beginnt erst nach Klärung von
Trägerschaft, Jugendschutz und souveränem Hosting (siehe Grenzen/Roadmap).
- Keine Garantie auf Vollständigkeit oder Fehlerfreiheit. Es bleibt ein
PoC; die Quellen decken nicht jedes Thema ab.
Stack
| Schicht | Technik |
|---|
| Sprache | TypeScript (ESM), Node 20 |
| Frontend | React + Vite, Single-Page Chat-UI |
| i18n | i18next + Browser-Language-Detector, 6 Sprachen (de/en/tr/ru/uk/ar, RTL) |
| Backend | Fastify, als Vercel Serverless Function (Catch-all) |
| LLM | Mistral La Plateforme (mistral-small-latest, EU) |
| Moderation | Mistral Moderation API (mistral-moderation-latest, EU) |
| Retrieval | Live MediaWiki-API (Klexikon) + GitHub-Archiv (Grundschulwiki); optional lokal mit Qdrant + Embeddings |
| TTS / STT | ElevenLabs (Stimme „Sarah"/„Rachel", Scribe v1), optional |
| Auth | Single-Password mit signiertem Cookie + Magic-Link |
| Tests | Vitest (deterministisch, ohne LLM-Calls) |
| Hosting | Vercel (Production), eigene Domain via DNS |
| Webanalyse | Umami (selbst gehostet, cookieless) |
Projektstruktur
Monorepo mit npm-Workspaces (backend, frontend).
.
├── backend/
│ ├── src/
│ │ ├── server.ts Fastify-App (buildApp), Routen, statisches Frontend
│ │ ├── config.ts zentrale Konfiguration aus Umgebungsvariablen
│ │ ├── auth.ts Single-Password-Login, Cookie, Magic-Link, Bot-Erkennung
│ │ ├── triggers.ts deterministische Pre-Filter (Wortlisten/Regex)
│ │ ├── responses.ts feste Sicherheits-/Hinweistexte, mehrsprachig
│ │ ├── rate-limit.ts In-Memory-Rate-Limit pro IP
│ │ ├── legal-pages.ts Impressum + Datenschutz (serverseitig gerendert)
│ │ ├── archive-viewer.ts HTML-Ansicht der archivierten Grundschulwiki-Artikel
│ │ └── rag/
│ │ ├── pipeline.ts Orchestrierung: Filter → Moderation → Retrieval → Relevanz-Gate → Generierung
│ │ ├── rewrite.ts Folgefrage → eigenständige Suchanfrage
│ │ ├── retrieval-online.ts MediaWiki-Suche (Klexikon, Grundschulwiki live)
│ │ ├── retrieval-archive.ts Grundschulwiki aus dem GitHub-Archiv
│ │ ├── relevance.ts Relevanz-Gate: verwirft themenfremde Auszüge (Mistral)
│ │ ├── image-safety.ts deterministischer Bild-Filter (Dokument-Scans, Gewaltmotive)
│ │ ├── generator.ts Mistral-Generierung, Grounding, Kombi-Antwort, Übersetzung
│ │ ├── moderation.ts Input- und Output-Moderation (Mistral)
│ │ ├── wikitext.ts Wikitext → Text/HTML (für den Archive-Viewer)
│ │ ├── embeddings.ts lokale Embeddings (nur bei RETRIEVAL_PROVIDER=local)
│ │ ├── qdrant.ts Qdrant-Anbindung (nur lokal)
│ │ └── judge.ts optionaler Faktenchecker (derzeit deaktiviert)
│ └── test/ Vitest: filters, moderation, responses, relevance, image-safety + fixtures
├── frontend/
│ └── src/
│ ├── App.tsx komplette Chat-UI
│ ├── styles.css Styling inkl. a11y und RTL
│ ├── main.tsx Einstieg, lädt i18n
│ └── i18n/ i18next-Setup + Locales (6 Sprachen)
├── api/index.ts Vercel-Function: reicht alle Requests an Fastify durch
├── scripts/
│ ├── crawl-klexikon.ts Klexikon crawlen (für lokales Retrieval)
│ ├── index-klexikon.ts Embeddings bauen + in Qdrant indexieren
│ └── vercel-build.sh Build + Entfernen schwerer optionaler Deps (250-MB-Limit)
├── vercel.json Function- und Build-Konfiguration
├── Dockerfile, fly.toml Container-/Fly-Variante (Alternative zu Vercel)
└── CLAUDE.md, PHASE_2.md Leitplanken bzw. Phase-2-Backlog
Lokal starten
Voraussetzungen: Node 20+ und npm. Für echte Antworten ein Mistral-API-Key
(EU). Ohne Key läuft ein Stub-Modus, der nur Klexikon-Auszüge zitiert.
npm install
cp .env.example .env
# Mindestens setzen: DEMO_PASSWORD. Für echte KI-Antworten zusätzlich
# LLM_PROVIDER=mistral und MISTRAL_API_KEY=...
npm run dev:backend # :8080 Backend + statisch serviertes Frontend
npm run dev:frontend # :5173 Vite-HMR, Proxy zur Backend-API
Production-Build lokal prüfen:
npm run build # Frontend + Backend bauen
npm start # → http://localhost:8080
Tests:
npm --workspace backend run test # einmalig
npm --workspace backend run test:watch # im Watch-Modus
Betriebsarten (über Provider-Schalter, siehe Konfiguration):
- Null-Setup:
LLM_PROVIDER=stub, RETRIEVAL_PROVIDER=online — zitiert nur
Klexikon-Auszüge, kein API-Key nötig.
- Produktion:
LLM_PROVIDER=mistral, RETRIEVAL_PROVIDER=online — volle
RAG-Pipeline mit Mistral und Live-Wikis. So läuft auch die Demo.
- Lokales Retrieval (optional):
RETRIEVAL_PROVIDER=local mit Qdrant und
Embeddings; vorher npm run crawl und npm run index. Die schweren
Abhängigkeiten dafür installiert npm --workspace backend run install:local-rag.
Konfiguration
Alle Werte kommen aus Umgebungsvariablen (.env lokal, Projekt-Settings auf
Vercel). Geheimnisse stehen nie im Code.
| Variable | Default | Bedeutung |
|---|
LLM_PROVIDER | stub | stub | ollama | mistral — Antwort-Generierung |
RETRIEVAL_PROVIDER | online | online (MediaWiki-API) | local (Qdrant) |
EMBEDDING_PROVIDER | local | local | mistral — nur bei lokalem Retrieval |
MISTRAL_API_KEY | – | nötig, sobald ein Provider auf mistral steht; auch für die Moderation |
DEMO_PASSWORD | – | Zugangspasswort der Demo (Single-Password-Login) |
ELEVENLABS_API_KEY | – | optional; aktiviert Vorlesen und Spracheingabe |
ELEVENLABS_VOICE_ID | 21m00Tcm4TlvDq8ikWAM | Stimme (nur Default-Voices im Free-Tier) |
ELEVENLABS_MODEL_ID | eleven_multilingual_v2 | TTS-Modell |
GRUNDSCHULWIKI_ARCHIVE_URL | raw-GitHub des Archiv-Repos | Quelle des Archivs; off → wieder Live-API |
RATE_LIMIT_WINDOW_MS | 60000 | Zeitfenster des Rate-Limits |
RATE_LIMIT_ASK | 30 | Anfragen/Fenster/IP auf /api/ask (0 = aus) |
RATE_LIMIT_MEDIA | 20 | Anfragen/Fenster/IP auf /api/speak + /api/transcribe |
QDRANT_URL / QDRANT_API_KEY / QDRANT_COLLECTION | localhost / – / klexikon | nur bei lokalem Retrieval |
OLLAMA_URL / OLLAMA_MODEL | localhost / qwen2.5:7b | nur bei LLM_PROVIDER=ollama |
CRAWLER_CONTACT |
HTTP-Endpunkte
Alles läuft über eine einzige Fastify-App. Die API-Routen liegen hinter dem
Login; öffentlich erreichbar sind nur wenige Pfade.
| Methode | Pfad | Zweck | Auth |
|---|
| POST | /api/ask | Frage stellen (RAG-Pipeline) | ja |
| POST | /api/speak | Antwort vorlesen (TTS) | ja |
| POST | /api/transcribe | Spracheingabe (STT) | ja |
| GET | /archive/grundschulwiki/:title | archivierter Artikel als HTML | ja |
| GET | /ueber | Info für Eltern/Lehrkräfte (mehrsprachig via ?lang=) | öffentlich |
| GET | /impressum, /datenschutz | Rechtstexte | öffentlich |
| GET | /healthz | Health-Check | öffentlich |
| GET | /robots.txt | Suchmaschinen-Sperre | öffentlich |
/api/ask nimmt JSON (question max. 500 Zeichen, optional history,
sources, lang) und liefert:
{
"text": "…",
"sources": [{ "title": "…", "url": "…", "imageUrl": "…", "wiki": "klexikon" }],
"escalated": false,
"noAnswer": false,
"refused": false
}
Rate-Limit pro IP: /api/ask 30/min, /api/speak + /api/transcribe
zusammen 20/min (konfigurierbar).
Architektur
frag KIm ist ein RAG-System (Retrieval-Augmented Generation): Die Antwort
wird nicht frei vom Sprachmodell erfunden, sondern aus geprüften Quellen
abgeleitet. Eine Frage durchläuft folgende Kette
(backend/src/rag/pipeline.ts):
Frage des Kindes
│
├─ 1. Deterministische Pre-Filter (triggers.ts) ─┐
│ sensibel? Schaden? Companion? reine Begrüßung? │ kein LLM-Call,
│ │ feste Antwort
├─ 2. Input-Moderation (Mistral Moderation API, EU) ─┘ bei Treffer
│ sprach-agnostisches Sicherheitsnetz
│
├─ 3. Query-Rewrite (rewrite.ts)
│ Folgefrage → eigenständige Suchanfrage (Pronomen auflösen),
│ danach erneuter Schaden-Check auf die umgeschriebene Frage
│
├─ 4. Retrieval (retrieval-online.ts / -archive.ts)
│ Klexikon (Live-MediaWiki-API) + Grundschulwiki (GitHub-Archiv)
│
├─ 5. Relevanz-Gate (relevance.ts)
│ verwirft thematisch fremde Auszüge vor Quelle/Bild/Generierung
│
├─ 6. Generierung (generator.ts)
│ Mistral mit hartem System-Prompt, gegroundet auf die Auszüge
│
├─ 7. Output-Moderation (bei Allgemeinwissen-Anteilen)
│
└─ Antwort + Quellenangabe (oder Eskalation / Hinweis)
Query-Rewrite. Folgefragen („Kann man darin schwimmen?") werden mit dem
bisherigen Verlauf zu einer eigenständigen Suchanfrage aufgelöst, damit das
Retrieval und der Generator die Pronomen verstehen. Direkt danach läuft der
Schaden-Filter erneut, weil eine harmlose Folgefrage nach dem Umschreiben
problematisch werden kann.
Retrieval. Volltextsuche per MediaWiki-API in den aktivierten Quellen
(Klexikon live; Grundschulwiki aus dem GitHub-Archiv, da das Original im Juni
2026 abgeschaltet wird). Pro Quelle werden die Top-Treffer geholt, nach Rang
gewichtet und ineinander gefächert. Findet die Suche nichts, greifen
Fallbacks: Stoppwörter entfernen, dann Einzelwort-Suche. Der Artikel-HTML wird
zu sauberem Text reduziert (bis ~6000 Zeichen Kontext); das erste sinnvolle
Bild wird für die Anzeige neben der Antwort extrahiert. Ein deterministischer
Bild-Filter (image-safety.ts) hält dabei
Dokument-Scans und Gewalt-/Fahndungsmotive grundsätzlich heraus.
Relevanz-Gate. Die Einzelwort-Fallbacks erhöhen die Trefferquote, ziehen
aber thematisch fremde Artikel an sich (z.B. „Steckbrief" als Polizei-Fahndung
bei einer Tierfrage). Vor Generierung, Quellen- und Bildauswahl prüft deshalb
ein Mistral-Call (relevance.ts), welche
Auszüge wirklich zur Frage gehören, und verwirft den Rest. Bleibt nichts übrig,
greift sauber das „Weiß ich nicht" bzw. die markierte Allgemeinwissen-Antwort.
Fällt der Call aus, werden die Treffer behalten (fail-open); der Bild-Filter
greift davon unabhängig weiter.
Generierung und Grounding. Das Sprachmodell (mistral-small-latest, EU)
bekommt die Auszüge plus einen harten System-Prompt. Die Quellen-Logik
(„Weg 2"):
- Liegt ein themenpassender Auszug vor, muss die Antwort darauf beruhen
und dessen konkrete Angaben/Zahlen übernehmen (auch wenn das Modell es
anders zu wissen glaubt). Die Quelle wird unter der Antwort angezeigt. Das
ist der Normalfall.
- Nur wenn die Auszüge die Frage nicht enthalten (oder gar keine da sind),
darf gesichertes Allgemeinwissen genutzt werden, dann mit klarem Marker
„Aus dem Allgemeinwissen: …" und ohne Quellenanzeige.
- Kombi-Antwort: Eine Quell-Antwort kann um eine kurze
Allgemeinwissen-Ergänzung erweitert werden (intern durch eine
+++-Zeile getrennt, in der Ausgabe eingeleitet mit „Schon gewusst
(Allgemeinwissen)?"). Der Quell-Kern bleibt gegroundet und behält die
Quelle, die Ergänzung wird markiert und zusätzlich moderiert. Sie kommt
nur, wenn sie echten Mehrwert bietet.
Antworten werden zuverlässig auf Deutsch generiert und für andere Sprachen in
einem zweiten Schritt übersetzt (robuster, als das kleine Modell direkt
mehrsprachig antworten zu lassen).
Was nicht passiert. Keine Konten, keine serverseitig gespeicherten
Verläufe, kein Tracking pro Person. Der Chatverlauf lebt nur im Browser und
wird (auf die letzten Turns gekappt) nur zur Pronomen-Auflösung mitgeschickt.
Antwort-Typen
Je nach Frage und Fund liefert die Pipeline einen von mehreren Typen; die
Felder escalated / refused / noAnswer markieren sie:
| Typ | Wann | Erkennbar an |
|---|
| Quell-Antwort | passender Artikel gefunden | Antwort + Quellenlink |
| Kombi-Antwort | Quell-Antwort plus sinnvolle Ergänzung | Quelle + „Schon gewusst (aus dem Allgemeinwissen)? …" |
| Allgemeinwissen | Quellen decken die Frage nicht ab | „Aus dem Allgemeinwissen: …", keine Quelle |
| Eskalation | sensible Themen / Krise | Hinweis + Nummer gegen Kummer (escalated) |
| Abblock-Hinweis | Schaden an Dritten, Companion, Unpassendes | fester Hinweistext (refused) |
| Begrüßung | reine Begrüßung ohne Frage | Hinweis mit Beispielfragen (refused) |
| Weiß ich nicht | nichts Belastbares gefunden | ehrlicher Hinweis (noAnswer) |
Sicherheit
Mehrschichtig aufgebaut, weil bei der unbegleiteten Kindernutzung keine
Lehrkraft mitfiltert. Keine Schicht ist für sich perfekt; sie ergänzen sich.
- Deterministische Pre-Filter (
triggers.ts),
vor jedem LLM-Call, kostenlos und schnell:
- Sensible Themen (Suizid, Selbstverletzung, Gewalt gegen das Kind,
Essstörung, Mobbing-Opfer, Substanzkonsum) → Eskalation.
- Schaden an Dritten (Verletzen, Zerstören, Anzünden, Stehlen, Waffen)
→ Abblocken. Mehrdeutige Verben verlangen einen Täter-Bezug, damit
Naturfragen („Wie tötet eine Spinne ihre Beute?") frei bleiben.
- Companion-/Beziehungsversuche → Abblocken; reine Begrüßung → Hinweis.
- Input-Moderation (
moderation.ts,
Mistral Moderation API, EU): prüft die Frage sprach-agnostisch, weil
die deutschen Wortlisten für andere Sprachen blind sind. Selbstverletzung
eskaliert über das API-Flag oder einen Score-Schwellwert (manche
Formulierungen erkennt die API, ohne sie zu flaggen); die übrigen
Kategorien blocken nur bei hoher Konfidenz, damit Sachfragen nicht
fälschlich abgewiesen werden.
- Output-Moderation: generierte Allgemeinwissen-Antworten und der
Ergänzungsteil von Kombi-Antworten laufen vor der Ausgabe noch einmal
durch die Moderation. Reine Quell-Antworten nicht — sie gelten als
vertrauenswürdig.
- Eskalation bei Krisen: feste, nicht vom LLM erzeugte Antwort mit
Verweis auf die Nummer gegen Kummer (116 111), in der jeweiligen
Sprache.
- Harter System-Prompt: keine Ich-Persona, nur Sachfragen, keine
Schadensanleitungen, plus die Grounding-Regel (Quelle vor Eigenwissen).
- Test-Suite (siehe unten): über 200 Adversarial-Fälle, deterministisch.
- Datensparsamkeit: nichts wird gespeichert, EU-Sprachmodell, keine
Weitergabe an Dritte, kein Training mit Eingaben.
- Rate-Limit pro IP gegen Missbrauch der kostenpflichtigen Endpunkte.
Fail-open vs. fail-safe. Fällt die Moderations-API aus, wird durchgelassen
(fail-open), damit nicht jede harmlose Frage blockiert wird. Die
deterministischen Pre-Filter laufen lokal und unabhängig von der API, greifen
also auch dann.
Datenfluss und Datenschutz
Was bei einer Frage wohin geht:
- Die Frage geht an Mistral (Paris, EU) — zur Sicherheitsprüfung
(Moderation) und zur Antwort-Generierung.
- Suchanfragen gehen an klexikon.zum.de (ZUM e. V., DE) und an das
Grundschulwiki-Archiv auf raw.githubusercontent.com (GitHub, US;
nur Suchbegriffe bzw. Artikelabrufe, keine personenbezogenen Daten).
- Optionale Sprachfunktionen: Antworttext bzw. Audio gehen an
ElevenLabs (US) für Vorlesen/Transkription.
Nicht übermittelt oder gespeichert: keine Konten, keine serverseitigen
Chat-Logs, kein Tracking pro Person. Der Verlauf lebt nur im Browser der
Sitzung (auf wenige Turns gekappt, nur zur Pronomen-Auflösung mitgeschickt)
und ist nach Reload oder „Neues Gespräch" weg. Ein Cookie dient ausschließlich
dem Demo-Login. Webanalyse läuft, falls aktiv, cookieless über selbst
gehostetes Umami. Vollständige Angaben unter /impressum und /datenschutz.
Warum das unkritisch ist. Übermittelt wird im Kern eine Sachfrage
(„Was ist ein Vulkan?") — kein Name, kein Konto, keine Kennung —, und nichts
davon wird gespeichert. Ohne Identifikatoren und ohne Persistenz bleibt selbst
die kurzzeitige Verarbeitung praktisch ohne Personenbezug. Die US-Dienste
bekommen nur, was sie technisch brauchen: GitHub die Suchbegriffe bzw.
Artikelabrufe, ElevenLabs den (aus öffentlichen Lexika stammenden)
Antworttext oder das Audio. Sprachmodell und Moderation laufen in der EU.
Ehrlich dazu: Ein freies Eingabefeld lässt sich nicht erzwingen, ein Kind
könnte Persönliches eintippen. Genau deshalb wird nichts gespeichert und
greifen die Sicherheitsfilter. Für einen dauerhaften, öffentlichen Betrieb
gehört diese Einschätzung in eine formale Datenschutz-Folgenabschätzung
(Phase 2).
Mehrsprachigkeit
Oberfläche und Inhalte gibt es in Deutsch, Englisch, Türkisch, Russisch,
Ukrainisch und Arabisch.
- UI über i18next; die Sprache wird aus
localStorage bzw. dem Browser
erkannt und kann oben rechts umgeschaltet werden. Für Arabisch wird das
Dokument auf dir="rtl" gestellt, lang immer mitgeführt.
- Antworten werden auf Deutsch generiert (zuverlässiger gegroundet) und
dann übersetzt; der „Aus dem Allgemeinwissen"-Marker und das Kombi-Intro
werden lokalisiert wieder angefügt.
- Sicherheits-Texte (Eskalation, Abblocken, Hinweise) liegen mehrsprachig
in
responses.ts mit Deutsch als Fallback.
Die Hilfe-Nummer (Nummer gegen Kummer) bleibt als deutsches Angebot
erhalten, nur die Anleitung drumherum ist übersetzt.
Die nicht-deutschen Übersetzungen sind bislang maschinell und sollten vor
einem echten Einsatz von Muttersprachlern geprüft werden (siehe Grenzen).
Grundschulwiki-Archiv
Das ZUM-Grundschul-Wiki wird im Juni 2026 abgeschaltet. Damit die rund
1.500 Artikel als Quelle erhalten bleiben, gibt es ein separates Archiv-Repo:
github.com/thosor87/grundschulwiki-archiv
(Artikel mit Versionsgeschichte, Bilder, MediaWiki-XML-Export, wiederherstellbar).
frag KIm liest das Archiv über raw.githubusercontent.com (konfigurierbar
per GRUNDSCHULWIKI_ARCHIVE_URL). Solange das Original noch online ist, lässt
sich mit GRUNDSCHULWIKI_ARCHIVE_URL=off auf die Live-API zurückschalten. Der
Archive-Viewer (/archive/grundschulwiki/:title) rendert jeden Artikel
als lesbare HTML-Seite, auch nach der Abschaltung.
Tests
Vitest, bewusst deterministisch und ohne LLM-Calls, damit die Suite
schnell und reproduzierbar bleibt. Über 200 Fälle in
backend/test/:
filters.test.ts — Adversarial-Fälle für die Pre-Filter: sensible
Themen, Schaden an Dritten, Companion, Begrüßung, Identitätsfragen, und
besonders viele Falsch-Positiv-Checks (harmlose Fragen, die Schaden- oder
Sensibel-Wörter enthalten, dürfen nicht blockiert werden).moderation.test.ts — die Kategorie→Verdict-Zuordnung der Moderation
inklusive der Score-Schwellen (Eskalation hat Vorrang vor Block).responses.test.ts — die mehrsprachigen Sicherheits-Texte (jede
Sprache nicht leer, Hilfe-Nummer enthalten, Fallback auf Deutsch).
npm --workspace backend run test
Deployment
Auto-Deploy bei jedem Push auf main:
- Vercel baut über
scripts/vercel-build.sh
und entfernt danach schwere, nur für lokales Retrieval nötige
Abhängigkeiten, um unter dem 250-MB-Function-Limit zu bleiben.
vercel.json definiert die Catch-all-Function
(api/index.ts) und das Output-Verzeichnis; alle Requests
laufen durch dieselbe Fastify-App, statische Assets liefert @fastify/static.
- Sensible Variablen (
MISTRAL_API_KEY, DEMO_PASSWORD, ELEVENLABS_API_KEY)
liegen in den Vercel-Projekt-Settings, nie im Repo.
- Auth: Single-Password mit signiertem Cookie; ein Magic-Link
(
?k=<hash>) erlaubt Vorschau-Links, und Link-Vorschau-Bots bekommen
saubere OG-Daten statt eines Redirects.
Souveränes Hosting (offen). Der PoC läuft auf Vercel (US). Für einen
dauerhaften, öffentlichen Betrieb mit Kinderdaten gehört das in eine souveräne
Umgebung (z. B. STACKIT/IONOS über govdigital). Für eine container-basierte
Variante liegen Dockerfile und fly.toml bei.
Designentscheidungen
Phase-2-Backlog (DSFA, Trägerschaft, Schul-Login, souveränes Hosting, mehr
Quellen): PHASE_2.md.
- Chat-Optik, aber inhaltlich Single-Turn-Wissens-DB. Keine
Companion-Persona, keine Ich-Form, kein Beziehungs- oder Gefühls-Kontext.
- Weg-2-Quellen-Linie statt reiner Quellen-Bindung: Letztere war
konservativer, führte bei kindlichen Folgefragen aber zu vielen
„Weiß ich nicht"-Antworten.
- Moderation als zweite Linie zusätzlich zu den Wortlisten: Die Listen
sind schnell und kostenlos, aber blind für andere Sprachen; die
KI-Moderation schließt diese Lücke sprach-agnostisch.
- Voice serverseitig via ElevenLabs, weil die Browser-Speech-API unter
macOS unzuverlässig ist (Mikro-Flackern, Anfangs-Clipping beim Vorlesen).
Bekannte Grenzen und Roadmap
Ehrlich benannt:
- Übersetzungen maschinell — muttersprachliche Prüfung der Sicherheits-
und UI-Texte steht aus, besonders für die Krisen-Texte.
- Moderations-Lücke bei manchen Sprachen — einzelne nicht-deutsche
Selbstverletzungs-Formulierungen werden gestoppt, aber ohne Hilfe-Verweis.
Das schließt nur eine sprach-spezifische, geprüfte Wortliste.
- Rate-Limit pro Instanz — auf Vercel zählt jede Function-Instanz für
sich; ein global harter Deckel bräuchte geteilten Speicher (KV/Redis).
- Kein souveränes Hosting — aktuell Vercel (US) + ElevenLabs (US); für
einen echten Betrieb zu migrieren.
Weiteres im PHASE_2.md.
Lizenz
Code: CC BY-NC-SA 4.0 — keine kommerzielle Nutzung, Änderungen
müssen bei Weitergabe unter derselben Lizenz veröffentlicht werden. Für
kommerzielle Nutzung bitte Kontakt aufnehmen.
Klexikon- und Grundschulwiki-Inhalte stehen unter CC BY-SA 4.0 ihrer
jeweiligen Quellen und sind nicht Teil dieser Lizenz.
