Lokales Sprachmodell
FINN - ein Assistent, der das Haus nicht verlässt
Ein Sprachmodell mit 20 Milliarden Parametern läuft auf einer Grafikkarte in diesem Gehäuse. Es kennt meine Notizen und Dokumente, erinnert sich an frühere Gespräche und meldet sich von selbst, wenn ihm etwas auffällt. Kein Anbieter dazwischen, keine Abrechnung pro Anfrage, keine Inhalte, die woanders liegen.
- Zwei streng getrennte Rechterollen auf demselben Modell - die öffentliche sieht keinerlei privaten Zusammenhang
- Erreichbar über Weboberfläche, Messenger und Sprache
- Langzeitgedächtnis, das nachts verdichtet wird, statt endlos zu wachsen
Nachprüfbar Der Chat auf dieser Seite ist genau dieses System, im öffentlichen Profil. Was er dir antwortet, rechnet ein Rechner in Deutschland aus.
Sprachbedienung
Zuhören und antworten, auf Deutsch, ohne Cloud
Spracherkennung und Sprachausgabe laufen als eigene Dienste auf einer zweiten Grafikkarte, damit sie dem Sprachmodell nicht den Speicher wegnehmen. Gesprochenes wird auf diesem Rechner in Text verwandelt, beantwortet und wieder als deutsche Stimme ausgegeben - die Aufnahme wird nirgendwohin geschickt.
- Deutsche Erkennung und deutsche Stimme, kein Übersetzungsumweg
- Zweite Grafikkarte, damit Erkennung und Antwort sich nicht blockieren
- Derselbe Assistent dahinter wie im Chat - eine Wissensbasis, mehrere Zugänge
Nachprüfbar Läuft als zwei eigenständige Dienste neben dem Sprachmodell, seit Monaten im Alltagsbetrieb.
Weboberfläche mit Rollen
Ein Dashboard, in dem nicht jeder alles sieht
Eine Weboberfläche, die zusammenzieht, was sonst in getrennten Werkzeugen liegt. Davor sitzt ein zentraler Anmeldedienst: Wer sich anmeldet, bekommt die Ansicht seiner Rolle. Das ist keine ausgeblendete Schaltfläche, sondern eine Prüfung, die vor der Anwendung stattfindet.
- Rollen und Rechte an einer Stelle, nicht in jeder Anwendung neu
- Von außen erreichbar über verschlüsselte Verbindungen mit eigenen Zertifikaten
- Mehrere Anwendungen teilen sich dieselbe Anmeldung
Nachprüfbar Vier eigenständige Web-Anwendungen laufen hier hinter derselben Anmeldung, jede mit eigener Rollenlogik.
Automatisierter Ablauf
Eine Auftragsstrecke, die sich selbst abarbeitet
Die Werkstatt dieser Seite ist zugleich mein Übungsplatz für Prozessautomatisierung: Eine Bestellung durchläuft sieben Zustände, meldet sich beim Kunden, erzeugt ihre Rechnung und legt sie ab - ohne dass jemand etwas abtippt. Interessant ist daran nicht der 3D-Druck, sondern wo ich die Automatik absichtlich unterbreche.
- Die Warteschlange bleibt pausiert, bis ein Mensch freigibt - ein Gerät, das über Stunden Hitze erzeugt, startet nicht auf Zuruf aus dem Internet
- Preise entstehen ausschließlich auf dem Server; was der Browser mitschickt, wird nie übernommen
- Positionen werden bei der Bestellung eingefroren, nicht später nachgeschlagen - ändert sich ein Preis, bleibt die Bestellung, was sie war
- Die Arbeitsfläche gilt ohne ausdrückliche Meldung als belegt, nicht als frei
Nachprüfbar Läuft seit Wochen durch. Der Live-Wert auf der Startseite kommt aus genau dieser Strecke.
Unterbau
Der Teil, den man erst vermisst, wenn er fehlt
Über zwanzig Dienste in Containern, ein vorgeschalteter Proxy mit automatisch erneuerten Zertifikaten, eigener Dateispeicher statt fremder Cloud, und ein nächtliches Backup, das tatsächlich läuft und dessen letzten Durchlauf ich benennen kann. Das ist der unspektakuläre Teil - und der, an dem sich entscheidet, ob ein System nach zwei Jahren noch da ist.
- Dienste sauber getrennt, jeder mit eigener Konfiguration statt einem gewachsenen Klumpen
- Verschlüsselung nach außen mit automatischer Erneuerung, kein jährliches Handanlegen
- Nächtliche Sicherung auf ein zweites Laufwerk, zeitgesteuert und protokolliert
Nachprüfbar Die letzte Sicherung lief heute Nacht um 02:30 Uhr. Genau diese Nachprüfbarkeit meine ich.