Aufbau der Plattform
Wie OnPrem AI aufgebaut ist und welche Aufgabe jeder Baustein übernimmt, erklärt ohne Fachchinesisch.
2 Min. Lesezeit Kapitel 5
Das Grundprinzip#
OnPrem AI ist kein einzelnes Programm, sondern ein aufeinander abgestimmtes Paket aus mehreren Bausteinen. Jeder Baustein hat eine klare Aufgabe. aictl sorgt dafür, dass alle Bausteine zusammenpassen, richtig verbunden sind und gemeinsam aktualisiert werden.
Du musst die einzelnen Bausteine nicht kennen oder pflegen. Diese Seite hilft dir aber zu verstehen, was im Hintergrund passiert.
Die Bausteine#
| Baustein | Aufgabe |
|---|---|
| Chat | Die Oberfläche für dein Team: Fragen stellen, Dokumente befragen, im Web recherchieren und Werkzeuge der Erweiterungen nutzen. |
| KI-Zentrale | Nimmt alle Anfragen entgegen und leitet sie an das passende Sprachmodell weiter. Sie verteilt die Last, wenn mehrere Rechner Modelle bereitstellen. |
| Modell-Engine | Führt die Sprachmodelle aus. Sie läuft direkt auf dem Server, damit sie die Grafikkarte voll nutzen kann. |
| Firmen-Login | Eine Anmeldung für alles. Benutzer, Gruppen und Rechte werden zentral verwaltet. |
| Automationen | Verbindet KI mit wiederkehrenden Abläufen, zum Beispiel eingehende E-Mails zusammenfassen. |
| Wissensspeicher | Merkt sich den Inhalt deiner Dokumente, damit die KI die passenden Stellen findet. |
| Websuche | Eine private Suchmaschine, damit der Chat aktuelle Informationen findet, ohne dein Suchverhalten preiszugeben. |
| Datenbank | Speichert Chats, Einstellungen und die Daten der Erweiterungen. Jede Erweiterung hat ihre eigene. |
| Gateway | Der einzige Eingang von aussen. Es verschlüsselt alle Verbindungen und leitet sie an den richtigen Dienst weiter. |
Wie eine Anfrage fliesst#
- Eine Person stellt im Chat eine Frage.
- Das Gateway prüft, ob die Verbindung verschlüsselt und die Person angemeldet ist.
- Der Chat reicht die Frage an die KI-Zentrale weiter.
- Die KI-Zentrale wählt das passende Modell und den Rechner, der es bereitstellt.
- Die Antwort kommt auf demselben Weg zurück.
Alle Dienste sprechen nur mit der KI-Zentrale, nie direkt mit einem Modell. Darum kannst du Modelle austauschen oder weitere Rechner hinzufügen, ohne dass sich für dein Team etwas ändert.
Veröffentlichte Oberflächen#
Wenn du eine Domain eingerichtet hast, sind folgende Bereiche unter eigenen Adressen erreichbar:
| Bereich | Beispieladresse | Wer hat Zugriff |
|---|---|---|
| Firmen-Login | auth.ki.firma.ch |
alle (Anmeldeseite) |
| Chat | chat.ki.firma.ch |
alle Benutzer |
| Automationen | eigene Adresse nach Wahl | nur Administratoren |
| Erweiterungen | z. B. protocol.ki.firma.ch |
je nach Erweiterung |
Welche Bereiche unter welcher Adresse erreichbar sind, bestimmst du selbst, siehe Domain und Zertifikate.
Mehrere Rechner#
Der Server, auf dem die Plattform läuft, heisst Hauptserver. Wird er zu langsam, kannst du weitere Rechner als Modell-Rechner anhängen. Auf diesen läuft nur die Modell-Engine, die KI-Zentrale verteilt die Anfragen automatisch. Mehr dazu unter Modelle und Rechner.
Der Hintergrunddienst#
Auf dem Hauptserver läuft ständig ein kleiner Dienst von aictl. Er sorgt dafür, dass:
- nach einem Neustart alles automatisch wieder startet,
- abgestürzte Dienste neu gestartet werden,
- die Lizenz regelmässig bestätigt wird,
- neue Modell-Rechner aufgenommen werden können,
- geplante Aufgaben der Erweiterungen ausgeführt werden, zum Beispiel das nächtliche Aufräumen.
Nicht gefunden, was du suchst?
Unser Support hilft dir gerne weiter.