Einführung und Voraussetzungen
Für Alcilla ist keine vollständig ausgebaute KI-Plattform erforderlich. Die Anwendung kann auf einem geeigneten Arbeitsplatz beginnen. Welche Infrastruktur langfristig sinnvoll ist, hängt von Nutzerzahl, Funktionsumfang und den gewählten KI-Modellen ab.
Was wird grundsätzlich benötigt?
Für einen lokalen Einstieg
- ein unterstützter Arbeitsplatz oder Server,
- ausreichend Speicherplatz für die zu verarbeitenden Daten,
- ein KI-Modell-Endpunkt, beispielsweise Ollama,
- ein Modell für Chat und ein Modell für die Wissenssuche,
- die gewünschten Datenquellen, beispielsweise Dokumentordner oder E-Mail-Konto.
Für optionale Funktionen
Je nach Nutzung können weitere Dienste erforderlich sein:
| Funktion | Zusätzlicher Baustein |
|---|---|
| Dokumente und PDF-Dateien konvertieren | Docling |
| Webrecherche | SearXNG |
| Besprechungen transkribieren | Transkriptionsdienst und Audio-Unterstützung |
| Zentrale Anmeldung | OIDC-kompatibler Identity Provider |
| Termine und Aufgaben übertragen | CalDAV- oder Kalenderanbindung |
| E-Mail verarbeiten | IMAP- und SMTP-Zugang |
Hardware und Leistungsbedarf
Der Leistungsbedarf hängt vor allem vom gewählten Sprachmodell ab. Kleine Modelle können auch ohne dedizierte Grafikkarte laufen, reagieren dann jedoch langsamer. Für größere Modelle und mehrere gleichzeitige Nutzer ist eine geeignete GPU oder ein zentraler Modellserver empfehlenswert.
Alcilla unterstützt bei der Auswahl:
- Die Hardware kann automatisch erkannt werden.
- Ein Eignungswert zeigt, welche Modelle zur vorhandenen Ausstattung passend sind.
- Modelle können aus der Oberfläche geladen werden, ohne die Kommandozeile zu verwenden.
Da sich die Anforderungen je nach Modell und Einsatzzweck unterscheiden, gibt es keine pauschale Mindestgröße für Arbeits- oder Grafikspeicher. Gemeinsam prüfen wir die vorhandene Infrastruktur, bewerten geeignete Einsatzmöglichkeiten und beraten bei Bedarf auch zur Anschaffung einer passenden Grafikkarte oder eines dedizierten KI-Rechners.
Was Sie nicht selbst beherrschen müssen
Sie müssen weder Ollama installieren noch Docker, Modellgrößen oder Embeddings verstehen. Wir können das für Sie übernehmen oder Sie dabei begleiten:
- Infrastruktur- und Hardwareprüfung,
- Installation und Grundkonfiguration,
- Auswahl geeigneter Modelle,
- Einrichtung der optionalen Dienste,
- Anbindung von E-Mail, Kalender und Dokumentquellen,
- Sicherheits- und Datenschutzabstimmung,
- Einweisung der Administratoren und Anwender,
- Betrieb, Updates und Fehleranalyse.
Mehr dazu finden Sie unter Beratung und Support.