DIRSCHL Academy · Infrastructure Deep Dive
On-Premise KI, lokale LLMs & hybride Architekturen
Was leisten lokale Sprachmodelle auf eigener Hardware wirklich? Wir vergleichen Open-Weight-Modelle, lokale Medienwerkzeuge und Cloud-APIs an Ihren Aufgaben – mit Blick auf Leistung, Datenkontrolle und Gesamtkosten.
Vorab-Systemprüfung, eintägiger Infrastruktur-Workshop und konkrete Architektur-Empfehlung. Inhouse vor Ort oder remote.
Reale Benchmarks
Messung von Qualität, Latenz, Durchsatz, Speicherbedarf und Parallelbetrieb an konkreten Aufgaben.
Ohne API-Tokenkosten
Lokale Transkription, Medienverarbeitung und Inferenz – mit transparenten Hardware-, Energie- und Betriebskosten.
Pre-Checked
Hardware, Netzwerkgrenzen, Sicherheitsanforderungen und typische Workloads werden vorab geprüft.
Realitäts-Check für Ihre Infrastruktur
Lokal, Cloud oder hybrid – anhand Ihrer Anforderungen entschieden
Unternehmen möchten sensible Informationen kontrollieren und laufende API-Kosten begrenzen. Gleichzeitig führen zu kleine Modelle, unpassende Hardware oder fehlende Betriebsprozesse schnell zu schwacher Qualität und geringer Akzeptanz.
Vor dem Workshop prüfen wir Ihre Hardware, IT-Sicherheitsanforderungen, Datenklassen und priorisierten Workflows. Im Workshop vergleichen wir passende lokale Modelle und Werkzeuge mit Cloud-Diensten auf einem repräsentativen Testset.
Lokale Verarbeitung kann Datenabflüsse reduzieren, ist aber nicht automatisch sicher oder datenschutzkonform. Zugriffsschutz, Protokollierung, Updates, Rechtsgrundlage und Betriebsverantwortung bleiben Teil der Gesamtarchitektur.
Technologieoffen statt Local-LLM-Dogma
Ollama, LM Studio, MLX, Linux-GPU-Server oder abgesicherte Cloud-API: Entscheidend sind Aufgabe, Daten, Qualitätsziel, Team und Betrieb.
Messwerte statt Bauchgefühl
Ein gemeinsamer Benchmark macht sichtbar, wo lokale Systeme genügen, wo Optimierung hilft und wann eine Cloud-Lösung wirtschaftlicher bleibt.
Curriculum
Die Schulungsmodule im Detail
Die Gewichtung wird nach der Vorab-Prüfung an Hardware, Sicherheitsniveau, Nutzerzahl und Workloads angepasst.
Modul 1
Lokale Tool-Ketten ohne API-Tokenkosten
- Medien-Workflows: Whisper, ffmpeg und lokale Verarbeitung für Transkription, Konvertierung, Extraktion und strukturierte Folgeprozesse einsetzen.
- Lokale Inferenz: Ollama, LM Studio und MLX als Desktop-, Server- oder API-Bausteine vergleichen.
- Hardware-Matching: RAM, VRAM, Unified Memory, Quantisierung, Kontextgröße und Parallelität auf reale Nutzerzahlen beziehen.
Keine API-Tokenkosten bedeutet nicht kostenlos: Anschaffung, Energie, Administration und Updates werden mitgerechnet.
Modul 2
Reproduzierbarer Vergleich: lokal vs. Cloud
- Open-Weight-Modelle im Test: Geeignete Llama-, Qwen-, Mistral- oder vergleichbare Modelle anhand eines gemeinsamen Aufgabensatzes prüfen.
- Leistungsprofil: Antwortqualität, Quellenbezug, Latenz, Tokens pro Sekunde, Speicherbedarf und Parallelbetrieb messen.
- Aufgaben-Mapping: Vertrauliche, häufige oder klar begrenzte Aufgaben von komplexen Cloud- und Multimodal-Anforderungen trennen.
„Halluzinationsfreiheit“ ist kein seriöses Versprechen. Wir definieren stattdessen Testfälle, Quellenprüfung und Freigabeschritte.
Modul 3
Security, Datenschutz & Hybridarchitektur
- Kontrollierte Datenwege: Netzwerkgrenzen, Authentifizierung, Rollen, Protokollierung und Update-Prozesse für lokale Dienste entwerfen.
- Hybrides Routing: Daten nach Schutzbedarf klassifizieren, lokal vorverarbeiten und externe APIs nur gezielt einbeziehen.
- TCO-Vergleich: Eigene Hardware, Mietserver, Administration, Auslastung und API-Verbrauch über einen realistischen Zeitraum vergleichen.
Wichtiger Hinweis: Der Workshop liefert technische und organisatorische Entscheidungsgrundlagen, ersetzt aber keine individuelle Rechts- oder Datenschutzberatung. Verbindliche Bewertungen erfolgen mit Ihrer Rechtsberatung und Ihren Datenschutzverantwortlichen.
Was nach dem Workshop vorliegt
Benchmark-Bericht
Messwerte und Qualitätsbewertung der getesteten Modelle auf Ihren repräsentativen Aufgaben.
Architektur-Skizze
Empfohlene Komponenten, Datenwege, Netzwerkgrenzen und Schnittstellen für lokal oder hybrid.
TCO-Modell
Vergleich von Hardware, Betrieb, Administration, Auslastung und Cloud-Verbrauch.
Action-Plan
Priorisierte Schritte für Proof of Concept, Sicherheitsprüfung, Pilotbetrieb und Skalierung.
Rahmendaten & Investition
Ablauf & Vorbereitung
- Analyse von Hardware, Datenklassen und Sicherheitsanforderungen
- Eintägiger Workshop mit Live-Benchmark
- Systemempfehlung, Architektur-Skizze und Action-Plan
Zielgruppe
IT-Leitung, CTOs, Datenschutzverantwortliche, Softwarearchitekten und Geschäftsführung in daten- oder sicherheitssensiblen Bereichen.
Durchführung vor Ort oder remote.
Investition
Ab 2.800 € zzgl. MwSt.
Team-Pauschale inklusive Vorab-Systemprüfung, individueller Agenda, eintägigem Workshop und Nachbereitung.
Ihr Trainer & Systemarchitekt
Johann Dirschl
Seit über 30 Jahren Dozent und Softwareentwickler. Seine Praxis umfasst APIs, Hardware-Ansteuerung, lokale Medienverarbeitung, Server-Workflows und moderne Sprachmodelle. Er entwickelt und betreibt eigene Anwendungen, Plugins und KI-gestützte Systeme.
„Wir verkaufen keine Wunschvorstellung vom kleinen lokalen Modell. Wir testen Ihre Aufgaben auf passender Hardware und entwickeln daraus eine Architektur, die Datenkontrolle, Qualität und Gesamtkosten ehrlich gegeneinander abwägt.“
Lassen Sie uns Ihre Infrastruktur vorab prüfen
Nennen Sie uns Hardware, Nutzerzahl, Datenklassen und zwei bis drei typische Workloads. Sie erhalten eine ehrliche Einschätzung, ob lokal, Cloud oder eine hybride Architektur der sinnvollste nächste Schritt ist.