🚧 Pre-Release v1.0 [Work in Progress] ★ Go 1.22 🛡️ Zero-Dummy-Security ⚖️ GNU GPL-3.0

🚧

Pre-Release Status (Work in Progress): Diese Software befindet sich in aktiver Entwicklung und ist noch nicht final fertiggestellt. Alle Versionen und Builds sind Pre-Releases.

Pre-Release Notice: This software is under active development and not finalized yet. All releases and builds are Pre-Releases (Work in Progress).

Intelligenter Modell-Router &
OOM-Schutz für Ollama

Dynamische Hardware-Telemetrie (CPU, RAM, GPU-VRAM), automatische Modell-Allokation nach Einsatzzweck (Coding, Writing, Reasoning, Vision) und militärisch gehärtete lokale Schnittstellen in purem Go.

📦 Release v1.0 herunterladen 📖 Web-Wiki & API-Handbuch

go install github.com/benzjeremy/ollama-fleet-manager@latest

Architektur & Fähigkeiten

Entwickelt für maximale Effizienz & Stabilität

Keine abgestürzten Produktionsserver mehr durch unüberlegte LLM-Parallelstarts. Der Fleet Manager optimiert jede Abfrage.

📊

Hardware-Telemetrie-Sensoren

Kontinuierliche Überwachung von Host-RAM, CPU-Last und diskreten NVIDIA GPU-VRAMs in Sub-Millisekunden ohne merkliche Prozessorlast.

🧠

Intelligente Rule Engine

Wählt automatisch das ideale Modell für den jeweiligen Einsatzzweck (Coding, Textanalyse, formale Logik, Vision) basierend auf verfügbarem VRAM.

🛡️

Proaktiver Anti-OOM Schutz

Verhindert Kernel-Abstürze durch den OOM-Killer. Erkennt Speicherdruck (>85% RAM) und schaltet automatisch auf leichtgewichtige Fallback-Modelle um.

🔐

Zero-Dummy-Security

Verbindliche Produktionssicherheit: Strikte 127.0.0.1 Bindung, Anti-DNS-Rebinding (`Host`-Prüfung), Anti-CSRF (`Origin`-Prüfung) und 32-Byte CSPRNG Token.

⚡

Latenzfreie REST-API

Ultraschnelle Endpunkte für Live-Metriken, Modellstatus, dynamische Allokation (`/models/select`) und gezielte Speicherfreigabe (`/models/evict`).

💾

AES-256-GCM Vault

Alle persistenten Konfigurationen und Audit-Logs werden im lokalen Tresor mit AES-256-GCM und PBKDF2 (100.000 Runden) verschlüsselt gespeichert.

Download & Setup

Echte Multi-Platform Binaries

Standalone, schlank und ohne externe Abhängigkeiten sofort einsatzbereit.

🐧 Linux (x86_64)

v1.0

# Archiv herunterladen & entpacken
tar -xzf ollama-fleet-manager-v1.0-linux.tar.gz
sudo cp ollama-fleet-manager /usr/local/bin/

# Starten mit individuellem Port
ollama-fleet-manager --port=8080

⬇️ Linux-Paket (.tar.gz)

🪟 Windows (x86_64)

v1.0

# Archiv entpacken & in PowerShell starten
Expand-Archive ollama-fleet-manager-v1.0-windows.zip
cd ollama-fleet-manager
.\ollama-fleet-manager.exe --port=8080

⬇️ Windows-Paket (.zip)

Projekt-Governance

Mitwirkende & Open-Source-Freiheit

Jeremy Benz

17-jähriger Go Systems Developer aus NRW, Deutschland

Fokus auf radikal native Architekturen, echte Kryptografie und maximale Ressourceneffizienz ohne Framework-Ballast.

⚖️ GNU General Public License v3.0

Dieses Projekt ist freie Software. Du hast das Recht, den Quellcode einzusehen, zu studieren, zu verändern und weiterzugeben.

📄 Offizielle Lizenz 💻 Quellcode auf GitHub

Intelligenter Modell-Router & OOM-Schutz für Ollama