Strata lässt ein 125B-Modell auf einer RTX 4090 laufen – 100 Token/s und OpenAI-kompatible API.
​​​​​​​​​​

$ ki-news --datum 2026-10-05 | mail

KI-News — Montag, 5. Oktober 2026

// die viralsten KI-Themen der letzten 24 Stunden, kuratiert für deinen Stack

$ cat top-story.md

Strata: Qwen3.8-Flash-Next (125B) auf Consumer-Hardware

Die Open-Source-Inferenz-Engine Strata (11,4k Sterne) verteilt Experten-Gewichte auf GPU, RAM und SSD und nutzt Speculative Decoding. Laut Projekt läuft das 125B-Modell so auf einer RTX 4090 mit rund 100 Token/s. Installation per One-Click unter Windows/Linux, dazu eine OpenAI-/Anthropic-kompatible API auf localhost. Auf Hacker News aktuell ganz oben (656 Punkte).

Warum relevant: Zeigt, wie sich große MoE-Modelle lokal ohne Server-GPU-Cluster betreiben lassen – interessant als Experiment neben vLLM; die Zahlen sind Projektangaben und sollten selbst nachgemessen werden.

// quelle: GitHub · Hacker News

$ gh trending --weekly --ai --top 5

├─ 1. debpalash/VoiceStudio ⭐ 53,251 (+14,689 diese Woche)

Lokale, quelloffene ElevenLabs-Alternative: Voice-Cloning, Voice-Design, Video-Dubbing, Transkription und Hörbücher in 646 Sprachen (AGPL-3.0, Modell-Lizenzen prüfen). Warum spannend: Komplett selbst gehostete Sprach-Pipeline ohne Cloud-Abo.

├─ 2. vectorize-io/hindsight ⭐ 45,549 (+10,623 diese Woche)

Agenten-Gedächtnis, das Erfahrungen und Fakten zu „Observations“ verdichtet und per semantischer, Keyword-, Graph- und zeitlicher Suche abruft. Warum spannend: Retrieval-Ideen, die sich auch auf eigene RAG-Pipelines übertragen lassen.

├─ 3. paperclipai/paperclip ⭐ 97,249 (+8,732 diese Woche)

Orchestrierungsplattform, die Teams aus KI-Agenten (Claude, Codex u. a.) auf Unternehmensziele ausrichtet – mit Aufgabenverwaltung, Budgets und Berechtigungen. Warum spannend: Praktisch, wenn mehrere Agenten kontrolliert und kostenbewusst zusammenarbeiten sollen.

├─ 4. NVIDIA/OpenShell ⭐ 14,888 (+5,996 diese Woche)

Sichere, private Laufzeit für autonome Agenten mit Kernel-Sandboxing und Richtlinien für Dateien, Syscalls und Netzwerk. Warum spannend: Nützlich, um Coding-Agenten wie Claude Code sauber einzusperren.

└─ 5. rohitg00/ai-engineering-from-scratch ⭐ 64,017 (+4,904 diese Woche)

Kostenloser Open-Source-Kurs mit 523 Lektionen in 20 Phasen – von Mathe-Grundlagen bis zum Produktivbetrieb. Warum spannend: Gute Referenz zum Auffrischen oder für Teammitglieder.

## 📦 Modelle & Releases

▸ Google schränkt Gratiszugang für Gemini ein

Ab Oktober 2026 bekommen Nutzer ohne Abo nur noch Flash-Lite; Flash und Pro werden kostenpflichtig. Warum relevant: Wer Gemini bisher gratis genutzt hat, muss auf ein Abo oder Alternativen umstellen. // the-decoder.de

## 🤖 Agenten & MCP

▸ BootLoops: Open-Source-Harness für exakte wissenschaftliche Berechnungen

Der Harvard-Physiker Matthew Schwartz erzeugte damit in drei Monaten mit Claude 36 Manuskripte in 18 Disziplinen; menschliche Steuerung bleibe unverzichtbar. Warum relevant: Ein konkretes Beispiel, wie ein Harness um ein Modell Agenten-Arbeit über lange Zeiträume verlässlicher macht. // the-decoder.de

## 📰 Lesenswert

▸ Google-Forscher: Selbstverbessernde Agenten sollen nicht nur auswendig lernen

Neue Ansätze sollen sicherstellen, dass sich selbst verbessernde Agenten echte Fähigkeiten statt Auswendiglernen entwickeln. Warum relevant: Relevant für alle, die Agenten-Loops und Selbstoptimierung bauen oder bewerten. // the-decoder.de

▸ Chinesische KI-Modelle: Staatsdoktrin oder Antwortverweigerung bei sensiblen Themen

Laut Test von Aleph Alpha liefern nur 17–41 % der Antworten zu sensiblen Themen ausgewogene Perspektiven. Warum relevant: Wichtig bei der Wahl von Open-Weight-Modellen (Qwen, DeepSeek & Co.) für den Self-Hosting-Einsatz. // the-decoder.de

▸ Trumps „Super Intelligence Force“ berichtet direkt an den Präsidenten

Die neue Einheit soll die KI-Politik von Behörden und Privatwirtschaft koordinieren. Warum relevant: Einordnung der US-Regulierungsrichtung, die Anbieter und Preise langfristig beeinflusst. // the-decoder.de

$ echo "automatisch recherchiert am 2026-10-05"
> ki-news · news.reichenberg.ruhr

[ abbestellen ] [ im browser ansehen ]