Deepseek gibt DeepInfer frei, die auf vLLM basierende Inference-Software hinter V4.1-Flash, unter Apache 2.0.
​​​​​​​​​​

$ ki-news --datum 2026-10-21 | mail

KI-News — 21. Oktober 2026

// die viralsten KI-Themen der letzten 24 Stunden, kuratiert für deinen Stack

$ cat top-story.md

DeepInfer: Deepseek gibt die Inference-Software hinter V4.1-Flash frei

Deepseek hat sein internes Inference-Framework DeepInfer unter Apache 2.0 veröffentlicht. Es nutzt optimierte Rechenbausteine und verteilte Verarbeitung über mehrere Chips und basiert laut Deepseek auf vLLM.

Warum relevant: Da DeepInfer auf vLLM aufsetzt, könnten Optimierungen später upstream landen oder sich als Vorlage für dein eigenes Serving-Setup lesen lassen. Ob es für kleine Single-Node-Setups taugt, ist offen.

// quelle: The Decoder

## 📦 Modelle & Releases

▸ Mistral Voxtral 3: Modelle für Echtzeit-Sprachagenten

Die Familie besteht aus Voxtral Small Transcribe 3 (STT, ab 0,0035 $/Minute, 50+ Sprachen), Voxtral Mini TTS 3 und einem Voice-Agent-SDK auf LiveKit-Basis. Zu Open Weights und Lizenz nennt der Artikel nichts, erwähnt aber Betrieb auf eigener Infrastruktur oder über EU-gehostete APIs. Warum relevant: Interessant für Sprach-Frontends vor deinem RAG-Stack, besonders mit EU-Hosting. // The Decoder

▸ ElevenLabs Eleven Realtime: Speech-to-Speech unter einer Sekunde

ElevenLabs bringt Speech-to-Speech-Modelle mit weniger als einer Sekunde Latenz für Sprachagenten. Warum relevant: Zeigt, wie schnell der Voice-Agent-Markt gerade wird, direkter Konkurrent zu Voxtral 3. // The Decoder

▸ OpenAI trimmt GPT-6 auf COBOL, Fortran & Co.

GPT-6 Astra erreicht in MultiLangBench über 20 Sprachen rund 87 % bestandene Tests (GPT-5.6 Terra: ca. 38 %); bei der COBOL-Migration kommt GPT-6.1 Sol auf bis zu 97,9 % Genauigkeit. Die Zahlen sind Herstellerangaben. Warum relevant: Legacy-Code-Migration wird mit Agenten realistischer. // The Decoder

## 🤖 Agenten & MCP

▸ Claude Code 2.1.305 & 2.1.306

Neu: Sandbox-Option sandbox.allowNestedUserNamespaces (laut Release-Notes kann sie den Dateischutz der Sandbox aushebeln), sicherere MCP-Bestätigungsdialoge und ein überarbeitetes /usage. 2.1.306 behebt „Not logged in“ bei claude -p in Cloud-Sessions sowie eine irreführende Fehlermeldung bei sehr vielen MCP-Tools. Warum relevant: Wer allowedMcpServers mit managed-mcp.json nutzt, muss für Blockaden jetzt deniedMcpServers setzen. // GitHub

▸ Tmux and Claude Code: Sessions, Send-Keys, and the Ceiling

Praxisguide zur Steuerung von Claude-Code-Sessions per tmux und deren Grenzen (168 Punkte auf Hacker News). Warum relevant: Nützlich für parallele, ferngesteuerte Agenten-Workflows. // crystl.dev via HN

## 🏠 Self-Hosting & RAG

▸ vLLM v0.32.0: EmbeddingGemma 2, schnellerer Start, Breaking Changes

Neu sind EmbeddingGemma 2 (omni-modal), NVFP4-KV-Cache auf weiteren GPU-Architekturen, vllm download-kernels und vllm preload für schnellere Starts sowie drei Sicherheitsfixes; CORS erlaubt nicht mehr standardmäßig alle Origins. Python 3.10 entfällt, Cascade Attention wurde entfernt, und max_tokens wird nicht mehr aus dem Kontextfenster reserviert. Warum relevant: Vor dem Update prüfen: Python-Version, CORS-Einstellungen und Clients, die sich auf max_tokens verlassen; EmbeddingGemma 2 passt zur Gemma-Linie. // GitHub (18. Okt.)

▸ Open WebUI v0.12.1 bis v0.12.3

v0.12.1/0.12.2 bringen externe Apps in Kanälen, MinerU-4.x-Server für die Dokumentextraktion, ein call_tool-Werkzeug für Tool Search und Sicherheitsfixes (Kanal-Metadaten, SCIM, Prüfung von Sammlungsnamen). Valkey erfordert nun valkey-glide-sync ab 2.5.2. Warum relevant: MinerU-Support kann deine Ingestion-Pipeline für PDFs verbessern; die Sicherheitsfixes sprechen fürs Update. // GitHub

▸ Cloudflare Clairic: Extraktionsmodell statt LLM

Clairic liest vorgegebene Felder (z. B. Rechnungssumme) in einem Durchlauf samt Konfidenz aus Dokumenten aus; läuft als Vorschau auf Workers AI, offene Gewichte sollen folgen. Warum relevant: Könnte in der RAG-Ingestion strukturierte Metadaten billiger liefern als ein LLM. // The Decoder

▸ Show HN: Qwen3-4B mit antrainierten KI-Sprachmustern

Ein kleines Qwen3-4B-Finetune, dem typische KI-Floskeln abtrainiert wurden (154 Punkte auf HN). Warum relevant: Zeigt, wie sich Textstil kleiner lokaler Modelle gezielt nachschärfen lässt. // 100toolkit via HN

## 📰 Lesenswert

▸ WhatsApp-Hilfeseiten versteckten Anweisungen für den KI-Support-Bot

Laut Redact sollte der Bot Nutzern keine Datenschutzbehörde empfehlen und keine DSGVO zitieren. WhatsApp nennt es einen behobenen Fehler (718 Punkte auf HN). Warum relevant: Ein Lehrstück zu versteckten Prompts in Inhalten, die ein RAG-System einliest. // Redact via HN

▸ Claude entwirft Proteine gegen Skorpiongift

Von 211 im Labor getesteten Designs banden 17 ihre Toxine; Wirksamkeit in Zellen oder Tiermodell ist noch ungetestet, ein Antivenin wird nicht behauptet. Warum relevant: Ein konkretes Beispiel für Modelle als Forschungswerkzeug mit offenen Daten. // Anthropic

$ echo "automatisch recherchiert am 2026-10-21"
> ki-news · news.reichenberg.ruhr

[ abbestellen ] [ im browser ansehen ]