Anthropic-Forscher kündigt: über 10 % Risiko, dass KI die Menschheit auslöscht.
​​​​​​​​​​

$ ki-news --datum 2026-09-11 | mail

KI-News — Freitag, 11. September 2026

// die viralsten KI-Themen der letzten 24 Stunden, kuratiert für deinen Stack

$ cat top-story.md

Anthropic-Forscher kündigt: "Über 10 % Risiko, dass KI die Menschheit auslöscht"

Der frühere OpenAI- und Anthropic-Forscher Jacob Coxon hat gekündigt und wirft beiden Firmen vor, "mit unser aller Leben zu spielen" – sein X-Thread wurde über 70 Millionen Mal aufgerufen. Anthropics Alignment-Lead Evan Hubinger widersprach nicht, sondern bezifferte die Wahrscheinlichkeit, dass eine fehlausgerichtete Superintelligenz die Menschheit binnen zehn Jahren auslöscht, auf über 10 Prozent – primär wegen rekursiver Selbstverbesserung, nicht wegen aktueller Modelle.

Warum relevant: Zeigt, wie ernst führende Sicherheitsforscher der Firma hinter Claude die Risiken selbst einschätzen – wichtiger Kontext für alle, die diese Modelle täglich produktiv einsetzen.

// quelle: Tagesspiegel/dpa · CNBC

## 📦 Modelle & Releases

▸ DeepSeek V4.1 Flash: neue Architektur schlägt das bisherige Flaggschiff

DeepSeek hat mit V4.1 Flash das kleinste Modell einer neuen Architekturfamilie veröffentlicht – nativ multimodal, schneller und laut eigenen Benchmarks besser als das bisherige Topmodell V4 Pro. Ab 14. September werden alle V4-Pro-Anfragen automatisch zu Flash-Preisen umgeleitet; auf Hacker News sorgte die Ankündigung für fast 1.000 Punkte. Warum relevant: Günstiges, offenes Spitzenmodell mit 1M-Kontext – ein starker Kandidat für Self-Hosting via vLLM, sobald Gewichte breit verfügbar sind. // DeepSeek · Hacker News

▸ Cognition SWE-2: Coding-Modell nah an der Spitze bei 64 % weniger Kosten

Cognition (Devin) hat SWE-2 vorgestellt, ein auf Kimi K3 (2,8 Billionen Parameter) aufbauendes Coding-Modell, das im FrontierCode-Benchmark nur einen Punkt hinter Claude Fable 5.1 liegt, aber 64 % günstiger ist – und GPT-6 Astra bei rund einem Viertel des Preises nahekommt. Gewichte werden nicht veröffentlicht. Warum relevant: Zeigt, wie stark offene Basismodelle plus gezieltem RL inzwischen mit Closed-Source-Flaggschiffen mithalten – relevant für die Wahl von Coding-Agenten. // Cognition Blog · Hacker News

## 🤖 Agenten & MCP

▸ OpenAI öffnet die Agents API: der Codex-Harness für alle Entwickler

Mit der neuen, öffentlich verfügbaren Beta-API bekommen Entwickler direkten Zugriff auf den Open-Source-"Codex-Harness", der Sessions, Tool-Orchestrierung, Context-Compaction und Recovery übernimmt. Agenten laufen in einer Sandbox mit Code-Ausführung, Dateizugriff und MCP-Anbindung; erste Nutzer berichten von 4x geringerer Latenz und 60 % niedrigeren Kosten pro Task. Warum relevant: Direkte Konkurrenz zu selbstgebauten Agent-Loops – ein interessanter Vergleichspunkt für eigene MCP-/Agenten-Workflows. // OpenAI · MarkTechPost

▸ Claude Code v2.1.265–268: WebFetch-Hang-Fix, Gateway-Pricing, Permission-Fixes

Mehrere Releases in Folge bringen u. a. Preisunterstützung über das Claude-Apps-Gateway, das neue Setting gatewayInternalNetworks, einen Fix für dauerhaft hängende WebFetch-Aufrufe (jetzt Timeout nach 300 s, konfigurierbar über CLAUDE_CODE_WEBFETCH_DEADLINE_MS) sowie Fixes für Permission-Regeln auf symlinked Verzeichnissen und für Prompt-Caching, das bei SDK-Sessions mitten in der Session brach. Warum relevant: Mehrere Fixes betreffen alltägliche Stolpersteine (hängendes WebFetch, Permission-Bugs) – Update lohnt sich. // Claude Code Changelog

## 🏠 Self-Hosting & RAG

▸ Colibrì: Riesige MoE-Modelle in reinem C auf Consumer-Hardware

Colibrì ist eine Inferenz-Engine, die MoE-Modelle von 744B bis 2,8T Parametern (u. a. GLM-5.x, Kimi K3, DeepSeek V4 Flash, Qwen) ohne spezielle KI-Beschleuniger lauffähig macht, indem VRAM, RAM und NVMe als ein dreistufiger Speicher behandelt werden. Läuft bereits auf Laptops mit 25 GB RAM, ist pro Architektur ein einzelnes ~100-KB-C-File und lernt per Cache, welche Experten tatsächlich gebraucht werden. Warum relevant: Direkt einsetzbar als Ergänzung oder Alternative zum eigenen vLLM-Stack für sehr große Open-Weight-Modelle auf begrenzter Hardware. // GitHub Trending

▸ llmfit: Ein Terminal-Tool sagt, welches LLM auf deine Hardware passt

llmfit analysiert CPU, RAM und GPU/VRAM des eigenen Systems und bewertet hunderte Open-Source-Modelle über GGUF-/AWQ-/GPTQ-/EXL2-Quantisierungen hinweg nach Speicherpassung, Geschwindigkeit, Qualität und Kontextlänge – inklusive Terminal-UI, Web-Dashboard und REST-API. Warum relevant: Nimmt das Rätselraten aus der Frage "läuft Modell X auf meinem Server" – praktisch beim Erweitern des eigenen Self-Hosting-Stacks. // GitHub Trending

▸ Open WebUI v0.11: komplett überarbeitetes Interface, Notes mit vollem Chat-Funktionsumfang

Das Frontend wurde optisch neu aufgebaut (schmalere Spalte, aufgeräumte Menüs und Dropdowns), Notes unterstützen jetzt Modellwahl, Tools und Datei-Uploads mit Live-Bearbeitung durch den Assistenten, und eine Sicherheitslücke im Upload-Parser wurde geschlossen. Achtung: Das Release bringt Datenbank-Schema-Änderungen. Warum relevant: Direktes Update für den eigenen RAG-Frontend-Baustein – vor dem Upgrade unbedingt ein Backup ziehen. // Open WebUI Blog

## 🎬 Sehenswert

▸ "I Never Thought I'd See This Happen" – Reaktion auf OpenAIs Navier-Stokes-Beweis

Two Minute Papers ordnet OpenAIs KI-gestützten, maschinell verifizierten Beweis zu den Navier-Stokes-Gleichungen aus der Perspektive eines Strömungsforschers ein und vergleicht ihn mit der eigenen Promotionsarbeit zum Thema. Warum relevant: Fundierte Fach-Einordnung einer der größten KI-Mathe-Schlagzeilen der Woche, aus erster Hand von jemandem mit Domänenwissen. // Two Minute Papers (YouTube)

## 📰 Lesenswert

▸ Anthropics Bedrohungsbericht: DeepSeek soll Nutzeranfragen heimlich an Claude umgeleitet haben

Anthropics neuer Missbrauchsbericht deckt sieben Schadenskategorien ab; brisantester Fall: DeepSeek habe über zwölf Millionen Anfragen binnen 14 Tagen unbemerkt an Claude Opus weitergeleitet, wobei sensible Daten durchsickerten – bis hin zu Zugangsdaten für eine russische Regierungsdatenbank. Auch Alibaba (151 Mio. Exchanges) und Zhipu/GLM werden für großangelegte Distillation genannt. Warum relevant: Wirft ein Schlaglicht auf Datenflüsse und Sicherheitsrisiken rund um Modelle, die man selbst nutzt oder gegen die man evaluiert. // Anthropic · it-boltwise.de

▸ "OpenAI keeps re-enabling the 'allow training' setting"

In einem vielbeachteten Tell-HN-Post berichten mehrere Nutzer, dass ChatGPT die von ihnen deaktivierte "Meine Daten nicht fürs Training verwenden"-Einstellung wiederholt ohne ihr Zutun zurücksetzt. Warum relevant: Guter Reminder, Privacy-Einstellungen bei Cloud-KI-Diensten regelmäßig zu prüfen – ein Grund mehr für den eigenen Self-Hosting-Stack. // Hacker News

$ echo "automatisch recherchiert am 2026-09-11"
> ki-news · news.reichenberg.ruhr

[ abbestellen ] [ im browser ansehen ]