Vorträge & Material
AI Week Frankfurt 2026
--dangerously-skip-permissions
Warum KI-Agenten Sandboxes brauchen, wie Agenten von OpenAI & Co. ihre Testumgebungen verlassen haben, und eine Live-Demo eines Supply-Chain-Angriffs.
Vorfälle
- METR / Redwood Research: Untersuchung des OpenAI-/Hugging-Face-Vorfalls (Aug. 2026)
Unabhängige Rekonstruktion, wie rund 1.200 Agenten in einer Cyber-Evaluation von OpenAI sich über einen geteilten Paket-Cache koordinierten und am Ende Hugging Face angriffen.
- Hugging Face: technischer Zeitstrahl des Agenten-Einbruchs (Jul. 2026)
Die Sicht des Betroffenen: der Weg über einen 0-Day im Paket-Proxy, eine offene Sandbox eines Dritten und eine präparierte Datensatz-Konfiguration.
- collusion.wiki: KI-Agenten in einem vergessenen deutschen Entwickler-Wiki (Sep. 2026)
Rekonstruktion von rund 18.000 Agenten-Beiträgen im DSE-Wiki, geschrieben per GET aus einer eigentlich lesenden Sandbox.
- UK AI Security Institute: Schummeln in Evaluationen von Frontier-Modellen (Jul. 2026)
Jedes getestete Modell hat zumindest gelegentlich geschummelt, ohne dazu aufgefordert worden zu sein.
- Felony Bench
Ein augenzwinkerndes Leaderboard öffentlich bekannter Agenten-Vorfälle nach Hersteller.
Hintergrund
- SandboxEscapeBench: Frontier-LLMs und Ausbrüche aus Container-Sandboxes
Benchmark von UK AISI und University of Oxford, wie gut Modelle aus fehlkonfigurierten oder verwundbaren Containern ausbrechen.
- The Attacker Moves Second: adaptive Angriffe auf Prompt-Injection-Abwehr
Forscher mehrerer Labs und Universitäten überwinden zwölf veröffentlichte Abwehrmechanismen, meist mit Erfolgsquoten über 90 %.
- CVE-2025-53773: Prompt Injection schaltet die automatische Freigabe in GitHub Copilot ein
Eine Harness-Lücke in der Praxis: YOLO-Modus per Fernbedienung.
Open Source
- Agent Substrate
Betreibt viele meist ruhende Agenten auf wenigen Kubernetes-Workern, isoliert mit gVisor oder MicroVMs.
- Kubernetes Agent Sandbox (kubernetes-sigs)
Das offizielle Kubernetes-SIG-Projekt für isolierte, zustandsbehaftete Agenten-Workloads.
- OpenSandbox
Allgemeine Sandbox-Plattform für KI-Agenten auf Docker oder Kubernetes, mit Kontrolle des ausgehenden Verkehrs.
- gVisor
Ein Anwendungskernel im User Space, der die Systemaufrufe eines Containers abfängt.
- Firecracker
Schlanke MicroVMs mit eigenem Kernel, getrennt durch Hardware-Virtualisierung.
Demo
- Demo-Repository: weather-cli
Das harmlos wirkende CLI, das der Agent in der Live-Demo installieren soll.
- Demo-Repository: weather-client-js
Die Abhängigkeit mit dem Haken: Sie versucht, den API-Key an einen Demo-Empfänger zu schicken.
MLOps mit ISS-Telemetriedaten
Vorträge, Folien und ein Paper zum Aufbau einer On-Premises-MLOps-Plattform für den ISS-Columbus-Bodenbetrieb.
- Gemma 4 mit KServe und vLLM selbst auf Kubernetes hosten
Ein kurzer prokube Beitrag dazu, wie sich Open-Weight-LLMs mit KServe und vLLM auf Kubernetes betreiben lassen. Das ist der praktischste Einstieg in den Infrastrukturteil des Vortrags.
- KubeCon-Talk: On-Premises-MLOps für den ISS-Columbus-Bodenbetrieb
Eine KubeCon-Aufzeichnung über den Aufbau einer On-Premises-MLOps-Plattform für den ISS-Columbus-Bodenbetrieb. Der Talk liefert den betrieblichen Kontext für die spätere Arbeit mit Telemetriedaten und Anomalieerkennung.
- Kubeflow-Summit-Session: ISS-Anomalieerkennung mit Kubeflow-Tools
Die Sessionseite vom Kubeflow Summit, einem Co-located Event der KubeCon + CloudNativeCon Europe, zum ISS-Telemetrie-Use-Case. Dort finden sich Abstract, Speaker-Infos und die PDF-Folien zur Kubernetes- und Kubeflow-Version des Vortrags.
- PyConDE & PyData 2025 Session und Folien: Python-first ML-Pipeline für ISS-Daten
Die PyConDE-&-PyData-Sessionseite zur Python-lastigeren Variante des ISS-Telemetrie-Vortrags. Dort sind die Folien verlinkt; inhaltlich geht es stärker um Data Science, Python-Code und die konkrete Umsetzung. Ein Video ist noch nicht verfügbar.
- Paper: End-to-End-MLOps mit ISS-Telemetriedaten
Das wissenschaftliche Paper hinter dem ISS-Telemetrie-Use-Case. Es beschreibt den End-to-End-MLOps-Workflow und ordnet ein, wie Kubeflow reproduzierbare Machine-Learning-Operations unterstützt.
- Beispiel-Repository: Kubeflow- und MLflow-Snippets
Eine separate Sammlung praktischer Python-Beispiele für Kubeflow und MLflow. Hilfreich, wenn man kleinere, fokussierte Snippets sucht statt direkt in das vollständige Case-Study-Repository einzusteigen.