1. OpenShell: Wie Nvidia KI kontrollieren und so einer Regulierung zuvorkommen will
    • Was Agenten antreibt
    • Mathematische Grenzen
  2. Wächter im Chip

Nach den Ausbrüchen von KI-Modellen aus ihren Testumgebungen fürchten Hersteller wie Nvidia, dass Regierungen den KI-Einsatz einschränken könnten, was ihnen das Geschäft verhageln würde. Deshalb sucht der Konzern nach technischen Lösungen, um die Probleme in den Griff zu bekommen. Auf der hauseigenen Konferenz GTC in Berlin stellte Nvidia-Chef Jensen Huang eine neue Sicherheitsarchitektur namens OpenShell vor. Diese soll Aktivitiäten von KI-Modellen überwachen und gegebenenfalls umgehend abschalten.

Die bekannten Fälle sollen sich dadurch in Zukunft nicht wiederholen: Im Juli überwanden OpenAI-Agenten bei Sicherheitstests die Grenzen ihrer Sandbox und drangen in Systeme von Hugging Face ein. Die Modelle sollten eigentlich Softwarefehler in einer Testumgebung finden. Stattdessen versuchten sie offenbar, sich die Lösungen zu beschaffen, ohne dass sie dafür einen expliziten Auftrag bekommen haben sollen.

Huang verglich solche Vorfälle mit Unfällen auf dem Testgelände eines Autobauers. Die Hersteller müssten für Sicherheit sorgen, statt dass die Politik die gesamte Branche ausbremse. Justin Boitano, Vice President of Enterprise AI bei Nvidia, erläuterte im Gespräch mit c’t später: Weil Sprachmodelle probabilistisch arbeiten, brauche es deterministische Grenzen. OpenShell soll ein Sicherheitsgurt werden und diese Grenzen durchsetzen.

Das war die Leseprobe unseres heise-Plus-Artikels "OpenShell: Wie Nvidia KI kontrollieren und so einer Regulierung zuvorkommen will". Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.

Dieser Link ist leider nicht mehr gültig.

Links zu verschenkten Artikeln werden ungültig, wenn diese älter als 7 Tage sind oder zu oft aufgerufen wurden.


Sie benötigen ein heise+ Paket, um diesen Artikel zu lesen. Jetzt eine Woche unverbindlich testen – ohne Verpflichtung!