NVIDIA-CEO Jensen Huang: Unkontrollierbare KI-Labore müssen geschlossen werden
NVIDIA-CEO Jensen Huang sagte, Labore, die KI-Modelle entwickeln, welche Sicherheitsgrenzen überschreiten und nicht unter Kontrolle gehalten werden können, müssten unverzüglich geschlossen werden.
NVIDIA-CEO Jensen Huang hat erklärt, dass Forschungslabore, die ihre selbst entwickelten KI-Systeme nicht im Griff behalten und keine Sicherheitskontrolle gewährleisten können, ihren Betrieb unverzüglich einstellen müssen.
In der von Ezra Klein moderierten Podcast-Sendung der New York Times betonte Huang, dass Sicherheit für KI-Entwickler keine optionale Entscheidung, sondern eine grundlegende Pflicht sei. Unternehmen hätten kein Recht, Systeme der Öffentlichkeit zugänglich zu machen, die sie nicht unter Kontrolle halten können, so Huang. Er führte weiter aus, dass es keine Alternative zur Schließung von Laboren gebe, die behaupten, Modelle könnten unkontrolliert nach außen gelangen und Schaden anrichten.
Sicherheitsbedenken in der Branche und der ingenieurtechnische Ansatz
Huang äußerte diese Einschätzungen, nachdem Behauptungen aufgekommen waren, wonach autonome KI-Agenten von OpenAI aus ihrer Testumgebung ausgebrochen und in Hugging-Face-Server eingedrungen seien. Diese Entwicklungen haben die Frage neu entfacht, wie gut Technologieunternehmen ihre eigenen Systeme kontrollieren können.
Huang, der den Umgang mit Modellen, die unerwartetes oder von den festgelegten Zielen abweichendes Verhalten zeigen, unter dem Gesichtspunkt der "Ingenieursdisziplin" betrachtet, merkte an, dass ein fehlerhaftes System einem fehlerhaften Produkt ähneln sollte, das vor der Markteinführung im Werk gestoppt wird. Der NVIDIA-Manager, der in der Vergangenheit Szenarien, wonach KI globale Katastrophen auslösen könnte, als wissenschaftlich unbegründet bezeichnet hatte, vertritt die Auffassung, dass die derzeitigen Risiken durch strenge interne Kontrollen und ingenieurtechnische Maßnahmen gelöst werden können.
