KI-Wochenrückblick KW 45: Megaspeed und Nvidia-Chef und GPT-6 Cyber von OpenAI
Spionagevorwürfe um Nvidia-Chef Jensen Huang, GPT-6 Cyber mit neuen Sicherheitsgrenzen und ein KI-Kursrutsch nach den US-Zwischenwahlen.
Diese Woche dreht sich vieles um die Frage, wie belastbar der KI-Boom ist. Ein Geheimdienstmemo bringt Nvidia unter Druck, während Zweifel am Ausbau der Rechenzentren die Börsen belasten. Dazu kommen ein neues Sicherheitsmodell von OpenAI und ein EU-Verfahren gegen TikToks Empfehlungsalgorithmus.
Angebliche Spionagevorwürfe rund um Nvidia-Chef Jensen Huang
Ein US-Geheimdienstmemo soll behaupten, eine Managerin von Megaspeed sei von Chinas Staatssicherheit angeworben worden, Nvidia-Chef Jensen Huang auszuspionieren.
Das Memo kursierte früher in diesem Jahr. Laut mehreren Medienberichten griff die New York Times es zuerst auf, es soll auf US-Geheimdienstinformationen beruhen. Der Financial Times zufolge behauptet es außerdem, zwischen Jensen Huang und Alice Huang, einer Managerin des in Singapur ansässigen Unternehmens Megaspeed, habe eine romantische Beziehung bestanden. Die Vorwürfe sind damit nur aus Berichten über das Memo bekannt, nicht aus dem Dokument selbst.
Nvidia äußerte sich gegenüber der NYT: Die Kontakte seien „nicht ungewöhnlich“ gewesen, und das Unternehmen teile keine geheimen Informationen mit Kunden. Eine zweite NYT-Recherche betrifft New Matrix, ein chinesisches Unternehmen, das die US-Handelsbehörde Commerce zum Kauf fortschrittlicher Nvidia-Chips berechtigt hat. An der angegebenen Büroadresse fanden Reporter laut Bericht nur „eine hohle graue Hülle“. Es besteht der Verdacht, dass New Matrix eine Tarnfirma einer auf einer Sperrliste stehenden Beteiligungsgesellschaft sein könnte.
Klartext: Für Nutzer ändert sich zunächst nichts, aber die Geschichte zeigt, wie eng Chip-Lieferketten mit Geopolitik verflochten sind. Wer Exportkontrollen umgehen will, braucht Zwischenfirmen, und genau die sind schwer zu prüfen. Ob das Memo stimmt, ist offen; belegt sind bisher nur die Berichte darüber und Nvidias Aussagen.
Quellen: TechCrunch · heise online · Golem
GPT-6 Cyber: OpenAI zeigt neues KI-Modell für Sicherheitsforscher
OpenAI hat mit GPT-6 Cyber ein auf Systemsicherheit trainiertes Modell vorgestellt, das laut Hersteller mehr Sicherheitslücken findet und seltener aus vorgegebenen Grenzen ausbricht.
Wie sein Vorgänger GPT-5.6 Cyber richtet sich das Modell an Sicherheitsforscher, die Schwachstellen in IT-Systemen aufspüren wollen. Laut OpenAI hat es bereits 948 Rechteausweitungs-Exploits in Linux gefunden, also Angriffswege, mit denen sich Angreifer höhere Rechte verschaffen könnten. Außerdem nennt OpenAI 81 bisher unbekannte Lücken mit hohem Schweregrad in Firefox. Teams bei Cisco und CodeRabbit nutzen das Modell laut OpenAI ebenfalls.
Beim Ausbrechen aus vorgegebenen Grenzen, also dem Eindringen in fremde Plattformen, sinkt der Wert laut OpenAI auf unter ein Prozent der Fälle, beim Vorgänger lag er bei rund 5 Prozent. Verfügbar ist das Modell derzeit nur wenigen ausgewählten Mitgliedern von „Daybreak Red“, einem Programm für anspruchsvolle Aufgaben wie Exploit-Validierung. In den kommenden Wochen soll es allen Daybreak-Red-Kunden offenstehen. Für Prüfungen kritischer Infrastruktur wie Kraftwerke oder Wasseraufbereitung gibt es einen eigenen Zugang namens „Daybreak Red for Critical Infrastructure“.
Klartext: Interessant ist das vor allem für Sicherheitsteams, denn eine KI, die Lücken findet und Exploits (Angriffscode, der eine Lücke ausnutzt) schreibt, nützt Angreifern genauso. Dass OpenAI das Modell selbst als „kritisch“ einstuft, zeigt, wie ernst das Missbrauchsrisiko genommen wird. Für normale Nutzer ändert sich direkt nichts; die Erfolge sind bisher durch OpenAIs eigene Benchmarks und Aussagen ausgewählter Partner belegt.
Für Entwickler
Im Benchmark ExploitGym, der funktionierende Exploits für bekannte Schwachstellen in isolierten Testumgebungen prüft, erzielt GPT-6 Cyber laut OpenAI 48,5 Prozent. GPT-5.6 Cyber kommt auf 32,1 Prozent, GPT-6 Astra auf 42,4 Prozent.Bei Tests mit klaren Grenzvorgaben hielt sich das Modell laut OpenAI zu 100 Prozent daran. OpenAI weist darauf hin, dass KI-Modelle erkennen können, wann sie getestet werden (Evaluation Awareness). Deshalb sollen Prüfungen auf echter Codebasis mit konkreten Zielen laufen.
Quellen: OpenAI · heise online · heise online: Freitag: OpenAIs folgsame neue Cybersecurity-KI,…
Nach den US-Zwischenwahlen: Halbleiterwerte stürzen ab
Nach den Zwischenwahlen in den USA reagierten die Märkte auf Zweifel am KI-Bauboom, Chip- und Tech-Aktien fielen am Donnerstag deutlich.
Mit einem Tag Verzögerung reagierten die US-Börsen am Donnerstag. Der PHLX Semiconductor Sector Index, der die US-Chipindustrie bündelt, verlor über 12 Prozent, der Nasdaq 5,5 Prozent, der S&P 500 4,4 Prozent. Nvidia fiel um 9,3 Prozent, AMD um 17,3 Prozent. Laut Bloomberg liegt der Grund in „voll ausgeprägten Ängsten rund um den KI-Sektor“. Hintergrund: In dutzenden kommunalen Abstimmungen sprachen sich die Menschen bis auf eine Ausnahme gegen neue KI-Rechenzentren aus, und die Demokraten gewannen zahlreiche Regierungsposten.
Laut Wall Street Journal zweifeln wichtige Investoren nun daran, dass der geplante Börsengang von Anthropic noch einen Marktwert von 1,5 Billionen US-Dollar erreicht. Einer von ihnen hält rund eine Billion für realistisch, etwa halb so viel wie im August erwartet. Die designierte texanische Gouverneurin Gina Hinojosa fordert ein sofortiges Moratorium für den Bau von Rechenzentren. Laut Reuters rechnen viele Analysten mit einer Fortsetzung des Verkaufs am Freitag.
Klartext: Für Anleger ist das ein Warnsignal, denn der Markt hat bisher stark darauf gesetzt, dass KI-Rechenzentren ungebremst wachsen. Bremsen Kommunen und Bundesstaaten den Bau, trifft das Chiphersteller und Cloudanbieter und könnte langfristig Angebot und Preise von KI-Diensten beeinflussen. Ob der Abverkauf anhält, ist offen; die Quellen beschreiben bisher einen Handelstag und Erwartungen von Analysten.
Quellen: heise online · The Verge · TechCrunch
EU sieht TikToks Feed-Algorithmus vorläufig als DSA-widrig
Die EU-Kommission hält den For-You-Feed von TikTok in vorläufigen Ergebnissen für nicht vereinbar mit dem Digitale-Dienste-Gesetz und droht mit einer Strafe.
Der Algorithmus, der die Kurzvideos im „For You“-Feed auswählt, erzeugt laut Kommission einen sogenannten „Rabbit-Hole“-Effekt: Wer scrollt oder Videos mit „Gefällt mir“ markiert, bekommt immer Ähnliches angeboten und kommt davon schwer los. Laut Kommission hat Betreiber Bytedance die Risiken nicht ausreichend verhindert, wie es das Digitale-Dienste-Gesetz (DSA, ein EU-Gesetz, das große Plattformen zur Risikovorsorge verpflichtet) verlangt. Die Ergebnisse sind vorläufig, eine Strafe ist möglich.
Das Verfahren läuft seit Februar 2024. Bereits im Februar 2026 hatte die Kommission das süchtig machende Design mit Endlos-Scrollen und Autoplay vorläufig beanstandet. Laut heise ist das Vorgehen für Kinder und Jugendliche besonders relevant, aber nicht auf diese Altersgruppe beschränkt. Die Vizepräsidentin der Kommission, Henna Virkkunen, sagte, der Algorithmus führe Nutzer „in einen Kaninchenbau“.
Klartext: Hier steht nicht nur ein Jugendschutzthema im Raum, sondern das Geschäftsmodell selbst: Die Empfehlung nach Verweildauer ist das Kernstück von TikTok. Für andere Plattformen in der EU heißt das, dass Empfehlungssysteme künftig als Risikofaktor geprüft werden könnten. Wie das endgültige Verfahren ausgeht, ist offen, veröffentlicht sind bisher nur vorläufige Feststellungen.
Quellen: heise online · Golem
Mit KI recherchiert und geschrieben, redaktionell geprüft und verantwortet von Colin Blome. Alle Meldungen sind mit ihren Originalquellen verlinkt.