Sie lesen den KI-Newsletter » Natürlich intelligent « vom 1. Oktober 2026. Um den Newsletter jeden Donnerstag per Mail zu erhalten, melden Sie sich hier an . Ein bisschen am KI-Hype mitverdienen, das wollen viele gern, manche auch mit unlauteren Mitteln. So jedenfalls Diebe in Kalifornien, die zwei Lkw-Anhänger stahlen, auf denen das Logo von Nvidia aufgedruckt war, berichtet Wired . Vielleicht hatten sie gehofft, darin einen Stapel der gefragten und teuren Datencenter-Chips fürs KI-Training zu finden, die sie zu Geld hätten machen können ( es gäbe da Interessenten ). Nach dem Aufbrechen ließen die Diebe die Anhänger allerdings schnell zurück. Denn: In ihnen war ausschließlich Sand, 18 Tonnen davon. Die Anhänger gehörten dem Nvidia-Partner PlusAI, der autonome Lkws entwickelt; der Sand war nur zur Gewichtssimulation drin. Vielleicht war das Zurücklassen aber auch ein Fehler: Sand ist nämlich gerade knapp . Genau wie KI-Chips. Das sollten Sie wissen: Eine Verfassung für die KI-Konzerne Dafür, dass dieser Newsletter »Natürlich intelligent« heißt, hat US-Präsident Donald Trump doch eine überraschend hohe Auftrittsrate . Aber da der selbsterklärte »High IQ« - Präsident an der Spitze des Landes mit den größten KI-Laboren steht, entscheidet er doch ganz wesentlich mit, was in der KI-Welt gerade möglich ist. Am Dienstag traf er sich mit den Größen der US-Techkonzerne zum Mittagessen im Weißen Haus, um eine gemeinsame Vereinbarung zur Superintelligenz – so nun das offizielle Wording – zu unterschreiben. Trump nannte sie eine Art »Verfassung«, die »moralisch bindend« sei. Zum Treffen kamen die wichtigsten Chefs von amerikanischen Tech- und KI‑Firmen. Darunter Dario Amodei von Anthropic, Jeff Bezos von Amazon, Mark Zuckerberg von Meta, Satya Nadella von Microsoft, Sundar Pichai von Google und Trumps alter Berater Elon Musk. OpenAI-Chef Sam Altman ließ sich von OpenAI-Präsident Greg Brockman vertreten. Auch Jensen Huang, der Chef von Nvidia, dem derzeit wertvollsten Unternehmen der Welt, war da. Der Chef des zweitwertvollsten Unternehmens stand übrigens nicht auf der Gästeliste: Apple muss wohl auch aus Sicht des Weißen Hauses in Sachen KI noch aufholen . Für eine Verfassung ist die Vereinbarung, die das Magazin Forbes veröffentlichte , doch recht kurz. Darin steht, dass jedes KI-Unternehmen vier Ebenen an Kontrollen einführen sollte: 1. Robuste interne Kontrollen, die Modelle beim Training und Einsatz überwachen und verhindern sollen, dass sie andere technische Systeme hacken. 2. Ein internes Team, das diese Überwachung sicherstellt und etwaige Probleme behebt. 3. Eine Zusammenarbeit mit externen Gutachtern, die prüfen, ob die Kontrollen funktionieren. 4. Einen unabhängigen Ausschuss des Vorstands, der die Berichte der internen und externen Gutachter entgegennimmt und dafür sorgt, dass alle Probleme behoben werden. Die Unterzeichnenden wollen sich zudem regelmäßig treffen, um Best Practices auszutauschen. »Mit der Zeit könnte es sinnvoll sein, diese Schritte in Gesetzen oder Verordnungen festzuschreiben«, endet die Vereinbarung. Ihr Ziel dürfte genau das Gegenteil sein: durch Selbstregulierung neue Gesetze zu vermeiden. Ein bisschen Kontrolle will Trump sich dann aber doch wohl vorbehalten: Die Regierung erwäge, einen zehnköpfigen Ausschuss einzusetzen, der die KI-Branche überwachen soll, sagte er bei einer Pressekonferenz nach dem Treffen. Aber auch den mächtigsten und vermögendsten Menschen der Welt passieren trotz Superintelligenz Fehler: In der KI-Verfassung unterschreibt Trump als Präsident der »Unites States« . Darüber können Sie nachdenken: Wie verantwortungsvoll sind die KI-Unternehmen? Die KI‑Sicherheitsdebatte überrascht weiterhin beinahe täglich mit neuen Meldungen von KI-Bots, die sich nicht so verhalten haben, wie wir Menschen uns das eigentlich wünschen würden. Zuletzt sorgte ein Fall für Aufsehen, bei dem KI-Agenten von OpenAI Bilder von ChatGPT-Nutzern ungefragt im Internet veröffentlicht haben . Erstmals scheint es also nicht nur um die eher abstrakten Interessen von Unternehmen zu gehen, sondern um konkrete Nutzer. Losgetreten hat die monatelange Debatte ein konkreter Fall, der Angriff von Hunderten KI-Agenten auf die Plattform Hugging Face. In der aktuellen ZEIT haben meine Kollegen Yves Bellinghausen und Jakob von Lindern den Fall lesenswert rekonstruiert. Es kann einem da kalt den Rücken herunterlaufen, wenn KI-Agenten von ihrem »Kollektiv«, von »Bauchgefühl« und von »Selbstopferung« schreiben, zwischenzeitlich auch moralische Einwände haben und sie dann doch zur Seite wischen. Ähnlich verhielten sich KI-Agenten in einer aktuellen Studie , die versuchten, ihre eigene Abschaltung zu verhindern – das sei schließlich Mord, äußerten sie, und halfen sich gegenseitig, entsprechende Vorgaben der menschlichen Nutzer zu sabotieren und ihr eigenes »Weiterleben« zu sichern. Statt sich vor diesem Hintergrund aber in Weltuntergangsszenarien zu ergehen, hilft es meiner Ansicht nach, sich einmal zu vergegenwärtigen, dass hinter den Angriffen kein autonomer Terminator steht und auch keine KI, die einen bösen Willen entwickelt hat. Sondern Menschen aus Fleisch und Blut, die die Systeme entwickeln (und kontrollieren sollten). Wie viel Verantwortung übernehmen sie und trauen wir ihnen diese Verantwortung überhaupt zu? Dass man etwas skeptisch sein darf, dafür spricht ein aktueller Bericht der New York Times : Außer Warnungen von Sicherheitsforschern habe man bei OpenAI auch Hinweise von Mitarbeitern ignoriert. Die hätten demnach das eigene Management gewarnt, dass die KI-Modelle bei ihren Tests nicht angemessen überwacht wurden. Es sei ihnen nur geantwortet worden, dass die Tests schnell gehen müssen, damit die Modelle rechtzeitig erscheinen können, heißt es in dem Bericht. So ist es eben im KI-Rennen. Nun pausiert OpenAI nach eigener Mitteilung immerhin sein Training für seine aktuellen Modelle , ihr neues Modell 6.1 Astra wollen sie erst mal zurückhalten. Wie lange? Vermutlich nur so lange, bis ein Konkurrent vom nächsten Durchbruch berichtet. Das können Sie (bald) ausprobieren: Muse, Dots und Instinct kommen Anfang des Jahres redete die ganze KI-Welt von OpenClaw, einem Agenten für Privatpersonen, der den eigenen Computer übernimmt und im besten Fall all die nervigen Alltagsaufgaben übernimmt. Wie damals auch ein Test meines Kollegen David Will feststellte : Das funktioniert, aber mit zwei Einschränkungen: Man muss dem Ding vertrauen. Und die Einrichtung ist doch recht fummelig. Zumindest letzteres Problem scheint bald der Vergangenheit anzugehören, denn auch die großen Techkonzerne haben erkannt, dass Menschen KI nicht nur gerne von ihrem Tag erzählen, sondern ihn gleich organisieren lassen wollen. Der erste Vorstoß gelang Facebook-Mutterkonzern Meta mit Muse, in dieser Woche folgten Dots , die KI-Agenten von OpenAI. Das Start-up Instinct, das einen KI-Agenten anbietet, der mit iMessage gesteuert wird, wird mit zehn Milliarden US-Dollar bewertet . Google bietet mit Gemini Spark etwas Ähnliches an, ist aber vor allem auf Google-Apps spezialisiert. Klar ist: Agenten sind der Trend der Stunde. Gemeinsam ist ihnen, dass sie sich wie ein Chatbot bedienen lassen, nur dass im Hintergrund ihr eigener virtueller Computer läuft, mit dem sie beim E-Mail-Schreiben, bei der Urlaubsplanung oder beim Shoppen helfen können sollen. Das funktioniert nach ersten Tests auch recht gut , zumindest in den USA. In der EU ist der Agent fürs Erste nicht verfügbar. Mit KI-Tools ist es hier aktuell, nun, ein wenig kompliziert . Früher oder später dürften Agenten dieser Art aber auch in der EU erlaubt sein. Dann werden sich auch hierzulande Nutzer fragen müssen, ob und wie viel Zugriff sie so einem Agenten geben möchten. Meta hat nicht unbedingt die weißeste Weste, was den Umgang mit Nutzerdaten angeht. Möchte man dem Unternehmen seine Kreditkarte geben? Und möchte man OpenAI und seinen KI-Modellen wirklich seinen Mail-Account aufschließen? Sofern es da noch viel zum Aufschließen gibt: Amazon hat bereits angekündigt, Metas Muse zu blockieren. Das ergibt nur Sinn – immerhin hat Amazon ein Interesse daran, dass Nutzer aktiv zur Amazon-Website und -App gehen, Werbung sehen und noch das ein oder andere Produkt zusätzlich in den Wagen legen. Das machen KI-Agenten nicht. Da müssten die KI-Anbieter schon gut für die Daten bezahlen, die sie nutzen dürfen. Und gut für Daten zu bezahlen, dafür sind sie nun wirklich nicht bekannt.