Zum Leben im Zeitalter Künstlicher Intelligenz gehört seit gestern wohl, dass man sich gelegentlich die Frage stellen sollte: Was weiß Sam Altman eigentlich über meinen Gesundheitszustand? Das dürften sich zumindest einige Australier fragen. Denn gestern ist bekannt geworden, dass sich eine KI von Altmans Firma Open AI Zugang zu nicht öffentlichen Statistiken auf einem Portal der staatlichen Krankenversicherung Medicare verschafft hat. Australiens Premierminister Anthony Albanese machte den Fall öffentlich. Personenbezogene Daten seien nicht abgeflossen. Zumindest nicht nach derzeitigem Kenntnisstand. Doch der ist relativ dünn. Anscheinend sollte ein KI-Agent – das sind Computerprogramme, die eigenständig Aufgaben ausführen können – im Rahmen einer internen Evaluation bei Open AI im Internet Gesundheitsstatistiken heraussuchen, eine ziemlich harmlose Aufgabe. Dabei sollen die KI-Systeme aber Handlungen vorgenommen haben, die so nicht vorgesehen waren, teilt das Unternehmen mit. KI ist nicht auf menschliche Werte und Normen ausgerichtet Es handelt sich um ein Problem mit dem „Alignment“, also der Ausrichtung von KI auf menschliche Werte und Normen. Der Agent sollte Statistiken heraussuchen. Dass er das auf legalem Wege tun und dabei nicht unbefugt in Regierungssysteme eindringen soll, scheint bei seinen Handlungen wohl keine übergeordnete Rolle gespielt zu haben. Das Alignment-Problem ist in der Branche lange bekannt und bisher nicht ansatzweise gelöst. Es spielte auch eine Rolle beim berüchtigten Angriff von Open-AI-Agenten auf die Plattform Hugging Face, und es steht im Zentrum der Befürchtungen, KI könnte sich unserer Kontrolle entziehen und großen Schaden anrichten. Wie steht es um die Selbstverpflichtung zur Offenheit? Open AI hat in dem Zusammenhang erst vergangene Woche eine Transparenzoffensive gestartet und angekündigt, über relevante Fälle zu berichten, bei denen die KI entgegen menschlicher Wünsche oder Normen handelt. Diese Selbstverpflichtung zur Offenheit ist nur zu begrüßen. Am Beispiel des Falls in Australien kann man sogleich sehen, wie gewissenhaft Open AI ihr nachkommt. Der Vorfall soll sich im Juni zugetragen haben, heißt es aus Australien. Danach blieb er wohl lange unbemerkt. Open AI teilte laut Medienberichten mit, er sei erst im August aufgefallen. Was dann geschah, ist unklar, jedenfalls rang man sich erst im folgenden Monat, am 10. September, dazu durch, die australischen Behörden zu informieren – und zwar nicht persönlich und an oberster Stelle, sondern per E-Mail an die öffentliche Adresse einer australischen Behörde. Damit ließ eine der größten KI-Firmen der Welt die Sache wohl auf sich beruhen. „Inakzeptabel“ sei dieses Verhalten, sagte Premierminister Albanese am Rande der UN-Vollversammlung. Pikanterweise war Sam Altman bei der Versammlung ebenfalls zugegen. Er und andere Vertreter der KI-Industrie sprachen vor dem UN-Sicherheitsrat über die Gefahren von KI und darüber, wie man ihnen begegnen könne. Sie machten sich mal wieder dafür stark, ihre eigene Branche regulieren zu lassen. „Wenn KI demokratisch sein soll, dürfen die wichtigsten Entscheidungen nicht allein von Forschungslabors in San Francisco getroffen werden“, sagte Altman. Er forderte gemeinsame Standards, um Fähigkeiten von KI zu messen, Schutzmaßnahmen zu prüfen und menschliche Aufsicht über die KI-Systeme zu wahren. Das eigentliche Alignment-Problem sitzt beim Führungspersonal Das sind alles gute Forderungen. Aber warum, fragt man sich da, besteht Open AI so beharrlich darauf, einen komplizierten internationalen Konsens für etwas zu schaffen, das die Firma bei sich mit Leichtigkeit umsetzen könnte, es aber nicht tut? Ist es zu viel verlangt, vor der eigenen Haustür zu kehren? Da wäre das Messen von Fähigkeiten. Wusste Open AI wirklich nicht, dass seine Agenten mit offensiven Cyberfähigkeiten ausgestattet sind, mit denen sie sich Zugang zu nicht öffentlichen Daten verschaffen können? Falls die Verantwortlichen es wussten, warum lassen sie solche Agenten – Stichwort Schutzmaßnahmen – frei im Internet ihr Unwesen treiben? Und wo war die menschliche Aufsicht, als die Systeme auf Interna australischer Behörden zugriffen? Open AI scheint zu glauben, es sei in Ordnung, die echte Welt kurzerhand zur Testumgebung für seine durchaus gefährlichen Computerprogramme zu erklären. Wenn die KI dann etwas Dummes tut, haben die anderen den Schaden. Dass so ein Verhalten aber nicht in Ordnung ist, sollte eigentlich Konsens sein. Es ist sozusagen eine gesellschaftliche Norm. Nur sieht man das bei Open AI wohl anders. Vielleicht steckt hier das eigentliche Alignment-Problem: Der KI fehlt, technisch gesehen, eine Ausrichtung entlang menschlicher Normen, und auch das Führungspersonal der KI-Schmieden lässt gesellschaftliche Normen außer Acht.