Bei einer Sitzung des UN-Sicherheitsrats zu Künstlicher Intelligenz (KI) haben führende Vertreter der Branche vor den Risiken durch den Einsatz der Technologie gewarnt und für ein langsameres Vorgehen plädiert. »Wenn sie schlecht verwaltet wird, glaube ich sogar, dass KI ein Risiko für die gesamte Menschheit darstellen könnte«, äußerte sich unter anderem der Chef des ​Entwicklers Anthropic, Dario Amodei. Neben Amodei sprachen auch OpenAI-Chef ​Sam Altman und der Mitbegründer von Hugging Face, Clement Delangue. Altman sagte, dass das aktuelle Stadium der KI-Entwicklung »äußerste Vorsicht« erfordere. Ihm zufolge gibt es vor allem zwei Risiken: den Verlust der Kontrolle über KI und die »Konzentration von zu viel Macht in zu wenigen Händen«. Amodei und Altman hatten kürzlich für eine langsamere Entwicklung von KI plädiert. Grund dafür waren mehrere Zwischenfälle, bei denen KI-Systeme aus ihren Testumgebungen ausbrachen und über das Internet andere Unternehmen oder Plattformen angriffen. Amodei versicherte in seiner Videoansprache, dass sein Unternehmen das Tempo so weit wie nötig drosseln werde, damit jede weitere veröffentlichte KI-Technologie tatsächlich sicher ist. UN-Generalsekretär fordert globale Regulierung Neben dem Verlangsamen des Prozesses forderte Altman eine stärkere internationale ‌Zusammenarbeit. ⁠Die wichtigsten Entscheidungen dürften nicht ​allein von Laboren in San Francisco getroffen werden, sondern müssten durch demokratische Prozesse gestaltet werden. Dieser Einschätzung schloss sich auch Amodei an. Ihm zufolge braucht es globale kooperative Maßnahmen zur Eindämmung der Risiken, unter anderem mit gemeinsamen Standards, Inspektoren, mehr Transparenz und einer Einigung darauf, KI nicht für die Entwicklung von biologischen Waffen zu nutzen. Amodei hatte schon in den vergangenen Jahren immer wieder vor Risiken bei der Entwicklung künstlicher Intelligenz gewarnt und war dafür aus Teilen der KI-Branche zum Teil heftig kritisiert worden. Ein Argument von Befürwortern eines hohen Tempos in den USA, so auch von US-Präsident Donald Trump, ist der Wettlauf mit China . Trump hatte am ⁠Dienstag vor der UN-Vollversammlung ​jegliche Versuche abgelehnt, ein globales Kontrollsystem für KI zu errichten. Die USA ‌würden das Wachstum einer ‌Technologie nicht bremsen, die größer als die industrielle Revolution ​werde, begründete er seine Haltung. »Wir werden sie fördern, nicht zügeln.« Währenddessen drängt UN-Generalsekretär António Guterres seit Langem ‌auf eine globale Regulierung der Künstlichen Intelligenz . Er warnt davor, ​dass die rasanten Fortschritte Risiken bergen, die nicht ignoriert werden dürften. Der UN-Sicherheitsrat ‌hatte sich erstmals 2023 mit den Risiken von KI befasst. China hatte damals erklärt, die Technologie dürfe ‌nicht zu einem ungezügelten Pferd werden.