KI-Systeme von Microsoft, Google, OpenAI und anderen werden auf der DEFCON 31 im August getestet

Der Aufstieg der generativen KI veranlasst viele Menschen, sich Sorgen zu machen, dass sie sich nicht ethisch und verantwortungsbewusst verhalten werden. Tatsächlich hat einer der ranghöchsten KI-Forscher von Google, Geoffrey Hinton, kürzlich das Unternehmen verlassen , damit er die Welt frei vor den potenziellen Gefahren der KI warnen kann.

Heute wird sich US-Vizepräsidentin Kamala Harris mit den CEOs von vier der führenden Unternehmen in der KI-Entwicklung treffen: Satya Nadella von Microsoft, Sundar Pichai von Google, Sam Altman von OpenAI und Dario Amodei von Anthropic. Laut dem Weißen Haus werden die Teilnehmer über den zunehmenden Einsatz von KI und „die Bedeutung verantwortungsvoller, vertrauenswürdiger und ethischer Innovationen mit Sicherheitsvorkehrungen diskutieren, die Risiken und potenzielle Schäden für den Einzelnen und unsere Gesellschaft mindern“.

Die Biden-Administration gab außerdem bekannt, dass diese vier Unternehmen zusammen mit Hugging Face, NVIDIA und Stability AI alle zugestimmt haben, ihre KI-Systeme auf der jährlichen DEFCON-Hacking-Konferenz testen zu lassen. Die DEFCON 31 soll vom 10. bis 13. August in Las Vegas stattfinden. In der Pressemitteilung des Weißen Hauses heißt es:

Diese unabhängige Übung wird Forschern und der Öffentlichkeit wichtige Informationen über die Auswirkungen dieser Modelle liefern und es KI-Unternehmen und Entwicklern ermöglichen, Schritte zu unternehmen, um Probleme zu beheben, die in diesen Modellen gefunden wurden. Das Testen von KI-Modellen unabhängig von der Regierung oder den Unternehmen, die sie entwickelt haben, ist ein wichtiger Bestandteil ihrer effektiven Bewertung.

Darüber hinaus wird das US Office of Management and Budget einen Dokumententwurf für eine Richtlinie zur Verwendung von KI durch die US-Regierung erstellen und zur öffentlichen Kommentierung anbieten. Außerdem wird die National Science Foundation 140 Millionen US-Dollar für die Finanzierung von sieben neuen nationalen KI-Forschungsinstituten hinzufügen, wodurch sich die Zahl dieser Gruppen auf 25 erhöht.