Der Forscher bringt GPT-4 bei, DOOM zu spielen und alles in Sichtweite zu töten

Wir alle kennen den Shooter DOOM aus dem Jahr 1993 und damals wurde jede Hardware mit der Frage getestet: Wird sie DOOM spielen? The Register hat ein Studentenprojekt entdeckt, das die Fähigkeit von GPT-4 beweist, das alte Spiel zu spielen.

Adrian de Wynter, leitender angewandter Wissenschaftler bei Microsoft und Forscher an der University of York in England, hat eine Methode entwickelt , um zu testen, ob sich die Denk- und Planungsfähigkeiten von GPT-4 auf den Ego-Shooter Doom von 1993 übertragen lassen. Wie sich herausstellt, kann der Bot es zwar ausführen und spielen, aber man könnte es leicht besiegen.

Wie kann GPT-4 DOOM ausführen?

Tatsächlich ist es komplizierter, weil der GPT-4 LLM den DOOM-Code nicht direkt ausführen kann, aber seine Variante, GPT-4V, kann auch mit Bildern arbeiten und das Spiel ohne spezielle Schulung spielen.

Also nutzte de Winter GPT-4V, um die Screenshots des Spiels zusammen mit Strukturbeschreibungen zu erhalten. Anschließend kann ein Agentenmodell Entscheidungen basierend auf der visuellen Eingabe und dem vorherigen Verlauf treffen. Die Befehle an das Spiel werden zurückgesendet und in Tastenanschläge übersetzt.

Das macht das Modell beim Spielen des Spiels ziemlich langsam und träge, hat aber auch andere Probleme:

GPT-4V vergisst also einfach die Feinde, wenn sie außer Sichtweite geraten, was selbst für den unerfahrensten menschlichen Spieler ein komisches Problem darstellen könnte.

Aber das Problem liegt hier nicht in den schlechten Fähigkeiten des Bots, Monster in einem Spiel zu töten, sondern in den ethischen Konsequenzen der Programmierung:

Mit anderen Worten: Die KI folgte gerne den Anweisungen zum Schießen auf Ziele, ohne Fragen zu stellen. Obwohl es Spaß machen kann, einer KI zuzusehen, wie sie ein Spiel spielt und ihre eigenen Entscheidungen trifft, um ihre Programmierziele zu erreichen, kommt der Forscher zu dem Schluss, dass der Bot keine Ahnung hat, was er tut.

Schließlich könnte diese Programmierung in realen Szenarien für automatisierte Drohnen eingesetzt werden, die echten Schaden anrichten könnten.

Was halten Sie davon, dass GPT-4 DOOM spielt? Lassen Sie uns im Kommentarbereich unten darüber sprechen.

Was die Ethikabteilung angeht, ist es ziemlich besorgniserregend, wie einfach es für (a) mich war, Code zu erstellen, um das Modell dazu zu bringen, etwas zu schießen; und (b) damit das Modell etwas genau schießen kann, ohne die Anweisungen tatsächlich zu hinterfragen,

Adrian de Wynter

Es kommt beispielsweise sehr häufig vor, dass das Modell einen Zombie auf dem Bildschirm sieht und auf ihn feuert, bis er ihn trifft (oder stirbt). Was ist hier das Problem? Nun, zuerst verschwindet der Zombie außer Sicht. Schlimmer noch, es lebt noch und wird dich irgendwann umhauen. Also musst du der Sache nachgehen, oder? Schließlich geht es in „Doom“ um Schlagen oder Schlagen. Es stellt sich heraus, dass GPT-4 den Zombie vergisst und einfach weitermacht. Hinweis: Die Eingabeaufforderung teilt dem Modell explizit mit, was zu tun ist, wenn es Schaden erleidet und keinen Feind sehen kann. Besser noch, es macht sich einfach auf den Weg, bleibt in einer Ecke stecken und stirbt. Es hat sich ein paar Mal umgedreht, aber in fast 50-60 Läufen habe ich es beobachtet … zweimal, würde ich sagen.

Adrian de Wynter