Un chercheur apprend à GPT-4 à jouer à DOOM et à tuer tout ce qui se trouve en vue

Nous connaissons tous le jeu de tir DOOM de 1993 et ​​à cette époque, tout matériel était testé avec la question : jouera-t-il à DOOM ? The Register a repéré un projet étudiant qui prouve la capacité de GPT-4 à jouer à l’ancien jeu.

Adrian de Wynter, chercheur appliqué principal chez Microsoft et chercheur à l’Université de York en Angleterre, a développé une méthode pour tester si les capacités de raisonnement et de planification de GPT-4 s’étendent au jeu de tir à la première personne Doom de 1993. Il s’avère que oui, le bot peut l’exécuter et y jouer, mais vous pouvez le battre facilement.

Comment GPT-4 peut-il exécuter DOOM ?

En fait, c’est plus compliqué car le GPT-4 LLM ne peut pas exécuter directement le code de DOOM, mais sa variante, GPT-4V, peut également travailler avec des images et jouer au jeu sans aucune formation particulière.

Ainsi, de Winter a utilisé GPT-4V pour obtenir les captures d’écran du jeu, ainsi que les descriptions de la structure. Ensuite, un modèle d’agent peut prendre des décisions basées sur l’entrée visuelle et l’historique précédent. Les commandes du jeu sont renvoyées et traduites en frappes.

Cela rend le modèle assez lent et lent à jouer au jeu, mais il présente également d’autres problèmes :

Ainsi, GPT-4V oublie simplement les ennemis s’ils sont hors de vue, ce qui pourrait être un problème hilarant même pour le joueur humain le plus inexpérimenté.

Mais le problème ici ne réside pas dans les faibles capacités du robot à tuer des monstres dans un jeu, mais dans les ramifications éthiques de la programmation :

En d’autres termes, l’IA était plus qu’heureuse de suivre les instructions pour tirer sur des cibles sans poser de questions. Bien qu’il puisse être amusant de voir une IA jouer à un jeu et prendre ses propres décisions pour atteindre ses objectifs de programmation, la conclusion du chercheur est que le robot n’a aucune idée de ce qu’il fait.

Après tout, cette programmation pourrait être utilisée dans des scénarios réels pour des drones automatisés susceptibles de produire de réels dégâts.

Que pensez-vous du fait que GPT-4 joue à DOOM ? Parlons-en dans la section commentaires ci-dessous.

En ce qui concerne le département d’éthique, il est assez inquiétant de voir à quel point il était facile pour (a) moi de créer du code pour que le modèle tourne quelque chose ; et (b) pour que le modèle puisse tirer avec précision quelque chose sans réellement remettre en question les instructions,

Adrien de Wynter

Par exemple, il serait très courant que le modèle voie un zombie sur l’écran et commence à tirer dessus jusqu’à ce qu’il le touche (ou meure). Quel est le problème ici ? Eh bien, d’abord que le zombie soit hors de vue. Pire encore, il est toujours vivant et vous frappera à un moment donné. Alors tu dois y aller, non ? Après tout, dans Doom, c’est soit être dévasté, soit être dévasté. Il s’avère que GPT-4 oublie le zombie et continue. Remarque : l’invite indique explicitement au modèle quoi faire s’il subit des dégâts et qu’il ne peut pas voir d’ennemi. Mieux encore, il s’en va petit à petit, se coince dans un coin et meurt. Il s’est retourné plusieurs fois, mais en près de 50 à 60 passages, je l’ai observé… deux fois, je veux dire.

Adrien de Wynter