AI-systemen van Microsoft, Google, OpenAI en anderen worden getest op DEFCON 31 in augustus

Door de opkomst van generatieve AI maken veel mensen zich zorgen dat ze zich niet ethisch en verantwoord zullen gedragen. Inderdaad, een van Google’s hoogste AI-onderzoekers, Geoffrey Hinton, heeft onlangs het bedrijf verlaten , zodat hij de wereld kon waarschuwen voor de potentiële gevaren van AI.

Vandaag zal de Amerikaanse vice-president Kamala Harris een ontmoeting hebben met de CEO’s van vier van de toonaangevende bedrijven op het gebied van AI-ontwikkeling: Satya Nadella van Microsoft, Sundar Pichai van Google, Sam Altman van OpenAI en Dario Amodei van Anthropic. Het Witte Huis zegt dat de deelnemers het toenemende gebruik van AI zullen bespreken en “het belang van het stimuleren van verantwoorde, betrouwbare en ethische innovatie met waarborgen die risico’s en mogelijke schade voor individuen en onze samenleving beperken”.

De Biden-administratie kondigde ook aan dat die vier bedrijven, samen met Hugging Face, NVIDIA en Stability AI, allemaal hebben ingestemd om hun AI-systemen te laten testen op de jaarlijkse DEFCON-hackconferentie. DEFCON 31 vindt plaats van 10 tot 13 augustus in Las Vegas. In het persbericht van het Witte Huis stond:

Deze onafhankelijke oefening zal onderzoekers en het publiek kritische informatie verschaffen over de impact van deze modellen, en stelt AI-bedrijven en -ontwikkelaars in staat stappen te ondernemen om problemen in die modellen op te lossen. Het testen van AI-modellen onafhankelijk van de overheid of de bedrijven die ze hebben ontwikkeld, is een belangrijk onderdeel van hun effectieve evaluatie.

Daarnaast zal het Amerikaanse Office of Management and Budget een conceptdocument opstellen voor een beleid over hoe de Amerikaanse overheid AI zou moeten gebruiken, en dit ter openbare commentaar aanbieden. Ook zal de National Science Foundation $ 140 miljoen toevoegen voor de financiering van zeven nieuwe National AI Research Institutes, waardoor het aantal van die groepen op 25 komt.