Nadat de Amerikaanse president Biden in oktober van dit jaar het eerste uitvoeringsbesluit over de regulering van kunstmatige intelligentie had ondertekend, zei de regering-Biden dinsdag Eastern Time dat zij de eerste stap zet om belangrijke normen en richtlijnen te schrijven voor de veilige inzet van generatieve kunstmatige intelligentie en hoe systemen kunnen worden getest en beschermd.
Eind oktober van dit jaar ondertekende de Amerikaanse president Biden een ‘mijlpaal’ uitvoerend bevel, waarmee de eerste regelgeving van het Witte Huis op het gebied van generatieve kunstmatige intelligentie werd gelanceerd. Volgens het uitvoeringsbesluit zijn meerdere Amerikaanse overheidsinstanties verplicht om normen te ontwikkelen om chemische, biologische, radiologische, nucleaire en cyberveiligheidsrisico’s veroorzaakt door kunstmatige intelligentie te voorkomen.
Dinsdag Eastern Time zei het National Institute of Standards and Technology (NIST) van het Amerikaanse ministerie van Handel dat het vóór 2 februari de mening van kunstmatige-intelligentiebedrijven en het publiek zou inwinnen om kritische AI-tests uit te voeren die van cruciaal belang zijn voor het waarborgen van de veiligheid van kunstmatige-intelligentiesystemen.
NIST beweert dat ze richtlijnen ontwikkelen voor het evalueren en testen van kunstmatige intelligentie, de ontwikkeling van industriestandaarden voor kunstmatige intelligentie bevorderen en een testomgeving bieden voor het evalueren van kunstmatige intelligentiesystemen.
De Amerikaanse minister van Handel Gina Raimondo zei dat het nieuwste initiatief van NIST was ingegeven door Biden’s uitvoerend bevel van oktober om “industriestandaarden rond de veiligheid, beveiliging en vertrouwen van kunstmatige intelligentie te ontwikkelen, zodat de Verenigde Staten de wereld kunnen blijven leiden in de verantwoorde ontwikkeling en het gebruik van deze snel evoluerende technologie.”
De testrichtlijnen die NIST ontwikkelt, omvatten zogenaamde "rode team"-testen. NIST zal overwegen waar "rode team"-testen het meest gunstig zijn voor de risicobeoordeling en het beheer van kunstmatige intelligentie en zal voor dit doel best practices ontwikkelen.
'Red team'-testen zijn een belangrijke teststap bij het testen van netwerkbeveiliging. Het verwijst naar de simulatie van tegenstanders uit de echte wereld door een team van experts om de beveiliging van het systeem te testen en te verbeteren.
In augustus van dit jaar voerden de Verenigde Staten voor het eerst publiekelijk een ‘rode team’-testactiviteit uit op het gebied van kunstmatige intelligentie tijdens een grote cyberbeveiligingsconferentie. Aan het evenement wordt voornamelijk deelgenomen door AI-brancheorganisaties AIVillage, SeedAI, Humane Intelligence, enz.
Het Witte Huis zei dat duizenden deelnemers tijdens het evenement in augustus testten of ze "ervoor konden zorgen dat deze systemen ongewenste resultaten produceerden of anderszins faalden, met als doel een beter inzicht te krijgen in de risico's die deze systemen met zich meebrengen." Het evenement “demonstreerde hoe externe rode teams een effectief hulpmiddel kunnen zijn voor het identificeren van nieuwe AI-risico’s.”