Volgens het laatste rapport van Nikkei overweegt de Japanse regering volgend jaar een organisatie op te richten om veiligheidskwesties op het gebied van kunstmatige intelligentie (AI) te onderzoeken, waaronder het risico dat civiele AI-technologie wordt gebruikt voor militaire doeleinden, met als doel de veiligheid ervan te verbeteren zonder onderzoek en ontwikkeling te belemmeren. Naar verluidt zal het plan naar verwachting al deze maand formeel worden aangekondigd tijdens een bijeenkomst van het Artificial Intelligence Strategy Committee, dat verantwoordelijk is voor het bespreken van nationale strategieën met betrekking tot AI. Onder de leden bevinden zich professionals uit de particuliere sector met ervaring op het gebied van AI.
De focus zal liggen op de meest geavanceerde producten, zoals ChatGPT van OpenAI. Om te voorkomen dat de particuliere sector wordt ontwricht, zullen standaard AI-technologieën die door bedrijven worden gebruikt om de operationele efficiëntie te verbeteren niet het doelwit zijn van de Japanse overheid.
AI-producten zullen een reeks tests moeten ondergaan voordat ze op de markt komen, en er is ook een voorstel om te eisen dat alle AI-producten die door de Japanse overheid worden gekocht, vóór gebruik door professionele organisaties worden gecertificeerd.
De nieuw gevormde organisatie is van plan potentiële nationale veiligheidsrisico’s te bestuderen, zoals de mogelijkheid om AI te gebruiken om informatie te verkrijgen om biologische, chemische of andere wapens te creëren, en zal ook veiligheidskwetsbaarheden onderzoeken, waaronder aanvallen op netwerken.
Daarnaast zal onderzoek worden gedaan naar het risico dat AI ongecontroleerd raakt, evenals naar kwesties die verband houden met desinformatie en vooroordelen. AI-gestuurde sociale media-accounts kunnen automatisch inhoud op internet genereren en communiceren met menselijke gebruikers om de publieke opinie te manipuleren of emoties op te wekken.
Momenteel is het, met de ontwikkeling van de informatietechnologie, een realiteit geworden dat AI-technologie op grote schaal wordt gebruikt op militair gebied. Een reeks AI-operaties, zoals het gebruik van AI om slagveldgegevens te verzamelen en te analyseren, wordt op grote schaal gebruikt in gevechtssystemen. Het is vrijwel onvermijdelijk dat civiele AI-technologie voor militaire doeleinden zal worden gebruikt.
Hoewel er een compleet nieuw bureau kan worden gevormd, is de meest waarschijnlijke uitkomst de samenvoeging van een nieuwe afdeling in de bestaande organisatie. Kandidaat-instellingen zijn onder meer het National Institute of Information and Communications Technology, dat onderzoek doet naar AI-technologie onder het ministerie van Binnenlandse Zaken en Communicatie, en het Information Technology Promotion Agency, dat onder het ministerie van Economie, Handel en Industrie valt.
Begin deze maand bereikte de Groep van Zeven (G7) een definitief akkoord over het internationale regelskader voor AI. Dit zullen de eerste alomvattende internationale regels zijn waarin de verantwoordelijkheden van “alle relevante personen” op het gebied van AI voor ontwikkelaars en gebruikers worden vastgelegd.
De G7 streeft ernaar de goedkeuring te winnen van landen en bedrijven buiten de G7 door het voortouw te nemen in het demonstreren van samenwerking om AI-misbruik te voorkomen. De Japanse regering zal deze overeenkomst gebruiken om binnenlandse richtlijnen te formuleren, dat wil zeggen dat AI-ontwikkelaars risicobeoordelingen van derden moeten accepteren voordat ze producten op de markt brengen.
Groot-Brittannië en de VS lopen ook voorop bij het creëren van AI-instellingen. In november richtte Groot-Brittannië het eerste AI-veiligheidsonderzoeksinstituut ter wereld op. Na het verifiëren van geavanceerde AI-producten voor en nadat ze op de markt worden gebracht, kunt u overwegen om die producten openbaar te maken die veiligheidsrisico's met zich meebrengen.
In overeenstemming met het uitvoerend bevel van president Biden van oktober dit jaar ontwikkelen de Verenigde Staten een AI-veiligheidsevaluatiemethode, onder leiding van het National Institute of Standards and Technology. Het heeft tot doel een AI-veiligheidsalliantie te creëren met particuliere bedrijven om methoden te ontwikkelen voor het beoordelen van de AI-capaciteiten en -risico's, en hoopt dat particuliere bedrijven zelf risicoverificatie zullen uitvoeren.