Microsoft-CEO Satya Nadella heeft onlangs een waarschuwing afgegeven over de risico's van bedrijven die kunstmatige intelligentie (AI) gebruiken, die grote aandacht heeft getrokken in de branche. De waarschuwing raakt een van de zorgen die ten grondslag liggen aan de huidige AI-rage in Silicon Valley: dat grote AI-laboratoria feitelijk als Trojaanse paarden kunnen fungeren door particuliere modellen beschikbaar te stellen aan bedrijven.
Nadella wees erop dat bedrijven te maken krijgen met de valkuil van ‘dubbele betaling’ wanneer ze closed-sourcemodellen van laboratoria zoals OpenAI of Anthropic overnemen. Bedrijven moeten niet alleen echt geld betalen voor het gebruik van AI-tokens, maar ze geven ook onbedoeld hun meest waardevolle bezittingen af: hun eigen bedrijfsgevoelige gegevens en bedrijfseigen kennis. Terwijl bedrijven doorgaan met het 'voeden' van deze modellen, zakelijke details, operationele processen en feedback over modelfoutcorrecties om de modelprestaties te verbeteren, zullen deze gegevens worden geïnternaliseerd als onderdeel van het model. Nadella benadrukte dat bedrijven modellen feitelijk leren hoe ze hun specifieke activiteiten kunnen begrijpen. Dit kerninzicht in de sector, verkregen via gebruikersinteractie en feedback, is een strategische reserve die concurrenten niet met geld kunnen kopen, maar die door bedrijven aan modelleveranciers wordt overgedragen.
Nadella uitte twijfels over de praktijk van modelleveranciers die vrijelijk openbare internetgegevens doorzoeken voor training, maar gebruikers ervan weerhouden het model te 'distilleren' (dat wil zeggen, de output van het model te gebruiken om de werkingslogica ervan te leren en kleinere en zuinigere nieuwe modellen te trainen). Hij is van mening dat het uiterst oneerlijk is als bedrijven wordt verboden deze informatie te onderzoeken en te hergebruiken terwijl ze intellectuele output leveren.
Als reactie op dit dilemma deed Nadella suggesties aan bedrijven, met het argument dat bedrijven weer eigenaar moeten worden van hun eigen data. Hij suggereerde dat bedrijven hun eigen ‘eigen leeromgeving’ bouwen en gegevens in de cloud bewaren, terwijl ze technische middelen zoals een ‘orkestratielaag’ gebruiken om ervoor te zorgen dat bedrijven flexibel kunnen overschakelen naar AI-modellen van verschillende leveranciers in plaats van vast te zitten aan één enkel platform.
Momenteel vertoont de sector een trend van terugkeer naar een open omgeving. Veel grote ondernemingen beginnen te proberen open source-modellen in hun eigen datacenters in te zetten om volledige controle over data en AI-architectuur te krijgen. Experts uit de industrie zijn van mening dat dit open source-model voor "lokale implementatie" meer dan 90% van de functies van het gesloten source-model kan vervullen tegen lagere kosten, met een hogere beveiliging en beheersbaarheid. Nu de CEO van Microsoft publiekelijk waarschuwt voor de risico’s van het propriëtaire model, zullen bedrijven in de toekomst ongetwijfeld voorzichtiger moeten zijn bij het kiezen van AI-strategieën. Deze verschuiving van het vertrouwen op één enkele leverancier naar zelfgebouwde en controleerbare AI-systemen zal naar verwachting een belangrijke trend worden in AI-toepassingen op ondernemingsniveau.