Terwijl Microsoft zijn kunstmatige-intelligentieproducten krachtig promoot bij consumenten en ondernemingen en Copilot diepgaand integreert in Windows 11, positioneert het deze AI-service in officiële documenten als "entertainmentgebruik". In de gebruiksvoorwaarden van Microsoft Copilot, die in oktober vorig jaar zijn bijgewerkt, staat duidelijk dat dit grote taalmodel (LLM) "alleen voor amusementsdoeleinden" is en dat gebruikers het niet mogen gebruiken om belangrijk advies te geven en dat dit op eigen risico is.

Deze verklaring staat in schril contrast met de recente publiciteit van Microsoft rond Copilot+ pc- en zakelijke gebruikers, waardoor vragen rijzen over het vertrouwen van Microsoft.

In de gebruiksvoorwaarden schreef Microsoft: "Copilot is alleen bedoeld voor amusementsdoeleinden. Het kan fouten maken en werkt mogelijk niet zoals verwacht. Vertrouw niet op Copilot voor belangrijk advies. Gebruik Copilot op eigen risico." Het rapport wees erop dat soortgelijke disclaimers niet uniek zijn voor Microsoft, en dat andere grote dienstverleners op het gebied van AI-modellen ook soortgelijke verklaringen hebben aangenomen. xAI herinnert gebruikers er in zijn servicevoorwaarden bijvoorbeeld aan dat kunstmatige intelligentie ‘snel evolueert en probabilistisch van aard is’, zodat de gegenereerde inhoud ‘hallucinerend’ kan zijn, aanstootgevende inhoud kan bevatten, geen nauwkeurige weerspiegeling is van echte mensen of feiten, of zelfs volledig ongepast kan zijn voor het beoogde gebruik van de gebruiker.

Hoewel is bewezen dat generatieve AI de efficiëntie verbetert in scenario's als schrijven en programmeren, is het nog steeds slechts een hulpmiddel dat geen verantwoordelijk onderwerp heeft en geen juridische of praktische consequenties kan dragen voor zijn eigen fouten. Daarom moeten gebruikers voorzichtig zijn bij het vertrouwen op hun resultaten, sceptisch zijn over de resultaten en kruiscontroles uitvoeren. Het rapport herinnert er echter ook aan dat zelfs als gebruikers zich bewust zijn van deze technische beperkingen, mensen nog steeds vatbaar zijn voor de invloed van ‘automation bias’, dat wil zeggen dat ze van nature meer geneigd zijn om de antwoorden van machines te geloven en tegenstrijdige gegevens of aanwijzingen te negeren.

In de huidige context waarin door AI gegenereerde inhoud steeds natuurlijker wordt en er ‘echter’ uitziet, wordt het risico van deze automatiseringsvoorkeur verder vergroot. Het artikel wees erop dat wanneer AI aan de oppervlakte logisch consistente en gezaghebbende antwoorden kan geven, het voor gebruikers gemakkelijker is om het in ‘slechts één oogopslag’ te geloven, waardoor hun waakzaamheid onzichtbaar wordt verminderd. In dit geval moedigen fabrikanten enerzijds gebruikers aan om AI op grote schaal toe te passen in werk en leven door middel van advertenties en productintegratie, maar aan de andere kant gebruiken ze gestandaardiseerde disclaimers in termen van gebruik om verantwoordelijkheden af ​​te sluiten. Deze spanning is ook een controversieel fenomeen geworden in de huidige ontwikkeling van de AI-industrie.