De veelgebruikte open opslagplaats voor preprint-onderzoek, arXiv, neemt actief meer maatregelen om het nonchalante gebruik van kunstmatige intelligentie door onderzoekers in wetenschappelijke artikelen aan te pakken. De belangrijkste reden voor het harde optreden is niet om te voorkomen dat onderzoekers kunstmatige intelligentie-technologie gebruiken, maar dat sommige auteurs van artikelen de door AI gegenereerde inhoud niet zorgvuldig controleren, wat de geloofwaardigheid van hun artikelen ernstig vermindert.
arXiv, dat begon als een website gerund door Cornell University, verandert in een onafhankelijke non-profitorganisatie die het in staat zal stellen meer geld in te zamelen om problemen aan te pakken zoals kunstmatige intelligentie die papieren van lage kwaliteit genereert. arXiv is een van de belangrijkste manieren om onderzoeksresultaten op gebieden als informatica en wiskunde te verspreiden. Als het probleem van papier van lage kwaliteit niet wordt opgelost, kan dit ernstige gevolgen hebben voor de sector.
Maatregelen genomen door arXiv omvatten, maar zijn niet beperkt tot:
Auteurs die voor de eerste keer artikelen publiceren, moeten aanbevelingen krijgen van bekende auteurs
Als er overtuigend bewijs is dat het artikel AI-hallucinatie-inhoud bevat, riskeert de auteur van het artikel een boete van het gedurende één jaar niet publiceren van nieuwe artikelen.
Als de auteur AI-promptwoorden aan het artikel toevoegt (bijvoorbeeld door het artikel een hogere beoordeling te geven), wordt hij ook geconfronteerd met een verbod van één jaar op het publiceren van nieuwe artikelen.
Voor auteurs die een schorsing van één jaar hebben gekregen, moeten nieuwe artikelen die na één jaar worden gepubliceerd, nog steeds worden geaccepteerd door een gerenommeerd peer-reviewed tijdschrift voordat ze op arXiv kunnen worden gepubliceerd.
Maar arXiv zal auteurs niet verbieden AI te gebruiken:
Houd er rekening mee dat de bovenstaande maatregelen niet betekenen dat arXiv auteurs volledig verbiedt kunstmatige intelligentie te gebruiken om te helpen bij het schrijven, maar dat auteurs de volledige verantwoordelijkheid voor de inhoud moeten dragen. Dat wil zeggen dat, ongeacht of de inhoud door de auteur zelf is geschreven of door kunstmatige intelligentie is gegenereerd, de auteur de inhoud zorgvuldig moet beoordelen om er zeker van te zijn dat er geen omissies zijn.
Als een auteur ongepast taalgebruik, geplagieerde inhoud, bevooroordeelde inhoud, fouten, weglatingen, onjuiste citaten of misleidende inhoud rechtstreeks vanuit AI kopieert en plakt, moet de auteur daarom verantwoordelijk worden gehouden voor de inhoud om andere auteurs niet te misleiden nadat de inhoud is gepubliceerd.
Ten slotte kunnen auteurs bij wie AI-overtredingen worden geconstateerd, ook een beroepschrift indienen bij arXiv. arXiv zal alleen sancties opleggen als eerlijkheid en rechtvaardigheid gewaarborgd zijn. Daarom zal arXiv auteurs niet naar believen verbieden zonder sluitend bewijs.