OpenAI rolt zijn nieuwste tekst-naar-afbeelding-generator op grotere schaal uit. Donderdag zal het bedrijf het nieuwe DALL-E3-model beschikbaar maken voor gebruik in de ChatGPT-applicatie voor ChatGPTPlus- en zakelijke klanten. OpenAI zei dat het een beveiligingsmitigatiestapel voor het model heeft voorbereid, waardoor het de release ervan kan uitbreiden.
DALL-E3 werd vorige maand voor het eerst uitgebracht en OpenAI liet zien hoe het verbeterde ten opzichte van de vorige DALL-E2 door gebruikers toe te staan ChatGPT te gebruiken om langere, meer visueel beschrijvende aanwijzingen te schrijven voor gebruik door beeldgeneratoren. DALL-E3 werd toegevoegd aan Bing Chat en Bing Image Generator, waardoor het platform van Microsoft het eerste was dat bredere modeltoegang aan het publiek bood – zelfs vóór ChatGPT.
Geadverteerde veiligheidsmaatregelen om schadelijk beeldmateriaal te verminderen werkten niet altijd: gebruikers genereerden afbeeldingen van het World Trade Center waarop SpongeBob SquarePants en andere personages met vliegtuigen naar de gebouwen vlogen. Hoewel Microsoft heeft geprobeerd bepaalde aanwijzingen te blokkeren, hebben andere eenvoudige oplossingen vergelijkbare resultaten opgeleverd.
Tekst-naar-beeldgeneratoren zoals Midjourney, StableDiffusion en eerdere versies van DALL-E hebben allemaal voor controverse gezorgd. De technologie heeft auteursrechtelijk beschermd beeldmateriaal, naaktheid zonder wederzijds goedvinden, rasveranderende onderwerpen en fotorealistische verkeerde voorstellingen van publieke figuren geëxporteerd.
OpenAI belooft deze keer een bredere aanpak en heeft een website ter beschikking gesteld waarop het onderzoek naar DALL-E3 wordt getoond. Het bedrijf zegt dat het "de waarschijnlijkheid zal beperken dat modellen inhoud zullen genereren die is vormgegeven door levende kunstenaars en afbeeldingen van publieke figuren, en de demografische representatie van de gegenereerde afbeeldingen zal verbeteren." OpenAI heeft ook een interne tool voor het classificeren van de herkomst, die naar eigen zeggen 99% nauwkeurig is bij het detecteren of een afbeelding door DALL-E3 is gegenereerd.