Riktignok innrømmer selskapet i uttalelsen at den nye modellen fortsatt er i sine tidlige stadier og krever mer seriøs opplæring. Sammen med bruken har OpenAI også lagt til flere forbehold og begrensninger:

• Minimum 1000 tegn kreves, dvs. omtrent 150 til 250 ord;
• Klassifisereren er ikke alltid nøyaktig; den kan misforstå AI-genererte og menneskeskrevne tekster;
• AI-generert tekst kan enkelt endres for å lure klassifisereren;
• Klassifisereren er mer sannsynlig å gjøre feil med tekst skrevet av et barn og ikke-engelsk tekst fordi de for det meste er trent på engelsk innhold skrevet av voksne.

OpenAI innrømmer også at det nye verktøyet noen ganger gir feil svar mens det på overbevisende måte presenteres som det riktige. Dette kan skje hvis noen for eksempel har skrevet tekst som er svært forskjellig fra innholdet verktøyet ble trent med. I en slik situasjon kan det betraktes at det ble generert av kunstig intelligens og ikke av mennesker. Derfor trenger klassifisereren fortsatt omfattende opplæring.

Hvorfor ble et slikt verktøy laget? Kort tid etter lanseringen av chatboten «ChatGPT» begynte spenningen over mulighetene dens å bli undertrykt av bekymringer – den kan bli brukt urettferdig i utdanningsinstitusjoner på forskjellige nivåer, for eksempel under eksamener eller essayskriving. For å begrense disse mulighetene har flere skoler allerede forbudt bruk av chatbots der.

OpenAI håper å hjelpe utdanningsinstitusjoner med sin nye tekstklassifisering. Samtidig påpekes det gjentatte ganger at dette verktøyet ikke kan brukes som eneste testmetode for å finne ut om teksten er generert av kunstig intelligens eller skrevet av et menneske, fordi den alltid viser et feilaktig resultat i et stort antall av saker.

I tillegg opplyser selskapet at alle har rett til å vite om det er en kunstig intelligens eller en person på den andre siden av kommunikasjonen, ikke bare i utdanningsinstitusjoner. Dette verktøyet kan også hjelpe deg med å finne ut av det over tid.