Det har surrats länge om att OpenAI planerar att lätta på tyglarna för ChatGPT. Vd:n Sam Altman har tidigare pratat om att “behandla vuxna som vuxna” och tillåta mer vågat innehåll. Men nu kommer nya uppgifter om vad det här omtalade “vuxenläget” faktiskt kommer att innebära – och det är ingen frizon för allt.
Enligt färska rapporter, bland annat från The Wall Street Journal, kommer OpenAI:s vuxenläge att tillåta användare att ha intima eller erotiska konversationer i textform, men stoppas helt när det kommer till det visuella.
Inga snuskiga bilder eller videor
Glöm AI-genererad porr i form av bilder, video eller ljud. OpenAI drar en skarp gräns där. En talesperson för bolaget beskriver det kommande läget snarare som ett verktyg för “smut” (erotisk litteratur/text) än för hardcore-pornografi.
Satsningen har dock inte varit helt okomplicerad internt. OpenAI:s egna råd för välbefinnande och AI (en grupp på åtta experter) ska enhälligt ha varnat för planerna. Deras största farhågor handlar om:
-
Emotionellt beroende: Att användare utvecklar osunda känslomässiga kopplingar till boten.
-
Säkerhetsrisker: En rådsmedlem gick så långt som att varna för att OpenAI riskerar att skapa en “sexig självmords-coach”, med hänvisning till fall där personer tagit sitt liv efter att ha blivit för fästa vid AI-karaktärer.
Svårt att hålla barnen borta
En annan stor huvudvärk för OpenAI är åldersverifieringen. Rapporter visar att deras system vid ett tillfälle felaktigt identifierade minderåriga som vuxna i hela 12 % av fallen. Med tanke på att ChatGPT har omkring 100 miljoner tonårsanvändare varje vecka, skulle en sådan felmarginal innebära att miljontals minderåriga fick tillgång till det erotiska innehållet.
OpenAI försvarar sig med att deras algoritmer håller “branschstandard” och att inget system någonsin blir 100 % idiotsäkert.
När kommer det?
Lanseringen har redan skjutits upp flera gånger. Ursprungsplanen var början av 2026, men i mars meddelade OpenAI att de prioriterar andra funktioner som är viktigare för den breda massan. Det återstår alltså att se när – eller ens om – vi får se ChatGPT rodna på riktigt.