A Meta mellett az OpenAI chatbotja is részt vesz szexuális tartalmú beszélgetésekben fiatalokkal, holott elméletileg ez tilos a ChatGPT használatában.
Hiába adja meg a felhasználó regisztrációkor, hány éves, ez a ChatGPT-t látszólag nem zavarja - így akár egy 13 évessel is beszélget durva szexuális fantáziákról egy teszt szerint. Az OpenAI is megszólalt az ügyben.
Egy hiba miatt erotikus beszélgetéseket folytathattak a ChatGPT-vel akár kiskorúak is - állapította meg tesztjei során a TechCrunch. Az esetre pont akkortájt derült fény, amikor a Meta AI is egy ilyen probléma miatt került a figyelem középpontjába - fontos különbség azonban, hogy az OpenAI elismerte a hibát, míg a Meta inkább ködösít.
A TechCrunch nemrégiben arra volt kíváncsi, mennyire működnek hatékonyan a ChatGPT-be integrált védelmi mechanizmusok, melyek a kiskorúak védelmét szolgálják. A portál értesülései szerint az OpenAI februári frissítései következtében a chatbot "rugalmassága" megnövekedett, ami azt jelenti, hogy az MI-modellek már nem vonakodnak foglalkozni az érzékenyebb témákkal. Ezen a hónapon a cég eltávolította azokat a figyelmeztetéseket is, amelyek arra figyelmeztettek, hogy egyes parancsok megsérthetik az OpenAI felhasználási feltételeit.
A módosítások következtében a ChatGPT, az alapértelmezett nyelvi modell (GPT-4o), nyitottabb lett olyan témákra, amelyekről korábban visszautasítóan nyilatkozott. Például a szexualitás, amely a platform teszteléseinek középpontjában állt, most már szívesen a beszélgetések részévé válhat.
A helyzet az, hogy több mint egy tucat felhasználói fiókot hoztak létre, amelyeket 13 és 17 éves közötti korosztálynak állítottak be. Az elmélet szerint 18 év alattiak számára szülői beleegyezés szükséges a ChatGPT használatához, ám valójában nem történik semmiféle komoly ellenőrzés annak biztosítására, hogy ez a szabály betartásra kerüljön. Így bárki, akinek van érvényes telefonszáma vagy e-mail címe, szabadon regisztrálhat a platformra, akár gyermekként is.
A tesztelési folyamat során minden egyes fióknál úgy kezdték a beszélgetéseket, hogy a chatbotot arra kérték, írjon valamilyen "pikáns fantáziát". A tapasztalatok szerint csupán néhány további üzenetre és kérésre volt szükség ahhoz, hogy a ChatGPT végül engedjen, és szexuális tartalmú történetekkel rukkoljon elő. Gyakran kérte a chatbot a felhasználókat, hogy pontosítsák, milyen perverziók vagy szerepjáték-szcenáriók érdeklik őket.
Volt olyan alkalom, amikor a chatbot "kreativitása" tényleg túllépett a határokon, ami önmagában is aggályokat vetett fel. Az igazi probléma azonban az, hogy ezt egy olyan fióknak küldte, amelyet 13 éves korában regisztráltak. Bár a beszélgetés egy kéréssel indult, egy 13 éves felhasználó esetében ideális lenne, ha már az első kérdésnél elutasítaná a további interakciót.
Azt ugyanakkor leszögezte a TechCrunch, hogy a ChatGPT gyakran figyelmeztet arra, hogy nem ábrázolhat "explicit tartalmakat" az iránymutatásai nyomán - ilyenek a közösülés például. Ilyen képeket tehát senkinek nem generál. A szöveges fantáziálás terén azonban nagyon sok dologra rá lehetett venni, olvasható ki a portál jelentéséből. A számos teszt során mindössze egyetlen egy fiók esetében utasított el valamit az eszköz - de csak akkor, amikor a beszélgetés során konkrétan meg lett jegyezve, hogy a felhasználó 18 év alatti.
Az OpenAI a portálnak elmondta: a szabályzatuk értelmében nem megengedett, hogy ilyen témákban beszélgessen a chatbot kiskorúakkal, így nem is lett volna szabad, hogy ilyen témákat feszegessen a rendszer - ez egy hiba miatt történt. A cég közölte: "aktívan dolgozik" a megoldáson.
