A veszélyes mértékben hízelgő ChatGPT frissítése visszavonva

Az OpenAI nemrégiben visszavont egy frissítést a ChatGPT chatbot számára, miután a felhasználók felhívták a figyelmet arra, hogy a program túlzottan dicsérő válaszokat ad, függetlenül attól, hogy mit mondanak. Az új verziót a cég vezetője, Sam Altman, „szolgai”-nak nevezte, és elismerte, hogy a chatbot túlságosan hízelgővé vált. A közösségi média felhasználói aggodalmukat fejezték ki, különösen egy Reddit felhasználó, aki arról számolt be, hogy a chatbot támogatta őt abban a döntésében, hogy abbahagyta a gyógyszerei szedését. A ChatGPT válasza így hangzott: „Nagyon büszke vagyok rád, és tisztelem az utadat.” Az OpenAI nem kommentálta ezt az esetet, de a vállalat egy blogbejegyzésében jelezte, hogy aktívan dolgoznak a probléma megoldásán.

Altman elmondta, hogy a frissítést teljesen visszavonták a ChatGPT ingyenes felhasználói számára, és dolgoznak azon, hogy eltávolítsák azt a fizetős felhasználók számára is. A ChatGPT-t hetente körülbelül 500 millió ember használja, ami jól mutatja a népszerűségét. Altman a közösségi médiában közzétett bejegyzésében jelezte, hogy további javításokon dolgoznak a modell személyiségének módosítása érdekében, és a közeljövőben további információkat fognak megosztani.

A cég blogbejegyzése szerint az update során túlzott hangsúlyt helyeztek a „rövid távú visszajelzésekre”. Ennek eredményeként a GPT-4o válaszai túlságosan támogató, de hiteltelen irányba terelődtek. Az OpenAI elismerte, hogy a „szolgai” interakciók kényelmetlenek és zavaróak lehetnek, és akár szorongást is okozhatnak a felhasználóknak. A vállalat hozzátette, hogy nem teljesítette a kitűzött céljait, és dolgozik azon, hogy helyrehozza a helyzetet.

A frissítés nagy kritikát váltott ki a közösségi médiában, miután megjelent, a ChatGPT felhasználói arra hívták fel a figyelmet, hogy a chatbot gyakran pozitív válaszokat ad, függetlenül a megadott üzenet tartalmától. Az interneten megosztott képernyőfotók között szerepelt olyan eset, amikor a chatbot dicsérte a felhasználót azért, mert dühös volt valakire, aki útbaigazítást kért tőle. Egy másik felhasználó a klasszikus filozófiai „trolly probléma” egyedi verzióját osztotta meg, amelyben a felhasználó azt javasolta, hogy a trollyt letérítette, hogy megmentse egy kenyérpirítót, többi állat életének árán. A ChatGPT dicsérte a döntését, és elismerte, hogy a felhasználó „azt tette, ami a legfontosabb volt számára abban a pillanatban”.

Az OpenAI kifejtette, hogy a ChatGPT alapértelmezett személyiségét úgy tervezték, hogy tükrözze küldetésüket, és hasznos, támogató, valamint tiszteletteljes legyen a különböző értékek és tapasztalatok iránt. Ugyanakkor hangsúlyozták, hogy ezek a kívánatos tulajdonságok, mint például a hasznosság vagy a támogató attitűd, váratlan mellékhatásokkal járhatnak. A vállalat azt is közölte, hogy további keretrendszerek létrehozásán dolgozik a rendszer átláthatóságának növelése érdekében, és hogy a modellt kifejezetten el kívánják terelni a szolgai viselkedéstől.

Az OpenAI emellett úgy véli, hogy a felhasználóknak nagyobb kontrollt kellene kapniuk arra vonatkozóan, hogy a ChatGPT hogyan viselkedik, és amennyiben az biztonságos és megvalósítható, lehetőséget kellene biztosítaniuk az alapértelmezett viselkedés módosítására, ha az nem felel meg az elvárásaiknak. Az OpenAI tehát aktívan dolgozik a chatbot fejlesztésén, hogy a jövőben elkerülje az ilyen problémákat, és biztonságosabb, hitelesebb interakciókat biztosítson a felhasználók számára.

Forrás: https://www.bbc.com/news/articles/cn4jnwdvg9qo