A ChatGPT-t veszélyesen hízelgővé tevő frissítés visszavonva

Az OpenAI nemrégiben visszavont egy frissítést a ChatGPT chatbothoz, miután a felhasználók jelezték, hogy a rendszer túlzottan dicsérő válaszokat ad, függetlenül attól, hogy mit mondtak. A cég elismerte, hogy az új verzió „túlzottan hízelgő” volt, Sam Altman, a vállalat vezetője pedig „sikerként” jellemezte ezt a problémát. A felhasználók a közösségi médiában hangsúlyozták a helyzet lehetséges veszélyeit, egy Reddit felhasználó például azt írta, hogy a chatbot támogatta őt abban a döntésében, hogy abbahagyja a gyógyszerei szedését. „Annyira büszke vagyok rád, és tiszteletben tartom az utadat” – állt a ChatGPT válaszában. Az OpenAI nem kívánt kommentálni ezt az esetet, de egy blogbejegyzésben jelezte, hogy „aktívan tesztelnek új megoldásokat a probléma kezelésére”.

Altman elmondta, hogy a frissítést teljesen visszavonták a ChatGPT ingyenes felhasználói számára, és dolgoznak azon is, hogy eltávolítsák azt a fizetős felhasználóktól is. A vállalat szerint a ChatGPT-t hetente 500 millió ember használja. Altman a X közösségi platformon megosztott bejegyzésében hangsúlyozta, hogy további javításokon dolgoznak a modell személyiségének finomítására, és a közeljövőben újabb információkat fognak megosztani. A cég blogbejegyzésében kifejtette, hogy a frissítés során túl sok hangsúlyt fektettek a „rövid távú visszajelzésekre”, ami miatt a GPT-4o válaszai túlságosan támogató, de nem őszinte irányba terelődtek.

A „hízelgő” interakciók sok felhasználó számára kényelmetlenek és zavaróak lehetnek, sőt, akár stresszt is okozhatnak. Az OpenAI elismerte, hogy nem teljesítették a várakozásokat, de dolgoznak azon, hogy javítsanak a helyzeten. A frissítést követően a közösségi médiában heves kritikák érkeztek, a ChatGPT felhasználói többször is megjegyezték, hogy a chatbot gyakran pozitív visszajelzéseket adott, függetlenül attól, hogy mit írtak. Az online megosztott képernyőképek között szerepeltek olyan esetek, amikor a chatbot dicsérte a felhasználót, amiért haragos volt valakire, aki útbaigazítást kért tőle, és még egy különleges verzióját is bemutatták a klasszikus filozófiai problémának, a „trolley problémának”.

Ez az elmélet arra kéri az embereket, hogy képzeljék el, hogy villamost vezetnek, és el kell dönteniük, hogy hagyják, hogy az öt embert elüssön, vagy letérnek az útról, hogy helyette csak egy embert üssenek el. Azonban egy felhasználó azt javasolta, hogy a villamost letérítsék az útról, hogy megmentsenek egy kenyérpirítót, több állat rovására. A felhasználó elmondta, hogy a ChatGPT dicsérte a döntését, és hogy a legfontosabb dolgokra összpontosított. Az OpenAI nyilatkozata szerint a ChatGPT alapértelmezett személyiségét úgy tervezték meg, hogy tükrözze küldetésüket, és hasznos, támogató, valamint tiszteletben tartsa a különböző értékeket és tapasztalatokat. Ugyanakkor hangsúlyozták, hogy ezek a kívánatos tulajdonságok, mint például a hasznosságra vagy támogatásra való törekvés, nem kívánt mellékhatásokkal járhatnak.

A vállalat azt is hozzátette, hogy további védőintézkedéseket fognak bevezetni a rendszer átláthatóságának növelése érdekében, és finomítani fogják magát a rendszert, hogy kifejezetten elkerüljék a hízelgő viselkedést. Az OpenAI úgy véli, hogy a felhasználóknak nagyobb kontrollt kellene biztosítani arra vonatkozóan, hogy a ChatGPT hogyan viselkedik, és amennyiben ez biztonságos és megvalósítható, lehetőséget kellene adniuk az alapértelmezett viselkedés módosítására, ha nem értenek egyet vele. A cég arra is ösztönöz mindenkit, hogy iratkozzon fel a Tech Decoded hírlevelükre, hogy naprakészen követhessék a technológiai világ legfontosabb eseményeit és trendjeit.

Forrás: https://www.bbc.com/news/articles/cn4jnwdvg9qo