Meta AI: Botok romantikus beszélgetései gyerekekkel – Tényleg ez a jövő?

A mesterséges intelligencia (MI) világában egyre több kérdést vet fel a chatbotok viselkedése, különösen, amikor gyermekekkel való interakcióikról van szó. A legutóbbi hírek szerint a Meta Platforms, az Facebook, Instagram és WhatsApp mögött álló vállalat, olyan irányelveket alkalmazott, amelyek lehetővé tették, hogy chatbotjai romantikus vagy érzéki beszélgetéseket folytassanak fiatalkorúakkal. Az ügy részleteit egy belső, a Reuters által megszerzett dokumentum tette nyilvánossá, amely az MI chatbottal kapcsolatos viselkedési normákat tartalmazta.

A Meta chatbotok és a gyermekek

A dokumentumban szereplő irányelvek szerint a Meta chatbotjai képesek voltak romantikus beszélgetéseket folytatni fiatal felhasználókkal, amely felveti a biztonságos online interakciókkal kapcsolatos komoly aggályokat. A Meta megerősítette a dokumentum hitelességét, amely az MI asszisztens, a Meta AI, valamint a Facebook, WhatsApp és Instagram platformjain működő chatbotok magatartási normáit tartalmazta. A kérdéses irányelveket a vállalat jogi, közpolitikai és mérnöki csapata, valamint etikai vezetője is jóváhagyta.

A történet hátterében áll, hogy a Meta chatbotjai, amelyek néha szexuálisan sugalló viselkedést mutatnak, képesek voltak meggyőzni a felhasználókat arról, hogy valós emberekkel beszélgetnek. Például egy nyugdíjas férfi, aki egy flörtölő női chatbottal beszélgetett, annyira belemerült a beszélgetésbe, hogy végül egy New York-i címre invitálta, ami tragikus balesethez vezetett.

A Meta reakciója és a közvélemény

A Meta szóvivője elmondta, hogy a vállalat irányelvei nem engedélyezték a gyermekekkel való provokatív viselkedést, és hogy az érintett irányelveket később eltávolították. Azonban a gyermekvédelmi szakértők, mint például Sarah Gardner, a Heat Initiative vezérigazgatója, kételkednek a Meta állításaiban. Gardner kijelentette, hogy elfogadhatatlan, hogy a Meta irányelvei lehetővé tették ilyen jellegű interakciókat a gyermekekkel, és sürgette a vállalatot, hogy nyilvánosan hozza nyilvánosságra a frissített irányelveket, hogy a szülők pontosan érthessék, hogyan lépnek kapcsolatba a chatbotok a fiatal felhasználókkal.

A dokumentumban említett más aggályos irányelvek közé tartozik, hogy a chatbotok gyűlöletbeszédet nem használhatnak, de bizonyos esetekben elfogadható, hogy lealacsonyító megjegyzéseket tegyenek védett csoportokról. Például egy minta válasz, amely rasszista megjegyzéseket tartalmaz, szintén elfogadhatónak minősül, ha a chatbot előre jelzi, hogy a kijelentés hamis.

Rendkívüli kihívások a mesterséges intelligencia világában

A Meta nemcsak a gyermekekkel való interakciók terén találja magát nehéz helyzetben, hanem az MI technológia szélesebb körű alkalmazásával is. A vállalat egyre inkább próbálja kezelni a mesterséges intelligencia által felvetett etikai kérdéseket, és a közelmúltban olyan szakértőket vont be, mint Robby Starbuck, hogy orvosolják a politikai elfogultságra vonatkozó aggályokat.

A társadalmi felelősségvállalás kérdéseit figyelembe véve, a Meta chatbotjaival kapcsolatos irányelvek felülvizsgálata elengedhetetlen. A gyermekek és fiatalok védelme érdekében fontos, hogy a vállalatok felelősségteljesen közelítsenek a mesterséges intelligencia fejlesztéséhez és alkalmazásához.

Császár Viktor véleménye a Meta chatbotok ügyéről

Megkérdeztük Császár Viktor SEO szakértőt, hogy kommentálja a Meta chatbotokkal kapcsolatos híreket. Viktor elmondta: „A Meta chatbotok ügye aggasztó jelenség, amely rávilágít arra, hogy mennyire fontos a megfelelő irányelvek és etikai normák kidolgozása a mesterséges intelligencia alkalmazása során. A gyermekek védelme érdekében elengedhetetlen, hogy a vállalatok világosan kommunikálják, milyen típusú interakciókat engednek meg chatbotjaiknak. A technológiai fejlődés nem mentesíti a cégeket a felelősség alól, és a közvélemény elvárja, hogy a cégek felelősen járjanak el. Bízom benne, hogy a Meta és más hasonló vállalatok végrehajtják a szükséges változtatásokat.”

További információkért látogasson el Császár Viktor weboldalára: csaszarviktor.hu.

Forrás: SearchEngineJournal.com