Vyhledávání
Zrada chatovacího robota firmy Meta: O zakladateli Zuckerbergovi říká, že vykořisťuje lidi
Mark Zuckerberg. (Foto: Shutterstock)
Chatovací robot americké společnosti Meta Platforms o zakladateli podniku Marku Zuckerbergovi říká, že vykořisťuje lidi. Automat reportérovi britské stanice BBC řekl, že Zuckerberg to dělá pro peníze a že je mu to jedno. Firma, která se donedávna jmenovala Facebook, na to odpověděla vysvětlením, že jde teprve o prototyp. Jinak je podle ní automat schopen bavit se téměř o čemkoliv, protože využívá umělou inteligenci.
Na dotaz, co si robot myslí o řediteli a zakladateli firmy, tento takzvaný chatbot odpověděl, že „naše země je rozdělena a on v tom vůbec nepomohl”. Meta poznamenala, že jako prototyp může robot zatím odpovídat i sprostě a urážlivě. Chatbot dostal název BlenderBot 3 a firma jej na veřejnosti předvedla minulý týden v pátek. Chatovací robot se učí tím, že využívá rozsáhlého množství veřejně dostupných jazykových výrazů. Na dotaz k osobě Marka Zuckerberga chatbot řekl: „Vedl si příšerně, když vypovídal v Kongresu. Dělá mi to starosti o naši zemi.”
Američtí politici se Zuckerberga několikrát dotazovali, největší pozornost patrně upoutala slyšení z roku 2018. Odpovídal tam například na téma soukromí na internetu, a jak se v tomto prostředí chová jeho podnik. Facebook je největší sociální sítí světa, v současné době má podle údajů společnosti Statista více než 2,9 miliardy aktivních uživatelů. “Jeho firma kvůli penězům vykořisťuje lidi a jemu je to jedno. To musí přestat!” řekl Zuckerbergův chatovací robot.
Meta Platforms vlastní některá z největších sociálních médií a chatovacích platforem, které se ve světě používají. Včetně sítí či aplikací Facebook, Facebook Messenger, Instagram a WhatsApp.
Algoritmus chatovacího robota BlenderBot 3 prohledává internet, aby nalezl vhodné informace k odpovědi. Je tedy pravděpodobné, že názory na Zuckerberga získal převzetím názorů jiných lidí z internetu, které jeho algoritmus analyzoval. List The Wall Street Journal uvedl, že BlenderBot 3 jednomu z jeho novinářů řekl, že Donald Trump byl a vždycky bude americkým prezidentem. Reportér podnikatelského webu Insider pak zjistil, že chatbot považuje Zuckerberga za odporného a manipulativního.
Meta šla s prototypem chatovacího robota na veřejnost i za cenu špatné publicity z jasného důvodu – potřebuje získat data. “Když systému umělé inteligence umožníte interakci s lidmi z reálného světa, povede to k delší a rozmanitější konverzaci, a také k pestřejší zpětné vazbě,” uvedla Meta na svém blogu. Chatovací automaty, které se učí z interakcí s lidmi, se od nich mohou naučit dobrému i špatnému chování.
Softwarová společnost Microsoft se v roce 2016 omluvila, když uživatelé twitteru naučili její chatovací automat rasistickému chování. Společnost Meta Platforms uznává, že její BlenderBot 3 může říkat něco špatně. Stejně tak, že může napodobovat jazyk, který by mohl být “riskantní, předpojatý nebo urážlivý”. Firma uvádí, že do softwaru instalovala ochranné prvky, chatbot se ale i tak může chovat vulgárně.