Anne Applebaum: Možná už v kybernetické dystopii žijeme

30. 7. 2017



Od devatenáctého století nás děsí dystopická umělecká díla, v nichž člověk vynalezne robota, který nabude lidských rysů a převezme vládu nad člověkem a nad světem.



Jenže co když skutečná hrozba od umělé inteligence nevypadá vůbec jako lidská bytost, ptá se Anne Applebaum. Co když je to jen kus počítačového kódu, který dokáže ovlivňovat to, co vidíte, a tedy to, co si myslíte a co cítíte? Jinými slovy, co když našemu životu hrozí boti, nikoliv roboti?



Bot je opravdu jen kus počítačového kódu, který dokáže dělat věci, co lidé nedovedou. Wikipedia používá boty k opravování překlepů a gramatiky, boti dokáží hrát počítačové hry anebo jménem svých lidských ovladačů umisťovat sázky.







V současnosti jsou boti neobyčejně vlivnou silou na sociálních sítích, kde "likeují" lidi a kauzy, zveřejňují komentáře, reagují na druhé uživatele. Boty lze naprogramovat tak, aby na twitteru zveřejňovali urážky v reakci na určitá slova, aby sdíleli stránky z Facebooku, aby opakovali hesla, aby šířili nedůvěru.



Pomalu jejich vliv roste. Jeden ředitel technologické společnosti mi sdělil, že, podle jeho odhadu je polovina uživatelů Twitteru boti, které vytvořily firmy, které je buď prodávají, anebo jich používají na podporu různých kauz.



Computational Propaganda Research Project, Projekt zabývající se počítačovou propagandou na univerzitě v Oxfordu vysvětluje, jak jsou boti používáni k podpoře politických stran a vládní agendy v 28 zemích světa. Dokáží šikanovat politické odpůrce a jejich stoupence, podporovat určitou politickou strategii anebo prostě šířit požadované myšlenky.



Před týdnem například sympatizanti s polskou vládou strany Právo a spravedlnost, pravděpodobně ultrapravicoví Američani, zahájili na Twitteru kampaň prostřednictvím botů, která měla přesvědčit Poláky, že protivládní demonstrace jsou falešné, že to jsou outsideři nebo cizinci, kteří dostali zaplaceno, aby demonstrovali.



Tato kampaň se nepovedla. Ale jiné jsou úspěšné - nebo alespoň to tak vypadá. Otázkou nyní je, vzhledem k tomu, kolik botnetů je v provozu, zda vůbec víme, co to znamená. Je možné, aby počítačoví vědci zkoumali a vysvětlili jednotlivé kampaně. Je možné, aby psychologové studovali, proč lidé reagují na sociálních sítích na to, co tam vidí, tak, jak reagují, proč nefunguje upozorňování na fakta, proč sociální sítě zvyšují agresivitu.



Nikdo ale není schopen vysvětlit způsob, jaký dopad to má všechno dohromady, a jaký dopad má součinnost reálných i umělých kampaní na internetu na to, jak lidé myslí a jak si utvářejí názory. Z výzkumu vyplývá, že v kampaních pro Donalda Trumpa i proti němu na internetu je angažováno obrovské množství skupin - některé komerční, některé politické, některé zahraničí. Závěr: Zkresluje to veřejnou debatu, ale za jakým cílem, to nikdo neví.



A o to právě jde. Možná jsme si po celou dobu představovali to, jak počítače a roboti ovládnou svět, úplně špatně. Nepřiletí obří vesmírná loď, neobjeví se armády robotů, vypadajících jako lidé. Namísto toho jsme vytvořili močál neskutečnosti, svět, v němž nevíte, jestli emoce, které pociťujete, zmanipulovali lidi nebo stroje, a v němž velmi brzo bude nemožné vědět, co je skutečné a co je imaginární. Není tohle ta dystopie, které se už tak dlouho bojíme?



Kompletní článek v angličtině V současnosti jsou boti neobyčejně vlivnou silou na sociálních sítích, kde "likeují" lidi a kauzy, zveřejňují komentáře, reagují na druhé uživatele. Boty lze naprogramovat tak, aby na twitteru zveřejňovali urážky v reakci na určitá slova, aby sdíleli stránky z Facebooku, aby opakovali hesla, aby šířili nedůvěru.Pomalu jejich vliv roste. Jeden ředitel technologické společnosti mi sdělil, že, podle jeho odhadu je polovina uživatelů Twitteru boti, které vytvořily firmy, které je buď prodávají, anebo jich používají na podporu různých kauz.Computational Propaganda Research Project, Projekt zabývající se počítačovou propagandou na univerzitě v Oxfordu vysvětluje, jak jsou boti používáni k podpoře politických stran a vládní agendy v 28 zemích světa. Dokáží šikanovat politické odpůrce a jejich stoupence, podporovat určitou politickou strategii anebo prostě šířit požadované myšlenky.Před týdnem například sympatizanti s polskou vládou strany Právo a spravedlnost, pravděpodobně ultrapravicoví Američani, zahájili na Twitteru kampaň prostřednictvím botů, která měla přesvědčit Poláky, že protivládní demonstrace jsou falešné, že to jsou outsideři nebo cizinci, kteří dostali zaplaceno, aby demonstrovali.Tato kampaň se nepovedla. Ale jiné jsou úspěšné - nebo alespoň to tak vypadá. Otázkou nyní je, vzhledem k tomu, kolik botnetů je v provozu, zda vůbec víme, co to znamená. Je možné, aby počítačoví vědci zkoumali a vysvětlili jednotlivé kampaně. Je možné, aby psychologové studovali, proč lidé reagují na sociálních sítích na to, co tam vidí, tak, jak reagují, proč nefunguje upozorňování na fakta, proč sociální sítě zvyšují agresivitu.Nikdo ale není schopen vysvětlit způsob, jaký dopad to má všechno dohromady, a jaký dopad má součinnost reálných i umělých kampaní na internetu na to, jak lidé myslí a jak si utvářejí názory. Z výzkumu vyplývá, že v kampaních pro Donalda Trumpa i proti němu na internetu je angažováno obrovské množství skupin - některé komerční, některé politické, některé zahraničí. Závěr: Zkresluje to veřejnou debatu, ale za jakým cílem, to nikdo neví.A o to právě jde. Možná jsme si po celou dobu představovali to, jak počítače a roboti ovládnou svět, úplně špatně. Nepřiletí obří vesmírná loď, neobjeví se armády robotů, vypadajících jako lidé. Namísto toho jsme vytvořili močál neskutečnosti, svět, v němž nevíte, jestli emoce, které pociťujete, zmanipulovali lidi nebo stroje, a v němž velmi brzo bude nemožné vědět, co je skutečné a co je imaginární. Není tohle ta dystopie, které se už tak dlouho bojíme?Kompletní článek v angličtině ZDE

0