Algoritmy morálky
Nastolení řádu v mezilidském soužití je odvěká potíž, se kterou se lidstvo vypořádává různými způsoby. Spolu s rozvojem technologií a sběrem velkých dat přichází pokročilejší metody, jak modelovat chování. Proslulým symbolem experimentů v této oblasti se v posledních letech stal kontroverzi budící čínský model sociálního kreditu.
Vývoj společenských vztahů a instituce, které okolo nich vznikají, je provázán s kulturním kontextem. Kořeny čínské organizace společnosti jsou propojeny s filozofií konfucianismu. Důvěryhodnost, ztotožňovaná s pojmem kredit, je jeden z pilířů tohoto filozofického rámce.
Rysy kreditu jsou hojně diskutovány, v našich zeměpisných šířkách převážně jako hodnotově neslučitelné. Přesto jsou různé způsoby motivace ke kýženému jednání běžnou metodou i v liberálně demokratickém systému. Namátkou můžeme vzpomenout debaty okolo takzvaného covid pasu, omezení vstupu či zákaz cestování bezpečnostně rizikovým občanům. Pandemický stav a způsoby kontroly, které vyvstaly z potřeby zmírnit dopad viru, využívají metody sběru dat, trasování, databází. Prostřednictvím systému povolení a omezení jsou pak modelovány žádoucí způsoby chování.
Systém čínského skóre má kořeny v ekonomické transformaci a vývoji v oblasti bankovních služeb. Předchůdce sociálního kreditu vznikl jako doprovodný proces přechodu na čínskou tržní ekonomiku. Za jeho vývojem stojí klasický systém půjček. Pro jejich bezpečné poskytování je třeba znát finanční chování jednotlivců a jejich spolehlivost při naplňování závazků, sbírání dat se stalo klíčovým nástrojem pro zhodnocení risku a finanční odpovědnosti jednotlivců.
Význam přerostl bankovní sektor, nevztahuje se navíc jen na občany. Systém platí i pro domácí nebo zahraniční firmy, které se pokouší uchytit na čínském trhu. A tak regionální metody pomalu pronikají do firemních kultur v rámci mezinárodní sféry. Také čínské podniky působící v mezinárodním prostředí jsou zahrnuty, zejména projekty spadající pod Novou Hedvábnou stezku.
Myšlenka sociálního kreditu je ve své podstatě založena na číselném ohodnocení kvalit člověk a jeho chování. Zjednodušeně, jeho role ve společnosti může být vyjádřena určitým kódem. Počet proměnných vyjadřuje, co je vlastně společností vyžadováno, co je uznáno za důležité a vůbec možné zkoumat. Příkladem je schopnost zaznamenat, kolik hodin daný jednotlivec strávil hraním počítačových her, což je považováno za neproduktivní aktivitu, ačkoliv naproti tomu například takové zíraní z okna je podobně produktivní, avšak hůře měřitelná činnost.
Čínský model sociálního kreditu je však také inspirativní pro společenskou diskusi o technologickém pokroku, svobodě a kontrole.
Sociální skóre se často zaměřuje na aspekty chování, které nejsou právně postižitelné, ale jsou považovány například za neproduktivní, nemorální, obtěžující, zkrátka společensky škodlivé. Způsob, jakým se s nimi chceme či můžeme vyrovnat, se však kulturně velmi liší. Hodnocení kvalit sociálního kreditu v rámci čínské společnosti není homogenní, určité části populace přináší možnost, jak se vypořádat s kýmkoliv, kdo vyvolává jejich nelibost, ať už formou zostuzení, nebo omezením jejich životních možností. Tento model platí i obráceně pro konání dobrých skutků, které jsou oproti tomu odměňovány formou sociálních benefitů, usnadňujících společenský vzestup či prosté žití. Tímto se však vytrácí společenská odpovědnost, klasická virtue, snaha o nezištnou smysluplnou činnost. Numerická hodnota by pak ve své podstatě měla vyjadřovat, jak dobří nebo špatní lidé jsme na základě stanovených kritérií.
Domnělé podpoření sociální mobility jednotlivců má také mnoho háčků. Nedostatek kreditu znemožňuje obyvatelům s malým či záporným skóre například možnost čerpání ekonomických benefitů, získání prestižnějšího pracovního místa či studium na kvalitních školách a podobně, čímž naopak může upevnit nízké společenské postavení znevýhodněných, jejichž sociální realita a skóre nezřídka odráží bezútěšné podmínky, z nichž pochází. Součástí sociálního kreditu je role v šikaně různých etnických či náboženských menšin.
Jde tedy o další ze systémů kontroly, jejíž vykonávání přináší výhody zejména zájmovým skupinám. Čínský model sociálního kreditu je však také inspirativní pro společenskou diskusi o technologickém pokroku, svobodě a kontrole. Ačkoliv zatím zdaleka nedosahuje plánovaných rozměrů, podnítil diskusi o rizikových systémech umělé inteligence, které fungují na starém kontinentě, a jejich možném legislativním omezení, čímž by hypoteticky mohl přispět k něčemu užitečnému v našich zeměpisných šířkách.