Шошана Зубов: Демократичното общество се превръща в дигитална автокрация

- Вашата книга “Епохата на надзорния капитализъм” обяснява как дигиталната индустрия се превърна в мощна икономическа сила, която въведе света в информационната цивилизация. Две години по-късно, какво е влиянието ѝ върху нашите общества?

- Целта на книгата беше да разкрие антидемократичната икономическа логика на дигиталните индустрии, да покаже как тя създава нова форма на власт, срещу която не сме подготвени да се защитим. Сега виждам еволюцията на надзорния капитализъм към инструментализиране на силата му да влияе, манипулира и променя това, което хората мислят, чувстват и правят.

Тези измерения се развиват много бързо и създават много мощна сила. В книгата си описах подробно четирите етапа на протичащия епистемологичен преврат. Но след това първите два етапа бяха преминати: първият е едностранното нахлуване в нашия личен живот и превръщането на живота на хората в безплатна суровина. Тези компании извличат от него поведенчески данни, които след това обявяват за своя лична собстеност. Човешкото поведение се превръща в ресурс като всеки друг, трансформиран и продаван. Този необикновен развой се основава на една-единствена концепция: провъзгласяване на техните права на собственост върху нещо, което тези компании са си присвоили и което ги е превърнало в най-богатите и най-мощни образувания в историята на капитализма.

Вторият етап е белязан от силно нарастване на епистемичното неравенство, което е разликата между това, което мога да знам, и това, което могат да знаят за мен. Икономическият процес превръща човешкото поведение в ресурс като всеки друг. Това, което продават тези компании, е прогнозата. Техният икономически императив обаче ги подтиква да правят това поведение предсказуемо, което ги превръща в политическа и антидемократична сила. Разрушени са всички граници между икономическата и социалната област. Вече няма никакво ограничения или начин за измъкване от техната власт.

Сега ме тревожи новата фаза на това развитие. Първите две фази, извличането на нашите индивидуални права и тяхното присвояване, вече бяха преминати. Навлязохме в нова фаза, тази на епистемичния хаос. Този хаос се създава от мащаба на извличането, прецизността и усъвършенстването на алгоритмите за таргетиране. Мащабът е толкова голям, степента на извличане и анализ се е увеличила толкова много, че вече няма начин да ги избегнем. Вече няма никакво място в нашия живот, където да не се сблъскваме с тази власт. Знанието се превърна във власт. Тези стратегии целят да трансформират знанието, което притежават за вас, за да ви накарат да правите, мислите или чувствате нещо, което иначе никога не бихте направили, помислили или почувствали.

- Как се изразява това политически?

- Изследователите разбраха през 2012-2015 г., че фалшивите новини предизвикват по-голям интерес от истинските. Това беше основен момент. Не става дума за противопоставяне на  истината на лъжата. Просто най-шокиращото, най-крайното мнение е и най-привлекателното за човешкия ум. Както нашите вкусови рецептори обичат вкуса на захарта, въпреки че захарта е вредна за нас, така и мозъкът ни е привлечен от крайното, шокиращото, гротескното. Същото се случва и с интереса на хората към най-странните обяснения. След като този феномен беше открит, той беше експлоатиран от социалните мрежи, трябва да привличат публиката. Тези думи са евфемизми за извличането на данни. Колкото повече време прекарвате в социалните мрежи, толкова повече данни дигиталната индустрия събира за вас. Следователно тези компании са проектирали своите платформи да увеличат максимално ангажираността ви чрез изкуствен подбор на най-токсичното съдържание. Нищо не се случва случайно. Една новина, която е извадена от своя контекст и се превръща в обществен феномен, не дължи нищо на случайността: това е в икономическата логика на система. Това обяснява защо явление като QAnon придоби такова значение.

- Следователно последствията са съвсем реални?

- Да, така се стигна до атаката срещу Капитолия на 6 януари, логично следствие. След като се извърши неестественият подбор на информацията, ние сме изправени пред явление, което не се подчинява на обичайните правила в обществото. В едно традиционно общество съществува нормално разпределение на мненията, при което хората с девиантни идеи остават там, където трябва да бъдат - маргинални. Техните гледни точки могат да съществуват и няма нужда да бъдат цензурирани, защото остават в периферията на групата. Именно така функционира едно свободно общество и свободата на изразяване може да се превърне в право, което съществува в социалния договор. Не можем да отделим това право от социалната среда, където повечето мнения се сливат в здравия разум. Това е като светофара, няма нужда от полицай на всяко кръстовище, за да го спазвате. Този здрав разум, който държи едно общество заедно, е част от социологическия контекст, в който може да съществува свободата на изразяване, най-добрите идеи се подбират естествено. Този естествен подбор е една от причините свободата на изразяване да бъде част от процеса и дори е необходима за неговото функциониране.

Сега, ако въведете това явление в надзорния капитализъм, където подборът на идеи вече не е естествен, а се решава от икономическа логика, благоприятстваща най-крайните и най-екстравагантните идеи, тези идеи излизат от периферията и се настаняват на терена. Вместо публичен площад, имаме лично пространство, проектирано по икономически мотиви и наводнено с най-безумните и токсични идеи. Незначителни теории, които преди това са били само на маргинала, който си говори сам в парка, сега се обсъждат на семейната трапеза! Подемът на екстремистките групировки, на речта на омразата, е продукт на тази система, където всичко произтича от интересите на частния капитал.

Това е причината, поради която Фейсбук, или по-скоро Марк Зукърбърг, отказва да промени този алгоритъм, въпреки че собствените му екипи му казват, че създава хаос. Не защото не може да смекчи това явление, а защото е в разрез с икономическата логика на неговата компания. По време на пандемията приходите ѝ достигнаха космически суми, рекламите са още по-доходоносни, защото хората са блокирани вкъщи и прекарват времето си онлайн. Сигурна съм, че Зукърбърг е убеден, че щом системата му има такъв успех, значи е добра. Но надделяват икономическите съображения. Толкова дълго е във валяка, че не може да го види по друг начин. Всичко изглежда нормално и благоприятно, докато всъщност е опасно и ненормално.

Цялата динамика на тези компании остава базирана на една и съща, нелегитимна основа, която трябва да се има предвид. Тези компании вземат нашите данни без да питат, личните данни, които имат, са откраднати блага. Смисълът на моята работа е да оспори самата основа на тяхната система, която претендира за собственост върху нашите данни.

- Обвиняват ги обаче, че извършват цензура, не е ли парадоксално?

- Първата им заповед е да пазят закона и всяка регулация на разстояние, да убеждават обществеността, че така трябва да бъде. Така за тях саморегулацията се е превърнала в екзистенциална потребност, като практикуването на форма на политическо умиротворение. Ако сте Зукърбърг, когато имате толкова непостоянна и неконтролируема особа като Тръмп, който ви нарича свой син, а след това заплашва да ви лиши от всички защити, които имате, той се превръща в опасност. Тук идва политическото умиротворение, когато Марк Зукърбърг реши, че трябва да направи малка жертва за демокрацията и обществото и да премахне акаунта на Тръмп. Но икономическият импратив надделява над политическите съображения. Надзорният съвет, създаден от Фейсбук, е част от тази маневра. Призивите за повече регулация ще нарастват от страна на демократите, както и на републиканците. Зукърбърг трябваше да направи нещо, за да го предотврати. Създаването на този надзорен съвет е част от това малко представление. За да избегне политическата регулация, той самият го направи, като същевременно запази контрола. Членовете на този надзорен съвет се избират от нето, той плаща на фонда, който ги финансира и този орган няма никаква власт. Зукърбърг не е длъжен да му се подчинява. И преди всичко този съвет се занимава само с личните данни, но не и с начина, по който те се събират.

Това също е знак, че навлизаме в четвъртата фаза на епистемологичния преврат, фазата на институционалното епистемологично господство. Демократичното управление се заменя от информационно управление, упражнявано от надзорния капитализъм. Машините знаят, а системите решават, ръководени и поддържани от нелегитимния авторитет и антидемократичната власт на частните интереси. Всеки етап се опира на предишния. Епистемологичния хаос подготвя почвата за епистемологичното господство, отслабвайки демократичното общество - което беше твърде очевидно по време на бунта в Капитолия на САЩ. Сблъсъците лице в лице стават все по-чести, а последствията все по-значителни. Демокрацията е неспособна да реагира.

- Има ли начин нашите общества да си върнат контрола?

- Не е твърде късно. Цифровите компании искат да ни накарат да повярваме, че е твърде късно, че могат да спазват етичните правила, че прогресът е неизбежен, а техните действия са полезни. Но моментът е благоприятен. Основният пробив се случва в Европа, със закона за цифровите услуги и закона за цифровите пазари, представени миналия декември. Този законодателен процес е необходим, за да бъдат регулирани действията на цифровите гиганти. Има три основни принципа.

Първият е, че цифровите компании трябва да се подчинят на правилата на демократичното пространство. Ерик Шмид, един от създателите на Google, написа книга в прослава на цифровото пространство като последната територия без закон. Трябва да осъзнаем обаче, че дигиталната индустрия се състои от капитал, машини, данни. Това не е свят, в който правилата и законът не се прилагат. Цифровите компании трябва да се подчиняват на правила, като всеки друг сектор. Добивната промишленост, фармацевтичната индустрия и др. се научиха да живеят в свят на демократични правила. Цифровите гиганти твърдят, че липсата на правила е полезна за иновацията, но това не е вярно. Те убиха иновацията и допускат иновации само в рамките на парадигмите, които са задали, а не другаде. Или откупуват, или убиват всяка форма на конкуреция с гигантските си средства.

Вторият принцип е, че трябва да кодифицираме епистемични права, както бяха кодифицирани правата за свободно изразяване, и да ги превърнем в норми. Познанието е новата класа права, които трябва да създадем и кодифицираме. Трябваше да въведем правила, за да кодифицираме храната, която консумираме, лекарствата, които вземаме. Това са новите правила, които ще трябва да създадем през следващото десетилетие.

Законите срещу монополите не са достатъчни. Те не ни предпазват от нахлуването в личния ни живот, който беше разрушен. Трябва да изработим сбор от закони, за да защитим неприкосновеността на личния си живот,  нашите данни, как те се събират и обработват. Трябва да отхвърлим идеята, че цифровата епоха позволява използването на данните за тясно икономически интереси, в полза на малка група за сметка на мнозинството.

От горе до долу виждаме как свободното и демократично общество се превръща в дигитална автокрация. Една демокрация не може да функционира без свободна воля. Корените и основите на демократичната система обаче днес са разяждани от система, способна да повлияе на това, което четем, какво мислим, какво правим и способна мимоходом да унижи нашето достойнство, индивидуалност и да създаде структурно неравенство в знанията. Демокрациите трябва да създадат дигитално бъдеще, което също е демократично. Това е върховният геополитически залог.

Китай беше особено активен в създаването на дигитална визия в служба на държавата. Демокрациите не успяха да разберат, че бъдещето им зависи от защитата на демократичните им ценности. Това е огромната работа, която трябва да свършим. Правили сме го вече в миналото, но нито една конструкция не трае вечно. Демокрацията трябва да бъде защитена и всички поколения трябва да се борят срещу силите, посветили се на нейното разрушаване.

Мислехме, че свързвайки хората, ще можем да ги обединим, за да създадат нови общности срещу потисническите власти. Но това беше преди тези нови играчи да се настанят дълбоко в центъра на нашата система. Мислехме, че сме в публично пространство, а се озовахме в джунгла, проправяйки си път срещу мощни икономически императиви. Но не само ние се излъгахме за потенциала на дигиталното, то също мутира, превръщайки си в икономически детерминизъм. Сега имаме избор между надзорния капитализъм и демокрацията. Тези две сили влязоха в сблъсък. Под въпрос е поставена идеята, че демокрацията по своята същност е най-мощната, и ако не реагираме, не е сигурно, че тя ще възтържествува. Това е едновременно сериозно и спешно.

Първото нещо, което трябва да направим, е да променим траекторията. В момента Европейският съюз е на предна линия. Цифровите закони, които подготвя, имат за цел да поставят дейността на дигиталната индустрия в демократична рамка, подчинена на закона. През април Европейската комисията публикува списък с демократични принципи, които цифровизацията трябва да спазва. Но Европа е изправена пред най-мощните компании в света, мотивирани от антидемократични и антисоциални желания. Не става дума за изработването на закони с допълнителни бюрократични правила, както твърдят цифровите компании, а за изработването на закон, освобождаващ обществеността от един непрозрачени капитализъм, който днес оставя хората без права и власт. Основният акт на смелост е да кажем, че ние не отхвърляме дигиталното бъдеще, но че това бъдеще трябва да се управлява от демократични правила. Изкуственият интелект трябва да се развива в съответствие с демократичните ценности.

Превод от френски: Галя Дачкова