Book review: Shoshana Zuboff (2019), The Age of Surveillance Capitalism – The Fight for a Human Future at the New Frontier of Power

Vill jag bli ”profilerad”?

På min webbläsare kom följande meddelande upp idag:

”google-analytics.com förhindrades från att profilera dig mellan 40 webbplatser”.

Vad betyder det? Bör jag oroa mig?

Eller ska jag bara skratta åt att jag erbjuds extrapris på gravstenar i påtvingad reklam när jag ibland förnöjer mig med patiens-appen Solitaire på mobilen?

Egentligen krävs ju ingen ”Artificiell Intelligence” eller ens naturlig sådan för att räkna ut att jag börjar uppnå den åldern när det kan bli aktuellt med ett sådant inköp – ju.

(När denna text avslutas har ”whistleblower” Haugen just avslutat sitt vittnesmål i ett av den amerikanska kongressens utskott. Hon hävdar att Facebooks ledning genom sin egen forskning känt till att ett stort antal ungdomar skadas varje dag genom sin bindning till Facebook (”content”?) En av metoderna, baserad i forskningsresultat, är att främja ”engagement” (ungdomars bindning) genom att främja upphetsande innehåll, exempelvis konspirationsteorier. De stora IT-bolagen har traditionellt frånsagt sig allt ansvar för innehållet de tjänar sina pengar på med hänvisning till yttrandefriheten. (Zuckerberg har ännu inte kunnat bemöta den växande kritiken eftersom han är ute och seglar.)

Sten Jönsson
Sten Jönsson

Eller ska jag bara skratta åt att jag erbjuds extrapris på gravstenar i påtvingad reklam när jag ibland förnöjer mig med patiens-appen Solitaire på mobilen?

Sten Jönsson

Vidare: År 1944 gjorde den ungersk-amerikanske filosofen Karl Polanyi (1944, p.137), a propos industri-kapitalism, följande profetia: ”The commodity fiction disregarded the fact that leaving the fate of soil and people to the market would be tantamount to annihilate them”. (Varu-fiktionen bortsåg från det faktum att om man utlämnar jorden och folket åt marknaden så skulle detta vara detsamma som att utplåna dem).

Keynes var mer optimistisk. Han förutsåg att i framtiden skulle vi inte behöva arbeta mer än halvtid eftersom en automatiserad produktion skulle friställa oss så vi kunde ägna oss åt kultur och hobbies.

Surveillance Capitalism ”på frammarsch

Nu, säger Zuboff (s 345f), ser det ut som Polanyis profetia håller på att gå i uppfyllelse. (Min anmärkning: Vi har mer palmolja än vi behöver, men vi kommer nog inte att få tag i tillräckligt mycket litium för alla dessa elektriska bilar).

Industrikapitalismen lade beslag på naturen för sina egna ändamål. Nu håller ”surveillance capitalism” på att lägga beslag på den ”mänskliga” naturen för sina ändamål! En dyster och mycket oroande profetia! Vi måste börja göra motstånd mot dessa intrång och stölder av privat information i syfte att skapa ”målsökande annonser”, och beteendeförändringar med hjälp av statistiska modeller, algoritmer, och enorma, energislukande datahallar i avfolkningsbygder.

År 2016 hade Google 2,5 miljoner servrar för detta ändamål runt om i världen. Sedan dess har antalet mångdubblats. Kommunstyrelsen i avfolkningskommunen ser välvilligt på de utlovade jobben i sitt beslut att tillhandahålla mark för en spottstyver (och billig el, som kanske inte förblir så billig framöver).

Industrikapitalismen lade beslag på naturen för sina egna ändamål. Nu håller ”surveillance capitalism” på att lägga beslag på den ”mänskliga” naturen för sina ändamål!

Vad är det som pågår? Hur kommer de undan med det? Varför accepterar vi detta? Varför inser vi inte med Larson (2021) att maskiner inte kan komma att tänka som vi (kreativt)? I stort sett alla försök att efterlikna mänsklig intelligens har hittills blivit fiaskon. ”Artificiell Intelligence” är en myt även om den kan räkna fram statistiska samband ur stora datamängder.

Vi har gått på denna myt och låter de stora Tech-företagen stjäla vår privata information och använda den för att tjäna pengar. Kanske EU:s stora bötesbelopp pålagda Amazon för just sådan verksamhet är början på en mera nykter inställning till ”hemligt” (jo, jo, vi har alla accepterat ett antal ”cookies” i vårt liv) inhämtande av privat information för kommersiella ändamål. Detta är inte en juridisk fråga utan moralisk. Tid att vakna! (Kanske blir Haugens vittnesmål en väckarklocka!)

Konkurrens om information

När jag påbörjade arbetet med Zuboffs 650 sidor pågick i kongressen i USA en utfrågning av cheferna/ägarna till de stora Tech-företagen om deras konkurrensbegränsande aktiviteter. Den uråldriga konkurrenslagstiftningen i USA är fokuserad på trossatsen att monopol tenderar att driva upp priset … Men här gäller det ju konkurrens om information – på inköpssidan, så att säga, och det gratis för ”köparna” –  om information om vårt privatliv och vår integritet som individer. Den hämtas in gratis! Strax före jul 2020 verkade det som federala myndigheter avser att driva process mot Facebook och tvinga företaget sälja av en del av sin verksamhet. Men det är med hänvisning till konkurrenslagstiftning snarare än för att rädda mänskligheten).

Den 6 januari i år stormades Capitolium av en mob (bestående av medelsvenssons, inte arbetslösa högerextremister) på uppmaning av presidenten som inte gillade valresultatet. Alla deltagarna tycks ha varit övertygade om att valet manipulerats av någon ”Deep State”-konspiration. Detta trots att alla domstolar avvisat alla klagomål från presidenten och hans anhängare mot ”fuskvalet”. ”Sanningen” uppstår på nätet! Cyberattackerna blir alltmer effektiva. Kan vi försvara oss?

Introduktion till introduktion

När jag tog bussen in till skolan (det var förstås före pandemin) intresserade jag mig alltmer för alla dessa böjda nackar hos medpassagerarna som använde restiden för att hantera sina mobiler eller surfplattor.

Ibland tänkte jag att det där är just en sådan nacke som man kunde föreställa sig att slavarna på bomullsplantagerna utvecklade (Scott, 1990). Är man slav under sin mobil? Ja, det är i alla fall inte nyttigt. En läkare varnar i Göteborgs-Posten den 12 oktober 2020 för det ökande antalet skador på övre ryggraden som den där böjda ställningen medför hos barn. Men det är värre än så…

Zuboffs bok har fått priset ”Barack Obama Pick 2019” och en del översvallande recensioner av, bland annat Naomi Klein. Författaren (Zuboff) är pensionerad professor vid Harvard Business School. Vi minns hennes In the Age of the Smart Machine från slutet av 80-talet. Hon berättar i inledningen, säkert för att få oss på rätt ”våglängd”, om hur hennes hus träffades av blixten i ett åskväder för några år sedan. Hennes åtgärder när huset fattat eld var att, dels bära med sig familjens fotoalbum ut, dels att stänga dörren till sovrummet så att sängkläderna inte skulle få röklukt. Huset brann ner i grunden. Exemplet visar hur blinda vi är inför nya, viktiga, företeelser.

Man läser snabbt ut av Zuboffs text att hon är upprörd och djupt orolig för framtiden med denna Big Brother, som styr våra liv med hjälp av vetenskapliga metoder. Vi behöver förstå hur ”instrumenteringen” fungerar.

Lägger beslag på den mänskliga naturen

Ett första steg i resonemanget är att ”Industrial Capitalism” lade beslag på naturen i kapitalets namn (vi har börjat förstå konsekvenserna i termer av klimatförändring och sociala klyftor). Nu kommer ”Surveillance Capitalism” och lägger beslag på den mänskliga naturen. Vi behöver förstå metodiken och instrumenten bättre för att se vad som håller på att ske.

Ett andra steg är att inse vari maktbasen består. Här använder sig Zuboff av de totalitära regimernas natur (fascism, nazism, kommunism) som kontrastmedel. Dessa regimer, som kom till artikulering genom först Mussolinis samarbete med filosofen Gentile, och Hitler och Lenin/Stalin utvecklade i början av 30-talet då eländet var utbrett i många länder.

Man spelade på folkets lojalitet mot det gemensamma med hjälp av terror/våld mot individen i syfte att lägga beslag på dess själ. Orwell skildrar detta i 1984, där huvudpersonen Winston till slut blir omvänd/befriad att uppgå i Big Brother.

Den andra maktbasen vid sidan av ”totalitärism” kallar hon ”Instrumentalism”. 

Den har sin bas i ”radikal behaviorism” (det vill säga Skinner och hans föregångare), samt Pentland som i sin vetenskaplighet (kunskap vinnes bara genom observation och experiment) siktar till ”behavior engineering” med hjälp av observation av faktiskt beteende och ”machine learning” (klick i vår datoranvändning – vi har ju alla accepterat ”cookies” utan att läsa användarvillkoren[1] och syftar till att på dessa data bygga prognosmodeller över vår mottaglighet för argument. Genom på så vis förutse vårt beteende och läsa av våra reaktioner på de ”knuffar” (nudge) i olika riktningar  som skapas får man underlaget för att ”designa” vårt beteende. Skinner har beskrivit denna typ av utopi i ”Walden 2” (1948) och ”Beyond Freedom & Dignity” (1972). Pentland (2014) fortsätter på den inslagna vägen (nu baserad i IT) med ”Social Physics” som propagerar för ”remote observation” som metod och ”reality mining”.

På sidorna  396-97 i boken ställs dessa två maktbaser i kontrast mot varandra; ”totalitärism” versus ”Instrumentalism”. Man noterar att ”ideologin” för Totalitärism beskrivs med orden ”Political religion” medan Instrumentalism får etiketten ”Radical Indifference”.

Det är denna egenskap, att inte vara påträngande när man samlar in all tänkbar privat information om oss och påverkar oss, så att säga ”utifrån och in” utan att bry sig om vår ”själ”, som gör denna senare maktbas så farlig.

Försvaret från Tech-företagen är ju hänvisningen till konstitutionens olika friheter – vi har själva valt att fångas in i denna ”surveillance” genom att acceptera ”cookies” och användarvillkor!

Fenomenet ”Surveillance Capitalism”

Zuboff definierar Surveillance Capitalism som en ny ekonomisk ordning som hävdar fri tillgång till människors erfarenheter (privat information) för att använda dem som råmaterial för dolda kommersiella aktiviteter (utvinning, prognoser, försäljning). Dess logik är parasitisk i och med att produktionen av varor och tjänster underordnas en global infrastruktur avsedd för beteende-modifiering.

Den är en illavarslande mutation av kapitalism som kännetecknas av koncentration av rikedom, kunskap och makt på ett sätt som vi aldrig skådat i mänsklighetens historia. Den utgör själva grunden för ett övervakningssamhälle (inte minst när denna verksamhet överförs i statlig regi) och utgör därför ett hot mot människan på samma sätt som den industriella kapitalismen hotade miljön under 1900-talet. (Låter det allvarligt? Det är allvarligt!). Varför? Jo, därför att det är fråga om en logik ”in action” snarare är en teknologi.

Teknologier är alltid medel för något, inte mål i sig själva. Teknologierna får en ”ekonomisk orientering” enligt Max Weber (1920/2019). ”Surveillance capitalism” tillämpar många teknologier. Driften kan använda sig av plattformar men den är inte plattformarna. Den använder ”machine intelligence” (som vi brukar kalla AI) men den kan inte reduceras till de ”maskiner” den använder. Den använder algoritmer, men är inte algoritmerna. Den är en månghövdad ”puppet master” som, dold bakom ridån, initierar och styr maskinerna. Det är moralen hos dessa ”puppet masters”  det handlar om. Zuboff undersöker hur vi hamnade där vi är i fyra delar:

  1. Själva uppfinningen och tidiga utvecklingen hos Google av ”surveillance capitalism” (SC)
  2. Hur SC migrerade från ”online”- miljön till den reella miljön
  3. Hur instrumentarisk makt utvecklades i kalkylerande infrastrukturer (utan fredade zoner)
  4. Hur SC avviker från mönstret i marknadsekonomins historia genom sitt krav på full frihet för sig själv och full kunskap om andra (och därmed förkastar den ömsesidighet som är kärnan i klassisk kapitalism)

Vi minns att Henry Ford sa att massproduktion  ”begins in the perception of a human need”. Han tillämpade ”division of labour” med hjälp av löpande bandet, och bearbetade en ny marknad i form av den lägre medelklassen som började få det bättre (bland annat genom att han själv betalade högre löner än konkurrenterna) och kunde hålla oslagbara priser till följd av den stora produktionsvolymen. Detta var ett av modernismens genombrott i ekonomin. Det andra modernistiska genombrottet kom när Google upptäckte att man kunde förutsäga beteenden på basis av användarnas informationssökning på nätet (”behavioral surplus”). Skillnaden var att man inte behövde tänka i termer av klasser eller grupper – man hade ju data om varje enskild användare … massor av data – Big Data.

”The Adam Smith of Googlenomics”

Zuboff identifierar Hal Varian (2010) som ”the Adam Smith of Googlenomics”. I artikeln utgår han från att nuförtiden finns det en dator mitt i snart sagt varje transaktion. Han går igenom fyra olika användningsområden ”data extraction and analysis”, ”new contractual forms due to better monitoring”,”personalization and customization”, ”continuous experiments”.  Man kan alltså utvinna data ur användningen av datorn, hålla bättre kontroll över villkoren för användning (tänk på ”cookies”!), anpassa erbjudanden till den individuelle användaren, och experimentera med olika upplägg och se reaktionerna direkt. (Det som vi tidigare tänkt på som ”marknaden” är i princip borta! Det är fråga om en pågående skapelseprocess.)

Viktigt för fortsättningen är hur Google kom på att det fanns en affär här.

På den tiden, slutet av 90-talet, var de flesta entreprenörerna i Silicon Valley idealister som ville bygga tjänster (gratis) för användare av internet, som en frizon för yttrandefrihet och debatt. De backades upp finansiellt av venture-kapitalister som uppmuntrade allmänheten att investera i nyutgivna aktier (Apple, Google, Facebook…). Det var Googles sökmotor (”Search”) som grundarna, Sergey Brin och Larry Page, talade om på 1998 års World Wide Web Conference som satte igång det hela. Intäkterna var dock sparsamma. ”Affären” byggde ju på ett tänkesätt som kom från Yahoo med licensavtal knutna till portaler.

IT-kraschen förändrade spelplanen

Allt förändrads i april 2000 då dot-com-krisen slog till. Många gick under. Alla måste hitta på ett sätt att tjäna pengar för att motivera alla dessa investeringar i aktierna. (Vi har en kris som tvingade fram nytänkandet.) Google hade förkastat tanken på att koppla reklam till sökmotorn tidigare. Nu upptäckte man ett mönster, närmast av en slump. Historien om hur denna upptäckt gjordes är värd att åter-berätta:

 Det blev en ”spike” i användningen av Googles sökmotor (Search) 48 minuter efter varje timme i varje tidszon i USA. Användarna sökte alla efter TV-stjärnan Carol Bradys flicknamn. Det berodde på att programledaren i populära ”Who wants to be a millionaire?”, när programmet sändes, ställde frågan om Bradys flicknamn 48 minuter in i programmet. Mönstret med fem ”spikes”, blev tydligt alltefter att programmet passerade USAs tidszoner! Kunde man få fram ett sätt att koppla reklam till frågorna på nätet? Här fanns reklampengar att hämta på basis av sökmotorns registreringar av ”clicks”. Google värvade (2002) in Eric Schmidt, en computer science specialist med företagsledningserfarenhet för att skapa intäkter av upptäckten – först som styrelsens ordförande sedan som VD.

Kunde man få fram ett sätt att koppla reklam till frågorna på nätet?

Spelet kan börja – Zuboff sätter bakgrunden genom att berätta om ett ”uppror” i Spanien till stöd för ”rätten att bli glömd” – Google borde åläggas att ta bort länkar till privat information i sina system. Den spanska datainspektionen stödde kraven och till slut tillkännagav Europadomstolen principen om att rätten att bli ”glömd” borde ingå i Europeisk lag (2014).

”Behavioral Surplus”

I kapitel 3 redogör Zuboff för hur ”Behavioral Surplus” upptäcktes (jämför ovan) och kommersialiserades. Utgångspunkten är Fords tes om ”division of Labour” som medel för att skala upp till massproduktion ersattes med ”Division of Knowledge”. Med den ”know-how”, auktoritet och makt som sådan ”kunskapsomfördelning” ger, uppstår självklart en helt annorlunda situation än den Ford befann sig i.

Det första steget var alltså upptäckten av ”behavioral surplus” (programledarens fråga i ”Who wants to be a millionaire?” skapade ett beteende som kunde ge ett dataunderlag). Men för vad? Man kallade det först, skämtsamt, ”data exhaust” (datautsläpp). Men om man inser att en handling (sök-klick) av användaren är en signal kan man, med hjälp av lämpliga algoritmer, räkna fram samband som gör det lättare för annonsörer att rikta budskapen till rätt person (inte socialekonomiska grupper eller klasser – utan individer) – så har man en affär.

Det gällde bara att skala upp inhämtningen (”extraction”) av personliga data så att man får ”Big Data” att bearbeta.

Det hela utspelar sig i en ”habitat” som Zuboff kallar neo-liberal, men som snarare borde kallas ”libertarian”.

”Neoliberal” versus ”libertarian”

Skillnaden mellan ”neoliberal” och ”libertarian” är att den ny-liberala rörelsen som föddes i Österrike (österrikisk ekonomilära grundad i ”gränsnytteteorin”, som hävdar att all ekonomisk analys måste grundas i subjektivt nyttotänkande och individens entreprenörskap), och som gavs ny kraft som bas för kamp mot ”kollektivistiska” lösningar (såsom socialism) efter andra världskriget (till exempel genom bildandet av Mont Pélerin Society), främst genom Friedrich von Hayeks ideologiproduktion (med ”Road to Serfdom”).

Dessa neo-liberalismens fäder ville ha kvar en stat med tillräcklig kraft för att reglera konkurrensen så att den (för-) blev effektiv. Libertarianerna däremot vill begränsa staten till ett minimum eftersom staten är korrupt och tjänar ”special interests”. De österrikiska ekonomerna (Hayek och Mises) som kom till USA blev aldrig riktigt accepterade bland akademiska ekonomer i USA. (även om Milton Friedman gjorde en stor propagandainsats) utan ägnade sig alltmer åt ideologi i linje med Hayeks ”Road to Serfdom” Deras hyllning till en extrem egoism, som är libertarianernas lösning på alla problem, underblåstes kraftigt av Ayn Rand. Hon kom från en judisk familj i St. Petersburg som förlorade allt i revolutionen. Hon flydde 1926 till Hollywood i USA (hon hade genomgått utbildning i manusförfattande vid Filmakademin i St Petersburg) och försörjde sig som manusförfattare medan hon skrev två bestsellers som handlar om heroiska egoister som kämpar sig igenom alla hinder.

Texterna hyllar ”optimist cruelty” (ett slags extrem Darwinism) och världen delas därmed in i ”winners” och ”loosers”). De historierna tycks tilltala unga män som söker en uppgift att kämpa för. Hon försökte bli accepterad av akademiska filosofer (för ”Objektivismen”), men blev deprimerad av deras avvisande hållning. Konservativa lobby-grupper, såsom bröderna Kochs Cato Institute, tog däremot upp facklan och har kraftigt stött forskning och utbildning grundad i libertarianism, inte minst vid George Mason-universitetet, som förser Washington med många ekonomer och jurister.

”Den andra moderniteten” var instabil – nu kommer den tredje!”

Zuboff målar upp instabiliteten hos den andra moderniseringen. Den första var ju Fordismen (”division of labour”) som efter hand förbättrades genom automatisering (med hjälp av datorer). Detta hyllades som framsteg, men en betydande del av jobben ”outsourcades” ju så småningom, inte minst till Kina. Efter Andra Världskriget har antalet sysselsatta i tillverkningsindustri i USA stadigt minskat – industribältet söder om Stora Sjöarna har blivit ”rostbältet”. Samtidigt ökade inkomstklyftorna (Notera Branko Milanovics (2016) ”elephant graph”, som visar hur de mycket rika blivit mycket rikare, medan ”medelklassen” förlorat i tempo, som har blivit berömd, se också Fukuyama (2018) om ”Identitet”). Zuboff tar upploppen i London (2011) som exempel på hur missnöjet finner utlopp.

”Den andra moderniteten” var instabil – nu kommer den tredje! Hon citerar Zygmunt Bauman om att en ’avgrund uppstått mellan individens rätt till självförverkligande och förmågan att stabilisera sociala miljöer så att detta självförverkligande kan ske’.

In i denna avgrund trädde Apple med ett löfte om att förena kommersiella intressen med konsumentens genuina intressen. Google och Facebook tycktes i 2000-talets början bidra i detta konststycke. Men så kom dot.com-krisen i april 2000 som ledde till att de överlevande företagen måste hitta vägar att tjäna pengar. Google hade lanserat sitt G-mail 2004, men varför sökte de igenom privat korrespondens mellan användare på jakt efter material av intresse för annonsörer? ¨

Lanseringen av sökmotorn Beacon 

År 2007 lanserade Facebook sökmotorn Beacon som möjliggjorde att man kunde följa användare på internet och fånga upp sådant som annonsörer var intresserade av. Men det kan man väl inte göra?

Jo, användarna hade givit sitt tillstånd genom att acceptera ”användarvillkoren”.

Ett par ekonomer på Carnegie Mellon University räknade ut att ett ordentligt genomläsande av de användarvillkor för appar som en normal användare stöter på under ett år skulle kräva 76 hela arbetsdagar (omräknat till värdet av den nytta de kunde ha gjort istället under dessa dagar = 781 miljarder USD).

När så dessa företag förstod att domstolarna skulle köpa argumentet att rätten till privat information hade överlämnats av användarna frivilligt, stod det inte länge på förrän användarvillkoren innefattade tänjbara ”privacy policies”. Det som kommer upp först på skärmen är ju som vi vet att dessa ”coockies” är till för oss. Man ”vill förbättra upplevelsen”.

Federal Trade Comission (FTC) meddelade att de insåg att användarna inte läste dessa villkor, men det var tydligt att de inte skulle göra något åt det. Ett legalt vacuum hade uppstått och det fylldes av ”Surveillance Capitalism”.

Migrationen till den reella miljön: Hur går det till?

Zuboff pekar på det hon kallar ”två-text-problemet”. För varje text vi så villigt tillhandahåller i vår användning av datorn eller mobilen genereras en (eller, rättare, flera) ”skugg-texter” med hjälp av Googles eller Facebocks algoritmer. Denna skugg-text genereras så att den är relevant för olika sorters annonsörer. Det behövs naturligtvis väldiga mängder information (bättre uttryck – data – eftersom information uppstår när data tolkas i ett sammanhang och givits mening) bara för att ”träna upp” dessa algoritmer. När det gjorts kan dessa algoritmer göra träffsäkra prognoser över vårt beteende. Annonsörerna inser snabbt värdet av varje procents ökning av träffsäkerheten i deras budskap och är villiga att betala för dessa prognoser (eller snarare adresslistor över påverkbara mottagare).

Och det går raskt framåt! 1986 var cirka 1 procent av världens information digital. 2000 hade detta nått 25 procent. 2013 hade digitaliseringen nått 98 procent (Zuboff, p, 187). Hur mycket är det? Ganska mycket! En anställd vid Google, som är pionjär på området storskalig bearbetning och lagring av data säger att det är till 80 procent en fråga om ”infrastruktur”. Man har jättestora, specialbyggda lokaler på 15 ställen i världen (4 kontinenter) med, uppskattningsvis (2016), 2,5 miljoner servrar.

Det krävs obegripliga mängder beräkningar bara för att ”träna” algoritmerna. Man behövde till exempel utveckla en tensor processing unit (TPU) för att klara ”deep learning inference”. En sådan TPU förbrukar dessutom mycket mindre energi än tidigare processorer.

Man bör i sammanhanget notera att Googles VD, Sundar Pichai, delar våning i huvudkvarteret med företagets AI-forskningslab (face-to-face för att fånga upp goda idéer?). Att värva talanger till det ”prästerskap” som kan omvandla dessa enorma mängder privat information till värdefull marknadsinformation, är en strategisk resurs.

För att ge utrymme för reflektion kring det vi talar om här betänk följande fyra berättelser:

1) Det hela började med att Greenfield, McPhee, de Sola Pool och Burdick startade Simulmatics (Lepore, 2020) inför presidentvalet 1960. Greenfield ville bygga en ”Voting Behavior Machine” så han behövde en specialist på ”social networks”, en på datorer, och en politisk ”operative”. ’Startkapitalet’ utgjordes av de fyra senaste valens Gallup-undersökningar (100.000 enkäter på hålkort). De sorterade korten på 50 debattfrågor och respondenterna i demografiska boxar. Först försökte de sälja sina tjänster till favoriten Stevenson, men så gick Kennedy och blev nominerad. Så de kontaktade hans kampanj. Försäljningsargumentet var: ”We will, from our model, be able to tell what such a speech would mean to each of 1000 sub-groups of the population…. And, consequently to pinpoint the state where it could affect the electoral vote”. Kennedy-kampanjen köpte tre rapporter från Simulmatics. Lepore är sarkastisk. Råden förespeglades vara resultatet av datorkörningar men var i huvudsak en fråga om sunt politiskt förnuft. Simulmatics gick i konkurs några år senare.

2) I en tidigare bok (Zuboff,1989) berättar Zuboff om hur hon regelbundet besökte en forskargrupp vid ett stort farmaceutiskt företag, ”Drug Corporation” som hade flyttat mycket av sin dagliga kommunikation från face-to-face möten till ett av världens första ”computer conferencing” system, DIALOG. Forskargruppen hade tagit sig an det nya sättet att kommunicera med entusiasm, men det slutade illa. En av intervjupersonerna beskrev uppvaknandet så här (Zuboff, 2019, s.269):

”We are used to face-to-face interaction where words disappear… I assumed the keyboard communication was like a letter or phone call, but now I understand that it does not disappear. The myth is that electronic communication is invisible…”

Forskarnas professionella kommunikation registrerades nu som elektronisk text; synlig, ”knowable, shareable”. Den berikade i och för sig deras arbete på många sätt, men den skapade också sårbarhet i och med att förhållningssätt, värderingar och attityder nu blev tillgängliga för ”objektiv” granskning. Cheferna kunde helt enkelt inte avhålla sig från att använda dessa elektroniska texter för att evaluera, kritisera, och bestraffa sina underordnade. De kunde inte låta bli att ”klippa ut” text och använda den för att tillrättavisa sina underställda. Resultatet blev förstås att användningen av DIALOG gick ner. Man är, som respondenten säger i citatet, van vid att ”words disappear”, det vill säga att de dumheter som alltid förekommer i kreativa samtal glöms bort.

Sådant ovidkommande prat sorteras bort i utvecklingen av nya idéer. Nu blir det kvar. Som en följd därav började man tänka på vad man säger och den spontana kreativiteten avtar. När vad vi säger ständigt protokollförs blir det angeläget att uppträda ”politiskt korrekt”. I en kreativ miljö, däremot, tolereras avvikelser eftersom de glöms i jakten på den goda idén.

3) Nästa steg togs 2010 när tyska och amerikanska forskare kunde konstatera att den ”personlighet” som Facebook-användaren visar upp, via det insamlade materialet från vederbörandes användning av mediet, inte är någon idealbild av användaren själv – en smickrande bild som man vill visa – utan den ”verkliga” personligheten. Detta stimulerade forskare vid University of Maryland att applicera avancerad analytisk teknik för att ”förutsäga” personlighet, på basis av offentliga opinionsundersökningar. Då var det inte fråga om den information som personen verkligen släppte ifrån sig (politisk inriktning, religion, etc) utan individens”villighet” att släppa ifrån sig sådan information. Det var inte innehållet i individens meddelanden utan, t.ex., deras längd som gav bäst prognosvärde. Detta pekar tillbaka på behavioristen Skinner som jag återkommer till.

4. Finns det skäl att oroa sig över Kina? – Kan man fråga sig. På sid 388 ff. redogör Zuboff för ett omfattande ”social credit”-system som skall vara kärnan i Kinas internet-”agenda”. Varje individ och privatföretag skall betygsättas på olika delar av sitt uppförande, för att förhindra instabilitet.

År 2015 satte den kinesiska centralbanken igång ett ”pilotprojekt” kallat Sesame Credit. En betydande del av det var Alibabas ”Ant Financial” som skapar en ”holistisk” kreditsiffra med hjälp av en algoritm som värderar olika köp. Betalning i tid belönas, liksom utbildning och antalet vänner, bil, jobb och andra variabler som korrelerar med god kreditvärdighet.

Stödet från centralbanken drogs tillbaka 2017 eftersom programmet var alltför framgångsrikt – 400 miljoner deltagare. En journalist som skrev en bok om systemet tror att regeringen kommer att starta ett eget system eftersom detta har blivit en infrastrukturfråga. Det lägger ju grunden för ”behavioral engineering ” 

China Daily berättar att det första steget är en lista över skuldsatta, startad 2013, som hindrat 6,15 miljoner på listan från att köpa flygbiljetter, 2,2 miljoner att köpa snabbtågsbiljetter och som vägrat 71000 lån. Föreståndaren för Chinese Academy of International Trade and Economic Cooperation hävdar att det fungerar! Tio procent av dem som är på listan har ju börjat betala av på sina skulder! Stabiliteten säkrad!

China Daily berättar att det första steget är en lista över skuldsatta, startad 2013, som hindrat 6,15 miljoner på listan från att köpa flygbiljetter, 2,2 miljoner att köpa snabbtågsbiljetter och som vägrat 71.000 lån.

Men tillbaka till tråden – hur det gick till när den oerhörda vinstpotentialen i en verksamhet som går ut på att stjäla privat information från internetanvändare och sedan använda den för att sälja ökad träffsäkerhet i säljbudskapet till annonsörer och politiska kampanjer?

Titeln på kapitel 4 är ”Hijacked: The Division of Learning in Society” – lite överdrivet?

Först detta med vad en ”deklaration” egentligen är. John Searle (språkfilosofen) säger att de representerar ett särskilt sätt att uttrycka sig som etablerar faktum ur tomma luften.

De etablerar en ny verklighet genom att beskriva världen som om den önskade förändringen redan inträffat: ”All humans are created equal!”. Searles slutsats: ”All of institutional reality, and therefore… all human civilization is created by…. declarations” (citerad från Zuboff p. 176). Vad menas med detta? Jo att det är möjligt att erövra världen (civilisationen) genom deklarationer. Här är de 6 deklarationer som Google erövrat världen med och som de måste försvara till varje pris (faller en så faller alla) (sidan 178):

  • We claim human experience as raw material free for the taking. On the basis of this we claim, we can ignore considerations of individuals’ rights, interests, awareness, or comprehension.
  • On the basis of our claim, we assert the right to take an individual’s experience for translation into behavioral data.

  • Our right to take, based on our claim of free raw material, confers the right to own the behavioral data derived from human experience.

  • Our right to take and to own confer the right to know what the data disclose.

  • Our right to take, to own, and to know confer the right to decide how we use our knowledge.

  • Our right to take, to own, to know, and to decide confer our rights to the conditions that preserve our rights to take, to own, to know, and to decide.

Info-tech-giganterna, med Google i spetsen, har kommit undan med dessa deklarationer (vi ser svaga försök att begränsa deras makt över oss i dessa dagar, både inom FED i USA och EU).

Zuboff sätter nu igång att visa hur det gick till.

Först tar Zuboff upp detta med ”division of knowledge” och påminner oss om frågan som ställdes i den tidigare boken om ”The age of the smart machine” av en av de anställda i det imponerande kontrollrummet i en massafabrik: ”Kommer vi alla att arbeta för (betjäna) en ”smart machine”, eller kommer det att finnas ”smarta människor” runt denna smarta maskin?”

Indeed! Vem bestämmer vem som skall ha kunskapen?

Har vi inte svaret på denna fråga när vi står inför de nya samhällsvillkor som ”surveillance capitalism” ställer oss inför, kommer vi heller inte att kunna hantera de dilemman som kopplas till ”knowledge, authority, and power”.

Redan Durkheim pekade på att den ”division of labour” som vi då upplevde, Fordism till exempel, hade den farligaste konsekvens (då?) att den extrema makt-assymetrin gjorde själva ifrågasättandet av makten omöjligt.

Resultatet då var etableringen av totalitära regimer (Mussolini, Stalin, Hitler) Även om denna nya fördelning av kunskap, ”divison of knowledge”, uppstod i den ekonomiska sfären så har den migrerat in på samhällsområdet och etablerar en ny social ordning med en egen moralisk grund. Vi upplever en ”tredje modernism”.

Surplus extraction”

För att förstå måste vi ta till oss idén om ”problemet med de två texterna” (Zuboff, s. 185); detta att varje text har en ”skuggtext” i släp.

Varje text vi producerar, hur trivial den än är, blir ett mål för ”surplus extraction”, som fyller sidorna hos den andra texten. Det är ur denna text som Googles och Facebooks algoritmer sorterar ut för information som är värdefull för dem och som kan användas för att förbättra träffsäkerheten för annonsörerna, eller för beteendemodifiering (à la Skinner), eller, varför inte, ”cyber warfare”.

Ett nytt prästerskap har uppstått, säger Zuboff – betänk (igen) att vid mitten av 1980-talet var 1 procent av världens information digitaliserad, nu är det 98 procent. En enorm tillväxt i efterfrågan på personer som kan hantera AI har uppstått. Brittiska universitet talar om en ”förlorad generation”. Det går helt enkelt inte att hålla kvar yngre forskare vid universiteten med de enorma löner som erbjuds av info-tech-företagen.…vid mitten av 1980-talet var 1 procent av världens information digitaliserad, nu är det 98 procent.

Kraven på processor-kapacitet har vuxit på samma sätt. En vice VD för Google sade år 2017 att det krävs en dubblering av Googles ”footprint” – i termer av datacentraler och servrar – bara för att klara av 2-3 minuter av språkigenkänning per Androidanvändare per dag. Under perioden 2014-16 förvärvade Google/Alphabet nio AI-företag, dubbelt så många som den närmaste konkurrenten, Apple. Problemet nu är alltså att det är privata intressen som har tagit makten (och den privata informationen) och att denna sektor drivs av ”the prediction imperativ” behovet av att förutse (och styra) framtiden med hjälp av denna information – ”surveillance capitalism”.

Big Data som forskningsmetod

I sin strävan att förbättra sin prognosförmåga behöver dessa Infotech-jättar utvidga sin fördjupade och utvidgade inhämtning av information och sin aktionsradie i användningen.

Den där utvidgningen innefattar en ständig utbyggnad till den grad att vi inte längre märker inhämtningen (hört talas om att vara ”uppkopplad”?).

Ju mer man samlar in desto mer tror man på Big Data som forskningsmetod. Under inflytande av beteendeforskare som Skinner och Pentland har man också blivit övertygad om att det både är möjligt och etiskt försvarbart att använda maskin-intelligens för att ”nudge”, det vill säga ”påverka” beteendemönster, till exempel mot ett sundare liv baserat i att man inte sätter i sig så mycket socker, eller att man bör motionera mer.

Det låter ju bra tills man inser att aktörerna i ”socker-branschen” är stora annonsköpare. Bäst att hänvisa till att man främjar yttrandefriheten. Men med den nya insikten blir det inte längre fråga om ”att förutsäga” utan om att ”skapa” framtiden. Då borde man inte kunna undvika att reflektera över de praktiska konsekvenserna av det man gör. Detta kallas etik, men berör i hög grad ”sustainability”.

Instrumenteringen

Zuboffs tes är, som nämnts, att det finns två arter av Makt – Totalitär makt och Instrumentarianism (en sammanfattande jämförelse återfinns på sid 396-7).

Medan den centrala metaforen för totalitär makt är ”Big Brother” är motsvarande begrepp för Instrumentarianism ”Big Other”. Här finns många andra dimensioner att jämföra. Jag fäster mig vid att Zuboff pekar ut huvudkällan för att binda individen till makten som är att undertrycka identiteten när det gäller den totalitära makten medan det är att undertrycka effektiviteten för den instrumentarianska makten (att man inte klarar sig utan den). Medan den totalitära maktens ideologiska stil är ”Politisk Religion” så är den instrumentariska maktens ideologi ”Radical Indifference” (skyll inte på mig!). I det första fallet undertryckande av den fria viljan, i det andra celebrerande av den fria viljan (du clickade själv på ”cookies”! ). Men tänk på alla unga flickor som drömmer om att bli ”influencers” men som hamnar i rollen av ”followers”).

Medan den centrala metaforen för totalitär makt är ”Big Brother” är motsvarande begrepp för Instrumentarianism ”Big Other”

Hur gick det här till? Jo över tiden byggdes instrumenteringen upp, steg för steg. Zuboff nämner inte vetenskapssidans kraftfulla satsning på ”Artificial Intelligence” i samband med konferensen i Dartmouth sommaren 1956 (Larson, 2021, p 50f) som skapade stora förväntningar och lade en intellektuell grund för diverse satsningar i Silicon Valley av riskkapitalister (vilket i huvudsak resulterade i IT-kraschen).

Instrumenteringen skedde i olika steg, men det handlade hela tiden om att hitta nya former för att utvinna (”extract”) data ut vår datoranvändning. Den där incidenten med en ”spike” i användningen av sökmotorn i samband med att programledaren för ”Who wants to be a millionaire?” (som nämndes ovan) satte Google på spåret. Med insamling av data från vårt beteende i datoranvändningen var idén att man skulle kunna söka igenom databasen på basis av annonsörernas keywords. Men så kom man på att Google själv väljer ut ”keywords” åt annonsörerna, vilket ledde till insikten att Google snarast befann sig i”auktions”-branschen. (Man erbjuder hugade annonsörer att köpa adresser till användare med vissa kombinationer av sökord).

När det gäller videofilmning av gator i Hamburg för Google-Maps var det en företagsam medarbetare som passade på att fånga upp alla WiFi-adresserna på gatan när man ändå var där. Hamburgs kommun stämde Google för integritetskränkning i ”hamburgarnas” hem och Google betalade ett måttligt skadestånd och lyckades tysta ner skandalen. Efterhand blev man duktig på att med hjälp av jurister frånsäga sig ansvaret för den systematiska integritetskränkning som ”utvinningen” av användardata och försäljningen av bearbetade sådana via auktioner. Dessutom vande vi oss vid att ”clicka” på ”cookies” för att godkänna ”utvinningen”. Vi blev alla medskyldiga.

Man bör lägga ned den tid som krävs för att följa Zuboffs redogörelse för ”instrumenteringen” med början den 9 augusti 2011 (kapitel II) och slut med kapitel 12 350 sidor senare.

Konsekvenserna av ”Surveillance Capitalism”

Zuboff kallar sitt slutsatskapitel ”En kupp från ovan” (sid 495ff) och börjar med att konstatera att ”Surveillance Capitalism” avviker från historiens ”Market Capitalism” i tre avseenden:

  • För det första insisterarar den på obegränsad frihet och kunskap (för sig själv)
  • Den överger den traditionella ”organiska” ömsesidigheten med individen (köpare/säljare, kontrakts giltighet för två eller flera parter)
  • Den mörka framtidsvisionen av ett liv ”in the hive” (ständigt uppkopplas) tränger ut en kollektiv samhällssyn och ersätter den med bilden av ”The Big Other” som är radikalt indifferent inför individens öde.
  1. Den mest grundläggande premissen för marknadsekonomin är att en marknad i sig är ”unknowable”, det vill säga omöjlig att ha full kunskap om.
    Därför – just därför – måste individerna (köpare såväl som säljare) ha full frihet att söka det pris på varorna som de finner acceptabla. Säljaren får oftast inte ut det pris hen hoppades på och köparen får betala lite mer än budgeterat för att tillgodose sitt behov. Marknadens ”invisible hand” ordnar allt till det bästa.
    Våra främsta marknadsideologer, Adam Smith, senare delen av 1700-talet, och Friedrich August von Hayek under 1900-talet, argumenterade för marknaden utifrån detta nödvändiga och troligen tillräckliga villkor för marknadsekonomins överlägsenhet.
    Adam Smith införde den närmast religiösa beteckningen ”invisible hand”. Något som Chandler (1977) spefullt (?) refererade till med sin bok ”The Visible Hand: The Managerial Revolution in American Business”.
    Hayek (1944) förstärkte sin argumentation för marknadsekonomin genom att hävda att tjänstemännen i planekonomin – det nya alternativet som dykte upp i debatten kring sekelskiftet (1900) – aldrig kunde inhämta den kunskap som krävdes för att veta vad alla medborgare önskade sig. Dagens stora tech-bolag har tagit sig före att samla in all den där kunskapen genom att ”lägga beslag på” privat information om vårt sökande på nätet (cookies).
    De insisterar att de har den rätten med hänvisning till yttrandefriheten, och eliminerar därmed grundpelaren i argumentet för marknadsekonomin.
  2. En annan grundpelare i marknadsekonomin är ömsesidigheten mellan köpare och säljare. Debet och Kredit – köpet som bestämmer priset på en vara är en överenskommelse mellan två parter som båda tycker sig få ut den nytta de eftersträvar genom köpet.
    De stora tech-företagen går förbi marknaden genom att binda användaren av till exempel Facebook till sig och förmedla reklam direkt till individen (med hjälp av stulen, privat information).
  3. Den gamla synen på samhället som ett kollektiv av individer som värderar solidaritet och ömsesidig hjälp ersätts av ett ”uppkopplat” kollektiv under kontroll av ”The Big Other” som är ”radikalt indifferent” till individens öden.
    Drömmen om att få en identitet (till exempel som ”influencer”) byts närmast automatiskt mot en roll som ”follower”. Influencern själv måste hela tiden komma med uppseendeväckande påståenden för att behålla sin roll. Uppseendeväckande och kontroversiella rubriker behåller engagemanget, vilket såväl politiker som media insett värdet av. Samhället blir alltmer splittrat medan ”The Big Other” behåller greppet om sina ”medlemmar” och tjänar mer pengar på att sälja ”målsökare ”för annonser.

Därmed har ”Surveillance Capitalism” besegrat ”Market Capitalism”. Vi ser det överallt; tillverkande företag söker sig ”närmare” kunden, som är uppkopplad för omedelbar service, uppgraderingar, finansieringslösningar et cetera. (Jönsson, 2021).

Konsumentvaruföretagen följer efter.

Allt blir ju så mycket bekvämare.

Referenser:

Chandler, Alfred Jr, (1977), The Visible Hand: The Managerial Revolution in American Business. Cambridge, Mass.: Harvard University Press

Duggan, Lisa, (2019), Mean Girl – Ayn Rand and the Culture of Greed. Oakland: University of California Press

Fukuyama, Framcis, (2018), Identity – The Demand for Dignity and the Politics of Resentment. New York: Farrar, Straus and Giroux.

Hayek, Friedrich A. von, (1944), The Road to Serdom, London: Routledge

Jönsson, Sten, (2021), När molnen hopar sig – Svensk företagsledning förr och nu. Göteborg: Förlaget BAS.

Larson, Erik J., (2021), The Myth of Artificial Intelligence – Why Computers Can’t Think the Way We Do. Cambridge, Mass.: Harvard University Press.

Lepore, Jill, (2020), If Then: How the Simulmatics Corporation Invented the Future. New York: Liveright.

MacLean, Nancy, (2017), Democracy in Chains – The Deep History of the Radical Right’s Stealth Plan for America.London: Scribe

Milanovic, Branko, (2016), Global Inequality: A New Approach for the Age of Globalization. Cambridge, Mass.: Belknap Press

Milanovic, Branko, (2019), Capitalism, Alone – The Future of the System that Rules the World. Cambridge, Mass.: Harvard University Press

Orwell, George, (1949), Nineteen-Eighty-four. London: Secker & Warburg.

Pentland, Alex (2014), Social Physics – How Social Networks Can Make Us Smarter. New York: Penguin Books

Polanyi, Karl. (1944/2001), The Great Transformation: The Political and Economic Origins of Our Time. New York: Farrar & Reinhart.

Scott, James C., (1990, Domination and the Arts of Resistance – Hidden Transcripts. New haven: Yale Uiversity Press

Searle, John, (2010), Making the Social World: The Structure of Human Civilization. Oxford: Oxford University Press

Skinner, Burrhus Frederic,. (1948). Walden Two. Indianapolis: Hackett Publishing. 

Skinner, Burrhud Frederic, (1971), Beyond Freedom & Dignity. Indianapolis: Hackett Publishing

Varian, Hal, (2010), Computer Mediated Transactions. American Economic Review, vol 100, no 2, pp 1- 10

Weber, Max, (1920/2019), Economy and Society – A New Translation. (Edited and translated by Kaeith Tribe) Cambridge, Mass.: Harvard University Press

Zuboff, Shoshana, (1988), In the Age of the Smart Machine – The Future of Work and Power. New York: Basic Books

[1] . Den genomsnittlige amerikanen skulle behöva använda 76 dagar om året om hen bestämde sig för att läsa användarvillkoren för alla sina ”appar.”

Lämna ett svar

Din e-postadress kommer inte publiceras. Obligatoriska fält är märkta *