Det netpolitiske manifest

Ett gäng danska internauter kring Bitbureauet översätter för närvarande min bok Det nätpolitiska manifestet (2010) till danska och publicerar kapitel för kapitel både som text och som inläst poddkast, inläst av Henrik Chulu. Jag antar att man får en “ljudbok” om man sedan klistrar samman poddkasten till en sammanhängade spellista.

Detta gör mig bubblande glad! Jag försökte skriva boken så att den skulle kunna ha en hållbarhet över tid och detta känns som att så kanske är fallet.

Hittills har två kapitel publicerats:

Idén till en dansk översättning föddes redan 2011. Då diskuterade vi ett antal översättningsproblem som uppstår främst kring begreppen “nätvaro”, “gå till näts” och pluralformerna av “internäten”, “internätverken”. Jag tänker att dessa översättningsproblem är positiva tecken på att det finns tankelinjer som kräver tankearbete i boken.

Jag har själv inte bläddrat i boken på fem år. Jag tycker det är svårt att läsa det jag själv har skrivit, ungefär på samma sätt som det är konstigt att höra sig själv på en ljudinspelning eller video. Kanske blir det lättare om jag läser på danska!

SOU om Digitalisering re-digitaliserad och kvantifierad enligt sina referenser

Jag kunde inte hålla mig från att testa några saker på text-versionen av SOU 2015:65 – En antologi om digitaliseringens möjligheter. Jag är intresserad av att hitta olika sätt att förstå den kunskapsform som en SOU innehåller, och jag funderar på hur man kan begripa detta bortom de hermeneutiska cirklarna.

Ett sätt att ta tempen på en kunskapsform kan vara att se vilka andra källor av kunskap som åberopas. Detta är en slags paradigmatisk uppställning där en dimension består av en slags tidslighet. Hur gamla eller unga är de källor man hänvisar till? Vilken historicitet har citeringsnätverket?

Det trubbigaste men samtidigt det tydligaste sättet är att helt enkelt se hur gamla texterna är som man hänvisar till. Ämnet “digitalisering” kommer givetvis vara “ungt” i jämförelse med en utredning som har historiska inslag eller handlar om ämnen som inte har påverkats av en vis teknikutveckling osv. Men, det är bara hypoteser! Här har jag bara gjort ett litet stickprov.

Eftersom vi numera har nästan alla SOUer under våra fingertoppar är det bara fantasi och kod som sätter gränserna.

Vad säger detta tänker ni?

\\

Metod

När jag skriver fram metoden kan det tyckas att jag krånglar till det med terminalkommandon och kodsträngar. Anledningen till detta är 1) reproducerbarhet och 2) att arbetsflödet ska kunna skalas upp och automatiseras. I detta fall rör det sig ju bara om en SOU. Men låt säga att man vill göra samma sak på tusen dokument. Då går det inte att “peka och klicka” för då blir man aldrig klar.

Först hämta pdf-filen och göra om den till text:


wget -U firefox http://www.regeringen.se/contentassets/bacbfd7c61ac4e4eaff7cd3a7505e6c4/sou-2015_65-webb.pdf; pdftotext sou-2015_65-webb.pdf

Observation: Regeringens hemsida gillar inte att wget kommer och hämtar filer. Så man får lura regeringen att tro att det är en vanlig firefox som kommer och vill vara en informerad medborgare. (regeringen diskriminerar robotar, något Robotpartiet kanske vill reagera på).

När vi sedan har textfilen redo kan vi analysera hur en referens ser ut. För det mesta följer de detta mönster:


Morozov, E. (2012). The Net Delusion: The Dark Side of InterneFreedom. PublicAffairs.

Det som verkar vara beständigt i denna SOUs referenslista är årtal inom parentes, eller \(\d\d\d\d\) som reguljärt uttryck. För vårt nuvarande syfte räcker detta. Om man däremot skulle vilja ha ut författarnamn, titlar osv. blir det lite svårare eftersom det är långt ifrån homogent hur litteraturlistorna skrivs ut. (se nedan exempelvis i om man skriver punkt före förnamnsinitial eller inte).

För att få ut alla årtal som finns inom parenteser:


egrep -io '\((\d\d\d\d)\)' sou-2015_65-webb.txt > file.txt

Som vi sedan gör till en kommaseparerad fil som går att räkna lätt på.


perl -p -i -e 's/\(|\)//g' file.txt

Sist men inte minst kan vi lägga till ett “Year” allra först i filen, samt döpa om till .csv.


(echo "Year" ; cat file.txt) > file.csv

Nu är det bara att ladda in i R och tillverka ett enkelt histogram. Kör antingen rad för rad i Rs kommandotolk eller kopiera och kör hela skriptet med Rscript skriptnamn.r :


mydata <- read.csv("file.csv") hist(mydata$Year,main='SOU 2015:65 - Citation Frequency per Year',xlab='Years',col='green',breaks=100,xlim=c(1980, 2016),prob = TRUE) lines(density(mydata$Year))

Som ni ser har jag exkluderat de sporadiska referenser som finns till texter före 1980. De är kvalitativt intressanta, men kanske inte kvantitativt. Alla metoder har ju sina gränser (som tur är).

Anteckning för arkivet: Det nätpolitiska manifestet citerat i SOU 2015:65 av de Kaminski

Lite ironiskt, men samtidigt som jag har bloggat väldigt mycket om Statens offentliga utredningar nås jag av nyheten att min fem år gamla bok Det nätpolitiska manifestet citeras i Digitaliseringskommissionens SOU 2015:65 Om Sverige i framtiden – en antologi om digitaliseringens möjligheter.

Kapitelförfattaren Marcin de Kaminski använder begreppet “smittontologi” från boken, ett begrepp som jag och Karl Palmås jobbade med ett par år innan boken skrevs. de Kaminski skriver:

Som del av internet bör man känna till nätets särskilda ”smittontologi”. Med detta menas att användare kan vara mer eller mindre aktiva, men som noder i nätet är man – om än passivt – påtvingad funktionen av att föra vidare information. Man kan sammanfatta detta som att informationen smittar. Detta oavsett om man är primärkälla eller mottagare av informationen.

Jag har ännu bara bläddrat i resten av SOUen. Om någon vill ha en rå textversion för innehållsanalys, tillverkade jag en sådan med pdftotext. Ladda ned här.

Dynamiska visualiseringar av citeringsnätverk – ett test och metodgenomgång

Jag har länge försökt hitta ett bra arbetsflöde för att skapa visualiseringar av dynamiska nätverk, dvs. nätverk som förändras över tid. Alla nätverk förändras ju, även om hastigheterna kan vara väldigt annorlunda. Ett nätverk av vägar, tågräls eller gasledningar kan se ganska oförändrade ut över flera år, även om de hela tiden måste underhållas. Ett nätverk av vänner, kolleger, politiker, lobbyister eller studiekamrater kan uppstå och försvinna inom ungefär samma tidsrymd.

Det är dock ett metodologiskt problem att de flesta sätt som vi visualiserar nätverken på består av statiska representationer. Vi skapar bilder och “kartor” som hela tiden missar att nätverken aldrig egentligen är helt statiska. Jag och min kollega Gustaf Nelhans försökte råda bot på detta i vår artikel om lyckoforskningens framväxt genom att skapa statiska bilder för olika tidsintervaller. Med hjälp av lite hermeneutisk ifyllnade går det att ställa sig i ett processontologisk modus och få en uppfattning om själva flödet av citeringar.

Men som för de flesta metoder är det önskvärt att öka detaljrikedomen om man vill genomföra en antropologi av det moderna. Jag tänkte här lägga ut en lösning på hur man kan skapa dynamiska nätverksvisualiseringar av publikations(meta-)data hämtad från Web of Science. Exemplet utgörs av min pågående forskning om citizen science och mitt syfte är här att visualisera framväxten av ett citeringsnätverk för forskning som använder sig av medborgarforskning som metod.

Således följer en väldigt teknisk beskrivning. Med tanke på att det troligtvis bara finns en handfull av forskare som gör så här (på svenska) lägger jag ut resultated direkt för er som tänkte sluta läsa nu:

Vad kan man säga om detta nätverk? Kommentarer uppskattas som presenter på julafton!

\\

Nu över till själva metoden. Vad som följer är en ganska omständig process och det är verkligen inte den optimala metoden. Tanken är att jag framöver ska skriva några små skript som automatiserar denna process hela vägen, men jag måste först lära mig lite mera programmering. Men det är ändå bra att lägga ut hela processen så att man vet vad man ska göra.

Således. Ta fram datorkörkortet och se till att du har följande mjukvara:

  • Python (inkl. modulerna networkx och community),
  • find
  • git
  • Gephi
  • ffmpeg
  • (för bonus-features: imagemagick och perl)

Python, find och git borde följa med MacOS/Linux, medan Gephi och ffmpeg får hämtas separat. På Windows måste man (tror jag) installera separat, men var försiktig med de terminalkommandon som jag skriver ut, vissa saker skiljer sig åt. Dessa mjukvaror behövs för de tre stegen i arbetsflödet: 1) förprocessera data, 2) applicera nätverksalgoritmer, 3) rendera video utifrån statiska bilder.

1. Separera datamängder årsvis

När man har hämtat en datamängd från Web of Science består den av en enda textfil. För att Gephi ska kunna bygga dynamiska nätverk måste man antingen ha byggt en färdig .gexf-fil, eller så instruerar man Gephi att ta uppstyckade datamängder och ge dem en tidsstämpel. Den förra metoden är det som saknas rent skriptmässigt (min ambition är att skapa ett sådant skript i framtiden), den senare metoden är den som jag presenterar här (den är mera omständig, men funkar).

Först och främst behöver vi ladda hem en knippe skript som jag hittade på Github skrivna av Reid McIlroy-Young för John McLevey.


git clone https://github.com/mclevey/web_of_science_isi.git

Det är oklart varför dessa skrevs, men de är väldigt användbara, även om de måste modifieras för att breddas i användningsområde. Forskare skriver ju ofta specialiserade verktyg för en viss forskningsfråga. För att sedan anpassa dessa till den fråga man själv ställer måste man koda om dem. Men för detta exempel kommer jag använda dem ganska rakt av.

Ta datamängden från Web of Science och lägg txt-filen i katalogen ISIcollectors. Om du har klistrat ihop flera dataset är det viktigt att du tar bort alla gånger som strängen VR 1.0 förekommer, förutom på andra raden, precis i början av filen. Om denna rad kommer mitt i datamängden kommer skriptet att stoppa.

Kör sedan bara:


python ISISplitter.py

Om allt går vägen kommer du nu få massor med nya textfiler, en för varje år. År är ju den högsta “upplösningen” vi kan få ur Web of Science, så allt är väl än så länge.

Nu skulle man kunna stanna här och sedan ta varje fil till Sci2 för för-processering och sedan vidare till Gephi. Men det optimala är ju att automatisera detta steg, alltså direkt skapa nätverksfiler från Web of Science-filerna. Det intressanta skriptet co-Citemaker.py gör precis detta. Men, det är inställt på att bara arbeta med en fil åt gången. Som tur är går det att köra det på massor av filer med det finurliga programmet find. Flytta först den ursprungliga filen ur katalogen och kör sedan:


find *.txt -exec python co-citeMaker.py {} \; -exec mv co-CiteNetwork.graphml {}.graphml \;

Vad jag gör övan är att 1) hitta alla .txt-filer 2) köra pythonskriptet på varje fil 3) döpa om oputpufilen till ursprungsfilnamnet + filändelsen graphml. Visst är datorer finurliga!

Nu har vi en .graphml-fil för varje tidsintervall (år). Nu vill man få in detta till Gephi. Den lösning som man borde jobba med på sikt är att direkt jobba mot Gephi’s java-bibliotek, men det får bli ett framtida projekt. Istället jobbade jag mot Gephis grafiska gränssnitt. Här har vi mitt skrivbord avfilmat:

Först generera jag bara ett dynamiskt nätverk som jag genast tar bort. Sedan öppnar jag första filen som jag vill ha in och väljer Time frame som jag sedan definierar årsvis. På så sätt får man fram en tidslinje som man kan laborerar med. Här är min gephi-fil

Nu kan det uppstå ett problem. Kanske är det så att vi vill ha en “kumulativ” visualisering. Alltså, att noderna inte försvinner för varje år, utan att de “varar” längre. Detta är i mindre utsträkning en teknisk fråga, utan i första hand en teoretisk: Hur långt ska vi sträcka ut “relationismen” i vår analys? Finns bara det som hela tiden upprätthålls? I Så fall ska vi låta noderna förfalla när de inte längre är aktiva. Eller, tillåter vi en viss “eko-effekt” på grund av pragmatisk-epistemiska överväganden? I detta exempel lutar jag åt det senare.

För att göra så att alla noder permanenteras vill vi att de ska vara till och med slutet av vår tidslinje (här 2015). Om man först exporterar från Gephi till .gexf-formatet kan man enkelt jobba mot rådatan.

Så här ser rådatan i gexf-filen ut:


<node id="CIRIACYWANTRUP SV 1975" label="CIRIACYWANTRUP SV 1975" start="1991.0" endopen="1992.0">

Vad som behöver göras är att byta ut alla endopen mot årtalet 2015. Det är bara att söka och ersätta med din favoriteditor, eller så kör man bara följande lilla rad perl (perl är redan inbyggt i vettiga operativsystem och det är smidigare att använda för stora filer):


perl -p -i -e 's/endopen="\d\d\d\d.\d"/endopen="2015.0"/g' filnamn.gexf

Gexf-filen kan nu importeras tillbaka till Gephi. Lite omständigt, jag vet. Men i framtiden kommer jag förhoppningsvis kunna knåpa ihop lite python-skript som fixar till .gexf-filerna som man vill ha dem redan från början.

Nu kommer man till sista steget. Jag hoppar över hur man skapar fina visualiseringar i Gephi, det är ett annat ämne. Men när man har fått det snyggt måste man exportera en bild för varje år. Detta gör man i preview-fönstret och det går bra att bara exportera png-filer till en katalog och numrera dem 1.png, 2.png, 3, 4 osv.

Sedan kan man bara ställa sig i katalogen och köra:


ffmpeg -r 1 -pattern_type glob -i '*.png' -c:v libx264 -pix_fmt yuv420p out.mp4

Så får man en liten filmfil.

För att göra en animerad gif kan man använda sig av smidiga imagemagic och snabbt baka ihop en fil med:


convert -delay 100 -loop 0 *.png animation.gif

För att göra den lite mindre:


convert animation.gif -coalesce temporary.gif; convert -size 1024x1024 temporary.gif -resize 300x300 animationsmall.gif

Så får man:

Det finns flera saker att förbättra här. Bland annat har noderna statiska storlekar (trots att deras “degree” ändras över tid). Sedan har jag inte kört någon community detection på detta ännu. Men man kan tänka sig att det uppstår och försvinner små (algoritmdefinierade) communities av citeringar. Jag har heller inte kollat mera exakt hur co-citeringen går till i python-skriptet jag använde. Men det är något jag ska jobba med framöver.

Nu ska jag åter dyka in i mitt sommarprojekt. Kommentera gärna!