Anders Sandberg minst sagt inspirerande måndagspost har fått mig att fundera en hel del kring riskperceptionens historiska natur.
I takt med att uppfinningar har avlöst varandra, tekniska paradigm har kommit och gått och fantstiska idéer har lett till ännu mer fantastiska genombrott som gjort våra liv enklare, längre och rikare har vi tappat vår naurliga relation till risk. Vid en första anblick kan det verka som om vi byggt bort, eller kanske till och med eliminerat riskerna i våra liv, men riktigt så enkelt ska vi nog inte låta det vara. I studier av automation talar man om riskförskjutning, i betydelsen att de risker som förknippas med den mänskliga faktorn förflyttas till tekniken genom implementeringen (som gör av människor). Skillnaden mot det ickeautomatiserade fallet är att risken för enskilda olyckor kan göras mindre, men bara genom en avvägning mot en annan typ av risk. Automatiserade system sprids och implementeras över större områden än vad en enskild individ skulle kunna manövrera, vilket innebär att om en olycka inträffar på grund av någon brist i automationen, så blir konsekvenserna grövre och får större spridning. Man har alltså bytt en typ av risker och konsekvenser mot en annan, men man har på intet sätt gjort sig av med risken som fenomen.
Riskhanteringens utveckling har fört fokus från små risker med hög sannolikhet för olyckor men små konsekvenser, till stora risker med liten sannolikhet men omfattande konsekvenser. Ett starkt argument för EU som institution är dess fredsbevarande effekt, men ett sådant perspektiv bör för tydlighetens skull problematiseras med tanken på att om EU skulle dras in i en konflikt skulle konsekvenserna omfattande och omvälvande för en stor del av världen. Med detta inte sagt att det är bättre att ha en rad mindre mellanstatliga krig, men avvägningen mellan sannolikhet och konsekvens är långt ifrån trivial.
Mänskligheten har på intet sätt någonsin besuttit en perfekt riskperception, vilket tydligast kan exemplifieras med jämförelsen mellan risker förknippade med höga höjder och höga hastigheter. Människor har lättare att förhålla sig till risker förknippade med höga höjder, än för risker som uppstår vid höga hastigheter. Vidare har människor svårt att bedöma och förhålla sig till abstrakta risker, vilket ofta förklaras med att konkreta risker är en stark del av vårt historiska, evlutionära arv, emedan abstrakta risker tidigare varit underordnade och först efter att civilisationen nått en viss mognad har kommit att spela en större roll.
Förutom att abstrakta risker ökat i betydelse i takt med att vi lever längre, mår bättre och inte oroar oss lika mycket dagligen för att bli uppätna av vilda djur, spelar vår uppfattning om vårt förhållande till risker en relevant roll för hur det förhållandet faktiskt ser ut. Den förmodligen största risken är i dagsläget att vi har låtit oss övertygas om såväl små som stora riskers försvinnande betydelse. För var risken en naturlig, om än inte alltid så angenäm, livskamrat för envar, men allt fler tycks ha tappat kontakten med sin gamle vän.
Kort sagt, det uppenbart farliga är inte farligt, genom självbevarelsedrift. Man har vett att akta sig. Mot den som saknar självbevarelsedrift kan vi inget göra. Den dolda faran är den verkligt farliga, eftersom man då inte vet vad man gör, genom att faran är dold för en.
– Vad är det där för ett hål? Gubben stoppar in fingret i fläktkåpan.. tjopp. Han visste inte vad han gjorde, och hade således inte kunskapen för att göra en riskbedömning innan sin handling. Endast den lilla kunskapen ”fläkt här bakom”, hade varit allt som behövts för att förvandla det farliga till något riskmässigt hanterbart. Men i dagens samhälle? Kan tänka mig en rad förbud mot hål, kåpor och fläktar, samt nya påbud om avstängningar osv.. Alla framförda av lydiga och bildade människor i karriären.
Avancerad teknik minskar friktionen i de kausala kedjor ett beslut sätter igång. Tryck på en knapp och du kan sätta igång en väldigt lång och intrikat kedja av händelser med en stor reproducerbarhet. Problemet är att alla steg längs denna kedja kan generera egna händelsekedjor, och när tekniken blir bättre blir hela ”busken” av påverkan enormt större. Det gör att vi får mer oförutsägbara och avlägsna effekter, vilket i sin tur leder till mer potential för abstrakta risker. De flesta risker vi är bra på att hantera har korta kausala kedjor. I det förflutna har mycket bråk handlat om vem som bär ansvaret i långa eller yviga kausala kedjor, men idag kan vi med teknikens hjälp producera komplexa risker där ”ingen” är ansvarig.
Modularisering är nog ett sätt att begränsa risken: se till att ens kausala infrastruktur inte går utanför ens system annat än genom väldefinierade öppningar. Men det är svårt att designa i praktiken, och i stora samhällen får vi mycket emergens även med rätt modulära system.