Dostojevskij, extraordinära män och AI
”Ja, så var det ju … så var det ju!” sade han. ”Jag ville bliva en Napoleon … därför blev jag en mördare … nå, förstår du det nu?” – Raskolnikov i Brott och Straff, 1866.
Jag tillhör en bokklubb som vid tillfället detta skrivs läser boken Brott och Straff av Fjodor Dostojevskij. I vårt senaste samtal fastnade vi för ett resonemang om extraordinära män. Människor delas av huvudkaraktären Raskolnikov in i två kategorier ”vanliga” och ”ovanliga”. De vanliga har som plikt att vara laglydiga men de ovanliga har en inre rätt att överskrida lagar och till och med döda om detta leder till att deras mål uppnås. Dessa extraordinära män står alltså över moraliska lagar.
Bokens huvudperson Raskolnikov anser sig själv vara en extraordinär man i samma ställning som Napoleon. Han ser sig som bättre än andra och stående över moraliska lagar. Det är detta som gör Raskolnikov till en mördare, han vill överskrida “de vanligas” moraliska lagar genom att döda en parasiterande pantlånerska och använda hennes pengar för att göra gott. Kontrasten mellan Raskolnikovs liv och hans övermänniskoideal är dock slående: han lever i fattigdom och feberdrömmer mest om dagarna. Raskolnikovs samvete kommer också snabbt i kapp honom.
Att vissa människor skulle vara extraordinära, en annan klass av människor, är inte helt främmande i vår tid. Det finns kanske ingen modern Napoleon men det finns extraordinära tech bros. Ett av de främsta exemplen är Peter Thiel. Thiel är en tysk-amerikansk riskkapitalist och entreprenör som har startat upp flera företag. Han är dessutom miljardär. Thiel ser sig själv som extraordinär, han anser sig behöva överskrida lagen om det hjälper honom att nå sina mål. Han anser att demokrati och regler motverkar innovation. Detta är ett tydligt uttryck för en idé om att vissa individer bör stå över vanliga regler. Thiel tror sig också kunna peka ut vem som är Antikrist – vilket enligt honom är någon som sätter sig emot obehindrad teknisk utveckling.
Thiel har flera kopplingar till AI-industrin. Flera ”extraordinära” män har sina fingrar i den syltburk som är AI-industrin. För inte så länge sedan slöt Vita huset ett avtal med OpenAI. Det är nog ingen som förnekar att Donald Trump ser sig själv som en av dessa “extraordinära” män – nästan en modern Napoleon. Både Trumps agerande i Irankriget och flera juridiska överträdelser verkar vara uttryck för en idé om att vissa individer bör stå över vanliga regler. Själv säger han i ett avfärdande uttalande om internationell lag: :
AI utvecklas inte i ett vakuum utan formas av människors värderingar, prioriteringar och idéer. Vem är det som formar dessa maskiner? Det är ju dessa “extraordinära män”. Att dessa personer har kontroll över AI-industrin är problematiskt. AI formas av dem och därmed finns risken att AI själv blir likt dessa män. AI bär sin skapares avbild. Det finns alltså förutsättningar att AI utvecklas utan någon moralisk begränsning. AI antas på något sätt kunna lösa världens problem och leda oss till ett utopiskt samhälle . För att göra detta kanske den måste överskrida moraliska lagar. Och i Thiels värld är alla som försöker stoppa den extraordinära maskinen från att nå sitt mål en antikrist.
Men är utopin inom räckhåll för dessa tech bros? Människan kan utföra stordåd men Dostojevskij visar att människans högmod förleder henne. AI är ytterligare en länk i en kedja av liknande projekt. Liksom tidigare utopiska projekt bygger dagens AI-visioner ofta på föreställningen att mänskliga problem ska lösas genom ett enda övergripande system — det må vara en ideologi, industri eller teknologi. Dessa framtidsutopier har alltid krossats. Allt från Tredje Riket till Sovjetunionen ligger i spillror. De är “utopier” sprungna ur det mänskliga högmodet att skapa perfekta samhällen, men i längden visar de sig inte fungera.
Flera av dessa utopier bygger också på tankar om att mänskligt liv kan avvaras så länge det leder till att utopin kan åstadkommas och upprätthållas. Är detta något som också gäller AI-utopin? Har inte filmer som Terminator redan varnat oss för vad maskiner kan göra? Kanske är det för sent? Har tekniken slutligen hunnit ikapp människan? Kanske är det som Martin Heidegger säger angående teknikens herravälde:
Only a god can save us
Och kanske är den Guden den vars avbild vi är skapta till?
All grafik i detta nummer av Samuel Bokenblom
