Dagens ord


Ansvar väger tyngre än frihet - Responsibility trumps liberty

1 juli 2013

Schackdatorernas maratonmatch: en grundsten i Dennetts kompatibilism

Nyligen utkom Daniel C. Dennetts senaste bok Intuition Pumps and Other Tools for Thinking på engelska. Nedan följer en fri och förenklad översättning av det jag anser vara bokens nyckelkapitel, kapitel 70: "A Computer Chess Marathon" (s. 384-392), i vilket Dennett anför ett slagkraftigt argument för sin version av kompatibilism, och lägger grunden till en övertygande sammanjämkning av materialism, moral och juridik (vilken han delvis genomför i de följande kapitlen).

---

Det är djävulskt svårt att tänka klart om determinism och val. Om världen är deterministisk (1), finns det då egentligen några valmöjligheter? Om en agent (2) som verkar ha en fri vilja i själva verket är deterministisk, och om den befinner sig i en deterministisk värld, måste vi då frånkänna den alla val, alla möjligheter? Låt oss undersöka frågan genom att betrakta en förenklad värld - schack - inuti en annan, konstgjord och helt deterministisk värld: en dator.

Anta att du installerar två olika schackprogram på din dator, kopplar ihop dem med ett litet övervakningsprogram, och låter dem spela mot varandra, match efter match, i en lång (kanske oändlig) följd. Kommer de att spela samma parti, om och om igen, tills du stänger av datorn? Du skulle kunna ställa in allting så, men då skulle du knappast få reda på någonting intressant om de båda programmen, A och B. Anta att A besegrar B i detta enda upprepade parti. Du skulle inte kunna dra slutsatsen att A är bättre än B, eller att A skulle besegra B i ett annat parti, och av dessa exakta upprepningar skulle du inte lära dig något om de båda programmens styrkor och svagheter. Betydligt mer intressant vore att arrangera en turnering där A och B spelar en serie olika partier. Det kan lätt ordnas. Om något av schackprogrammen använder en slumptalsgenerator (3) i sina beräkningar (om det t.ex. då och då "singlar slant" för att avgöra sitt nästa drag när inga andra skäl väger över åt något särkilt alternativ) så kommer denna att ge olika värden i olika matcher (om den inte återställs) och följaktligen kommer olika alternativ att utforskas, i en annan ordning, vilket ibland kommer att leda till att andra drag "väljs". Olika varianter av partiet kommer att spelas upp, i en serie där ingen match är den andra lik. Om du däremot startade om datorn så skulle exakt samma serie av matcher spelas upp på nytt, eftersom exakt samma slumptalsserie skulle bestämma programmens alla "slantsinglingar".

Anta nu att vi arrangerar en sådan schackturnering mellan två program, A och B, och studerar en serie av tusen matcher. Vi kommer att finna många tillförlitliga mönster. Anta att vi finner att A alltid besegrar B, i tusen olika partier. Det är ett mönster som vi skulle vilja förklara, och att påstå att "A är förutbestämt att besegra B eftersom programmen är deterministiska" skulle inte förklara någonting. Vi vill veta vad det är som gör att strukturen, metoderna och reaktionerna hos program A är överlägsna. A uppvisar en kompetens eller en styrka som B saknar, och vi måste isolera denna faktor. Förklaringen skulle kunna ligga på en låg nivå: det skulle t.ex. kunna visa sig att A och B i själva verket är samma program, identiska på programkodsnivå, men att A har kompilerats (4) effektivare och därför kan utvärdera fler drag än B på samma tid. A "tänker exakt samma tankar" som B, och B "vet" lika mycket (exakt samma saker) som A, men A tänker helt enkelt snabbare. (I verkliga turneringar används alltid en schack-klocka; om din tid tar slut innan du har gjort dina drag så förlorar du.) Men det är troligare att program A:s överlägsenhet måste förklaras på en högre nivå, där vardagliga schacköverväganden görs: representationer av brädpositioner, värderingar av olika möjliga fortsättningar, beslut om vilka möjligheter som ska utforskas djupare, o.s.v. Kanske förändrar program A det relativa värdet av sina pjäser efterhand som partiet fortgår, eller använder bättre värderingsfunktioner för brädpositioner, eller beslutar att avbryta utforskningen av vissa scenarior tidigare eller senare. Det "tänker inte samma tankar som B"; det "tänker bättre, mer sofistikerade tankar". (Typ "tänker", alltså. Det är ingen medveten person.)

Experimentet blir mer givande om samma program inte vinner varje gång. Anta att A nästan alltid besegrar B, och att A värderar olika drag enligt helt andra principer. Då skulle vi ha något än mer intressant att förklara. Och för att undersöka orsakerna till detta skulle vi behöva studera tusentals olika partier och leta efter fler mönster. Vi skulle garanterat hitta massor av dem. En del av dem skulle vara typiska för spelet schack, hur det än spelas (t.ex. att B nästan säkert förlorar de partier då det har färre torn kvar i spel), och en del skulle bero på A:s och B:s egenheter som schackspelare (t.ex. B:s tendens att flytta ut sin drottning alltför tidigt). Vi skulle hitta typiska strategiska mönster, såsom det faktum att när B:s tid håller på att ta slut söker det inte lika långt ned i spelträdet som det annars skulle ha gjort i motsvarande situation. Ja, vi skulle hitta en stor mängd förklaringsmässiga regelbundenheter, vissa undantagslösa och andra statistiska.

Alla dessa lätt igenkännliga schackdragsmönster sticker tydligt ut i den deterministiska parad som på mikro-nivå inte ser ut att innehålla några utmärkande drag. Det som ur ett perspektiv ter sig som två schackprogram inbegripna i en spännande kamp kan, genom "mikroskopet" (där vi betraktar instruktioner och data som flyter genom datorns processor) ses som en enda deterministisk automat som utför steg för steg i en enda möjlig ordning, där varje steg kan förutsägas genom granskning av det exakta tillståndet hos slumptalsgeneratorn och övriga delar av program och data. Det finns inga "verkliga" förgreningar i dess framtid; alla "val" som A och B gör är redan bestämda av det totala tillståndet hos datorn och dess minne. Ingenting, verkar det, är "möjligt" i denna värld, förutom det som faktiskt sker. Anta t.ex. att B vid tidpunkt t är nära att uppnå ett läge där vinst är garanterad efter ett visst (stort) antal drag, men att tiden tar slut och att B därför avbryter sin sökning efter det avgörande draget ett beräkningssteg för tidigt. Den där garanterade segern skulle aldrig kunna ha hänt. (Vilket vi kan bevisa, om vi tvivlar på det, genom att köra exakt samma turnering en annan dag. B:s tid skulle ta slut på exakt samma ställe, vid motsvarande tidpunkt.)

Så vad kan vi säga? Är detta verkligen en värld utan förebyggande och undvikande, utan offensiv och defensiv, utan förlorade chanser, utan verkliga subjekts anfall och försvar, i avsaknad av äkta möjligheter? Förvisso är våra schackprogram, likt insekter och fiskar, alldeles för enkla agenter för att betraktas som trovärdiga kandidater för moraliskt betydelsefull fri vilja, men determinismen i deras värld fråntar dem inte deras lika styrkor, deras olika förmågor att använda sig av de möjligheter som den erbjuder. Om vi vill förstå vad som händer i denna värld kan vi - måste vi - tala om hur deras informerade val orsakar förändringar i deras omständigheter, och om vad de kan och inte kan göra. Om vi vill frilägga de orsakssamband som förklarar de mönster vi upptäcker i de där tusen schackmatcherna så måste vi på allvar utgå från det perspektiv som beskriver en värld innehållande två agenter, A och B, vilka försöker besegra varandra i schack.

Anta att vi ställer in turneringsprogrammet så att en klocka ringer varje gång A vinner, och en vissla ljuder varje gång B vinner. Vi startar maratonmatchen och en betraktare, som inte känner till någonting om programmet, noterar att klockan ringer ganska ofta och att visslan sällan ljuder. Vad kan förklara denna regelbundenhet, undrar hon. Den regelbundenhet med vilken A besegrar B kan upptäckas och beskrivas utan att inta det intentionella förhållningssättet (5), men den kan inte förklaras. Den enda förklaringen - rätt förklaring - kan vara att A:s "föreställning" om vad B kommer att göra om... är bättre än B:s "föreställning" om vad A kommer att göra om... I sådana fall är det nödvändigt att inta det intentionella förhållningssättet för att hitta förklaringen.

Allt väl, så långt. Men alla dessa "beslut" och "val" verkar bara vara... typ beslut och val. Det verkar som om de saknar någonting som verkliga val har: "kunde ha gjort något annat". Men låt oss titta närmare på ett specifikt exempel, eftersom allt inte är vad det verkar vara. Det underlättar om vi tar med ett tredje schackspelarprogram, C, i vår turnering. Och låt oss anta att C är bättre än A och B och  nästan alltid besegrar dem. Vi antar vidare att de första tolv dragen i ett par av dessa matcher är exakt desamma och att C vinner båda och besegrar både A och B, fast längs två olika vägar efter de första tolv dragen. De experter som i efterhand analyserar partierna klurar ut att om A eller B som sina tolfte (och sista gemensamma) drag hade gjort en rockad så hade C troligen förlorat. En rockad i tolfte draget var nyckeln till vinst, och det missade både A och B.

Personen som har skapat program A rycker på axlarna och säger: "Tja, mitt program, A, kunde ha gjort en rockad", och personen som har skapat program B svarar "Det kunde mitt program, B, också ha gjort". Men skaparen av program A har rätt medan skaparen av program B har fel! Hur kan det vara så? Turneringsprogrammet T är deterministiskt, och om vi kör matcherna igen, från exakt samma utgångstillstånd, kommer vare sig A eller B att göra en rockad. Lurar inte skaparen av program A sig själv? Inte nödvändigtvis. Vad är det vi försöker ta reda på när vi frågar om A hade kunnat agera annorlunda? Att titta på exakt samma parti, om och om igen, ger ingen information. Men att titta på liknande fall är däremot upplysande. Om vi märker att A i många andra liknande situationer i andra partier faktiskt fortsätter sin utvärdering lite längre, upptäcker värdet av en rockad och genomför den, då kan vi ställa oss bakom programskaparens övertygelse att A kunde ha gjort en rockad.

Vi skulle kunna upptäcka att det hade räckt att skifta en enda bit (6) i slumptalsgeneratorn för att A skulle ha gjort en rockad. Anta att A:s skapare gräver djupt i körningen av programmet och kan visa att A, i det här fallet, avbröt sin utvärdering ett enda beräkningssteg för tidigt. (Alla schackprogram, oavsett hur bra de är, måste avbryta sin sökning efter det bästa möjliga draget godtyckligt vid någon tidpunkt.) A övervägde en rockad, och hade påbörjat sin analys av det förväntade resultatet, men eftersom tiden höll på att ta slut vände den sig till slumptalsgeneratorn, "singlade slant" och nöjde sig med det bästa drag som den hittills hade funnit - och det var inte en rockad. Om slumptalet hade blivit en etta i stället för en nolla så hade A fortsatt sin analys ytterligare några steg, och gjort en rockad. "Skifta bara en enda bit i slumptalet så vinner A!" säger skaparen. Vi skulle säga att i det här fallet var A:s uteblivna rockad oflax, otur med slumptalsgeneratorn.

När vi vänder oss till skaparen av program B får vi ingen motsvarande redogörelse som stöd för påståendet att B skulle ha kunnat göra en rockad under de aktuella omständigheterna. Det stämmer att B "vet" att en rockad är möjlig i denna situation, och kanske också att det som hastigast "övervägde" rockad, men B var inte i närheten av att välja rockad vid det här tillfället. Rockaden var ett "djupt" drag, den sorts drag som åtföljs av ett "(!)" i tidningarnas schackkolumner, och långt bortom B:s begränsade analyskapacitet. Här har vi alltså en helt deterministisk värld - program T - i vilken A kunde ha gjort en rockad, men B inte kunde ha gjort det. Skillnaden mellan A och B är verklig och har förklaringskraft, en skillnad i kompetens eller förmåga. Ett sätt att uttrycka det är uppenbart motsägelsefullt:

A kunde ha gjort en rockad vid tidpunkt t men världen kunde inte ha innehållit en rockad vid tidpunkt t.

Vad skulle rimligen kunna rättfärdiga detta sätt att beskriva situationen? Helt enkelt detta: om vi betraktar A avskild från dess omedelbara omgivning - vilken innefattar slumptalsgeneratorn - då är A:s val att göra en rockad eller inte obestämt. Det beror på något som strikt talat ligger utanför systemet. Givet det sätt på vilket resten av världen var organiserad vid tidpunkt t var en rockad inte möjlig för A, men det är "inte A:s fel". B, å andra sidan, skulle inte ha kunnat göra en rockad; det låg inte i B:s natur att göra en rockad. Att föreställa sig B göra en rockad skulle kräva alltför många modifikationer av den föreliggande situationen.

Det här är en användbar upptäckt: en distinktion mellan vad A och B "kunde göra" som inte är beroende av indeterminism. Även i en deterministisk värld kan vi se att A kan göra vissa slags saker som B inte kan göra, och denna skillnad är en del av förklaringen till varför A besegrar B. Det faktum att determinismen i den här världen innebär att A och B bara kan göra det som de faktiskt gör vid det aktuella tillfället (och skulle göra igen och igen om exakt samma omständigheter upprepades) är helt enkelt inte intressant, och inte relevant för förklaringen vi får till den helt objektiva och tydliga regelbundenheten: A besegrar B.

Ett schackprogram är inte en moralisk agent, och det är inte moraliskt ansvarigt för de val det gör - dess värld är helt amoralisk, och att bryta mot någon av schackreglerna är helt enkelt otänkbart för ett schackprogram, och kräver därför inga straff för överträdelser. Men som vi just har sett, kan vi även i datorschackets enkla och deterministiska värld peka på en verklig och viktig skillnad mellan A och B. Ibland, när A gör något dumt eller smart, kan vi säga "A kunde ha gjort något annat, men B kunde inte ha gjort något annat". Om du tänker att det måste vara ett misstag, för att "vare sig A eller B kunde någonsin ha gjort något annat eftersom världen är deterministisk", så är det du som gör misstaget.

A och B skiljer sig åt i schackspelsförmåga, och "kunde ha gjort något annat" fångar snyggt in en del av den skillnaden, som vi precis har sett. Hur är det med moralisk förmåga? När folk säger att vissa människor som gör dumma saker "kunde ha agerat annorlunda" och använder detta som ursäkt för att inte förlåta dem, och samtidigt menar att andra människor i liknande situationer inte kunde ha agerat annorlunda, begår inte heller de något misstag - och detta oberoende av huruvida världen är deterministisk eller inte. De framhåller en verklig skillnad i moralisk kompetens som inte beror på vare sig determinism eller indeterminism, och som kan ligga till grund för en skillnad i hur vi reagerar.

För att se detta tydligare kan du tänka dig att det är du som har skapat program B. Du vill veta om du har upptäckt en svaghet i B. Här har vi ett parti där en utebliven rockad kostade segern; kunde då B ha gjort en rockad? Om allt som krävdes för det var att skifta en enstaka bit i slumptalsgeneratorn, ja, då kanske inga förbättringar är påkallade. I liknande situationer händer det alltsomoftast att B gör en rockad, och bättre än så kan det kanske inte bli. Alla program måste använda slumptal då och då ("singla slant") för att avsluta sökningar och komma vidare, och därför kommer det alltid att uppstå tillfällen där sökningen avbryts precis innan en upptäckt, på grund av en slantsingling. Och lägg märke till att det inte hjälper att använda en kvant-slumptalsgenerator, t.ex. en Geiger-mätare som spyr ur sig bitar baserade på sub-atomära partiklars obestämda banor. Fundera på vad vi då skulle säga om B i det fall då B inte gör en rockad på grund av en enstaka nolla där det kunde ha varit en etta. Om kvant-slumpgeneratorn ger ifrån sig en nolla så gör B en rockad; om den ger ifrån sig en etta så gör B inte en rockad. "B kunde ha gjort en rockad" säger någon när ettan dyker upp. Ja, men B är inte friare för det. I en följd av partier där sådana här situationer förekommer, kommer B att göra en rockad i hälften av fallen, och inte göra en rockad i den andra hälften, oavsett om slumptalsgeneratorn är "äkta" eller "pseudo". Filosofen David Wiggins skrev en gång om determinismens "kosmiska orättvisa" men vår intuitionspump visar att indeterminismen är lika "kosmiskt orättvis". B är "utlämnad åt" sin slumptalsgenerator eller sin pseudo-slumptalsgenerator (Det är förstås A också; det är vi allihop.) Det finns ingen anledning att föredra den äkta slumptalsgeneratorn - om du inte planerar att spela schack mot en allvetande Gud, förstås, som kan skärskåda din pseudo-slumptalsgenerator och planera därefter!

Så, vi söker fortfarande efter en anledning att önska indeterminism. Kanske kan vi få all den fria vilja som är värd att önska sig utan att indeterminism spelar någon roll. Här är ett annat möjligt skäl:

Jag kan inte ändra det förflutna, men om världen är indeterministisk kan jag ändra framtiden!

Näpp. Ändra framtiden från vad till vad? Från det den skulle ha blivit till det den kommer att bli? Du kan inte ändra framtiden mer än vad du kan ändra det förflutna. Begreppet är oklart. Så:

Om världen är deterministisk så kan jag inte ändra framtiden, och om världen inte är deterministisk så kan jag inte ändra framtiden. Av detta följer att jag inte kan ändra framtiden.

Varför verkar det som om vi vill ändra framtiden? Därför att vi vill kunna förutse olyckor och göra något för att dessa olyckor inte ska inträffa. Och det kan vi göra, oberoende av indeterminism. Om någon kastar en tegelsten mot dig och du ser den och duckar så kan du undvika att bli träffad av tegelstenen. Bra för dig. Skulle kollisionen ha ägt rum? I en mening, ja, eftersom stenen tydligt var på väg mot ditt huvud, men eftersom du såg den (vilket orsakades av ljuset som studsade från den in i dina ögon där din din hjärna beräknade risken, vilket fick den att vidta handling), undvek du den. Om du hade velat undvika att undvika den (om något skäl till varför det faktiskt skulle vara bättre för dig att låta den träffa dig hade föresvävat dig), hade du förstås kunnat göra just det. En observatör skulle kanske inte kunna avgöra, förrän i sista ögonblicket, om du skulle bli träffad eller inte. Och om han hade slagit vad om att du skulle ducka så hade han förlorat. Vi är tillbaks till vårt skäl att vilja vara oförutsägbara, vilket inte kräver indeterminism.

Vad åstadkommer den här intuitionspumpen? Den tar den välbekanta frasen "kunde ha agerat annorlunda" och visar att den, i motsats till den utbredda men ogenomtänkta uppfattningen, i en viktig mening inte är beroende av indeterminism. Om det finns en betydelse av "kunde ha agerat annorlunda" som är både inkompatibel med determinism och moraliskt viktig - inte bara en metafysisk kuriositet - så återstår det att visas, och bevisbördan ligger på dem som tror att det är så. Ytterligare en "självklarhet" avslöjad som inte fullt så självklar trots allt.


---

1. I princip förutbestämd; möjlig att förutse.

2. Någon eller något som verkar i världen på ett till synes målinriktat sätt.

3. Egentligen en pseudo-slumptalsgenerator, vars värden i princip kan förutsägas.

4. En kompilator översätter ett program skrivet av en människa till instruktioner som en dator kan följa.

5. Att betrakta något (någon) som målinriktat, rationellt; som om det tror och önskar saker.

6. Den minsta enheten i en dators minne, vilken innehåller antingen 1 eller 0.


3 kommentarer:

  1. Intressant! Och visst är det lite lustigt att vi båda väljer just den 1 juli för att publicera varsin bloggpost, som visserligen är olika till innehållet men som båda mycket väl skulle kunna rubriceras Om Dennett, hans senaste bok och hans användning av schacket som fallstudie för att belysa svåra filosofiska frågor!

    SvaraRadera
  2. Ja. Jag var tvungen att kolla i efterhand att jag inte (endast / undermedvetet) hade upprepat delar av din text, och kunde med glädje konstatera att de kompletterar varandra mycket bra. Jag tänkte - men glömde uppenbarligen (det blev sent) - påpeka detta i en fotnot, och länka till dig, men detta har du ju nu åtgärdat. Mycket trevligt att samarbeta med er, herr Häggström! ;-)

    SvaraRadera