Dagens ord


Ansvar väger tyngre än frihet - Responsibility trumps liberty

24 feb. 2017

Fia med knuff

Guardian Science: Nudge Theory


Ångrar nästan att jag köpte Sunsteins nya bok (har inte läst den ännu). Som många amerikanska beteendevetare har han bra koll på mekanismerna men är så libertarianskt indoktrinerad att slutsatserna och åtgärdsförslagen blir ganska tandlösa. "Paternalism" är tabu; individen vet i slutänden alltid sitt eget bästa; och en osynlig hand sköter samordningen.

Brittiske Halpern, vid myndigheten (!) BIT - Behavioural Insight Team ("Nudge Unit") är riktigt skarp. Tänk att ha sådana statliga tjänstemän! Men även han undviker helst, eller väljer att inte se, konflikten mellan valfrihet och styrning.

Att flytta godiset från snabbköpskassan är OK, men inte att begränsa utbudet. Att märka cigarettpaketen är OK, men inte att ta bort dem. Tänk om någon faktiskt - överlagt - vill leva snabbt och dö ung? Who's to say otherwise?

Det förundrar mig att man kan veta så mycket om mänskligt beteende utan att också inse att vi är mycket flexibla. De praktiska och etiska problemen med att inskränka valmöjligheter är mycket mindre än motsatsen.

16 feb. 2017

Rationella trots allt

Burke sa att människor förtjänar handlingsutrymme i förhållande till hur väl de lägger band på sina drifter. Smith och Hayek framhöll att enskilda individer inte agerar rationellt i varje enskild situation.

Konservativa och liberaler drar olika konsekvenser av detta, men båda har fel. 

Hur formar vi ett gott samhälle? Genom att inrätta normer. Människor är först och främst  normföljare, och samhället, enligt David Lloyd George, är en smälta varpå man kan man prägla nästan vad som helst så länge man gör det med fast hand och beslutsamhet.

Vi är definitivt rationella nog att tillsammans utforma goda normer och institutioner - ramverk för deras efterlevnad.

Men vi låtsas att vi inte är det.

11 feb. 2017

Arv och miljö

Föräldrar påverkar inte sina barn (Arpi, SvD 9/2 -17)

Personligheten, alltså. Men glöm inte: Även om vi inte kan påverka personligheten så kan och bör vi definitivt påverka beteendet. Både genom uppfostran och samhällsinstitutioner. 

Även om jag verkligen gillar Henrichs bok, The secret of our success: How culture is driving human evolution, domesticating our species, and making us smart (2016) och förstår varför den har fått sin titel, så tyckte jag redan innan jag började läsa - och tycker fortfarande - att den (titeln, alltså) är olycklig och tvetydig.

Boken skulle nästan lika gärna kunna heta "The Secret of Our Current Failure" i stället. I stora stycken går den att läsa (inget Henrich gör själv, nota bene!) som en lista på argument för en mycket konservativ inställning: Vi människor begriper inte den förborgade visheten i traditioner och institutioner, och rationalistisk hybris är kontraproduktiv, särskilt som vi själva i första hand utvecklats till troskyldiga imitatörer snarare än objektiva optimerare.

Alltså: Pilla inte med omfördelning och social ingenjörskonst för att åtgärda situationer som t.ex. den som beskrivs i artikeln The Big Reason Whites Are Richer Than Blacks in AmericaInheritance matters a lot more than previously thought (Bloomberg, 8/2 -17; tack för tipset, Kimmo!): Den existerar troligen av en god anledning. I vilket fall kan den inte förbättras annat än genom tidens stilla gång.

Fast sådana argument lider ju av samma problem som gammal "hederlig" socialdarwinism.

Ett modernt exempel: Nyligen lyssnade jag på Jordan Peterson (på Sam Harris podcast) som talade sig varm för något han kallade "darwinistisk sanning" - något som uppenbarligen skulle vara bättre än den postmodernism han vände sig mot. Det enda jag kunde få ut av närmare tre timmars pladdrande var att den enda "objektiva" sanning som står till buds vid någon enskild tidpunkt är segrarens sanning. Den segrare som koras först någon gång i framtiden genom att då visa sig vara (ensam) herre på täppan. Hepp!

Henrich själv drar, som sagt, inga sådana växlar. Men han är mycket tydlig med att både en förutsättning för och en konsekvens av kulturell evolution är individer som accepterar traditioner, trosföreställningar och auktoriteter och som inte i alltför stor utsträckning ifrågasätter och på eget bevåg försöker kortsluta en långsiktigt gynnsam (causally opaque) institution eller utveckling genom självsvåldig kortsiktig "optimering".

Sådana resonemang liknar och kan användas som argument för en konservativ politik. Det finns å andra sidan massor av saker i Henrichs bok som kan åberopas av progressiva rationalister.

Henrich skriver t.ex. om extremt omständig matberedning som - utan att någon förstår det - inbegriper ett eller flera verksamma och viktiga steg (ingen vet vilka eller varför). I extremfallen visar sig inte fördelarna med dessa steg inom en eller flera generationer. De kan alltså inte motivera beredningsprocessen för de individer som utför den. Detta görs i stället med ex. tabun, traditioner, ceremonier, myter etc. Även i fall där individer kan kringgå sanktioner och därmed lockas att "rationalisera bort" till synes ej nödvändiga steg, finns ett selektionstryck mot sådan "intellektualism" eftersom den på sikt leder till sämre resultat och dessutom till att värdefull ackumulerad "visdom" förloras.

Jag gjorde liknande reflektioner kring flera andra exempel i boken, t.ex. sådana som hade att göra med följande av prestigefulla individer - härma allt!. (Tack, Patrik, för att du pressade mig på ett förtydligande.)

Men, återigen, Henrichs bok är en pärla.

While most evolutionary researchers agree that intergroup competition, especially in the form of violent conflict, was probably part of life in ancient hunter-gatherer societies, there are two main alternative views regarding how this competition influenced our genetic evolution. The canonical view, staunchly defended by the psychologist Steven Pinker, is that intergroup competition plays no role in shaping either genetic or cultural evolution. An alternative view, recently reenergized, is that intergroup competition shaped not cultural evolution - as I argue - but genetic evolution. Under this view, warfare and differential extinction drove genetic evolution and shaped human nature directly (Haidt 2012, Wilson 2012, Wilson and Wilson 2007, Bowles 2006). The first view is contradicted by evidence showing that intergroup competition leads to the differential spread of certain cultural traits, including both social norms and technologies. Intergroup competition also helps account for the intricate and subtle institutions we commonly observe across the diverse societies that expand and sustain cooperation. Adherents to the canonical view are stuck arguing that yes, intergroup competition was common, but no, it somehow never influenced which social norms or practices survived, were copied, and spread. You've now only seen the tip of an iceberg of the evidence showing the importance of intergroup competition for cultural evolution (Richerson et al.. forthcoming). For Pinker's view on group selection, see http://edge.org/conversation/the-false-allure-of-group-selection. However, be sure to read my commentary on Pinker's piece at the same site. 
The other view, that intergroup competition has directly shaped human genetic evolution, need not conflict with what I'm focused on here. However, there are a couple of reasons to suspect that the direct role of intergroup competition on genetic evolution is, at least, secondary to the process I'm describing, and possibly trivial. Here's the key: for intergroup competition to have any effect on evolutionary processes, be they cultural or genetic, groups have to remain relatively distinct along whatever dimensions are providing some groups with competitive advantages over others groups. For social norms, this is easy to see. If I move into your group from another group, my kids and I have to adopt your kinship and marriage norms. If we don't, my kids either won't have any relationships (which govern helping, food sharing, sex, trade, etc.) or they will be doing all the wrong things (norm violations). They might, for example, repeatedly make Kula's mistake and violate an incest taboo by sitting near the wrong girl or boy, which will get them sanctioned in some way. However, for genes, if people from different groups have sex, the relevant genetic differences between the groups will quickly go away. Either they initially advantaged groups will get the "bad" genes from the disadvantaged groups, or the disadvantaged groups will get the "good" genes. This genetic mixing means the groups will become increasingly indistinct. The point is, cultural evolution can sustain differences between groups in a manner that genetic evolution cannot. Exacerbating this genetic mixing is the fact that human-style intergroup competition often increases the flow of genes between groups. Victorious groups in warfare frequently take the younger women and girls from the defeated groups as "wives" - in fact, access to "wives" is often the explicit reason why men from one group attack another. This creates a big inflow of genes from the losers to the winners. Or, in the absence of violence, it's still the case that men from more successful groups look for, and often find, their future wives (or short-term mates) in less successful groups. This again causes genes to flow rapidly into the more successful groups - which will wipe out the genetic differences between the groups. The couple's children might adopt all of their father's social norms, by living in his community, but no matter what, they retain half of their mother's genes. This, and other forms of differential migration, deplete genetic differences among groups while not reducing cultural differences. Data on genes and culture from the modern world confirm these stark differences, with many genetically indistinguishable groups remaining culturally quite different; see Bell, Richerson, and McElreath 2009 for analyses of genetic versus cultural variation. More generally, see Henrich 2004a, N. Henrich and Henrich 2007, and Boyd, Richerson, and Henrich 2011b. 
Beyond this, our species' capacity for large-scale cooperation is tightly hinged to the presence of culturally evolved reputational and sanctioning systems, and on internalized social norms. Thus, the psychological evidence regarding human sociality and morality is most consistent with innate mechanisms adopted to a culturally constructed world (see chapter 11). It's difficult to square this empirical evidence with either of the alternative views described above.

Henrich, The secret of our success, p. 356-357. 

26 jan. 2017

Den fantastiske Mr. Knight




Läs det välgjorda och tankeväckande reportaget i senaste numret av magasinet Filter (#54, 26/1 2017)!

Det här var mina egna intryck av Mr. Knight, efter ett föredrag i kommunal regi 2012. Jag vågar påstå att det, även utan vetskap om mannens egentliga bakgrund, var uppenbart att något var fel. Och inte bara - eller ens främst - på föreläsaren själv...




---

Uppdatering 22/2 2017: Mediefavoriten som föll (P1 Medierna, 18/2 -17)


22 jan. 2017

What is true?




It is painfully ironic that a deeply conservative person can accuse the left of having abandoned rational discussion and the pursuit of solutions to political problems - and rightly so. As if the right has ever been interested in participating!

But this is what postmodernism has accomplished. The left has truly f**ked itself. In the post-truth society, cynical right-wingers can plausibly claim the rational, if not the moral, high-ground.

The irony deepens when said conservative then goes on to present his own brand of relativism, calling it "pragmatism" but essentially advocating a medieval world-view.

I was prepared to believe Peterson's initial description of the current goings-on in Canada and at his university. So initially he came across as a defender of reason. But then it became clear that he's not interested in reason as such but rather in cementing traditional gender roles as part of his religious conservative agenda.

2 jan. 2017

Termodynamik och civilisatoriska narrativ

Pinkers senaste text för Edge har delats flitigt de senaste dagarna.

Alla livsformers slutgiltiga mål är att kämpa mot en ständigt ökande entropi, genom att utnyttja energi och information för att bygga nischer av ordning. Eftersom sannolikheten för gynnsamma konfigurationer är så liten är det naivt att skylla mindre gynnsamma konfigurationer på otur, dumhet eller oskicklighet - eller att ens tro eller hoppas på möjligheten att uppnå eller bibehålla sådana konfigurationer. Men vi borde åtminstone försöka.

Konservativt?



Civilisatoriska narrativ:

I. Kretslopp. Genom att inte rubba balansen i ett ekosystem kan det förbli en evighetsmaskin så länge som stjärnljus tillför ny energi utifrån. Naivt? Trädkramande ter sig kanske något mer realistiskt om man räknar alla livsformer som medskapare.

II. Slocknande stjärna. Vi lever i en ström av stjärnljus. Studsar som pingisbollar på en vattenstråle. Tunga skovelhjul driver vårt tivoli. Strömmen avtar sakta i styrka och tar slut en dag. Studsa så länge den varar!

III. Escape velocity. Oavsett hur mycket energi som tillförs utifrån fortsätter oordningen att öka i vår närhet. Vi bidrar både till att öka den och till att motverka den, men nettoeffekten förblir negativ. Kan vi skapa en så kraftig koncentration av ordning, innan möjlighetens fönster stängs, så att åtminstone några av oss kan migrera till ett nytt system? Kan vi trampa oss ur träsket?

IV. Kapplöpning. Vi kan inte enas om vilket civilisatoriskt narrativ som bäst beskriver vår existens. Även om vi vore överens skulle varje satsning innebära en chansning. Olika gruppers strävanden motverkar varandra. Kommer någon grupp i slutändan att rädda de andra? Om inte, beror det i så fall på bristande samordning eller på teoretiska eller empiriska gränser och tillfälligheter?



30 dec. 2016

Sanningssägande som politiskt ställningstagande

En av de bättre texter jag läst på sistone. (Och inte den första av just Rider.)

Att se allt sanningssägande som politiskt ställningstagande undergräver demokratin

Sharon Rider

Tidskriften Respons 6/2016




Elitism behöver inte innebära konflikter mellan samhällsklasser eller intressen. Man kan mycket väl ha ett öppet, välfungerande, frihetligt och i materiellt avseende relativt jämlikt samhälle som är meritokratiskt i sin styrning, i sitt utbildningssystem och i det offentliga samtalet. 
Problemet med den elitistiska hållningen uppenbaras när det upplysta tänkandet kopplas till vissa ideologiska värderingar, såsom dessa kommer till uttryck i bland annat det som kallas ”politisk korrekthet”. En sådan koppling underminerar nämligen den politiska legitimiteten i idén om meritokrati vars grundpelare utgörs av en helt annan koppling, närmare bestämt kopplingen mellan expertis och opartiskhet. När man utser kommittéer och myndigheter för att kontrollera efterlevnaden av ideologiskt laddade idéer såsom ”normkritik”, ”mångfald”, ”internationalisering”, ”konkurrenskraft” med mera, har man per definition tagit parti för en viss uppsättning värderingar som anses oantastliga, samtidigt som man låter denna uppsättning värderingar utgöra kompetens- och behörighetskrav för olika former av professionell expertis. Den som ifrågasätter värdegrunden är därmed i behov av kunskap, upplysning och information, vilket tillhandahålls av ”experterna”.

---

”Massorna” för Ortega, är inte arbetarklassen, eller ”folk ute i stugorna”, utan människan när hon ”upprepar sig” som generisk typ, och som sådan är hon alltid motsatsen till minoriteter, som per definition inte tillhör detta genomsnitt. Den minoritet som Ortega är mest intresserad av är de individer som ”ställer höga krav på sig, samlar på sig svårigheter och förpliktelser”, till skillnad från den stora majoritet av människor som inte ”kräver något speciellt av sig själva, utan för vilka livet i varje ögonblick är att vara det som de redan är, utan att anstränga sig med att sträva mot fulländning”. Han säger explicit i början av essän att det inte finns någon enkel överlappning mellan sociala eller ekonomiska klasser, mellan ”högre” och ”lägre” klass i politisk eller sociologisk mening. Han tänker sig snarare att den moderna demokratin i sin begynnelse var stärkt av en passionerad respekt för lagen och dämpad av en stor dos liberalism, där en pluralitet valde att leva ihop trots stora svårigheter. Genom att knyta an till dessa principer av trohet mot lagen och kärlek till frihetlighet, utövade medborgaren en sträng självdisciplin i umgänget med andra medborgare: ”Under skyddet av liberala principer och rättsäkerhet kunde minoriteter leva och agera. Demokrati och lagen – ett gemensamt liv under lagen – var synonymer”.

---

Men, skulle man kunna invända, kan inte detta lösas genom massutbildning? Möjligen, men det har visat sig att det som massutbildningen har gjort på senare år är i stort sett att instruera massorna i det moderna livets tekniker; de har fått verktyg, men ingen förståelse för den tradition som möjliggjorde dessa fantastiska instrument och resultat, inklusive de demokratiska institutionerna själva. Betoningen på nytta och tillämpning i avsaknad av en grundläggande förståelse av de kulturella förutsättningarna för vetenskap, dess historia, dess teoretiska övervägningar och grundvalar, innebär att studenter strängt tagit inte förstår hur man går tillväga för att tänka eller tänka ut något nytt. De bara tar för givet att de idéer och tekniker de lär sig bara ”är så”. Utan insikt i deras möjlighetsbetingelser, blir hela vår livsform och den vetenskap och kultur den bygger på bara något ”givet”, något som bara finns där för att garantera våra rättigheter och tillfredsställa våra behov – utan att förpliktiga till ansträngning, självbesinning och eftertanke. Det innebär att varje individs instinkter, åsikter, lustar, preferenser och smak är i sin ordning precis som de är och de ska inte behöva möta något egentligt motstånd. Inget ska inhibera individens självbild och självuppskattning, hon har redan allting inom sig, då rättigheterna redan ligger framför henne som fallfrukt, utan att hon behöver åstadkomma något med egen tankeverksamhet. I sin utbildning blir individen intellektuellt passiviserad snarare än aktiverad

---

Ortega målar fram en bild av en människa som uppfattar livet som blott givet, utan inneboende begränsningar, vilket ger henne en känsla av segervisshet; hon anser att hon varken i intellektuellt eller moraliskt avseende är i behov av förbättring, nyansering eller komplettering. Hon är i allt väsentligt tillfreds med den person hon är, och ser ingen anledning att lyssna på andra, att ta in ”främmande element”, såsom argument från andra utgångspunkter, att låta andra bedöma sina åsikter, att över huvud taget ta i beaktande andra vilkas idéer, preferenser eller utgångspunkter inte passar in med sin egna. Dessa karaktärsdrag leder till en inställning att hon är i sin rätt att påtvinga andra sin vilja och sina ståndpunkter utan begränsning. Denna inställning, menar Ortega, är själva motsatsen till frihetlighet i alla dess former, vilken bottnar i en disciplinerad vilja att leva med andra och ta andra i beaktande. Så fort massans inställning blir styrande har demokratin degenererat till barbari.

---

Arendt ser denna tillbakagång bland annat som ett resultat av att man har blandat ihop två väsensskilda samhälleliga roller, den mellan styrning och undervisning. Om politik kräver att vi betraktar och behandlar varandra som likar i egenskap av myndiga, kräver själva idén om undervisning att eleven och läraren inte är lika med hänsyn till det som ska undervisas och läras. I det avseendet är bildning irrelevant för politik, om inte syftet är att råda bot på brister i tidigare skolning. Skälet till att elever, de som är i inlärningsstadiet, inte kan eller bör delta som likar i beslut rörande politiska ställningstaganden är att de ännu inte har kapaciteten för ett sådant deltagande, men de är i färd att tränas till det. Innehållet i utbildningen borde vara just en sådan förberedelse. Den auktoritet som krävs av lärare, föräldrar och förmyndare är alltså politiskt irrelevant, samtidigt som den är absolut nödvändig om den kommande generationen ska vara i stånd att bli politiska medborgare.

---

Humanisten ska enbart säga, ”så här ser världen ut”, oavsett vad du eller jag tycker om det. När den humanistiska läraren visar vad som är eller har varit fallet, oavsett om det faller i god jord eller inte, lär hon även ut sanningssägande som sedvana. Det är denna sedvana som ger omdömesförmågan tillfälle att uppövas och utvecklas.

28 dec. 2016

Factual Disagreement and Political Legitimacy

These were my thoughts on a draft of the following article.

Fact-dependent policy disagreements and political legitimacy

Klemens Kappel, November, 2016

Forthcoming in Ethical Theory and Moral Practice





We can try to define legitimizers in terms of truth or ideal rationality, but we will disagree about whose views are true or rational. We might suggest that factual views admissible into the process should at least be epistemically reasonable, but this permits too diverse factual views. Hoping for a convergence in policy choices will often be indeterminate. Deciding upon policy options on the basis of the intersection of our factual  beliefs may prove unable to yield sensible decisions. We can appeal to procedures such voting, but we will likely disagree about when voting is a non-arbitrary procedure. We can defer to experts, but may then be unable to settle who the proper experts are. Finally, we might delegate the task of selecting the proper factual basis for contested policies to elected decision-makers. This option, I suggest, really denies the idea of partially procedurally independent correctness in fact-dependent policy disagreements.
(p. 34)


Can a policy disagreement be purely fact-dependent? What about the error-theories that Affirmers and Deniers hold? Will they not necessarily come into play in deciding how to proceed? And will they not also in themselves hide some value-dependent or normative component?

Are the two groups agreed on when one ought to suspend judgment? To be considered "fully rational", do they not need to converge on the same epistemic principles? (This seems related to the Uniqueness Principle discussed on p. 20.)

"...very diverse background beliefs, making it rational for them to adopt incompatible epistemic principles, trust different authorities, or interpret the shared evidence in disparate ways"

Are these not normative issues? Is there such a thing as observation without theory?

The characterization of being epistemically reasonable, on p. 22, does not mention competence or completeness. What is to be considered "apparent mistakes", and who is to judge? In relaxing the demands on individuals from being perfectly rational to being merely reasonable, do we not implicitly allow also for value-dependence?

The Distinctness Requirement (for legitimacy in value-dependent disagreements) separates the property of being legitimate from the properties of being morally right or just (by relying solely on agreed-upon institutions and procedures). This makes truth and perfect rationality implausible candidates for legitimizers from the start. And what else, other than values, can result in "reasonable views [which] are not mutually exclusive"? The only answer I can think of lack of time or resources to uncover a crucial (uncontested) fact X, and/or to resolve (mutually recognized) ambiguities.

In situations with more than two parties, the Convergence criterion, as well as the Common ground criterion would also fail to meet the Determinateness Requirement due to Condorcet's paradox.

"...abandoning that idea of correctness, and instead adopting a procedural view of correctness, according to which outcomes regarding P-dependent policies as whatever outcomes we end up deciding upon in a fair process" (p. 33) does seem "close to the political culture that we actually can observe in many democracies". But even if we accept (procedurally) collapsing the difference between facts and values, there is still the problem of agreeing on a "fair [democratic] process", if there is one, and of maintaining it.

"...the methods and conclusions of science when these are not controversial.'" (p. 36). Nowadays it seems as if science, in itself, is considered controversial, and that this attitude towards science is accepted as reasonable or at least not disqualifying. This makes appeals to scientific consensus (or majority) normative, thus creating the same kind of imbalance as action/non-action and coercion/non-coercion. Even if this was not the case, e.g., if we could all agree to defer to a (designated and agreed-upon) scientific body for legitimacy, what would then constitute "controversial" cases? Perhaps cases where the scientific community is split roughly in the middle? I guess that would create a microcosm in which the same problems would reappear.

"...if no legitimizers are applicable, say because of the problems identified above, then policy choices will have to be made on other grounds, say on grounds of expected utility, or direct concerns for rights or fairness" (p. 39). Yes. But this will almost certainly involve conflict, at least initially.

25 dec. 2016

Artificial Moral Agency

Today I read and commented on this draft by Behdadi & Munthe.

Artificial Moral Agency: Reviewing Philosophical Assumptions and Methodological Challenges

I left my comments (87 of them) to the authors as annotations directly in a copy of the PDF-file. Below, I supplement those comments with some additional thoughts that have transpired since then.

---

Machines and morals

Here are some thoughts ”off the cuff”, loosely related to your paper, a few days after having read it (once).

First of all, I found most of the texts quoted in the paper quite confused, especially those that appear in the first part.

I guess that was the point: 1) to demonstrate the current state of discourse; 2) to point out that it lacks and needs more rigor; 3) to reason that it is possible to make it more rigorous; 4) to show this by giving some examples.

Are there other, better, examples in the field so far?

Further aims could be to 5) present a (complete) framework for (every future contribution to) the discourse; and 6) to present (fictive) examples of how such contributions would / should be structured. This would likely also include 7) a tighter connection to (the volumes of) previous work in philosophy not dealing explicitly with (only) artificial entities (but instead mostly concentrating on humans).

Having come that far, one could also 8) evaluate previous texts on how well they fit in to your framework, or even how clearly and how exhaustively they present their own explicit framework. You could also 9) suggest your own concrete answers to each question in your framework.

Anyway, I would suggest restructuring the paper in a more constructive way: Begin with your contributions; your framework; your suggestions. Only then, exhibit and discuss (snippets) of other texts, and show how they fall short, by not adhering to your framework.

For most texts, those that seem far from fitting into the framework, this discussion should probably be limited to isolated details (lest it gets out of hand). Hopefully you can find other texts that either explicitly presents something relatively close to your framework, or can be interpreted to fit more or less within it.

Now what do I mean by framework, exactly? Well, it seems to me that there are several, interrelated concepts and questions here, many of which are often left unstated. My immediate instinct is to draw up a (multidimensional) matrix (no pun intended) to clarify any and all possible combination of (potentially) relevant factors.

For simplicity, I assume that all concepts are binary, that is, they either apply or they don’t (0 or 1) - there are no intermediate states. All relevant concepts are listed in some fixed order, yielding an index. Then, any combination of positions with regard to these concepts can be represented by a vector of length n, where n i s the number of relevant concepts, yielding 2^n possible combinations. (Some pruning can probably be done, I’m sure, as some combinations are too unlikely.)

A vector could, for instance, be regarded as answering one of two questions: What does it take to be a moral agent? What does it take to be morally responsible? Who (if not the agent itself) is responsible? (There are other ways of using and interpreting the matrix.)

The first thing one should ask of any contribution to the field is: What is their vector? Many will not have have filled in every slot with either a 0 or a 1. They should! Some may be able to do so, but haven’t yet done it explicitly. They should!

The next step is to ask each contributor why some slots are filled but others are not. Is there a reason that some slots have a specific value, and how (if at all) does it relate to other slots? This line of questioning will, in effect, tease out both (a) the assumptions and (b) the reasoning behind the position of the contribution.

One could, for instance, take the position that no artificial (made by humans) entity could ever be conscious (regardless of how it is built) as an axiom; and reason from there that conscious entities are (or are not!) always moral agents. Etc.

Concepts: artificial, autonomous, embodied, physical, complicated, hardware, software, implementation-independent, biological, mechanical, material-independent, (classically) computable, Turing-equivalent, quantum, planning, problem-solving, deciding, anticipating, rich world-model, input, output, adjustable, self-adjustable, learning, opaque *, thinking, intelligent, conscious, free will, ability to accept praise or blame, ability to cause or feel pain, remorse or pride (qualia), action, physical, virtual, relating to humans, (moral) agency, (moral / legal) responsibility, justice: retributive, corrective……..

(* I’m thinking here of, e.g., self-learning software that develops large and complex ”neural” networks which encode say, accurate face recognition. It is impossible for the developers or anyone looking ”under the hood” to anticipate, interpret or understand that ”knowledge” once it is developed by the system. Another example is so called evolutionary algorithms.)

Questions and relationships: The list of concepts (above) is not complete, and different authors may emphasize different things. Some will focus on the details of one or more of these concepts and develop further distinctions. But I think it is a good idea to strive for, and to try to interpret, any position (vector) as the result of (i) some axioms and (ii) reasoning. Doing so allows one to categorize different positions. Examples of axioms could be: autonomous (in some specified sense) entities have (moral) agency; no artificial system could ever be conscious;  a creator of a tool is always (or never!) morally responsible for its uses…….. Examples of reasoning could be: any entity that violates rules which it demonstrably has the ability to access and follow is morally culpable of neglect, regardless of implementation - thus, our dog is morally responsible for biting the neighbor's daughter; There is no such thing as ”free will” since everything is determined - thus the lunatic who shot 15 people cannot be blamed for what he did (but we should imprison him anyway)……..

Common / accepted positions in discussions of non-artificial entities: I guess your work as a philosopher is first and foremost to develop a solid framework for discussion. Once that is done, philosophers, computer scientists, cognitive psychologists and everyone else can present and discuss their positions effectively and efficiently. I am not a moral philosopher but I suspect that much (most?) of this work has already been done, when it comes to non-artificial agents, that is, humans. I also suspect that most, if not all, of the discussion concerning artificial agency is (merely) an extension of earlier work. My hunch is that is more like the top of an existing iceberg, rather than a new iceberg unto itself. My feeling when reading some of the quotes in your paper was that the discussion was (a) unclear with regards to unstated assumptions, but also that it (2) seemed to run ”in parallell”, as it were, to traditional ethics, effectively neglecting to position itself firmly within an existing framework and then extending it (only) as needed to handle also artificial entities.

Your own stance: Is not strictly needed, of course, but it would be nice to see you developing your own position within the framework you develop and propose. It would serve to illustrate the framework itself, but also actually exhibit a coherent and hopefully practically useful stance towards the issue, from which concrete measures may be inferred.

My stance: The comments I wrote in the PDF-file were probably not all that helpful, since I made the mistake of mixing constructive thoughts on the article’s disposition with critiques of the various quotes from my own (unarticulated) position. Sorry ’bout that.

For what it’s worth, I find most of the non-functional discussion uninteresting - regardless of whether it pertains to human or to artificial intelligence, consciousness etc. My own background in comp. sci. has left me highly skeptical of anything OTHER than a computational theory of mind (CTOM) and I find most people, including philosophers, acting on what is really nothing more than a sense of entitlement and disgust when they exclude features such as intelligence or consciousness from non-human entities. Most don’t even do a good job of rationalizing their position from already preconceived notions. And most don’t present, or even feel the need to present, proper reasons for assigning humans a unique (and unattainable) position.

From my perspective, ”intelligence” would amount to something like flexible goal-attainment. ”Consciousness”, to the extent that is even ”a thing”, is probably a bi-product of certain (but not all) sufficiently complex computational systems; to the extent that you count qualia as (a necessary) part of consciousness, they may be (possibly necessary) means to effect certain (more or less crucial) actions.

To my mind, neither intelligence nor consciousness is needed for agency. Intelligence (in a limited sense), but not consciousness, is needed for responsibility. I’m not sure about the significance of putting the word ”moral” in front of ”agency” or ”responsibility”.

”Free will” is conceptually hollow, regardless of whether it pertains to humans or artificial agents, and regardless of whether you assume a deterministic or a non-deterministic world-view: If actions are ”free” in the sense of being uncoupled from any or all causality, then they are more or less random and as such they cannot be ascribed to an agent, even if they emanate (in some sense) from that agent.

I assume a deterministic world (for now). For me, that implies that not even humans, ultimately, can be held responsible for their actions. Moral responsibility may be a conceptual impossibility, but (for now) we seem to need at least legal responsibility in order to reason about and arrange our societies. I am not convinced of Dennett et al’s brand of compatibilism, but I am open to the possibility of defining a coherent notion of ”volitional  action” for which it makes (the best possible) sense to assign legal responsibility.

Such responsibility hinges on an agent’s capability of building and adhering to a model of rules for action, as well as the capability of adapting its behavior in accordance with ”praise” and ”blame”. This does not necessarily involve corresponding feelings or states of ”shame” or ”pride”.

When it comes to foresight (planning, ”imagination”, theory of mind…) I note that humans are capable of only limited foresight when it comes to the consequences of our actions. There seems to be no clear way of drawing the line for what constitutes a sufficient amount of foresight, in order to meet out responsibility.

---

See also: Dark programming and the case for the rationality of programs

Against Empathy

Paul Bloom har ett viktigt budskap.