Vertumnus skrev:Moralen har som jag ser det framförallt två uppgifter. För det första att göra det möjligt att leva tillsammans; människan är ett flockdjur i den bemärkelsen att vi är direkt beroende av varandra för vår överlevnad. Vi behöver bara tänka på sådana sker som språk, idéer, värld, tradition, makt för att förstå den oerhörda styrka som kan utvecklas tack vare att vi har förmågan att leva tillsammans. För det andra för att i gruppen ge plats åt den enskilda människan - moralen (till skillnad från moraliserandet) måste tillåta en balans mellan den enskildes individuella behov och gruppens behov, dvs även åt det grundläggande mänskliga villkor som gör oss till individer.
Moralen är en produkt av evolutionen, av dels de speciella villkor naturen erbjuder gruppen och mot vilka gruppen söker göra sig gällande och av de speciella förhållanden gruppen erbjuder individen och mot vilka individen söker göra sig gällande.
Att moralen uppstått av de skäl du nämner betyder inte automatiskt att vi bör låta moral fortsätta ha den funktion den hittills haft, eller den funktion den tycks vara "avsedd" för (och den är egentligen inte "avsedd" för något. Evolutionen har aldrig några avsikter. Alla synbarliga avsikter (hos evolutionen) med sådant som evolutionen "tagit fram" är bara illusioner, som beror på att evolutionen med tiden tar fram mer och mer överlevnadsdugliga fenomen och att sådana tenderar att med tiden uppvisa stor likhet med avsiktliga mänskliga uppfinningar eftersom i båda fallen drivkraften är maximering av överlevnadsduglighet och eftersom två krafter med samma grundläggande drivkraft med relativt stor sannolikhet tenderar ge en utveckling åt ungefär samma håll med tiden).
Låt oss betänka hedersmoral, till exempel. Det faktum att hedersmoral är en väldig gammal företeelse och kan tyckas ha ett "syfte", sett till de evolutionära mekanismer som gallrat fram den, betyder inte att vi bör anamma hedersmoral i vår tid. Åtminstone inte om den får människor att döda oskyldiga människor på grund av att någon familjemedlem varit otrogen och liknande. Detta
även om det kanske varit överlevnadsfrämjande (för generna) att följa en sådan hedersmoral på stenåldern. Vi kan själva välja vilka sorters moral vi ska ha och inte ska ha, alldeles oavsett vilka "syften" moralsorterna i fråga från början hade i vår historia.
Att en artificiell intelligens skulle utveckla en moral liknande vår skulle därmed kräva att den underställdes betingelser som motsvarar de under vilka det mänskliga behovet av moral uppstått. Moralen är inget utilitaristiskt projekt, den är inte underställd nyttan, den bär en egen mening i det att den uppfyller ett direkt behov, nämligen behovet av moral.
Ju intelligentare en varelse är, desto bättre borde den vara på att komma fram till saker som: vad moral är, huruvida moral bör leva kvar och användas eller inte, huruvida det är möjligt att designa en moral som vore bättre än den vi hittills haft, och hur man i så fall gör det, och huruvida det är bra att göra det, etc. Alla sådana frågor kommer en AI med övermänsklig intelligens vara bättre lämpad att besvara än vad du och jag och andra människor är.
Moralen är inget utilitaristiskt projekt, den är inte underställd nyttan,
Det stämmer inte att, enligt utilitarism, "moralen är underställd nyttan". Nyttomaximerande följer av moral, och är alltså underställt moral. Inte tvärtom. Det är på grund av sin vilja till moral som utilitarister vill maximera nyttan; det är inte på grund av en vilja att maximera nyttan som de har en vilja till moral. Att påstå att "moralen är underställd nyttan" skulle för mig kännas lika bakvänt som att påstå att en kocks smaksinne är underställt kockens matlagning. Smaksinnet
kan visserligen måhända anpassa sig till maten man lagar, men det är väl rimligare att laga mat på så sätt att man anpassar sin matlagning till smaksinnet istället. Ordningsföljden när man blir utilitarist bör i stora drag vara följande: först konstaterar man att man vill handla rätt, d.v.s. att handla moraliskt, moral, är det grundläggande, utgångspunkten.
Därefter frågar man sig vad för sorts handlande som krävs för att man ska kunna anse sig handla moraliskt. Man kommer då fram till att det är maximering av nyttan som krävs för det. Maximering av nyttan är alltså, för en utilitarist, underställd moral. Inte tvärtom.
Vidare kan följande anföras till försvar för utilitarism som den bästa moralen. Det som rent neurologiskt gör att vi alls bryr oss om moral är att vi, vid åtanken på olika handlingsalternativ, känner olika mycket välbehag/obehag, och att vi i varje valsituation tenderar välja det alternativ som, vid vår åtanke på det, får oss att känna mest välbehag (eller minst obehag). De val vi betraktar som våra moraliska val avgörs alltså alltid av att vi söker maximera vårt välbehag och minimera vårt obehag. Därför ligger det närmast till hands att, i den mån man vill utsträcka moral till att, även i en mer absolut mening, gälla hur vi bör behandla andra än oss själva, ta fasta på just hur mycket välbehag respektive obehag olika val leder till, för andra, liksom vi i grunden tar fasta på detta när det gäller hur mycket välbehag respektive obehag vi själva känner i valsituationerna. Sådant som rättigheter, dygder, plikter, och andra föreställningar om vad som har moraliskt värde, bottnar till syvende och sist i huruvida och i vilken mån vi, vid åtanken på dessa saker, känner välbehag respektive obehag. Därför är det naturligt att se allt sådant (föreställningar om rättigheter, plikter, etc) som underställt en moral som har just välbehag och obehag som grundstenar - och en logisk sådan moral är utilitarism.
