Una nuova ricerca getta luce su come le persone decidono se il comportamento è morale o immorale. I risultati potrebbero servire come quadro per informare lo sviluppo dell’intelligenza artificiale (AI) e altre tecnologie. Il problema è il giudizio morale intuitivo, che è la decisione istantanea che le persone fanno sul fatto che qualcosa sia buono o cattivo, morale o immorale. Ci sono stati molti tentativi di capire in che modo le persone fanno giudizi morali intuitivi, ma hanno tutti dei difetti significativi. Nel 2014, è stato proposto un modello di giudizio morale, chiamato modello Agent Deed Consequence (ADC), e ora ci sono i primi risultati sperimentali che offrono una forte conferma empirica del modello ADC in situazioni realistiche mondane e drammatiche. Questo lavoro è importante perché fornisce un quadro che può essere usato per aiutare a determinare quando i fini possono giustificare i mezzi, o quando non possono. Ciò ha implicazioni per le valutazioni cliniche, come il riconoscimento di deficit in psicopatia e applicazioni tecnologiche, come la programmazione di intelligenza artificiale. Il giudizio morale è un argomento delicato. Ad esempio, molte persone sarebbero d’accordo sul fatto che mentire sia immorale. Tuttavia, molte persone sarebbero anche d’accordo nel dire che mentire ai nazisti sulla posizione delle famiglie ebraiche sarebbe morale. Per affrontare questo, il modello ADC afferma che le persone prendono in considerazione tre cose quando fanno un giudizio morale: l’agente, che è il carattere o l’intento della persona che sta facendo qualcosa; l’atto o ciò che viene fatto; e la conseguenza, o il risultato che è risultato dall’azione. Questo approccio ci consente di spiegare non solo la variabilità nello status morale della menzogna, ma anche il rovescio della medaglia: che dire la verità può essere immorale se è fatto maliziosamente e provoca danni. Per testare questa complessità e il modello, i ricercatori hanno sviluppato una serie di scenari che erano logici, realistici e facilmente comprensibili sia da laici che da filosofi professionisti. Tutti gli scenari sono stati valutati da un gruppo di 141 filosofi professionisti con formazione in etica. In una parte dello studio, un campione di 528 partecipanti allo studio provenienti dagli Stati Uniti ha anche valutato diversi scenari in cui la posta in gioco era costantemente bassa. Ciò significa che i possibili risultati non erano disastrosi. In una seconda parte dello studio, 786 partecipanti allo studio hanno valutato scenari più drastici, incluse situazioni che potrebbero causare lesioni gravi o morte. Nella prima parte, quando la posta in gioco era più bassa, la natura dell’atto era il fattore più forte nel determinare se un’azione fosse morale. Il fatto che l’agente mentisse o dicesse la verità contava di più, piuttosto che se l’esito fosse cattivo o buono. Ma quando la posta in gioco era alta, la natura delle conseguenze era il fattore più forte. I risultati mostrano anche che nel caso di un buon risultato (sopravvivenza dei passeggeri di un aereo), la differenza tra un’azione buona o cattiva, sebbene rilevante per la valutazione morale, era meno importante. I risultati dello studio hanno dimostrato che i filosofi e l’opinione pubblica hanno espresso giudizi morali in modi simili. Ciò indica che la struttura dell’intuizione morale è la stessa, indipendentemente dal fatto che si abbia una formazione sull’etica. Mentre il modello ADC ci aiuta a capire come formiamo giudizi su ciò che è buono o cattivo, può avere applicazioni che vanno oltre l’informazione sui dibattiti sulla psicologia morale e sull’etica. Ci sono aree, come l’intelligenza artificiale e le auto a guida autonoma, in cui dobbiamo incorporare il processo decisionale su ciò che costituisce un comportamento morale. Strutture come il modello ADC possono essere utilizzate come basi per l’architettura cognitiva che costruiamo per queste tecnologie, e questo è ciò a cui stanno lavorando al momento.

Daniele Corbo

Bibliografia: “Deciphering moral intuition: How agents, deeds, and consequences influence moral judgment” by Veljko Dubljević, Sebastian Sattler, and Eric Racine in PLOS ONE. Published October 1 2018.