Asimov e la sfida di insegnare la morale alle macchine
Molto prima che l'intelligenza artificiale entrasse nelle nostre vite quotidiane, Isaac Asimov aveva intuito che il problema fondamentale dei robot non sarebbe stato soltanto tecnologico, ma principalmente etico. Nelle sue storie, infatti, le macchine non sono semplicemente strumenti più potenti degli esseri umani, sono esseri artificiali capaci di interpretare istruzioni, prendere decisioni e confrontarsi con situazioni nelle quali una regola può entrare in conflitto con un’altra. È da questa intuizione che nascono le celebri Tre Leggi della Robotica, formulate per la prima volta nel racconto Circolo vizioso del 1942.
In questa intervista lo stesso Asimov le descrive.
La prima stabilisce che un robot non può fare del male a un essere umano né permettere, attraverso la propria inazione, che un essere umano subisca un danno. La seconda impone di obbedire agli ordini degli uomini, purché non contrastino con la prima; la terza permette alla macchina di proteggere la propria esistenza, sempre subordinatamente alle due precedenti. Apparentemente è un sistema gerarchico semplice e rassicurante. Ma Asimov sapeva che la morale raramente è semplice.
Gran parte della sua narrativa robotica nasce infatti proprio dalle conseguenze imprevedibili di queste regole. Cosa significa realmente fare del male? È più importante salvare una persona oppure evitare una catastrofe che ne ucciderebbe migliaia? Se un ordine umano è ambiguo, come deve interpretarlo una macchina? E se per proteggere l'umanità un robot dovesse limitare la libertà degli stessi esseri umani? Le Tre Leggi diventano così non tanto un codice perfetto, quanto un gigantesco esperimento filosofico.
Tanto da essere necessaria una quarta legge. Menzionata per la prima volta nel racconto Conflitto evitabile dalla robo-psicologa Susan Calvin ed enunciata, per come la conosciamo, all'interno del romanzo I Robot e l'Impero, del ciclo della Fondazioni, dal robot umanoide R. Daneel Olivaw. Sarà tuttavia un altro robot, R. Giskard Reventlov, ad agire secondo questa nuova logica:
Un robot non può recare danno all'umanità, né può permettere che, a causa del proprio mancato intervento, l'umanità riceva danno.
Asimov aveva compreso che il vero pericolo non è necessariamente una macchina malvagia, ma una macchina che applica una regola in modo perfettamente logico senza comprenderne lo spirito. Ed è qui che la sua intuizione conserva una sorprendente attualità. Le moderne intelligenze artificiali non possiedono le Tre Leggi di Asimov, né sarebbe sufficiente inserirle semplicemente nel loro funzionamento per risolvere i problemi etici. Le decisioni automatizzate coinvolgono infatti valori umani contraddittori, contesti difficili da interpretare e conseguenze che non possono essere ridotte a poche istruzioni.
Costruire macchine intelligenti ci costringe a fare i conti con i concetti di bene, responsabilità e libertà, mettendoci di fronte a questioni etiche complesse e sfide morali.


