
In questi giorni è uscito su Nova100 l’ultimo post di Luca Chittaro relativo alla Venice session di novembre e al suo intervento. Chittaro ha parlato di: user centric, computer mediated life, tecnologie persuasive, cyborg e machine etichs. Quest’ultimo aspetto che tocca dalla computer science alla psicologia, dalla filosofia all’antropologia, è stato da sempre molto discusso.
Che si tratti di fantascienza come delle ultime frontiere dell’avanguardia tecnologica, il rendere le macchine “intelligenti” ha da sempre affascinato l’uomo e il renderle “intelligenti” e antropomorfe, ancora di più. Il voler sempre andare oltre rappresenta un pericolo? Se sì, quale? Come si può ottenere quello che si vuole pur tutelandoci? Chi programmerà queste macchine? E Come?
… Quando ero giovane cominciai a provare uggia per tutti quegli ammonimenti, poiché mi pareva che un robot fosse una macchina, e pensavo che gli esseri umani costruivano macchine da molto tempo. E, dato che, in un modo o nell’altro, tutte le macchine sono pericolose, chi le costruisce inserisce sempre qualche opportuno dispositivo di sicurezza. … “
Le leggi della robotica, Domani!, I. Asimov, 1982
n.d.b. (nota della blogger) Consiglio anche nella stessa raccolta “farsi gli amici“
Certo quello che si può vedere e leggere non è sempre confortante, ad esempio credo che nessuno vorrebbe essere coltivato dentro una sorta di Matrix. Eppure anche se non ce ne rendiamo conto, robot “intelligenti” o quasi ci circondano e sono sempre più sviluppati, sempre più avanzati. Sempre più spesso ci troveremo di fronte a macchine capaci di esperire e reagire all’ambiente circostante, uomo compreso.
Già dal 2006 gli americani utilizzano in Iraq “Unità robotiche” a completamento delle “Unità Umane” (www.defenselink.mil) e c’è chi come Ronald Arkin sostiene che gli Human-oid poiché rispettosi delle direttive che gli sono state date possano essere arbitri migliori dell’uomo. Beh e queste direttive? Dovranno pur seguire un’etica? Esatto, queste direttive devono rispettare codici etici applicati sia nella progettazione, che nell’interazione uomo-macchina/macchina-macchina.
… Nella cuffia di ascolto Donovan la voce di Powell suonò tesa.
“Senti, proviamo a ricapitolare le tre leggi della robotica, quelle tre leggi che costituiscono il nucleo più profondo di un cervello positronico” con le mani guantate cominciò a contare sulla punta delle dita.
“Allora. Uno, un robot non può crear danno agli esseri umani, ne può permettere che, a causa del suo mancato intervento, gli esseri umani ricevano danno.”
” Esatto.”
” Due ” continuò Powell, “Un robot deve obbedire agli ordini impartiti dagli esseri umani tranne nel caso che tali ordini contrastino con la prima legge.”
“Esatto.”
” E tre, un robot deve salvaguardare la propria esistenza, purché ciò non contrasti con la prima e la seconda legge.” …
Circolo vizioso (Run around), I Asimov, 1942
Ecco ci troviamo completamente immersi in quella che viene definita Machine Ethics (M. Anderson, S. L. Anderson e C. Armen).
I robot, potrebbero trovarsi in condizioni di dover decidere? Se sì come dovrebbero farlo, con quali principi fondamentali, quali regole? Come dovrebbero comportarsi rispetto all’uomo? E in confronto al resto del mondo?
” Hello are you still playing the game? ”
” OF COURSE ”
” This is a game or is it real? ”
” WHAT’S THE DIFFERENCE?
YOU ARE A HARD MAN TO REACH. COULD NOT FIND YOU IN SEATTLE AND NO TERMINAL IS IN OPERATION AT YOUR CLASSIFIED ADDRESS.”
Worp “parla” con David
WarGame, 1983
James H. Moor distingue fra agenti etici impliciti e agenti etici espliciti, mentre nel primo caso avremo una macchina che risponde a qualsiasi fenomeno tramite l’utilizzo di comportamenti, norme, regole che le sono state attribuite nel momento della progettazione; nel secondo caso avremo macchine con la padronanza di principi etici, capaci di reagire in maniera autonoma, secondo la propria esperienza, capaci di calcolare la miglior soluzione attuabile in quel momento e spiegarne il perché.
” GETTING PROFESSOR FALKEN ”
” Hello. ”
” A STRANGE GAME.
THE ONLY WINNING MOVE IS NOT TO PLAY.
HOW ABOUT A NICE GAME OF CHESS? ”
Il Professor Falken parla con Worp
WarGame, 1983
Chi può decidere cosa sia giusto o sbagliato? chi può stabilire quale sia il giusto comportamento da seguire? Ogni giorno prendiamo decisioni, ma probabilmente un altro al nostro posto ne prenderebbe di diverse pur trovandosi nelle stesse situazioni. L’etica deve perciò essere profondamente strutturata per poter essere trasmessa ad una macchina. Deve essere chiara, e ad oggi ancora non lo è. Le teorie etiche sono molte e differenti fra loro. Gli studiosi della machine ethics ci danno tre buoni motivi per perseguire questa strada:
1. Lo studio su robot e AI(artificial intelligence) è già molto avanzato e in molte nazioni del mondo si sta sperimentando per cercare ad esempio di sviluppare macchine armate per la difesa e il relativo risparmio di vite umane sui campi di battaglia e sulle strade
2. Meglio avere robot “educati” che avere a che fare con l’Hal 9000 della situazione
3. La branca della filosofia chiamata etica, ha bisogno di essere studiata, approfondita e capita. I dilemmi etici devono essere sciolti e il divario fra etico e non etico deve sempre più ampliarsi fino a creare chiarezza su cosa è bene e cosa è male evitando di incorrere in errori di giudizio.