DESIGN FOR GOOD OR EVIL

Lo sviluppo recente della robotica ha portato alla creazione di robot sempre più avanzati, con corpi e abilità di movimento sempre più simili all’umano. Questo spesso induce ad aspettarsi che anche la capacità di collaborare sia simile a quella di partner umano. Al contrario, nei robot di oggi mancano ancora molte delle abilità sociali che per noi sono scontate fin dall’infanzia, come l’intuire il non detto, il comprendere da un’occhiata o un gesto lo stato d’animo dell’altro o il prevedere le sue intenzioni. E’ cruciale per il futuro dell’interazione uomo-robot che i robot diventino davvero più “umani” ossia acquisiscano un modello dell’essere umano che gli permetta di comprendere e prevedere le necessità, le intenzioni e i limiti del proprio partner, e che allo stesso tempo li guidi nella generazione di comportamenti che siano intuitivi e predicibili. A questo scopo un alleato importante nella ricerca potrebbe essere un robot umanoide, come strumento di misura innovativo che consente di analizzare in modo rigoroso e controllabile l’evolversi dinamico di un’interazione sociale.

Nella relazione vengono affrontate le tematiche relative alla prevenzione e al contrasto al cybercrime seguite dalla Polizia Postale. In particolare, in attinenza al binomio bene-male, si affronta il tema del Dark Web, che viene differenziato rispetto al c.d. Surface Web e al Deep Web in genere, con cenni relativi alla sua storia ed agli sviluppi che tale network ha subito nel corso del tempo, compreso lo sfruttamento delle piattaforma da parte di organizzazioni criminali (es. i Dark Markets). È utile parlare di lati oscuri del web perché la criminalità in rete, purtroppo, si sviluppa anche sul web in superficie, ove la Polizia Postale quotidianamente lotta contro i più svariati fenomeni criminali, dalla pedopornografia online sino all’Hate Speech. Il Web superficiale ed il dark web vivono anche momenti di contatto, come ad esempio nel mondo dei ransomware, la cui diffusione viene appaltata sul dark web ma contagia utenti che navigano all’interno del web superficiale. Come affrontare, dunque, anche in termini preventivi i rischi connessi alla navigazione in rete? La parola chiave è una sola: consapevolezza.

Il design coinvolge oggigiorno un numero sempre crescente di aree, compresa quella del diritto in una duplice prospettiva: da un lato, il diritto stesso richiede la progettazione di soluzioni e norme giuridiche (come nel caso della privacy o della protezione dei dati personali by design); dall’altro, le norme giuridiche sono sempre più incorporate in dispositivi, processi e meccanismi. In entrambi i casi, vi sono questioni etiche e sociali che vanno oltre la sfera del diritto e meritano di essere sollevate e discusse.

La sclerosi laterale amiotrofica (SLA) è una sindrome neurodegenerativa rara, con un’incidenza di circa 3 casi ogni 100.000 abitanti/anno, che colpisce in media intorno ai 60-70, a carattere progressivo, con una sopravvivenza media inferiore ai 36 mesi dall’esordio dei primi sintomi. Oltre ad una riduzione dell’aspettativa di vita, la patologia causa una progressiva perdita di ogni funzione motori e pertanto la perdita dell’autonomia, rappresentando un paradigma delle malattie neuromuscolari: oggi la ricerca sta programmando diversi interventi, una vera e propria ‘road map’, dalla scoperta delle cause e dei meccanismi patogenetici (tutt’ora sconosciuti), all’identificazione di terapie che possa modificare il decorso di malattia, ad interventi che possano migliorare la qualità di vita e consentire l’autonomia del paziente. In quest’ambito si inserisce il filone della ricerca di strumenti di Comunicazione Aumentativa Alternativa (CAA), da strumenti a bassa, media, alta e altissima tecnologia, come i sistemi a comando oculare, fino a sistemi di interfaccia computer-cervello. In questo ambito si inseriscono anche nuove possibilità che sfruttano il movimento di dilatazione e costrizione pupillare, di per sé governato dal sistema neurovegetativo, ma asservibile al controllo volontario con qualche stratagemma.

Gli ambienti intelligenti (Smart home, Smart building, Smart city, Smart car, …) vengono proposti come sistemi che aiutano gli utenti nelle loro attività quotidiane, andando loro incontro in modo trasparente ed intelligente, proattivo ed efficiente, evitando di infastidirli o di compiere azioni contrarie alla loro volontà. Gli ambienti intelligenti, basati su tecnologie IoT, hanno raggiunto una enorme complessità in quanto integrano sensori e machine learning, architetture distribuite ed interfacce tangibili, protocolli di comunicazione ed analisi dei dati, … Nella ricerca delle miglior soluzioni per la miriade di problemi che un ambiente intelligente deve gestire, i ricercatori del settore IoT si sono concentrati spesso sugli aspetti più tecnologici, dimenticando o abbandonando le aspettative, i bisogni ed i desideri degli utenti. Nel seminario ragioneremo sulle “mostruosità” che questa disattenzione agli utenti ha portato, sia dal punto di vista della ricerca che dei prodotti di mercato, e discuteremo sugli aspetti metodologici e progettuali che è necessario recuperare.

Le debolezze umane ed il design: le tecniche di persuasione nel progettare interfacce coinvolgenti che fanno perno su meccanismi innati, dai vizi capitali alle convenzioni sociali, per ottimizzare i risultati a vantaggio del proponente (il sito o il servizio online) e le conseguenti implicazioni etiche.

Lo studio dell’interazione uomo-macchina, nell’ultimo decennio, ha iniziato a porre l’attenzione su forme di interazione persuasiva, in cui uno dei due agenti coinvolti nel processo (l’artefatto) si pone l’obiettivo di “orientare” le azioni dell’utente in una direzione predeterminata. In questo intervento mostrerò come alcune delle tecniche utilizzate nell’ambito delle cosiddette “tecnologie persuasive” utilizzino alcuni, ben noti, bias cognitivi e possano essere sostanzialmente ricondotte a forme di ragionamento fallace (vale a dire: forme di ragionamento logicamente scorretto ma psicologiamente persuasivo). Mostrerò come meccanismi riconducibili a ragionamenti fallaci sono oggi utilizzati per progettare interfacce di tecnologie web e mobile, in domini che vanno dall’ecommerce alla propaganda jihadista. Concluderò il mio intervento mettendo in evidenza una serie di potenziali “pericoli”, dal punto di vista etico, legati all’utilizzo di questo tipo di progettazione.