Intelligenze artificiali: algoritmi sofisticati con difetti tutti umani

L’enciclopedia galattica definisce il robot un apparecchio meccanico destinato a svolgere il lavoro di un uomo. La divisione marketing della Società Cibernetica Sirio definisce il robot l’amico di plastica con cui è bello stare. La guida galattica per gli autostoppisti definisce la divisione marketing della Società Cibernetica Sirio un branco di idioti rompiballe che saranno i primi a essere messi al muro quando verrà la rivoluzione […]. Douglas Adams ci racconta di un universo in cui anche gli automi possono essere dotati di personalità, al punto da soffrire di depressione, come il Marvin di Guida galattica per autostoppisti.

Del resto, se a costruirli siamo noi, perché non dovrebbero assomigliarci, almeno un po’?

Simili a noi ma più veloci, produttivi e.. potenzialmente più pericolosi! Abbiamo già affrontato l’argomento dell’importanza di indirizzare lo sviluppo delle intelligenze artificiali verso scopi benefici e non certo verso la produzione di robot killer (non impariamo nulla, né dalla storia, né dalla fantascienza) ma questa non è la nostra unica preoccupazione di fronte all’avanzata delle macchine.

Il tema della disoccupazione tecnologica, per esempio, è al centro di un dibattito che ha attraversato gli ultimi 80 anni. Sabrina Mattia ce lo ha raccontato bene in una puntata della nostra rubrica sul tema lavoro. Se è prevedibile che i robot ci rubino il lavoro, è pure vero che ci sarà bisogno di nuove figure lavorative, proprio per far fronte al maggior impiego dell’automazione. Non dobbiamo, quindi, spaventarci se uno studio dell’ONU ha stimato che i due terzi circa delle attuali figure professionali potrà essere sostituito dagli umanoidi, che costano meno e, tendenzialmente, fanno meno errori.

Sul costo siamo d’accordo ma sugli errori quanto possiamo stare tranquilli?

In un articolo di Gordon Briggs e Matthias Scheutz apparso il mese scorso su Le Scienze, i due ricercatori riflettono sulla nuova realtà che ci si prospetta ed individuano il fattore di maggior pericolo proprio nella fallibilità umana.
Siamo noi che, volontariamente o involontariamente, tramite gli ordini impartiti, possiamo mettere i robot nella condizione di arrecare danno. Ribellarsi ad un ordine sarebbe difficile (ma non impossibile) per automi sottoposti alle famose leggi della robotica postulate da Asimov negli anni ’50 ma diventa una possibilità da valutare molto più attentamente nel mondo reale.

Le intelligenze artificiali devono essere programmate, quindi, in modo da poter valutare caso per caso se eseguire o meno le richieste degli umani. Questo avviene attraverso l’elaborazione di algoritmi basati su determinate condizioni di felicità, i fattori secondo i quali l’automa decide di compiere o meno un’azione. La sfida, secondo gli autori, è proprio questa: fornire al robot le informazioni e i processi per consentirgli di formulare un giudizio, fare in modo che non possa essere manipolato da un umano con cattive intenzioni o con scarso discernimento.

L’altra faccia della medaglia è altrettanto interessante: come reagiremmo noi se le macchine si rifiutassero di eseguire gli ordini? Se, per di più, avessero sembianze umane, saremmo sopraffatti dall’empatia o percepiremmo del pericolo?

La realtà di Westworld è così lontana?

Per quanto riguarda lo sviluppo tecnologico siamo già nel futuro che i più grandicelli di noi immaginavano soltanto, mentre leggevano i romanzi fantascientifici del secolo scorso. Il campo della robotica, di questi tempi, vede dei progressi straordinari che la maggior parte delle persone non immaginano neanche. Anche se, nel nostro piccolo, abbiamo tutti a che fare con algoritmi che imparano a conoscerci, come quelli che ci consigliano determinati prodotti in base alla nostra cronologia di navigazione su web. Facebook, per esempio, ha sempre utilizzato le intelligenze artificiali, per individuare gli interessi degli utenti e confezionare contenuti su misura per ciascuno, identificare soggetti nelle foto e indirizzare loro annunci pubblicitari mirati anche se, a volte, sbagliano, come dimostra il continuo affacciarsi di pubblicità di prodotti sportivi o di siti di casinò online nella mia home!

Il sempre maggior impiego delle intelligenze artificiali ci costringe ad una riflessione ulteriore sull’effettiva neutralità del comportamento delle macchine. Partoriti e scritti da esseri umani, gli algoritmi di apprendimento automatico sono in grado di imparare anche i nostri errori e pregiudizi. Anche se si parte con le migliori intenzioni.

L’apprendimento automatico è il processo attraverso cui gli sviluppatori addestrano un algoritmo dell’intelligenza artificiale con grandi quantità di dati relativi ad un determinato compito. L’algoritmo individua dei modelli nei dati forniti e consente all’IA di riconoscere modelli simili anche in dati nuovi. I dati iniziali, però, possono essere insufficienti, non eterogenei o, in qualche modo, deviati dall’operatore, inoltre gli algoritmi possono essere progettati male. In alcuni casi errori di questo tipo si sono rivelati imbarazzanti.

Inquietanti sono i risultati del progetto di Xiaolin Wu e Zhang Xi, della Shanghai Jiao Tong University. Dopo aver addestrato un algoritmo con migliaia di foto di criminali e non, l’intelligenza è stata in grado di identificare correttamente nelle restanti foto quelle dei criminali condannati. Gli autori stessi sono rimasti basiti dal risultato perché l’intenzione era di screditare ulteriormente la fisiognomica, non certo di farla risorgere! In ogni caso, va considerata sia l’eventualità del pregiudizi perché i criminali delle foto sono stati riconosciuti come tali da una giustizia fatta di esseri umani, suscettibili di valutazioni soggettive, sia l’evidenza che l’apprendimento comporta errori, negli uomini come nelle macchine.

Sbagliando si impara, anche per le intelligenze artificiali.

A maggio, a Singapore, si terrà l’annuale fiera internazionale dell’automazione ICRA 2017, ne vedremo delle belle. Stay tuned!

Quando imparerete voi umani che le razze sono tutte ugualmente inferiori ai robot? (Bender – Futurama)

Serena Piccardi

  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
0 Commenti

Lascia una risposta

©2017 virgoletteblog.it ideato da Filippo Piccini - Sito web realizzato da Riccardo Spadaro - Tema Wordpress: Kleo

Log in with your credentials

Forgot your details?