Seldonian, l’etica per i robot

Una delle grandi paure dell’umanità è che i robot possano ribellarsi all’uomo, scatenando una guerra contro il proprio creatore. Previsioni catastrofiste in questo senso sono state fatte persino da santi laici del mondo scientifico come Stephen Hawking, Elon Musk o Claude Shannon, padre della teoria dell’informazione.

Per evitare tutto ciò, gli scienziati si stanno concentrando nel creare un’intelligenza artificiale dotata di etica. Ovviamente, però, un robot non può acquisire il concetto di etica, perché ciò presupporrebbe il libero arbitrio. La soluzione è quindi creare degli algoritmi specifici che ne indirizzino i comportamenti seguendo criteri vicini a quelli umani.

Questa è anche la missione dei ricercatori della University of Massachussets Amherst, che in uno studio appena pubblicato sulla rivista Science hanno descritto un metodo per prevenire i “comportamenti indesiderati” dell’IA. Si tratta di una serie di algoritmi chiamati Seldonian, il cui nome è ispirato ad Hari Seldon, personaggio del celeberrimo Ciclo delle Fondazioni di Isaac Asimov.

Al momento gli algoritmi Seldonian servono anche a scopi non strettamente legati all’etica in sé e per sé. Ad esempio, possono controllare una pompa per l’insulina, allo scopo di prevedere le dosi adatte per il paziente in base ai livelli ematici di glucosio. Ma si spera che in futuro possano servire da ispirazione per progettare sistemi di intelligenza artificiale più sicuri e “umani”. Come teorizzato da Isaac Asimov, per l’appunto.