Subire le decisioni delle macchine #1241

''Meglio subire le decisioni di una macchina che quelle dei nostri politici corrotti!'' Questo è uno dei tanti commenti ricevuti sotto all'estratto del mio talk al Cogito Ergo Summit, in cui ho parlato di AI, algoritmi e jihad butleriano e ho iniziato con la frase ''Sarete la prima generazione che subirà le decisioni delle macchine''. Il fatto che le macchine non siano influenzabili o ''corruttibili'' è una bellissima idea ma ahimè non corrisponde alla realtà. Ci sono bias, spesso provenienti da un addestramento dell'AI su decisioni ''umane'' con conseguenti discriminazioni, ma esistono anche casi in cui è l'algoritmo stesso ad essere deliberatamente ''corrotto'' e influenzato. E se è vero che le persone sono più facilmente corruttibili, è davvero difficile coinvolgere tutti e rimane sempre una traccia più o meno evidente. Ma nel caso di un algoritmo è invece tutto estremamente più semplice, sia perché ci si aspetta che sia incorruttibile e super partes, sia perché il livello tecnico necessario per indagare e scoprire se sono state realizzate delle modifiche (o se ci sono bias e errori) è estremamente più complesso rispetto alla corruzione ''umana''. Link al mio talk al Cogito Ergo…