La nuova ricerca dei data scientist dell’Università della Georgia ha del paradossale.
Nonostante la crescente preoccupazione per l’intrusione degli algoritmi nella vita quotidiana, le persone potrebbero essere più disposte a fidarsi di un computer che dei loro simili, specie se un compito diventa impegnativo.
Dalla scelta del brano successivo sulla playlist alla scelta dei pantaloni della taglia giusta, le persone si affidano sempre di più ai consigli degli algoritmi per prendere decisioni quotidiane e semplificare le loro vite.
Chiedi all’algoritmo
“Gli algoritmi sono in grado di svolgere un numero enorme di attività, un numero che si espande praticamente ogni giorno”, dice Eric Bogert del Terry College of Business Department of Management Information Systems.
Sembra che ci sia la tendenza a fare affidamento sugli algoritmi man mano che un compito diventa più difficile, e quell’effetto è più forte della tendenza a fare affidamento sui consigli di altre persone.
Bogert ha lavorato con il professore dei sistemi informativi gestionali Rick Watson e l’assistente professore Aaron Schecter su un paper pubblicato oggi sulla rivista Nature’s Scientific Reports.
Lo studio
La ricerca ha coinvolto 1.500 persone e fa parte di un più ampio corpo di lavoro che analizza come e quando le persone interagiscono con gli algoritmi per elaborare le informazioni e prendere decisioni.
Per questo studio, il team ha chiesto ai volontari di contare il numero di persone in una fotografia che ritraeva una folla, fornendo in supporto suggerimenti generati da un gruppo di altre persone e suggerimenti generati da un algoritmo.
Con l’aumento del numero di persone nella fotografia, il conteggio è diventato più difficile e le persone hanno iniziato a seguire il suggerimento generato dall’algoritmo piuttosto che contare da sole o seguire i suggerimenti di altre persone.
Algoritmi su cui contare
Schecter ha spiegato che la scelta di contare come compito di prova era importante perché il numero di persone nella foto rende il compito oggettivamente più difficile man mano che aumenta. È anche il tipo di attività in cui tutti si aspettano che i computer siano bravi.
Questo è un compito in cui le persone percepiscono che un computer sarà bravo, anche se potrebbe essere più soggetto a pregiudizi rispetto al conteggio degli oggetti
Aaron Schecter
La dipendenza è un rischio
“Uno dei problemi comuni con l’intelligenza artificiale è quando viene utilizzata per concedere crediti o approvare prestiti. Ci sono molti parametri da considerare (ad esempio il reddito, o la “reputazione creditizia”): questo lo rende un buon lavoro per un algoritmo.
La dipendenza dagli algoritmi però è un rischio. Dico di più: per me può essere un male. Perché porta a pratiche discriminatorie, magari a causa di fattori sociali che non vengono considerati.
Avrete senz’altro sentito parlare degli algoritmi di riconoscimento facciale, e di come sono stati messi sotto accusa. Il loro uso ha rivelato pregiudizi culturali nel modo in cui sono stati costruiti, che possono causare imprecisioni quando si abbinano i volti alle identità o si selezionano candidati qualificati.
Pregiudizi che potrebbero non essere presenti in attività come il conteggio, è comunque importante capire come le persone si affidano agli algoritmi quando prendono decisioni.
Fiducia reciproca
Questo studio, come detto, faceva parte del più ampio programma di ricerca di Schecter sulla collaborazione uomo-macchina, finanziato dall’Ufficio di ricerca dell’esercito americano.
L’obiettivo finale è guardare a gruppi di esseri umani e macchine che prendono decisioni e scoprire come possiamo convincerli a fidarsi l’uno dell’altro e come questo cambia il loro comportamento
Poiché c’è pochissima ricerca in quel contesto, i ricercatori sono partiti praticamente da zero. Schecter, Watson e Bogert stanno attualmente studiando come le persone si affidano agli algoritmi quando formulano giudizi creativi e giudizi morali. Tra gli esempi? Scrivere passaggi descrittivi, o fissare una cauzione per dei prigionieri.
