Per ora l’esperimento è in corso solo negli Stati Uniti, si legge sulla BBC. 

Gli algoritmi salva-vita, ecco come funzionano

II social network ha sviluppato algoritmi che individuano segnali pericolosi nei post degli utenti e nei commenti di risposta degli amici. Dopo aver ottenuto la conferma del team di revisione di Facebook, la compagnia contatta coloro che sono risultati a rischio e segnala loro varie organizzazioni e strumenti per ottenere l'aiuto di cui hanno bisogno. La società ha già annunciato partnership con diverse organizzazioni per la salute mentale statunitensi che potranno a loro volta contattare i soggetti più vulnerabili attraverso la piattaforma Messenger. 

Dalla segnalazione al riconoscimento dei modelli

L'idea non è del tutto nuova: da anni Facebook offre ‘consigli’ agli utenti a rischio suicidio, ma finora si era affidato alle segnalazioni di altri utenti. Il ‘salto’ è arrivato con l’introduzione del “riconoscimento dei modelli”. In pratica, gli algoritmi ‘capiscono’ se qualcuno sta soffrendo attraverso la lettura di frasi come

• “Tutto bene?”
• “Sono preoccupato per te”

Segnali forti sono anche i discorsi sul dolore. 

Il sottile confine tra l’utile e l’invadente

Una volta individuato, il post critico viene segnalato al team:  “Sappiamo che in questo caso la velocità è tutto”, ha spiegato alla BBC Vanessa Callison-Burch, manager di Facebook. Lo strumento ha ricevuto l’apprezzamento del direttore della National Suicide Prevention Lifeline John  Draper, che ha però sottolineato come la sfida sia nel “trovare il giusto modo per offrire un aiuto concreto senza essere invadenti”.

A questo proposito, Callison-Burch ha ammesso che contattare gli amici o i familiari della persona a rischio sarebbe più efficace rispetto a inviare un messaggio da parte del social network. Tuttavia non sarebbe appropriato:  “Siamo molto attenti alla privacy. Inoltre non possiamo  sapere quali dinamiche intercorrono tra due persone. L’unica cosa che possiamo fare è offrire sostegno e far conoscere le varie opzioni”, ha spiegato.

Sostieni il tuo quotidiano Agorà Magazine I nostri quotidiani non hanno finanziamento pubblico. Grazie Spazio Agorà Editore

Sostengo Agorà Magazine