Cosa c’è dietro le trascrizioni delle conversazioni degli utenti di Messenger

Dal 2015 a oggi Facebook ha assoldato centinaia di dipendenti da società terze per trascrivere il contenuto dei messaggi vocali degli utenti. A rivelarlo è un’inchiesta di Bloomberg, a cui una fonte anonima ha spiegato di essere stata tra gli incaricati a riportare in formato testuale il contenuto di alcune clip, “non sapendo dove erano state registrate né da dove provenissero”, scrive Bloomberg.

Il social network ha confermato il fatto, spiegando che si tratta di dati anonimizzati provenienti dalla funzione di dettatura dei messaggi scambiati sull’app di messaggistica Messenger e che gli impiegati avevano il compito di controllare che l’intelligenza artificiale li avesse trascritti correttamente. Ad ogni modo, l’azienda precisa che “proprio come Apple e Google, abbiamo sospeso la revisione umana degli audio più di una settimana fa”.

Dopo Google, Microsoft, Apple e Amazon, anche Facebook viene scoperta ad affidare il contenuto dei messaggi scambiati dai suoi utenti a società in appalto specializzate nella revisione dei contenuti. Secondo quanto ricostruito da Bloomberg, tra queste c’è la TaskUs (dall’inglese “Incarica Noi”: azienda già specializzata nella moderazione del social network e che sarebbe tra quelle deputate alla trascrizione dei messaggi degli utenti. “Facebook è uno dei clienti più grandi e importanti di TaskUs – scrive Bloomberg -, ma i dipendenti non sono autorizzati a menzionare pubblicamente per chi lavorano”. Il nome in codice di Facebook all’interno della società è “Prism”, spiega l’agenzia.

Tanto riserbo potrebbe essere giustificato dal fatto che gli utenti non erano stati correttamente informati della possibilità che il contenuto delle loro chat sarebbe potuto essere ascoltato anche dai dipendenti di società terze, come ricostruisce Bloomberg esaminando i termini d’uso di Facebook. All’indomani dello scandalo Cambridge Analytica – società britannica che ha utilizzato i dati di 50 milioni di utenti del social network per tentare di condizionarne l’opinione politica – Menlo Park aveva deciso di modificare le finestre per la consultazione delle condizioni generali così da renderle più comprensibili. Tuttavia, al loro interno non si fa menzione degli audio né di come potrebbero venire utilizzati.

In modo molto più generale, Facebook precisa che raccoglierà “contenuti, comunicazioni e altre informazioni fornite” quando gli utenti “comunicano con gli altri”. Inoltre, la società specifica che “i suoi sistemi processano automaticamente contenuti e comunicazioni che tu e altri fornite per analizzarne il contenuto e cosa c’è dentro”, omettendo anche in questo passaggio la possibilità che degli esseri umani possano ascoltare e trascrivere il contenuto delle conversazioni. “Questo ha portato alcuni dipendenti di società terze a sentire che il loro lavoro non era etico”, precisa la testata citando persone informate sui fatti.

Un mese fa, il 13 di luglio, Facebook ha ricevuto una multa da cinque miliardi di dollari per violazione della privacy, in seguito alla vicenda di Cambridge Analytica. A prendere la decisione, che aspetta il via libera del ministero della Giustizia statunitense, è stata la Federal Trade Commission, che ha ritenuto di sanzionare le responsabilità dell’azienda nella condivisione dei dati degli utenti, non sufficientemente informati sul loro uso. Per la stessa vicenda, il garante della privacy britannico aveva già erogato una multa da oltre mezzo miliardo di euro.

Tuttavia si tratta di misure di poco impatto per un’azienda che nel solo 2018, nonostante i continui scandali, ha fatturato oltre 55 miliardi di dollari. Ma l’inchiesta di Bloomberg arriva in seguito a numerosi episodi simili, nei quali altre società hanno permesso a propri dipendenti e a operatori terzi di accedere ai dati degli utenti. Google, Apple, Microsoft e Amazon hanno infatti ammesso di sottoporre alcune informazioni a un controllo umano, il cui obiettivo ufficiale sarebbe quello di misurare la differenza tra i risultati raggiunti e attesi dal lavoro delle intelligenze artificiali.

Ad aprile un’altra inchiesta di Bloomberg aveva rivelato che, per migliorare l’intelligenza artificiale di Alexa, migliaia di operatori umani ascoltano e trascrivono campioni di registrazioni provenienti dagli smartspeaker Alexa. Tra le clip, anche registrazioni trasmesse per sbaglio e carpite per un errore dei dispositivi, che a volte potrebbero mal interpretare il comando di accensione attivandosi anche quando non richiesto.

Da allora, Amazon ha permesso agli utenti di negare il consenso al trattamento delle registrazioni, mentre Google ha difeso la fase di analisi umana, che sarebbe indispensabile per il miglioramento del servizio. Allo stesso modo anche l’assistente vocale di Apple, Siri, ha trasmesso clip audio a operatori di terze parti che, secondo le fonti del Guardian, sarebbero addirittura stati in grado di risalire all’identità degli utenti. In questo scenario, l’ennesima inchiesta su Facebook rischia di sollevare l’attenzione non solo sul modo in cui il social network utilizza i dati degli utenti, ma sui limiti stessi delle intelligenze artificiali, che in molteplici casi hanno evidentemente bisogno di un aiuto umano, che ne sia consapevole o meno.