Zoom says it uses machine-learning to detect nudity as virtual sex parties spread
(Insider, 16 aprile 2020)

Mentre la pandemia da coronavirus e le conseguenti misure di allontanamento sociale si sono rivelate devastanti per intere industrie, la “nuova normalità” ha offerto un’opportunità senza pari per una determinata azienda. Zoom, una piattaforma per videoconferenze che facilita le riunioni aziendali in remoto, è diventata un punto fermo della vita in quarantena, acquisendo 200 milioni di utenti a marzo. In un messaggio pubblicato sul blog dell’azienda, il CEO Eric Yuan ha affermato che i nuovi utenti della piattaforma includevano insegnanti e studenti di 90.000 scuole in 20 paesi.

Nel tentativo di trovare un attimo di leggerezza nel mezzo di una crisi globale, gli utenti ospitano feste sulla piattaforma, sperimentando sfondi stravaganti e pubblicando i loro divertenti incidenti su Zoom online. Tuttavia, come riportato da Rolling Stone, l’app sta ora ospitando festini a luci rosse virtuali che sono diventati, come ha detto uno de “protagonisti”, una società di appassionati di “mutua masturbazione”.

Secondo le regole di Zoom, gli utenti non possono utilizzare la tecnologia per “attività dannose, oscene o indecenti, in quanto ogni attività dovrebbe essere intesa in un contesto di uso aziendale”. La policy include “manifestazioni di nudità, violenza, pornografia, materiale sessualmente esplicito o attività criminale”.

I gestori di Zoom afferma di utilizzare il machine learning per identificare gli account in violazione delle sue politiche, sebbene siano rimasti vaghi sui metodi per rintracciare utenti e contenuti offensivi: “Incoraggiamo gli utenti a segnalare sospette violazioni delle nostre regole e utilizziamo un insieme di strumenti, incluso l’apprendimento automatico, per identificare gli account che infrangono i nostri regolamenti, ha dichiarato un portavoce dell’azienda.

I dirigenti di Zoom non hanno però risposto in specifico sugli strumenti di machine-learning adottati o su come la piattaforma potrebbe essere avvertita della presenza di contenuti pornografici: il portavoce ha aggiunto che la società intraprenderà delle “iniziative” contro le persone scoperte a violare la sua policy

Quando è stato contattato da Insider per un commento, un altro portavoce di Zoom ha fatto riferimento alle regole sulla privacy della piattaforma, le quali affermano che la piattaforma “non monitora le riunioni né i contenuti di esse”.

Il portavoce ha anche confermato le rassicurazioni del CEO Yuan riguardo le “aspettative di privacy e sicurezza” degli utenti e ha definito il piano d’azione della piattaforma in futuro, come la messa in atto di un “blocco delle funzionalità”; la creazione di un “rapporto sulla trasparenza” che descriva in dettaglio le informazioni relative alle richieste di dati, registrazioni o contenuti; e un webinar settimanale che offre ragguagli sulla privacy e la sicurezza della piattaforma.