Da ottobre Microsoft controllerà in automatico tutto quello che facciamo sul computer

“Da ottobre, Microsoft effettuerà una supervisione automatica di tutte le attività svolte sui computer con sistema operativo Windows” e in caso di violazione “del codice di condotta, il proprio account potrebbe essere sospeso” a discrezione di Microsoft e senza appello, scrive Norbert Haering. Come già accade con i social media, ad es. Meta e Youtube, il ban dai sistemi Microsoft potrebbe avvenire su segnalazione dei governi in caso di hate speech o per qualsiasi posizione politica non gradita. Una riflessione molto interessante dal blog di Norbert Haering

A partire da ottobre, Microsoft effettuerà una supervisione automatica di tutte le attività svolte sui computer con sistema operativo Windows.

Dal 30 settembre, entreranno in vigore nuovi termini e condizioni per i clienti Microsoft. Nel caso in cui non si aderisca a un generico “codice di condotta” durante l’uso dei prodotti di questo gigante dell’informatica, il proprio account potrebbe essere sospeso, comportando la perdita dell’accesso a tutti i servizi, sia gratuiti che a pagamento, e dei dati archiviati. La decisione di sospendere un account sarà a completa discrezione di Microsoft.

In base al nuovo “Contratto di servizio” di Microsoft:

“Violazioni gravi o ripetute delle nostre politiche (…) possono portare alla sospensione dell’account, talvolta in via permanente. In caso di sospensione permanente, il proprietario dell’account sospeso perderà tutte le licenze, gli abbonamenti, le ore di iscrizione e i saldi dell’account Microsoft”.

È possibile fare appello a Microsoft. Tuttavia, il “Codice di condotta” contiene termini molto elastici, come “discorso d’odio” e “offensivo”, che possono essere interpretati in modi diversi da individuo a individuo. Per esempio, molte persone ritengono che criticare il governo o una persona possa essere considerato “discorso d’odio”. Inoltre, è relativamente facile violare la protezione del copyright senza avere intenzioni criminali.

Microsoft assicura che prenderà provvedimenti solo in caso di violazioni gravi e ripetute. Tuttavia, non esiste una garanzia credibile che ciò non possa sfociare in una situazione simile a quanto avviene su piattaforme di social media come Facebook, Instagram e Twitter, dove la censura e la segnalazione alle autorità sono spesso scattate sotto pressione governativa. La censura, il blocco e la sospensione dei servizi avvengono talvolta in modo poco trasparente e colpiscono preferenzialmente le voci critiche nei confronti del governo e delle organizzazioni internazionali come l’OMS, nonché chi diverge dalla narrazione ufficiale. Questo scenario potrebbe aprire la porta a un abuso di potere.

Le piattaforme dei social media hanno perfino creato canali privilegiati per i governi, attraverso i quali possono presentare richieste di censura. Queste richieste vengono spesso accolte. Il nuovo “Contratto di servizio” di Microsoft sembra aprire la strada a un simile scenario.

Dal punto di vista pratico, ciò significa che i governi non saranno più costretti a dimostrare atti criminali da parte di un individuo o di un autore ribelle per metterli a tacere. Sarà sufficiente segnalare a Microsoft una presunta violazione delle vaghe clausole del “Contratto di servizio”. Questa possibilità è espressamente prevista nella pagina di segnalazione delle violazioni (tradotta):

“Utilizziamo segnalazioni provenienti dagli utenti, dalle autorità e da fonti affidabili per individuare possibili violazioni della politica”.

È comprensibile che un’azienda debba reagire quando vengono segnalati comportamenti criminali. Tuttavia, sembra strano che un’azienda solleciti specificamente governi e agenzie a segnalare violazioni delle proprie politiche, andando al di là delle leggi vigenti.

Questo è un invito aperto all’abuso di potere. Perché Microsoft dovrebbe collaborare con un governo che abusa del suo diritto privilegiato di suggerire la censura, perché insistere su una valutazione diversa nei singoli casi? Un governo, soprattutto se potente, può causare all’azienda molti più problemi di un cliente con un account ingiustamente bloccato. Per fare un esempio recente, la piattaforma di social media Rumble ha risposto duramente al Parlamento britannico, da cui aveva ricevuto una lettera in cui si chiedeva se e quando avrebbe demonetizzato i contenuti di Russell Brand, l’intrattenitore antigovernativo accusato di cattiva condotta sessuale, come aveva fatto la filiale di Google Youtube non appena le accuse erano venute alla luce. Rumble ha ricordato al Parlamento la presunzione di innocenza fino alla condanna come pilastro centrale dello Stato di diritto. (Anche Tiktok e altri operatori di piattaforme hanno ricevuto la lettera del Parlamento britannico).

Regole vaghe che aprono la porta all’arbitrarietà

Anche la generazione di immagini di nudo costituisce una violazione del codice di condotta di Microsoft. Dipingere nudi, fotografare nudi, mettere in posa gli amanti l’uno per l’altro, tutto questo può portare alla sospensione dell’account. Secondo la formulazione, è sufficiente anche solo generare linguaggio offensivo, non è nemmeno necessario diffonderlo.

Non sembra esserci alcun impegno da parte di Microsoft a fornire spiegazioni dettagliate in caso di sospensione di un account. L’azienda può agire in modo simile alle piattaforme di social media e ai fornitori di servizi finanziari come PayPal, bloccando semplicemente un account e fornendo vaghe motivazioni relative a violazioni delle regole, lasciando al cliente il compito di indovinare la ragione e il modo migliore per opporsi a questa decisione. Questo processo potrebbe far pensare al personaggio di Josef K. del romanzo di Kafka, costantemente perseguitato e sanzionato senza una vera accusa e senza la possibilità di difendersi adeguatamente.

Microsoft afferma che utilizza una combinazione di tecnologia automatizzata e revisori umani per identificare e affrontare contenuti o comportamenti che violano le proprie politiche. Utilizzano hash di contenuti noti come illegali o dannosi e si avvalgono di tecnologia e classificatori per individuare contenuti dannosi distribuiti attraverso i propri servizi.

Tuttavia, questo solleva domande sulla fiducia nei confronti di algoritmi e moderatori umani, soprattutto quando si tratta di questioni delicate come gli hate speech. È difficile stabilire se un’intelligenza artificiale o un moderatore possano giudicare correttamente se un commento critico sia effettivamente un discorso d’odio o un’osservazione ironica.

In sintesi, l’ampio monitoraggio automatizzato dei dati degli utenti nel cloud di Microsoft espone gli utenti a un sistema di sorveglianza altamente sofisticato e in costante evoluzione, il cui funzionamento e scopi rimangono oscuri e impenetrabili. Questo può diventare un obiettivo facile per servizi di intelligence e autorità governative. Questa è una delle ragioni per cui molti utenti preferiscono utilizzare sistemi operativi Linux ed evitare i prodotti Microsoft, cercando alternative più trasparenti e rispettose della privacy.