Gli algoritmi, spesso, sono programmati per fare cose a noi poco comprensibili. È il caso di una piattaforma come Instagram che sembra prediligere le foto di uomini e donne in costume da bagno o, comunque, poco vestiti (come evidenziato da questo articolo di Open). Le preferenze dell’algoritmo di proprietà di Meta, purtroppo, possono influenzare non solo il comportamento delle principali star della piattaforma (influencer e creatori di contenuti) ma anche il destino di aziende che si affidano a Instagram per vendere i propri prodotti.

È il caso di Marco (nome fittizio), un piccolo imprenditore che vive in una grossa città del Vecchio Continente e promuove i prodotti creati dalla sua azienda attraverso i canali social. Di che cosa si occupa la piccola impresa di Marco? La sua azienda produce delle barrette energetiche studiate appositamente per gli sportivi. Il reparto marketing di Marco utilizza le piattaforme social per attirare nuove clienti e per fidelizzare quelli più affezionati. In Europa i social network di proprietà di Mark Zuckerberg la fanno da padrone e una presenza su questi canali è fondamentale per il successo della propria azienda. Instagram, in particolare, punta tutto su foto e video. Marco e i suoi responsabili del reparto marketing hanno scoperto che “solo” alcuni dei numerosi post pubblicati hanno raggiunto gli oltre 100.000 follower della propria azienda. In particolare, è stato notato che le foto e i video che hanno funzionato meglio sono quelle che avevano come soggetto alcune modelle in bikini o in attillate tute sportive. Giovanna, autrice di una serie libri di successo, ha dichiarato che le foto più apprezzate dai suoi fan sono quelle che la ritraggono in costume di bagno o con addosso qualche sexy minigonna.

Purtroppo, l’algoritmo di Instagram sembra essere attratto da uomini e donne poco vestiti: per chi si affida alla piattaforma di Meta per lanciare le proprie campagne marketing è un problema non da poco. E, soprattutto, proporre foto e video di questo tipo per un’azienda potrebbe essere qualcosa che va contro i propri valori.

Come funziona l’algoritmo di Instagram?

Per capire come funziona l’algoritmo di Instagram e come vengano effettuate certe scelte, un organismo come l’European Data Journalism Network e un sito come AlgorithmWatch hanno condotto un interessante esperimento. Sono stati selezionati 26 volontari a cui è stato chiesto di installare un’estensione per il browser e di seguire un certo numero di influencer/creatori di contenuti. Nello specifico, sono stati selezionati 37 personaggi (di cui 14 uomini) provenienti da 12 diversi paesi che utilizzano Instagram per pubblicizzare marchi o acquisire nuovi clienti per le loro attività, principalmente nei settori food, viaggi, fitness, moda e bellezza.

L’estensione aggiunta al browser ha permesso di controllare automaticamente l’home page di Instagram a intervalli regolari, monitorando i post visualizzati in cima ai newsfeed. In questo modo i ricercatori hanno potuto avere una panoramica dettagliata di quello che l’algoritmo considera rilevante per ogni utente che ha partecipato all’esperimento. Nell’arco di tre mesi sono stati analizzati qualcosa come 1.737 post (contenenti 2.400 foto):

Il 21% del materiale pubblicato conteneva immagini di donne in bikini o in biancheria intima o di uomini a torso nudo.

In particolare, nei feed dei partecipanti all’esperimento i post con immagini di questo tipo arrivavano al 30% (alcuni contenuti sono stati mostrati più di una volta). In particolare, i post che contenevano immagini di donne con indumenti intimi o in bikini avevano il 54% di probabilità in più di apparire nel feed delle notizie degli utenti partecipanti all’esperimento. I post contenenti immagini di uomini a torso nudo, invece, avevano il 28% di probabilità in più di essere mostrati; quelli con cibo o paesaggi avevano circa il 60% in meno di probabilità di essere visualizzati nel feed delle notizie.

A Instagram piacciono i costumi da bagno

La “propensione” di Instagram verso i corpi umani poco vestiti potrebbe non essere applicabile a ogni contesto e a ogni utente presente sulla piattaforma: la personalizzazione e altri fattori possono arginare/amplificare questo fenomeno. Interpellata sulla questione, Meta ha sostenuto che la ricerca condotta fosse viziata in partenza, ribadendo che la classificazione sulle sue piattaforme funziona in base ai contenuti per i quali un utente mostra interesse, e non per la presenza di qualche sexy costume da bagno. Senza avere accesso ai dati ufficiali di Meta è difficile trarre delle conclusioni anche se c’è la forte convinzione tra i ricercatori che i risultati ottenuti siano abbastanza “rappresentativi” del funzionamento generale di Instagram.

In ogni caso, grazie ai whistleblower, sappiamo che Meta è consapevole dei danni che sta facendo sui teenager:

• Nuove accuse della talpa su Zuckerberg: “I social portano ad anoressia e problemi scolastici”

• Facebook, la whistleblower Frances Haugen testimonia davanti al Senato Usa: “Instagram è pericoloso per la salute mentale dei teenager”

• Facebook, la whistleblower Haugen al Senato: «Danneggia i minori e indebolisce la democrazia»

La metrica del coinvolgimento

Gli ingegneri di Meta hanno più volte affermato (le informazioni sono state recuperate attraverso i brevetti presentati) che l’algoritmo di Instagram analizza ogni immagine pubblicata sulla piattaforma assegnandogli una “metrica per misurare il coinvolgimento” che tiene conto dei comportamenti degli utenti. Per esempio, se a una persona piace un brand particolare e una foto mostra un prodotto di quello stesso marchio, la metrica di coinvolgimento aumenta. Altri parametri come il sesso, la provenienza e lo stato di vestizione delle persone in una foto possono influenzare il calcolo di questo parametro.

Sulla piattaforma, però, viene specificato che l’elenco dei contenuti proposto viene organizzato in base agli interessi degli utenti. Nel brevetto registrato da Facebook (ora Meta) nel 2015 veniva spiegato come l’algoritmo fosse in grado di classificare i contenuti in base a quello che potesse interessare agli utenti presenti sulla piattaforma.

Le immagini pubblicate possono essere visualizzate nei newsfeed di uno o più utenti in base al loro storico (i comportamenti tenuti finora) ma anche prestando attenzione alle preferenze stesse di Instagram, che può decidere arbitrariamente quello che può essere coinvolgente per i frequentatori della sua piattaforma. Facebook, per esempio, analizza automaticamente le immagini con un software specifico prima che il suo algoritmo decida quali mostrare nel newsfeed di un utente. L’intelligenza artificiale è stata addestrata attraverso migliaia di immagini che sono state analizzate manualmente: questa modalità tende a influenzare il modo in cui Instagram assegna le priorità nei feed di notizie.

Tutta colpa dell’IA?

Questo sistema, purtroppo, non è esente da problemi come sanno benissimo programmatori e ingegneri informatici: si possono verificare delle correlazioni spurie o fallaci. Per esempio, un algoritmo allenato a riconoscere lupi e cani attraverso una serie di immagini specifiche, non sempre riuscirà a identificare questi animali con la precisione di un essere umano. È possibile che consideri un lupo qualsiasi altro animale presente su uno sfondo con neve.

I dati che alimentano gli algoritmi nella maggior parte dei casi non sono di grande qualità (principalmente per una questione economica) e spesso vengono tralasciati dettagli e variabili che potrebbero fare la differenza nei sistemi automatizzati. Le conseguenze, alle volte, possono essere spiacevoli: lo scorso anno un artista brasiliano ha visto bloccati alcuni post su Instagram perché conteneva dei contenuti ritenuti violenti; peccato che le immagini raffigurassero il sette volte campione del mondo della F1 Lewis Hamilton e un ragazzino. Entrambi avevano la pelle scura. Un’insegnante di yoga di asiatica-americana è stata protagonista di un altro episodio particolare: una foto che la ritraeva nella posizione della gru laterale è stata bloccata perché secondo l’algoritmo di Instagram era volgare. Le linee guida di Instagram affermano che la nudità “non è consentita” ma la piattaforma sembra favorire quei post che mostrano centimetri e centimetri di pelle umana. La differenza tra quello che è lecito e quello che non lo è davvero sottile: il rischio di essere cacciati dalla piattaforma è sempre dietro l’angolo.

Giovanna, Marco e molti altri imprenditori che si affidano a Instagram per le loro campagne marketing avevano il terrore di parlare con i media. La maggior parte dei creatori di contenuti professionisti teme ritorsioni da parte di Meta sotto forma di cancellazione dell’account o divieti nascosti (per esempio i post mostrati a pochissimi follower o a nessuno!): una vera e propria condanna a morte per loro attività.

L’introduzione in Europa del GDPR sulla protezione dei dati nel 2018 e la promulgazione del Regolamento europeo Platform to Business (P2B) nel 2020 hanno obbligato i servizi di intermediazione online a rendere noti i principali parametri che determinano il ranking algoritmico. Purtroppo, nessuna autorità, a livello europeo o all’interno degli stati membri, ha il potere o gli strumenti necessari per controllare quello che fanno Meta, Google, Microsoft, Amazon e compagnia bella. Sebbene la discriminazione basata sul genere sia vietata dalla Carta dei diritti fondamentali dell’Unione europea, non esistono attualmente vie legali che permettano a un utente di avviare un procedimento contro la piattaforma di Meta.

Alcune organizzazioni/sindacati combattono per i diritti dei creatori indipendenti sui social media: sono già partite una serie di azioni collettive contro Google per chiedere una maggiore equità e trasparenza sulle politiche attuate su YouTube. Instagram, per ora, non è stato toccato: gli imprenditori e le imprenditrici sono costretti a rispettare le regole stabilite dagli ingegneri di Facebook se vogliono avere la possibilità di guadagnarsi da vivere…