Algorithm Watch, o organizație de cercetare axată pe luarea de decizii algoritmice, a colectat date de la 26 de utilizatori voluntari de Instagram pentru a vedea ce imagini dintr-un grup select de 37 de creatori au fost plasate cel mai bine în fluxurile principale.
În acea perioadă, 21% din fotografiile din conturile creatorului selectat conțineau o persoană fără cămașă (femei în lenjerie intimă sau în costume de baie sau bărbați cu pieptul gol).
„Mesajele care conțineau imagini cu femei în lenjerie de corp sau bikini au fost cu 54% mai predispuse să apară în fluxul de știri al voluntarilor noștri. Mesajele care conțin poze cu bărbați cu pieptul gol au fost cu 28% mai predispuse să fie afișate”, se arată în raport.
Nu știm cu siguranță ce cauzează înclinarea către fotografiile topless.
Raportul mai spunea că, fără un audit complet al algoritmului Instagram – lucru pe care Facebook este puțin probabil să-l permită vreodată întrucât intră în proprietatea sa intelectuală – este imposibil să se tragă concluzii definitive cu privire la ceea ce cauzează înclinarea către imaginile topless. O explicație ar putea fi pur și simplu că alți utilizatori interacționează mai mult cu aceste imagini, determinând algoritmul să le plaseze mai sus în feed-urile oamenilor. Dacă „apreciați” mai mult o fotografie, aceasta ar putea apărea mai sus în feed-urile altor persoane.
Autorii raportului se referă, de asemenea, la un brevet din 2015 de la Facebook, compania mamă a Instagram, care descrie un sistem de analiză a conținutului unei imagini pentru a determina dacă ar putea fi un candidat bun pentru un nivel ridicat de interacționare. Acest brevet spunea în mod specific că va fi capabil să identifice „starea de dezbrăcare” a oamenilor în fotografii.
Este imposibil să spunem dacă algoritmul pur și simplu preia corelația dintre like-uri și imagini cvasi-nud sau dacă i s-a dat capacitatea de a identifica seminuditatea în fotografii. Facebook are algoritmi pentru identificarea nudității, deoarece Instagram interzice nuditatea completă și folosește astfel de algoritmi pentru a elimina postările care încalcă această regulă, dar nu este sigur dacă acestea sunt implementate pentru a clasa postările în feed-urile oamenilor.
„Nu putem dovedi cauzalitatea; nu există o cantitate de date care să poată dovedi acest lucru”, a spus Nicholas Kayser-Bril, unul dintre autorii lucrării. „Singura modalitate de a ști exact cum funcționează acest lucru ar fi efectuarea unui audit cu privire exact la ceea ce se întâmplă în serverele Facebook și nu există nicio modalitate în care să putem face acest lucru în mediul legal actual”.
Într-un tweet, Kayser-Bril a sugerat că algoritmul ar putea prelua comportamentul unei minorități de utilizatori de Instagram care folosesc platforma ca sursă de „soft porno”.
