Stefano Gazzella : 5 Maggio 2023 15:53
Quando si parla di deepfake e dei rischi derivanti dalle manipolazioni delle immagini, può essere emblematico l’esempio che in questi ultimi tempi viene offerto da Bikinioff. Il concetto della neutralità tecnologica impone una riflessione. Come può dirsi neutrale uno strumento o un sistema la cui destinazione d’uso prevedibile è la violazione sistematica di diritti? A nulla vale infatti un wishful thinking con cui poi si espongono condizioni d’uso o privacy policy, se non per far paper compliance.
I diritti devono essere tutelati in modo sostanziale anche nella dimensione digitale, dal momento che i principi esistono e possono ben essere declinati pur nell’accelerato mondo dell’innovazione.
Ritenere che ciò che è possibile è lecito comporta infatti la retrocessione di ogni pretesa di tutela di fronte all’entusiasmo tecnologico. Il movente? O l’accettazione di una sconfitta o una posizione di privilegio. E qui è bene ricordare che il privilegio altro non è che il potersi disinteressare di qualcosa posto come un problema in quanto non può in alcun modo riguardarci. Come ad esempio un problema di vittimizzazione di genere. Non sorprenderà infatti che gran parte delle immagini impiegate riguardano donne.
Qualcuno potrebbe poi menzionare che anche i programmi di ritocco o editing delle fotografie possono essere idonei a generare analoghi risultati. Questo però significa confondere – in modo colpevole o doloso – un punto fondamentale: mentre alcuni strumenti possono essere impiegati anche per azioni illecite, altri sono invece nativamente destinati ad un probabile impiego illecito.
PARTE LA PROMO ESTATE -40%
RedHotCyber Academy lancia una promozione esclusiva e a tempo limitato per chi vuole investire nella propria crescita professionale nel mondo della tecnologia e della cybersecurity!
Approfitta del 40% di sconto sull’acquisto congiunto di 3 corsi da te scelti dalla nostra Academy. Ad esempio potresti fare un percorso formativo includendo Cyber Threat intelligence + NIS2 + Criptovalute con lo sconto del 40%. Tutto questo lo potrai fruire, dove e quando vuoi e con la massima flessibilità, grazie a lezioni di massimo 30 minuti ciascuna.
Contattaci tramite WhatsApp al 375 593 1011 per richiedere ulteriori informazioni oppure scriviti alla casella di posta [email protected]
La risposta alle preoccupazioni porta la data del 21 aprile.
Nel canale Telegram è stata infatti annunciata un “novità” chee dovrebbe tutelare gli utenti:
Dear users, we have recently noticed instances of misuse of our tool, in violation of our user agreement. To prevent any harmful usage of processed images, we have now implemented a “FAKE” watermark on all outputs. Additionally, as part of our commitment to child safety, we have significantly enhanced our age filter’s accuracy. We appreciate your understanding and cooperation in ensuring the responsible use of our AI tool. Thank you.
Insomma: un rafforzamento del filtro minori e un watermark “FAKE” sulle immagini generate.
Quello che salta più all’occhio è una volontà, invero espressa in maniera piuttosto impacciata, di voler allontanare ogni responsabilità da parte dello sviluppatore che si vorrebbe irresponsabile. Il tutto, nel nome di una non meglio definita promozione dell’utilizzo responsabile dello strumento da parte degli utenti.
Già leggendo le scarne Condizioni d’uso e la Privacy Policy di Bikinioff emergono non poche criticità.
Tutte le Condizioni d’uso non fanno altro che ribadire che è un prodotto “as is”, privo di ogni garanzia e per cui non si risponde in alcun modo dell’impiego da parte dell’utente. E da cui sono dichiaratamente esclusi i minori, tanto come utenti che come soggetti delle immagini.
Insomma: tutto è costruito per ricondurre la responsabilità esclusivamente lato utente.
Some images processed using BikiniOff may be offensive, inappropriate, or otherwise objectionable. By using our tool, you acknowledge and accept the risks associated with processing such content and agree that we are not liable for any harm or liability arising from your use of our tool or the content processed by our tool.
Non solo: si rappresenta come eventuale ma prevedibile un rischio molto elevato di impiego illecito e non offensivo, inappropriato, o altrimenti sgradevole.
Rischio che però sembra essere affrontato ribadendo ancora una volta che ogni responsabilità è lato utente:
You are solely responsible for the distribution of any images that you processed using BikiniOff, and we are not responsible for any harm or liability that may arise from the distribution of such images.
e che anzi l’utente si impegna a tenere immune BikiniOff da ogni conseguenza negativa derivante dall’impiego in violazione dei termini e condizioni:
You agree to indemnify and hold harmless BikiniOff and its owners, officers, employees, and agents from and against any claims, liabilities, damages, and expenses (including reasonable attorneys’ fees) arising from your use of our tool or any violation of these terms and conditions.
Ciò che viene invece precisato in modo estremamente chiaro riguarda i pagamenti anticipati e senza possibilità di rimborso.
Per quanto riguarda la Privacy Policy, invece, emerge in modo dirompente l’assenza di ogni minima misura di trasparenza nei confronti dell’interessato. Non solo non è possibile identificare il titolare del trattamento o i soggetti coinvolti, ma manca ogni elementare indicazione circa la base giuridica impiegata e i diritti esercitabili.
Se questo non giova a fondare motivi gravi ed urgenti non solo per intervenire, ma per preoccuparsi, allora il vulnus culturale ben più ampio della privacy è ben più grave di quel di cui riteniamo di aver avuto esperienza negli ultimi anni.
Insomma: spogliare senza consenso è davvero “tecnologia neutrale”?
I ricercatori di Trellix hanno scoperto un insolito schema di attacco su Linux, in cui l’elemento chiave non è un allegato con contenuto dannoso, ma il nome del file all’interno del...
La recente vicenda del gruppo Facebook “Mia Moglie”, attivo dal 2019 e popolato da oltre 32.000 iscritti, mette in luce una dinamica che intreccia violazione della privacy, pornografia n...
Per i dipendenti di Google, “stare al passo con i tempi” significa non solo sviluppare l’intelligenza artificiale, ma anche essere in grado di utilizzarla ogni giorno. Negli ultim...
Advanced Security Solutions, con sede negli Emirati Arabi Uniti, è nata questo mese ed offre fino a 20 milioni di dollari per vulnerabilità zero-day ed exploit che consentirebbero a chiunque...
Un difetto critico riscontrato nel più recente modello di OpenAI, ChatGPT-5, permette a malintenzionati di aggirare le avanzate funzionalità di sicurezza attraverso l’uso di semplici ...