Cyberbullismo, deepfake e AI: il Canada prepara la rivoluzione digitale in nome dei più piccoli

Il Canada introduce misure per proteggere i minori online, inclusi chatbot, con nuove norme per social media e piattaforme online, per prevenire il bullismo e la diffusione di contenuti dannosi

Il Canada ha deciso di adottare misure più severe rispetto al passato nei confronti dei social media e dei chatbot AI Il governo ha presentato il disegno di legge C-34 , che imporrebbe ai principali servizi digitali di proteggere meglio bambini e adolescenti da bullismo, sfruttamento minorile, contenuti pericolosi e risposte dannose generate dall’intelligenza artificiale.

Il disegno di legge introduce nuove norme per i social media, i servizi di live streaming, le piattaforme con contenuti per adulti generati dagli utenti e i chatbot basati sull’intelligenza artificiale.

Gli autori dell’iniziativa sottolineano che i servizi online sono da tempo parte integrante della vita quotidiana, ma insieme ai vantaggi, hanno portato con sé rischi significativi. Secondo le autorità canadesi, un adolescente su quattro di età compresa tra i 12 e i 17 anni ha subito episodi di cyberbullismo. Anche il numero di casi di pedopornografia online denunciati alla polizia è in aumento.

Particolare enfasi viene posta sui meccanismi delle piattaforme stesse. I feed di raccomandazione, la riproduzione automatica, lo scorrimento infinito e gli algoritmi di coinvolgimento possono facilitare la diffusione di contenuti dannosi e la loro maggiore esposizione ai minori. I chatbot basati sull’intelligenza artificiale rappresentano un’ulteriore sfida, in quanto possono intrattenere lunghe conversazioni con gli utenti e fornire risposte inappropriate in situazioni delicate.

Il disegno di legge individua sette categorie di contenuti dannosi. Tra queste figurano materiale intimo pubblicato senza consenso, immagini pedopornografiche, materiale che incoraggia i bambini all’autolesionismo, contenuti che incitano al bullismo infantile, materiale che fomenta l’odio e la violenza fisica, e materiale relativo al terrorismo e all’estremismo.

I social network e i chatbot saranno tenuti a valutare proattivamente i rischi, implementare meccanismi di protezione dei minori, pubblicare le regole di utilizzo e fornire semplici strumenti di segnalazione e blocco. I social network dovranno inoltre bloccare l’accesso a contenuti che sfruttano i minori e a immagini intime pubblicate senza consenso, inclusi i deepfake pornografici. Ai chatbot saranno assegnate responsabilità specifiche. Gli sviluppatori dovranno mitigare il rischio di risposte dannose, implementare misure di risposta alle emergenze in situazioni di crisi e prevenire comportamenti del sistema che potrebbero danneggiare l’utente.

Anche il Canada sta pianificando di introdurre un’età minima per gli account sui social media. Le autorità intendono fissare il limite di età a 16 anni, sebbene la commissione potrà concedere un’eccezione per un servizio qualora la piattaforma dimostri di disporre di adeguate misure di protezione dei minori.

La Commissione per la sicurezza digitale del Canada monitorerà la conformità delle piattaforme alle nuove norme. Il nuovo organismo avrà l’autorità di esaminare i report delle piattaforme, condurre audit, emettere avvisi, esaminare i reclami degli utenti e multare i servizi in caso di violazioni. Le aziende saranno inoltre tenute a pubblicare piani di sicurezza digitale che illustrino le misure adottate per conformarsi alla legge.

Le autorità canadesi ritengono che le misure volontarie adottate dalle piattaforme non siano più sufficienti. Il governo intende, con la nuova legge, rendere i grandi servizi online più trasparenti e responsabili dei rischi che i loro prodotti comportano.

Carolina Vivianti

Carolina Vivianti è consulente/Advisor autonomo in sicurezza informatica con esperienza nel settore tech e security. Ha lavorato come Security Advisor per Ford EU/Ford Motor Company e Vodafone e ha studi presso la Sapienza Università di Roma.

Aree di competenza: Cybersecurity, IT Risk Management, Security Advisory, Threat Analysis, Data Protection, Cloud Security, Compliance & Governance