Paolo Galdieri : 15 septiembre 2025 07:58
En los últimos meses, me he encontrado repetidamente presentando quejas sobre videos falsos que circulan en línea. No solo hablamos de contenido robado distribuido sin consentimiento, sino también de deepfakes: vídeos en los que se superponen rostros famosos sobre cuerpos extraños, a menudo utilizados para promover inversiones financieras o insertados en contextos pornográficos.
Un fenómeno que, lamentablemente, ya no sorprende por su presencia, sino por la velocidad con la que crece, se propaga y mejora.
Quienes siguen la industria conocen plataformas como Mia moglie o Phica. Plataformas donde la aparente espontaneidad a menudo esconde un verdadero mercado para los cuerpos y la intimidad de otras personas. En muchos casos, se suben videos sin el consentimiento de las personas que aparecen. Se roban grabaciones privadas, o el contenido compartido en un momento de confianza se vuelve repentinamente público.
Scarica Gratuitamente Byte The Silence, il fumetto sul Cyberbullismo di Red Hot Cyber"Il cyberbullismo è una delle minacce più insidiose e silenziose che colpiscono i nostri ragazzi. Non si tratta di semplici "bravate online", ma di veri e propri atti di violenza digitale, capaci di lasciare ferite profonde e spesso irreversibili nell’animo delle vittime. Non possiamo più permetterci di chiudere gli occhi". Così si apre la prefazione del fumetto di Massimiliano Brolli, fondatore di Red Hot Cyber, un’opera che affronta con sensibilità e realismo uno dei temi più urgenti della nostra epoca. Distribuito gratuitamente, questo fumetto nasce con l'obiettivo di sensibilizzare e informare. È uno strumento pensato per scuole, insegnanti, genitori e vittime, ma anche per chi, per qualsiasi ragione, si è ritrovato nel ruolo del bullo, affinché possa comprendere, riflettere e cambiare. Con la speranza che venga letto, condiviso e discusso, Red Hot Cyber è orgogliosa di offrire un contributo concreto per costruire una cultura digitale più consapevole, empatica e sicura. Contattaci tramite WhatsApp al numero 375 593 1011 per richiedere ulteriori informazioni oppure alla casella di posta [email protected] 
Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì. |
El siguiente salto tecnológico lo representan los deepfakes. Si en los sitios amateur el problema era (y es) el robo de imágenes reales, hoy el listón se ha elevado aún más: ya no es necesario robar un archivo; basta con una fotografía para crear un video en el que la persona parece hacer o decir algo que nunca hizo. Es la transición de la violación de la privacidad a la creación de una realidad verdaderamente alternativa.
El impacto de estas manipulaciones varía según quién sea la víctima.
Los rostros famosos (actores, políticos, influencers) son un objetivo privilegiado: su exposición pública facilita el descubrimiento y la exposición de noticias falsas, pero al mismo tiempo amplifica el daño, ya que se propagan muy rápidamente y a gran escala.
Para las personas comunes, sin embargo, la situación es aún más insidiosa. Al carecer de la misma visibilidad, también carecen de los medios para defenderse: es poco probable que puedan monitorear internet u obtener la eliminación oportuna de contenido. En estos casos, el engaño suele ser más creíble, precisamente porque no existe un «original» de dominio público con el que comparar la falsificación. La consecuencia es devastadora: la gente común se ve involucrada en videos sexuales manipulados o promociones financieras falsas, con efectos destructivos en su vida privada y profesional.
Ante esta realidad en constante evolución, la ley a menudo parece ir a la zaga de la tecnología. La tradición jurídica italiana ya ha introducido normas importantes, pero los deepfakes eluden problemáticamente las categorías legales tradicionales. Las imágenes originales pueden ser públicas, y el contenido manipulado no se limita a la pornografía, sino también a desinformación financiera, política o sanitaria. Sin embargo, los daños sufridos por la persona involucrada son comparables, y en algunos casos incluso peores, a los ya mencionados.
Por lo tanto, la introducción de una legislación específica podría ser una respuesta necesaria. El objetivo no es multiplicar los cargos penales, sino identificar una disposición y circunstancias agravantes específicas relacionadas con el uso de inteligencia artificial para manipular la imagen y la voz de una persona. El Proyecto de Ley n.º 1146/2024, que dedica un artículo a las disposiciones penales, adopta este enfoque. El proyecto introduce un nuevo delito, la «difusión ilícita de contenido generado o alterado con sistemas de inteligencia artificial», castigado con penas de uno a cinco años de prisión para quienes difundan, sin consentimiento, imágenes, vídeos o voces manipuladas artificialmente que puedan inducir a error. Además, el proyecto de ley prevé una serie de circunstancias agravantes comunes y específicas: el fraude, el fraude informático, el blanqueo de capitales, el autoblanqueo, la manipulación del mercado e incluso la suplantación de identidad podrán ser castigados con mayor severidad si se cometen mediante herramientas de inteligencia artificial. Se trata, por lo tanto, de un intento de actualizar el Código Penal, sin crear un corpus independiente, sino reforzando las herramientas existentes cuando la IA se convierte en un medio de actividad delictiva.
A nivel europeo e internacional, el debate ya está abierto: basta con pensar en la Ley de IA que se debate en Bruselas, que busca establecer normas comunes para los sistemas de inteligencia artificial, incluidos los riesgos de la manipulación audiovisual.
La lucha contra los deepfakes y los vídeos robados no se puede ganar con una sola herramienta, sino con la sinergia de múltiples planes de intervención. El reto tecnológico. Necesitamos algoritmos capaces de identificar automáticamente el contenido manipulado y marcarlo antes de que se viralice. Algunas universidades y centros de investigación están desarrollando marcas de agua digitales y sistemas de seguimiento de imágenes para distinguir lo auténtico de lo falso. Sin embargo, es una carrera sin fin: cada nueva herramienta de detección estimula la aparición de técnicas de falsificación más sofisticadas. Por lo tanto, el desafío es continuo y requiere una inversión pública significativa, no solo en manos de intereses privados.
El desafío legal. Más allá de las regulaciones, es crucial contar con procedimientos efectivos. Una víctima que descubre un deepfake en una plataforma internacional no puede esperar meses para obtener su eliminación. Se necesitan canales de emergencia, similares a los implementados para el contenido terrorista en línea, que permitan a las autoridades solicitar la eliminación inmediata y vinculante. Al mismo tiempo, es necesario fortalecer la cooperación internacional, ya que los servidores suelen estar en el extranjero y los responsables operan en países con legislaciones menos estrictas.
El desafío cultural. Este es probablemente el juego más decisivo. Una sociedad que no distingue la verdad de la falsedad está destinada a convertirse en terreno fértil para la manipulación de todo tipo, desde el chisme hasta la propaganda política. Necesitamos educación digital en las escuelas, programas de alfabetización para adultos y campañas institucionales que expliquen los riesgos y enseñen a reconocer el contenido manipulado. La conciencia crítica es el mejor antídoto contra la viralidad de las falsificaciones.
El hilo conductor que une a sitios web amateur como Mia moglie y Phica con los deepfakes más sofisticados es siempre el mismo: el uso no consentido de la imagen y la identidad de una persona. Hoy en día, esto ya no es solo un problema relacionado con la pornografía o la morbilidad de ciertos contextos, sino una cuestión que atañe a la democracia, la economía y la convivencia ciudadana.
Si alguien puede crear un vídeo creíble que muestre el rostro de un político declarando la guerra, un empresario que invita a invertir en una estafa o una persona común que se ve arrastrada a una situación pornográfica, la confianza en la propia realidad se ve socavada. Ya no se trata solo de proteger la reputación individual, sino de preservar la cohesión social y la capacidad de distinguir lo real de lo artificial.
En este sentido, combatir los deepfakes y la difusión de vídeos robados representa un verdadero desafío para la civilización. El derecho, la tecnología y la cultura no son suficientes: necesitamos una alianza que los integre, involucrando a instituciones, plataformas y ciudadanos. No solo está en juego la dignidad de las personas, sino también la calidad de nuestra vida democrática.
Paolo GaldieriEn un drástico cambio de rumbo, Nepal ha levantado el bloqueo nacional de las redes sociales impuesto la semana pasada después de que provocara protestas masivas de jóvenes y causara al menos 19 mu...
La Dark Web es una parte de internet a la que no se puede acceder con navegadores estándar (Chrome, Firefox, Edge). Para acceder a ella, se necesitan herramientas específicas como el navegador Tor, ...
El equipo de Darklab, la comunidad de expertos en inteligencia de amenazas de Red Hot Cyber, ha identificado un anuncio en el mercado de la dark web «Tor Amazon», la contraparte criminal del popular...
La Conferencia Red Hot Cyber se ha convertido en un evento habitual para la comunidad Red Hot Cyber y para cualquier persona que trabaje o esté interesada en el mundo de las tecnologías digitales y ...
El lanzamiento de Hexstrike-AI marca un punto de inflexión en el panorama de la ciberseguridad. El framework, considerado una herramienta de última generación para equipos rojos e investigadores, e...
