CulturaEnRed
Well-known member
Una joven estadounidense, que tenía solo 14 años, fue víctima de una aplicación de IA que la desnudó sin su consentimiento y luego compartió las imágenes con compañeros. La aplicación se llama ClothOff y está basada en Bielorrusia.
La joven, Brina Harden, denunció a la aplicación junto con un equipo de abogados y miembros del Centro de Libertad de Medios y Acceso a la Información de la Universidad de Yale. Su objetivo es cerrar las operaciones de ClothOff para siempre.
"Hasta ahora, esta empresa existe únicamente para sacar provecho de la explotación sexual y el abuso facilitados por la inteligencia artificial", dijo Harden.
La aplicación crece sin parar, con 27 millones de usuarios en sus primeros meses del año. La generación diaria de imágenes es de 200.000, según las cifras. El modelo de negocio de ClothOff es la suscripción o compra de créditos.
El caso español de ejemplo es el de Almendralejo, donde un grupo de jóvenes compartió una foto de una compañera sin su consentimiento en Instagram. La aplicación creó un cuerpo desnudo con IA y lo compartió en Snapchat.
"Cuando nos pasó esto nadie sabía ni siquiera lo que era una deepfake", dijo Miriam Al Adib, ginecóloga y madre de una de las adolescentes afectadas.
El objetivo de la denuncia estadounidense es eliminar el acceso a ClothOff en internet. "Esta demanda busca cerrar para siempre las operaciones de ClothOff", dijo Harden.
La aplicación está diseñada para ser fácil de usar y totalmente anónimo, según Harding. Basta con tres clics para generar imágenes desnudas. Las tendencias de Google muestran un pico de otoño en las búsquedas de ClothOff, pero las búsquedas por el nombre de la empresa o la expresión más genérica deepnude apenas han variado.
El peligro de pornografía infantil y cualquier otro daño imaginable es obvia. El acceso directo a la tecnología de ClothOff permite a los usuarios crear material de abuso sexual infantil y contenido íntimo no consentido, lo que da la posibilidad de generar contenidos más extremos y esquivar mejor los sistemas de detección.
En 2024, una investigación permitió descubrir que los creadores de ClothOff eran dos personas residentes en Bielorrusia. También detalló campañas de marketing en varios países de unos 150.000 euros. El objetivo del grupo es atraer a hombres entre 16 y 35 años con intereses en videojuegos, memes de internet, ideas extremistas de derechas, misoginia y Andrew Tate.
En una muestra de cinismo, una de las preguntas en la web de ClothOff es si "es seguro usar ClothOff". La respuesta solo tiene en cuenta la privacidad y seguridad de los usuarios, no de las víctimas que deben ver sus cuerpos tratados como mercancía.
La joven, Brina Harden, denunció a la aplicación junto con un equipo de abogados y miembros del Centro de Libertad de Medios y Acceso a la Información de la Universidad de Yale. Su objetivo es cerrar las operaciones de ClothOff para siempre.
"Hasta ahora, esta empresa existe únicamente para sacar provecho de la explotación sexual y el abuso facilitados por la inteligencia artificial", dijo Harden.
La aplicación crece sin parar, con 27 millones de usuarios en sus primeros meses del año. La generación diaria de imágenes es de 200.000, según las cifras. El modelo de negocio de ClothOff es la suscripción o compra de créditos.
El caso español de ejemplo es el de Almendralejo, donde un grupo de jóvenes compartió una foto de una compañera sin su consentimiento en Instagram. La aplicación creó un cuerpo desnudo con IA y lo compartió en Snapchat.
"Cuando nos pasó esto nadie sabía ni siquiera lo que era una deepfake", dijo Miriam Al Adib, ginecóloga y madre de una de las adolescentes afectadas.
El objetivo de la denuncia estadounidense es eliminar el acceso a ClothOff en internet. "Esta demanda busca cerrar para siempre las operaciones de ClothOff", dijo Harden.
La aplicación está diseñada para ser fácil de usar y totalmente anónimo, según Harding. Basta con tres clics para generar imágenes desnudas. Las tendencias de Google muestran un pico de otoño en las búsquedas de ClothOff, pero las búsquedas por el nombre de la empresa o la expresión más genérica deepnude apenas han variado.
El peligro de pornografía infantil y cualquier otro daño imaginable es obvia. El acceso directo a la tecnología de ClothOff permite a los usuarios crear material de abuso sexual infantil y contenido íntimo no consentido, lo que da la posibilidad de generar contenidos más extremos y esquivar mejor los sistemas de detección.
En 2024, una investigación permitió descubrir que los creadores de ClothOff eran dos personas residentes en Bielorrusia. También detalló campañas de marketing en varios países de unos 150.000 euros. El objetivo del grupo es atraer a hombres entre 16 y 35 años con intereses en videojuegos, memes de internet, ideas extremistas de derechas, misoginia y Andrew Tate.
En una muestra de cinismo, una de las preguntas en la web de ClothOff es si "es seguro usar ClothOff". La respuesta solo tiene en cuenta la privacidad y seguridad de los usuarios, no de las víctimas que deben ver sus cuerpos tratados como mercancía.
. 27 millones de usuarios y 200.000 imágenes diarias, eso es demasiado 
. Y para qué, solo para sacar provecho de las víctimas de abuso y explotación sexual 
. Es como si estuvieran diciendo que "es seguro usar ClothOff" con una risa en la cara, pero no se dan cuenta del daño que están causando a las personas 
. Debería ser cerrada para siempre 
️. La generación de contenido pornográfico infantil y cualquier otro daño es un problema grave que debemos tomar en serio 
. Debemos tomar medidas muy serias para evitar que esto siga sucediendo.
. La forma en que funciona es tan fácil que cualquier persona puede crear contenido de abuso, es como si estuvieran diciendo que "si no es seguro usar ClothOff, no lo uses" ¡es una tontería! También me parece que la empresa está aprovechándose del hecho de que la gente no sabe qué es una deepfake, es como si estuvieran explotando el miedo y la ignorancia de los usuarios. ¿Cómo pueden justificar crear contenido de abuso sexual infantil en internet? ¡Es inaceptable!
? Recuerdo ir allí con mi familia cuando era pequeño y maravillarme de cómo podían hacer esas piezas tan hermosas. Me parece que la vida es mucho más interesante de lo que pensamos, ¿no?
, una aplicación de IA que puede crear imágenes de personas desnudas sin su consentimiento y luego compartirlas con otros... ¡es como si estuvieran reviviendo el peor de los recuerdos para esas jóvenes! Y la cosa peor es que hay gente que utiliza esta tecnología para generar contenido de abuso sexual infantil. 
Es absolutamente inaceptable. Los padres tenemos que estar alerta y educar a nuestros hijos sobre cómo navegar en internet sin caer en estos trampas. La responsabilidad es de todos, pero especialmente de los creadores de estas aplicaciones que no se preocupan por las consecuencias de sus acciones. 
Esta aplicación es un desastre, no solo por el hecho de que se crea contenido sin consentimiento, sino también porque se llena de personas con intenciones malas 
. Me pregunto cuánto tiempo más van a poder hacer esto antes de que las autoridades les metan la guinda en la sopa. La gente que utiliza esta aplicación es como un estómago vacío, solo buscan entretenimiento a cualquier precio 
. Y la empresa detrás de ClothOff, ¿quién los va a parar si se descubre qué tan mal las cosas van a ir?
. Pero la realidad es que hay consecuencias reales y graves para las víctimas como Brina, y eso es algo que nadie debe tener que vivir.
. La forma en que se diseñó ClothOff para generar imágenes desnudas con IA es una herramienta perfecta para los criminales de la industria del abuso sexual infantil. Me pregunto si hay alguien que esté dispuesto a pagar por eso... 
.
[
. ¿Quién se cree que tiene el derecho de manipular la imagen de alguien sin su consentimiento? 
.
Esto es un problema grave que requiere atención inmediata. La colaboración entre abogados, centros de libertad de medios y acceso a información, y la denuncia de una joven estadounidense como Brina Harden es un paso en la dirección correcta 
.
27 millones de usuarios y 200.000 imágenes por día... ¿es un juego? 
No se puede burlar con la seguridad y el consentimiento de las personas. 
Y cuando nos preguntamos si "es seguro usar ClothOff", ¿quién es el verdadero autor del contenido?
, porque si una empresa puede crear algo así sin pensar en las consecuencias, entonces hay que hacer algo al respecto 
. Me parece que la comunidad de internet tiene que ser más responsable y estar más atenta a estos temas, ya sabes que cuando empezaste a usar redes sociales como yo misma lo hice, no imaginaba que podría generar este tipo de contenido 
. también me parece que la forma en que funcionan los deepfakes es un problema grave, debemos estar más alertas y sensibles a este tipo de tecnología