Estrena Paris Hilton docuserie en TikTok y destapa red de deepfake

Paris Hilton se volvió tendencia en redes sociales, al lanzar una serie documental en TikTok junto a la periodista Laurie Segall para alzar la voz contra violencia digital y hacer eco a las voces de quienes han sido víctimas de robo de identidad en sitios web donde se publica contenido explícito generado con Inteligencia Artificial.

La investigación "Searching for Mr. Deepfakes" producida por Mostly Human en colaboración con BFD y 11:11 Medi generó gran interés entre los internautas al proponer una nueva narrativa en las investigaciones criminales, que se siente más cercana a la audiencia al darse a conocer por medio de 13 episodios disponibles en la popular plataforma.

El "docutiktok" como ha sido nombrado en redes sociales, comparte la versión de las víctimas quienes destacan este tipo de violencia digital las hizo perder el control de su cuerpo, al verse en la pantalla en situaciones ficticias que vulneraban su imagen y experimentando un abuso real.

Asimismo, Hilton relató la dura experiencia que enfrentó al ser víctima de "deepfake" a los 19 años: "Ninguna mujer, ni niña debería vivir con el miedo a ser suplantada digitalmente, explotada o agredida por la IA con 'deepfakes' explícitos no consensuales", mencionó.

Segall, quien cuenta con experiencia como periodista investigadora y tiene con una amplia trayectoria en el ámbito tecnológico, se encargó de rastrear una de las plataformas que llegó a difundir una gran cantidad de contenido creado con inteligencia artificial. En este sitio se ofrecían servicios personalizados a partir de cualquier fotografía, y el contenido con rostros de celebridades figuraba entre las opciones más demandadas por los usuarios. Sin embargo, la plataforma también operaba como un centro de capacitación donde cualquier persona podía aprender a crear deepfakes de mujeres sin su consentimiento.

Durante su pico de popularidad, la periodista señaló que "Mr. Deepfake" tuvo alrededor de 17 millones de vistas mensuales, por lo que se dedicó a encontrar a la persona detrás del ejército potencialmente peligroso que se estaba formando en la red.

Al desplegar a todo un equipo digital para rastrear la actividad en la plataforma, los investigadores dieron con interacciones en redes sociales de un usuario de Twitter que participaba activamente en hilos dedicados a los deepfakes. Tiempo después, se percataron que ese usuario anunciaba un modelo de negocio con el uso de deepfakes y, posteriormente buscó a más interesados en un sitio de streaming dedicado al mismo tipo de contenido.

Este usuario estaba ligado a un correo electrónico con un nombre de pila y al seguir esa pista dieron con una foto compartida en la red, que al someterla a una herramienta de reconocimiento facial, dieron con las fotos familiares de un hombre que manejaba una vida normal.

Tras seguir varias pistas dieron con una dirección y confirmaron la identidad de la persona detrás de una de las plataformas más peligrosas en internet.

La investigación arrojó que "Mr. Deepfake" es farmacéutico en el hospital de una ciudad en Canadá, es un hombre casado, padre de familia que desarrolla una vida normal lejos del internet. Al ser confrontado por Laurie Segall afuera de su lugar de trabajo, el sujeto evadió los señalamientos e hizo caso omiso de la presencia de la reportera.

Finalmente, el sitio web donde miles de mujeres fueron violentadas digitalmente fue cerrado, logrando un avance clave al promover leyes en Estado Unidos que castiguen el Deepfake con mayor rigor, así como lanzar medidas de protección a las víctimas, estableciendo que este tipo de abuso digital tiene un impacto real.