Se ha vuelto viral una herramienta gratuita que permite crear deepfakes en tiempo real: es un arma de doble filo
Los deepfakes no son una novedad. Hace años que venimos hablando de esta técnica de inteligencia artificial (IA) que da vida a imágenes o vídeos falsos. La cuestión es que estos contenidos son cada vez más indistinguibles de la realidad y, además, muchas herramientas que permiten crearlos están al alcance de casi cualquier persona.
Deep-Live-Cam se ha vuelto viral en los últimos días. Se trata de un paquete de software de código abierto que abre la puerta a crear deepfakes en tiempo real de manera gratuita. Esta herramienta, como veremos a continuación, muestra unos resultados bastante convincentes y puede ser utilizada, por ejemplo, en un vídeo en directo.
La herramienta viral para crear deepfakes
Deep-Live-Cam funciona en ordenadores Windows y Mac. Lo que han hecho sus creadores es combinar varios paquetes de software de código abierto para ofrecer una herramienta bajo una interfaz fácil de utilizar. El primer paso que tienen que hacer los usuarios es cargar en el programa una foto del rostro que desean usar para el deepfake.
La interfaz tiene varios botones para mejorar los resultados, aunque tras hacer clic en Live, los modelos inswapper y GFPGAN se pondrán a trabajar para realizar un intercambio de rostros en tiempo real. El programa debería ser capaz de corregir los defectos que se producen por el proceso en tiempo real, mejorando en resultado de la salida.
Deep-Live-Cam El equipo detrás del proyecto dice que Deep-Live-Cam puede ser utilizado en programas como OBS para hacer transmisiones en vivo con un rostro sustituido. Asimismo, señalan que el paquete de software ha sido compartido como “una contribución productiva a la industria de medios generados por IA en rápido crecimiento”.
La idea, explican, es que ayude a los artistas con tareas como animar un personaje o usar el personaje como modelo para ropa. También aseguran que el modelo tiene restricciones de seguridad que impiden que pueda ser utilizado para crear contenido inapropiado como imágenes con desnudos o imágenes de guerra.
Riesgos y desafíos del software para crear deepfakes
Deep-Live-Cam está disponible en un repositorio de GitHub para que cualquier persona con la suficiente paciencia pueda utilizarlo (la instalación requiere de unos cuantos pasos). Pero Deep-Live-Cam no es el único software que permite crear deepfakes. A finales del año pasado hablábamos de Fal, otra herramienta gratuita.
Ahora bien, estamos viviendo en un mundo que nos invita a pensar detenidamente si lo que estamos viendo es una imagen real o una creada por IA. Una buena forma de abordar esta situación es sabiendo que este tipo de herramientas existen y que pueden ser utilizada para malos fines, como estafar o difundir desinformación.
Cabe señalar que algunas plataformas están tomando medidas para identificar de manera clara los contenidos creados por IA. Hemos visto las etiquetas de contenido de Facebook, Instagram y TikTok. Google, por su parte, prohibirá las aplicaciones que puedan permitir utilizar la tecnología de los deepfakes para facilitar estafas.
Imágenes | Capturas de pantalla
En Xataka | La UE tiene una idea para resolver uno de los grandes problemas de la IA: marcar su contenido generado
(function() { window._JS_MODULES = window._JS_MODULES || {}; var headElement = document.getElementsByTagName(‘head’)[0]; if (_JS_MODULES.instagram) { var instagramScript = document.createElement(‘script’); instagramScript.src = ‘https://platform.instagram.com/en_US/embeds.js’; instagramScript.async = true; instagramScript.defer = true; headElement.appendChild(instagramScript); } })();
–
La noticia Se ha vuelto viral una herramienta gratuita que permite crear deepfakes en tiempo real: es un arma de doble filo fue publicada originalmente en Xataka por Javier Marquez .
Fuente: Xataka
