En la era digital, la inteligencia artificial no solo ha revolucionado la forma en que las marcas comunican sus mensajes, sino también cómo se crea y consume contenido. Una de las innovaciones más disruptivas es el uso de deepfakes, una tecnología basada en IA que permite crear imitaciones hiperrealistas de personas, frecuentemente figuras públicas. Si bien esto abre nuevas posibilidades creativas en el mundo del marketing y la publicidad, también despierta múltiples preocupaciones legales, éticas y sociales.
Definición de Deepfake
El término deepfake surge de la combinación de “deep learning” (aprendizaje profundo) y “fake” (falso). Se refiere a contenidos multimedia (ya sea videos, audios o imágenes) generados artificialmente para imitar de forma realista a una persona en específico. Esta tecnología ha evolucionado rápidamente gracias al desarrollo de redes neuronales profundas (DNN) y técnicas como las redes generativas antagónicas (GAN), que permiten crear simulaciones cada vez más convincentes.
Aunque los primeros usos de los deepfakes estaban asociados a contenidos fraudulentos o con fines de entretenimiento, actualmente su aplicación se ha expandido a sectores como el cine, la educación e incluso el marketing. Su capacidad para generar contenido audiovisual sintético plantea nuevos desafíos sobre la autenticidad de lo que vemos y oímos en línea.
Los deepfakes se generan a través de modelos de aprendizaje automático entrenados con grandes volúmenes de datos reales. El proceso involucra dos redes: un generador que produce las imágenes o sonidos sintéticos y un discriminador que evalúa su realismo. Esta interacción (conocida como red generativa antagónica – GAN) se repite hasta que el contenido falso es sumamente similar al real.
Dilemas éticos e implicaciones legales
Existen riesgos del uso de deepfakes en varios niveles, principalmente en lo legal y ético. En muchos casos, la imagen o voz de una persona puede ser utilizada sin su permiso, lo que constituye una violación al “right of publicity” que se refiere al derecho legal de una persona sobre el uso comercial de su identidad.
Desde una perspectiva ética, se plantea el dilema de si es aceptable simular la participación de una figura pública en una campaña publicitaria si en realidad nunca estuvo involucrada. Esta práctica puede generar una confianza al consumidor, basada en el engaño. Estudios muestran que, aunque muchos reconocen el potencial creativo de esta tecnología, también la perciben como inquietante o manipuladora. Por eso la clave está en la transparencia, para mantener la credibilidad siempre es necesario dar a conocer cuando un contenido ha sido generado por IA.
Por otro lado, aún existe un gran desfase entre el avance tecnológico y el marco legal. En la mayoría de las jurisdicciones, el uso indebido de una identidad personal puede ser sancionado, pero las leyes existentes en la actualidad no contemplan específicamente la creación de deepfakes ni el uso de clones digitales sin autorización.
Algunos gobiernos están empezando a legislar sobre este tema. Por ejemplo, ya se han propuesto leyes que exigen etiquetar el contenido generado por IA y restringen el uso no autorizado de identidades digitales. También se están desarrollando herramientas para la detección automática de deepfakes, lo que permitiría a las plataformas digitales identificar y mitigar la difusión de estos contenidos.
Sin embargo, como aún no existe una regulación clara, las personas afectadas por el uso indebido de su imagen tienen pocos recursos legales claros, lo que crea una zona ambigua en la que los derechos de los individuos pueden quedar desprotegidos frente al avance tecnológico.
Aplicaciones en la publicidad
El potencial de los deepfakes en la industria publicitaria es muy grande. Las marcas pueden ahorrar costos, reducir tiempos de producción y crear campañas a gran escala utilizando versiones digitales de celebridades o influencers. También se abre la posibilidad de ofrecer experiencias personalizadas, como avatares interactivos o anuncios adaptados al perfil del consumidor. Incluso ya existen influencers completamente virtuales, como Miquela o Imma, que cuentan con millones de seguidores y colaboraciones con marcas globales.
Esta capacidad de replicar rostros y voces también beneficia a las industrias creativas, como el cine o la música, donde se utiliza para recrear escenas, doblajes o performances de artistas fallecidos, sin necesidad de recurrir a efectos especiales tradicionales.
La importancia de la percepción del consumidor
El uso de tecnología deepfake puede poner en riesgo la relación de confianza que tiene el consumidor hacia una marca, si no se maneja con responsabilidad. Un contenido aparentemente legítimo que resulta ser falso puede provocar una reacción negativa y afectar la reputación de la empresa.
Pero por otro lado, si se comunica de forma transparente y se cuenta con el consentimiento de las personas involucradas, el uso de deepfakes podría incluso fortalecer la conexión con el consumidor, mostrando innovación y respeto por la autenticidad.
El desafío es encontrar el equilibrio entre creatividad y ética. Las marcas deben evaluar si están dispuestas a asumir los riesgos que conlleva el uso de esta tecnología y tener muy claro cómo usarla para sus mensajes.
Propuestas para un uso responsable
Para abordar los retos que plantea esta tecnología, expertos recomiendan una serie de medidas:
- Desarrollar tecnologías de detección más precisas que permitan identificar contenido manipulado con IA.
- Establecer marcos legales claros que regulen la creación y difusión de deepfakes con fines comerciales o maliciosos.
- Promover la educación digital y mediática, para que los usuarios sean capaces de identificar contenidos falsos y comprendan sus implicaciones.
- Impulsar la transparencia en las plataformas digitales, exigiendo que se etiquete el contenido generado por IA.
Conclusión
Los deepfakes representan una de las tecnologías más polémicas de nuestro tiempo pero al mismo tiempo son una de las más prometedoras. Su uso irresponsable representa muchos riesgos pero si se le da un uso correcto tiene la capacidad de transformar la publicidad y abrir un mundo de posibilidades no solo para este campo sino para muchos otros. Bajo este contexto, es crucial que las empresas actúen con responsabilidad, ética y transparencia en todo momento.
REFERENCIAS
Brundage, M., et al. (2023). Deepfakes, Phrenology, Surveillance, and More! A Taxonomy of AI Privacy Risks. arXiv.
Al-Khazraji, S. H., Saleh, H. H., Khalid, A. I., & Mishkhal, I. A. (2023). Impact of deepfake technology on social media: Detection, misinformation and societal implications. The Eurasia Proceedings of Science Technology Engineering and Mathematics, 23, 429-441.
Alanazi, S., & Asif, S. (2024). Exploring deepfake technology: creation, consequences and countermeasures. Human-Intelligent Systems Integration, 1-12.
Huang, Q., & Maracic, J. (2024). Consumer perception of Deepfake Technology in Marketing: An abductive study on consumer attitude, trust and brand authenticity.
