- La IA avanzada está produciendo imágenes de dobles digitales muy realistas, lo que plantea importantes cuestiones sobre la seguridad de la identidad y la privacidad personal.
- La creación de imágenes dobles con IA suscita importantes preocupaciones éticas, especialmente en relación con la autenticidad y la falta de consentimiento al replicar la semejanza de alguien.
- Los marcos legales actuales luchan por abordar las cuestiones únicas que plantean las imágenes generadas por IA, mostrando una necesidad cada vez mayor de normativas actualizadas para proteger los derechos individuales.
- ExpressVPN, conocida por su VPN premium, investiga el mundo en evolución de los dobles de IA, haciendo hincapié en la necesidad del consentimiento del usuario y de sólidas protecciones de la privacidad.
- Aunque los dobles de IA podrían revolucionar el aprendizaje personalizado y el apoyo a la salud mental, su desarrollo y uso requieren una cuidadosa consideración ética y una fuerte supervisión reguladora para garantizar que benefician a la sociedad sin comprometer la privacidad individual.
¿Se acuerda de Lensa AI? En diciembre de 2022, las redes sociales se inundaron de imágenes extrañamente bellas de nuestros amigos en escenarios fantásticos, gracias a una aplicación fotográfica impulsada por IA que estaba de moda en aquel momento.
Aunque hacer esas imágenes era divertido, ¿qué pasaría si su cara se utilizara de forma similar pero sin su permiso? Es una posibilidad real, ya que muchas personas han utilizado servicios que escanean sus rostros, y existen pocas normativas que supervisen lo que está permitido y lo que no cuando se trata de ser dueño de su semejanza.
Bienvenido al mundo de los dobles generados por la IA, donde su gemelo digital podría existir ya en las vastas redes de Internet sin que usted se dé cuenta. ¿Qué implicaciones tienen los dobles generados por IA para la identidad personal cuando su rostro puede duplicarse sin su consentimiento? ¿Y cómo manejamos la difusa línea entre lo real y lo generado artificialmente?
Averigüémoslo.
Cómo han evolucionado los rostros generados por IA
La trayectoria de la IA en la creación de rostros hiperrealistas se remonta a importantes avances en el aprendizaje automático, en particular con la introducción de las redes generativas adversariales (GAN) a mediados de la década de 2010. Desarrolladas inicialmente para crear arte digital, las GAN implican dos redes neuronales que compiten entre sí: una genera nuevas imágenes, mientras que la otra evalúa su realismo. Esta tecnología se extendió rápidamente más allá del arte, mejorando los sistemas de visión por computadora y proporcionando simulaciones realistas para el entrenamiento de la IA.
La aplicación de los GAN alcanzó un nuevo nivel de interacción pública con el lanzamiento del sitio web ThisPersonDoesNotExist por el desarrollador de software Phillip Wang. En el sitio, cada actualización genera un nuevo rostro, realista pero completamente ficticio, que muestra el poder y la creatividad de la tecnología GAN. Wang, inspirado por una conversación con el investigador de IA Ian Goodfellow, utilizó un modelo desarrollado por Nvidia A.I. Labs para entrenar su algoritmo con más de 70.000 imágenes de alta resolución, dando como resultado rostros que desafían nuestras nociones de originalidad y autenticidad.
Hiperrealismo en acción
Los rostros generados por IA, que en los estudios se adivinan como reales incluso más que los rostros humanos reales, se crean no sólo para asombrar sino para ser utilizados en materiales como la publicidad y los visuales de marketing. No sólo parecen reales, sino que además pueden crearse rápidamente y casi sin coste alguno. Estos seres digitales ofrecen una alternativa eficaz a los modelos humanos.
Un excelente ejemplo de la eficacia de la IA en el ámbito comercial es Aitana López, una modelo generada íntegramente por la IA con más de 311.000 seguidores en Instagram. Creada por The Clueless, una agencia de diseño de Barcelona, López sirve como influencer que interactúa con los seguidores y promociona productos reales. La agencia dijo que crearon a López porque el personaje ofrece fiabilidad y eficacia, reduciendo los costes y los retos logísticos de contratar a modelos humanos.
El fenómeno de los dobles de IA
Como hemos visto con la evolución de los rostros generados por la IA, sus capacidades han alcanzado nuevas cotas impresionantes, aprovechando algoritmos avanzados para producir figuras digitales hiperrealistas. Esta transición del arte digital tradicional a la creación de modelos realistas e interactivos muestra un salto significativo en la tecnología de la IA. Pero cuando exploramos esto más a fondo, nos encontramos con un fenómeno que fusiona lo fantástico con lo familiar: los dobles de la IA.
El concepto de doble –alguien que refleja inquietantemente su aspecto pero que no es pariente suyo– proviene del alemán “doppelgänger” (“doble caminante”), doble fantasma que tradicionalmente servía como ominoso presagio de la desgracia o el fallecimiento de una persona. Hoy en día, este antiguo concepto ha sufrido una transformación tecnológica. Utilizando la IA, se están creando digitalmente semejanzas de personas reales, potencialmente para llevar una existencia separada en línea.
Por ejemplo, en la industria del entretenimiento, la IA se ha utilizado para crear versiones digitales de actores fallecidos para películas, devolviendo a la pantalla a personajes nostálgicos. Un ejemplo notable es Peter Cushing en Star Wars: Rogue One, donde se utilizó IA y CGI para recrear su aparición como Grand Moff Tarkin, a pesar de que el actor había fallecido en 1994.
Estamos alimentando a la IA con nuestro yo digital
Aplicaciones como Lensa AI popularizaron la conversión de selfies corrientes en retratos estilizados que recuerdan a reinos de alta fantasía. Estas apps utilizan algoritmos avanzados de IA entrenados en vastos conjuntos de datos de estilos artísticos y rasgos humanos, lo que les permite replicar y reimaginar nuestros rostros en diversas modalidades creativas.
Esta fascinación inicial ha pasado desde entonces a aplicaciones más serias. Ahora la IA nos ayuda a editar nuestras imágenes profesionales; elabora el retrato perfecto para LinkedIn, adapta los currículos e incluso produce contenidos de vídeo personalizados para la creación de marcas. Lo que comenzó como un divertido experimento con nuestras identidades digitales ha evolucionado hasta convertirse en una herramienta de autopresentación personal y profesional.
En el servicio de atención al cliente, los dobles de la IA también se están convirtiendo en una realidad. Las empresas están empleando agentes digitales impulsados por la IA que pueden interactuar con los clientes utilizando las expresiones faciales y las voces de los representantes humanos de atención al cliente, proporcionando una experiencia personalizada y atractiva al cliente.
La misma tecnología también nos está ayudando a crear deepfakes. Estas imágenes, vídeos y clips de voz generados por IA, altamente realistas y convincentes, pueden representar falsamente a cualquier persona en escenarios inventados.
Con cada selfie que subimos, cada clip de voz que compartimos y cada vídeo que publicamos, estamos contribuyendo activamente a la IA que aprende implacablemente de nuestros rastros digitales. Cuando subimos fotos a las redes sociales o directamente a los sistemas de IA, estas imágenes se almacenan y sufren una transformación que las convierte de instantáneas en datos valiosos para el entrenamiento de la IA. He aquí cómo funciona este proceso:
- Nuestras cargas digitales proporcionan la materia prima para el aprendizaje de la IA.
- A continuación, estas imágenes se etiquetan y categorizan, a veces incluso se anonimizan, para prepararlas para las siguientes etapas.
- Las imágenes etiquetadas alimentan algoritmos como los GAN, que aprenden progresivamente a reconocer y reproducir rasgos humanos.
- La IA utiliza este entrenamiento para crear rostros nuevos y únicos que pueden ser inquietantemente realistas, familiares o estilísticamente alterados, pero basados en personas reales.
Esto significa que la IA puede crear potencialmente una versión suya con sólo ligeras diferencias –es decir, su doble de IA– y es posible que usted nunca sepa nada al respecto. Esto plantea importantes preocupaciones éticas sobre quién controla y utiliza nuestras semejanzas digitales. Cuando la IA puede replicar nuestros rostros para anuncios o campañas políticas sin nuestro consentimiento explícito, difumina las líneas entre la autonomía personal y la explotación tecnológica.
Esto pone de relieve cuestiones urgentes: ¿quién controla realmente estas imágenes generadas por la IA? ¿A quién pertenecen los derechos de estas identidades digitales?
Implicaciones legales y éticas de los dobles deIA
El auge de los dobles de la IA plantea una serie de desafíos legales y éticos, especialmente en lo que respecta a la propiedad y el control. Estas entidades digitales, que se asemejan a individuos reales, navegan por una zona turbia entre la creación original y la réplica directa, dejando al descubierto importantes lagunas en los actuales marcos de derechos de autor y de identidad.
Incertidumbres jurídicas
Los sistemas jurídicos actuales están mal equipados para manejar las novedosas cuestiones que plantea la IA. En EE.UU., por ejemplo, la dependencia de las anticuadas leyes de derechos de autor significa que aspectos significativos de los contenidos generados por la IA siguen en gran medida sin ser cuestionados en los tribunales. Este escenario refleja los primeros retos legales a los que se enfrentó la llegada del arte de la IA, lo que sugiere que la sociedad necesita nuevos precedentes legales para aclarar los derechos de autor en la era de la IA.
Tomemos el caso de Scarlett Johansson, que interpuso una demanda contra una aplicación de IA llamada Lisa AI: 90s Yearbook & Avatar por utilizar su imagen sin permiso en su publicidad. La aplicación creó un anuncio que hacía parecer que Johansson respaldaba el producto, lo que provocó confusión y un posible daño a su reputación. La acción legal emprendida por Johansson llevó a la retirada del anuncio de las plataformas online, lo que pone de relieve las batallas legales a las que se enfrentan las celebridades cuando se enfrentan al uso no autorizado de su imagen digital.
Mientras tanto, la Ley de IA de la UE, aunque supone un paso hacia la claridad normativa, aún carece de disposiciones específicas sobre la propiedad de los contenidos generados por IA, lo que indica un enfoque poco sistemático de los nuevos retos
Complejidades de los derechos de autor
El reto que plantean los contenidos generados por la IA es precisar la originalidad y la autoría. Dado que la IA suele remezclar datos existentes para crear algo nuevo, nos queda la duda de si el resultado es original o sólo un derivado de sus datos de entrenamiento. La doctrina estadounidense del “uso justo” ofrece cierto margen para utilizar material protegido por derechos de autor para crear obras transformadoras, pero los límites de lo que se considera “transformador” sigue siendo un tema candente de debate jurídico.
Reconociendo estas cuestiones, algunas empresas están forjando asociaciones para garantizar que los creadores originales sean compensados por el uso de su trabajo en el entrenamiento de modelos de IA, pero se trata sólo de un pequeño puñado de organizaciones.
Consideraciones éticas
Más allá de los aspectos legales, las implicaciones éticas son profundas. Si una IA puede crear un doble que imite casi a la perfección a una persona sin su consentimiento, pone en tela de juicio la noción misma de identidad personal. Esto no sólo suscita un debate sobre el uso ético de este tipo de tecnología, sino que también plantea riesgos prácticos para la privacidad, la seguridad y la libertad.
Por ejemplo, un vídeo generado por la IA podría mostrar a una persona adoptando un comportamiento que en realidad nunca hizo, como asistir a acontecimientos controvertidos o participar en actividades ilegales. Este tipo de uso indebido puede provocar vergüenza pública, estigmatización o graves consecuencias personales sin que la persona haya participado nunca en las acciones retratadas.
Además, en casos graves, un doble digital podría utilizarse para acceder a una instalación segura o a cuentas digitales, lo que conduciría al robo de identidad o al acceso no autorizado a información sensible. Las implicaciones son especialmente nefastas en contextos relacionados con la seguridad nacional o el espionaje corporativo.
Riesgos de uso indebido
La llegada de los dobles digitales también conlleva importantes riesgos de uso indebido. El uso no autorizado de la imagen digital de alguien para anuncios o campañas políticas sin su consentimiento vulnera los derechos personales y difumina las líneas éticas. Esto no sólo plantea riesgos de suplantación y fraude, sino que también afecta a la reputación personal y profesional, lo que exige protecciones legales estrictas para salvaguardar a las personas de tales abusos.
Por ejemplo, se ha extendido la preocupación por el posible uso de deepfakes para fabricar declaraciones o acciones de figuras políticas. El temor es que estos vídeos puedan utilizarse para engañar a los votantes o empañar la reputación de los oponentes políticos, especialmente a medida que la tecnología se vuelve más accesible y convincente.
Cómo afrontar los retos de los dobles creados por IA
A medida que la IA se vuelve cada vez más hábil en la creación de dobles digitales que son casi indistinguibles de los humanos reales, se intensifica la urgencia de soluciones procesables. La gran pregunta a la que nos enfrentamos es: ¿pueden nuestros sistemas jurídicos y prácticas personales evolucionar con la suficiente rapidez para seguir el ritmo de estos saltos tecnológicos?
Renovar los marcos jurídicos
El auge de los parecidos generados por la IA exige una reevaluación urgente de los marcos jurídicos existentes. Esto incluye reconocer y categorizar a las personas digitales como entidades distintas, que pueden requerir nuevos derechos y protecciones. Por ejemplo, podría proponerse una legislación que reconozca la creación de un doble digital como un “nacimiento digital”, lo que podría otorgar a los individuos derechos legales sobre cualquier imagen generada por IA que se parezca mucho a ellos.
- Medidas legislativas: Son necesarias medidas legislativas inmediatas y proactivas para regular el uso de la IA en la creación de parecidos. Nuestras leyes deben delimitar claramente lo que cuenta como uso no autorizado de imágenes digitales, garantizando que los individuos mantengan el control sobre sus identidades digitales. Un enfoque podría consistir en establecer un registro en el que los individuos puedan reclamar y gestionar las imágenes de sí mismos generadas por IA.
- Consentimiento y propiedad: Es esencial establecer directrices claras sobre el consentimiento y la propiedad. Los individuos deben tener derecho a ser informados y a dar su consentimiento antes de que sus imágenes sean utilizadas o reproducidas. Esto incluye dejar claro cómo se utilizan sus datos para entrenar modelos de IA, garantizando la transparencia y el control.
Reforzar la cooperación mundial
La naturaleza global de la tecnología digital y la IA significa que abordar estos retos tampoco puede limitarse a un solo país. La colaboración internacional es vital para desarrollar normativas integrales que protejan las identidades digitales más allá de las fronteras.
- Normas internacionales: Necesitamos un conjunto unificado de normas y reglamentos internacionales que rijan la creación y el uso de las semejanzas digitales. Estas normas deben tener como objetivo armonizar los enfoques de los derechos digitales y la privacidad, garantizando la protección de las personas en todo el mundo.
- Marcos jurídicos transfronterizos: Los esfuerzos también deben centrarse en establecer marcos jurídicos transfronterizos que aborden y penalicen el uso no autorizado de imágenes digitales a nivel internacional. Esto ayudaría a evitar que las entidades se aprovechen de las lagunas normativas entre las distintas jurisdicciones.
Cómo puede proteger su identidad digital
Mientras la sociedad presiona para mejorar las reformas legales relativas a la IA, hay medidas proactivas que puede tomar ahora para salvaguardar su identidad online:
- Sea selectivo con sus datos: Piénselo dos veces antes de compartir información personal y fotos online. Cada dato puede utilizarse para entrenar sistemas de IA, incluso para crear parecidos digitales. Limite el uso compartido a los casos esenciales y opte por plataformas seguras y respetuosas con la privacidad siempre que sea posible.
- Revise y restrinja los permisos de las aplicaciones: Audite regularmente los permisos que ha concedido a las aplicaciones móviles y a los servicios online. Restrinja el acceso a su cámara, micrófono y biblioteca de fotos a menos que sea absolutamente necesario, y desconfíe siempre de las aplicaciones que solicitan más información de la que necesitan para funcionar.
- Utilice herramientas de enmascaramiento de datos: Considere la posibilidad de utilizar servicios que enmascaren o alteren ligeramente sus fotos para evitar que la IA las utilice con precisión para crear modelos digitales. Estas herramientas pueden cambiar sutilmente los detalles de la imagen de formas invisibles para el ojo humano pero perturbadoras para los algoritmos de IA.
- Realice limpiezas digitales: Revise periódicamente su presencia online. Elimine las cuentas antiguas y las fotos innecesarias de las redes sociales, y considere la posibilidad de limpiar las huellas digitales que ya no sirven para nada pero que podrían ser explotadas.
- Abogue por mejores políticas: Manténgase informado sobre las políticas de privacidad digital y apoye la legislación que protege los datos personales. Participe en campañas y firme peticiones que exijan una regulación más estricta de los contenidos generados por IA y una mayor transparencia en el uso que se hace de los datos personales.
- Fórmese a usted mismo y a su comunidad: El conocimiento es poder. Aproveche los recursos gratuitos para aprender más sobre la tecnología de la IA y sus implicaciones para la privacidad. Comparta estos conocimientos en su comunidad para concienciar y ayudar a los demás a comprender los riesgos y las defensas contra el uso indebido de la IA.
- Vigile los usos indebidos: Configure alertas de Google para su nombre y busque regularmente sus imágenes en Internet para ver si aparecen en contextos que no ha autorizado. Diversas herramientas y plataformas pueden ayudarle a vigilar dónde y cómo se utiliza su imagen.
¿Tener un doble de IA puede ser alguna vez algo bueno?
Como hemos visto, los dobles generados por la IA plantean importantes preocupaciones sobre la privacidad y el control de los datos personales. La capacidad de la IA para replicar con tanta precisión nuestra propia semejanza plantea una serie de cuestiones éticas que exigen una consideración cuidadosa y una supervisión rigurosa. Pero junto a estos retos, ¿podría haber usos positivos para esta tecnología? Potencialmente, sí.
Los dobles de la IA podrían, por ejemplo, revolucionar la forma en que aprendemos e interactuamos con la información. Los asistentes de aprendizaje personalizados, adaptados a los estilos y ritmos de aprendizaje de cada alumno, podrían hacer que la educación fuera más accesible y eficaz para todos. Estas entidades de IA podrían simular diferentes metodologías de enseñanza para encontrar la que mejor funcione para cada alumno, transformando potencialmente los resultados educativos.
En términos de salud mental, los dobles de IA podrían servir algún día como ayudas terapéuticas. Podrían programarse para proporcionar apoyo psicológico, practicar conversaciones o ayudar a los individuos a desarrollar habilidades sociales en un entorno de baja presión. Para quienes se enfrentan al aislamiento o a trastornos mentales específicos, una IA receptiva que comprenda y reaccione con empatía podría ser una importante fuente de apoyo.
Además, los dobles de IA podrían ayudar en entornos profesionales, encargándose de tareas e interacciones rutinarias que permitan a los empleados humanos centrarse en un trabajo más complejo y creativo. Esto podría aumentar la eficiencia en el lugar de trabajo y permitir a los trabajadores dedicarse más a fondo a aspectos de su trabajo que requieren la perspicacia y la creatividad humanas.
Sin embargo, para que estos beneficios se materialicen plenamente sin comprometer nuestras normas éticas, primero deben establecerse firmemente unas regulaciones fuertes y unas directrices claras. Este marco debe garantizar la transparencia en la forma en que se desarrollan y utilizan los dobles de la IA, con medidas estrictas para proteger los datos de las personas y evitar su uso indebido. Sólo en estas condiciones podrá aprovecharse de forma segura y eficaz el potencial positivo de los dobles de IA.
¿Qué opina de los dobles de IA? ¿Podrán los beneficios de este tipo de tecnología superar algún día las preocupaciones éticas y legales que plantea? Háganoslo saber en los comentarios a continuación?
