En un reciente e inquietante giro de los acontecimientos, imágenes explícitas generadas por IA de la famosa cantante Taylor Swift han inundado X (antes Twitter), ilustrando el lado más oscuro de las capacidades de la IA. Estas imágenes, que se cree que fueron creadas con Microsoft Designer, acapararon la atención general y pusieron de relieve el creciente problema de la pornografía falsa generada por IA.
A medida que estas imágenes se difundían rápidamente por la plataforma, el incidente no sólo provocó la indignación de los fans y los defensores de la privacidad, sino que también planteó cuestiones críticas sobre el uso ético de la IA en la creación de medios de comunicación.
Michal Salát, Director de Inteligencia de Amenazas de Avast, aporta una gran cantidad de conocimientos y experiencia a este oportuno debate. Con una aguda visión de la intersección entre tecnología, seguridad y ética, Salát ofrece una perspectiva matizada sobre las implicaciones de los contenidos generados por IA.
En las siguientes secciones, profundizamos en sus ideas, explorando los paralelismos históricos de la manipulación de imágenes, los dilemas éticos que plantean las capacidades de la IA y las implicaciones más amplias para la confianza y la seguridad digitales en nuestro mundo cada vez más impulsado por la IA.
El porno falso no es un problema nuevo
Salát establece un paralelismo entre las capacidades actuales de la IA para generar imágenes realistas y el uso de Photoshop en el pasado. Al igual que Photoshop revolucionó la manipulación de imágenes hace años, ahora la IA ha facilitado considerablemente la creación de imágenes realistas. Sin embargo, el concepto de manipulación de imágenes no es nuevo; la IA sólo se ha convertido en la última herramienta de esta saga en curso.
"En cierto modo, no es más que un software de edición fotográfica diferente", explica, haciendo hincapié en que el concepto de manipulación de imágenes lleva preocupando más de una década. La diferencia clave ahora es la facilidad y accesibilidad que aportan las tecnologías de IA. Este cambio plantea importantes cuestiones sobre cómo la sociedad se adapta y regula estas nuevas herramientas, que han hecho que la creación de imágenes realistas sea más accesible que nunca.
El dilema ético de la IA y los contenidos explícitos
Una de las preocupaciones más acuciantes son las implicaciones éticas del uso de la IA para generar imágenes explícitas, en particular de personas concretas sin su consentimiento. Aunque generar imágenes genéricas de desnudos puede no plantear tantas cuestiones éticas, el verdadero problema surge con la facilidad para crear imágenes explícitas de personas identificables.
"Probablemente no haya nada inherentemente malo o éticamente problemático en el porno generado por IA", afirma Salat. "Pero el problema ético, al menos para mí, es que se puede generar con relativa facilidad una imagen con un rostro conocido o específico".
Esta capacidad se extiende más allá de celebridades como Taylor Swift a potencialmente cualquier persona, enfatizando la necesidad de directrices éticas y legislación: Mientras que la llamada "porno venganza" (o intercambio no consentido de desnudos) es ilegal en 48 estados, la pornografía deepfake generada por IA sólo está prohibida actualmente en 10 estados. Es una diferencia abismal que subraya la necesidad de que la legislación se ponga al día con la tecnología.
¿Cómo pueden las empresas de IA evitar la creación de porno falso?
Tal vez porque el acceso a la IA generativa es un fenómeno relativamente nuevo, hay pocos límites a la creación de contenidos explícitos sin el consentimiento del sujeto. Sin embargo, según Salát, aplicarlas no sería terriblemente difícil para las empresas de IA: Algo tan sencillo como no permitir la generación de imágenes de personas concretas o que utilicen imágenes enviadas por los clientes como material de partida supondría barreras suficientes para la gran mayoría de la gente.
"Por supuesto, algunas personas podrán saltarse las restricciones y obligar al modelo a hacer algo que se supone que no debe hacer", afirma Salát. "Tal y como yo lo veo, de momento es prácticamente imposible evitarlo: sólo se puede hacer más difícil. Creo que lo que quiero decir es que las empresas que ofrecen estos servicios deberían esforzarse más por evitarlo".
También existe la posibilidad de que alguien cree su propio modelo de generación de porno sin restricciones. Salát señala, sin embargo, que aunque es posible, se necesitarían muchos conocimientos técnicos y mucha potencia de cálculo para hacerlo.
"No hay mucha gente capaz de crear una IA que genere desnudos por sí misma", afirma Salát. "Así que sería más parecido al uso de Photoshop, donde hay que tener un cierto nivel de habilidad para poder hacerlo".
Salát establece un paralelismo entre el estado actual del desarrollo de la IA y la evolución del sector de la seguridad. Observa que estamos presenciando cómo el sector de la seguridad "vuelve a empezar con la IA". Esta comparación subraya la importancia de considerar el desarrollo de la IA como un proceso continuo, en el que la identificación y corrección de vulnerabilidades es clave para la maduración de la tecnología.
Las imágenes generadas por IA de Taylor Swift en X subrayan la importancia del uso responsable de la IA. A medida que la IA siga avanzando, será crucial equilibrar las capacidades tecnológicas con las consideraciones éticas y las medidas de seguridad. Aprendiendo de expertos como Michal Salát y reflexionando sobre los retos del pasado, podemos navegar por este complejo panorama con un enfoque más informado y prudente.