Deepfakes y datos personales: obligaciones empresariales y derechos de los titulares

Deepfakes y datos personales: obligaciones empresariales y derechos de los titulares

Deepfakes y datos personales: obligaciones empresariales y derechos de los titulares

 

 

 

Autor: Javier Matta Hernández

Cargo: Asociado Junior de Pérez-Llorca, Gómez-Pinzón 

Con ocasión del reciente comunicado emitido por la Superintendencia de Industria y Comercio (SIC), junto con otras autoridades de protección de datos, se lanzó una alerta internacional frente al incremento en el uso indebido de Inteligencia Artificial (IA) para crear y difundir imágenes íntimas no consentidas, contenido difamatorio o material potencialmente dañino a partir de datos de personas identificables.

En este contexto, es imperativo conocer las acciones que pueden adoptar tanto las organizaciones como los titulares de la información.

¿Las imágenes creadas con IA constituyen datos personales?

Sí. La definición de dato personal no es taxativa ni depende del formato de la información, sino que comprende cualquier información vinculada o que pueda asociarse a una o varias personas naturales determinadas o determinables. En consecuencia, las fotos, videos o audios generados mediante inteligencia artificial constituyen datos personales cuando permiten identificar a una persona, ya sea por su rostro, voz, rasgos físicos o gestos.

Por tanto, el uso de herramientas de IA para recolectar, transformar o generar este tipo de contenidos implica un tratamiento de datos personales que, por regla general, debe estar precedido de la autorización del titular y cumplir con los principios y deberes previstos en la normativa de protección de datos.

 

¿Qué deben hacer las organizaciones?

Las organizaciones que desarrollan o utilizan sistemas de IA generativa deben asegurar que su diseño, entrenamiento y uso cumplan con la Ley 1581 de 2012 y las demás normas que la complementan.

En particular, las autoridades recomiendan:

• Implementar medidas técnicas y organizacionales robustas para evitar la generación y difusión de imágenes íntimas no consentidas o contenido dañino.

• Adoptar salvaguardas específicas cuando exista riesgo para niños, niñas y adolescentes.

• Informar claramente sobre las capacidades, limitaciones, usos permitidos y riesgos asociados a los sistemas de IA.

• Disponer de canales accesibles y ágiles para que los titulares soliciten la eliminación de contenido y atender oportunamente dichas solicitudes.

 

¿Qué alternativas tienen los titulares?

Las personas cuyos derechos puedan verse afectados por la creación o difusión de deepfakes cuentan con distintas herramientas jurídicas:

Los artículos 15 y 16 de la Ley 1581 de 2012 reconocen el derecho de los titulares a presentar reclamos para solicitar la supresión de su información personal o denunciar el incumplimiento de los deberes legales.

Este reclamo debe presentarse inicialmente ante el responsable del tratamiento. Si no se obtiene respuesta o la misma resulta insatisfactoria, puede acudirse ante la SIC.

En ciertos casos, la creación o utilización de deepfakes puede configurar conductas punibles, como el delito de falsedad personal, recientemente modificado por la Ley 2502 de 2025, que incorpora este concepto dentro del código penal.

Adicionalmente, es posible acudir ante la jurisdicción civil con el fin de demandar los daños y perjuicios ocasionados por la difusión de imágenes o contenidos generados mediante IA que afecten la honra, la imagen o la reputación de la persona.

 

Compartir