TikTok introduce la posibilidad de clonar tu voz con inteligencia artificial: ¿Cuáles son los riesgos?

TikTok, la popular plataforma de videos cortos, está desarrollando una herramienta que podría cambiar la forma en que interactuamos en línea, permitiendo a los usuarios clonar sus voces utilizando inteligencia artificial. Este avance fue revelado por el analista AssembleDebug, quien descubrió la función en las líneas de código de la última versión beta de TikTok para Android, identificada como «Biblioteca de voz de TikTok».

La herramienta, llamada «Clonar tu voz con IA», necesita solo 10 segundos de grabación de voz para crear una copia exacta, según las capturas de pantalla obtenidas por AssembleDebug. TikTok solicita a los usuarios que lean un texto breve mientras graban su voz, que luego es procesada para generar una réplica digital idéntica. Esta voz clonada podría ser utilizada posteriormente para cualquier video dentro de la plataforma.

A pesar de que TikTok asegura que la información de voz será privada y que los usuarios podrán eliminarla cuando lo deseen, la función plantea importantes preguntas sobre la privacidad y el potencial mal uso de las voces clonadas. La capacidad de replicar una voz con precisión, utilizando solo una breve muestra, amplía considerablemente el alcance de los llamados «deepfakes» —una tecnología que ya ha generado preocupación global debido a su uso en la creación de contenido falso o engañoso.

La principal preocupación radica en cómo esta tecnología podría ser utilizada para imitar voces para fines no éticos o incluso ilegales, desde estafas hasta la difusión de desinformación. Además, aunque la plataforma asegura que la voz se puede eliminar, no queda claro cómo se garantiza la completa eliminación de los datos, ni qué medidas se toman para evitar que terceros accedan y utilicen estas voces clonadas.

Actualmente, la función sigue en desarrollo y no se ha confirmado su lanzamiento oficial. Los usuarios de TikTok y observadores de la industria están a la espera de más detalles sobre cómo esta herramienta será implementada y regulada, considerando los desafíos éticos y de privacidad que conlleva. La promesa de innovación de TikTok con esta herramienta de clonación de voz viene acompañada de la responsabilidad de asegurar que su uso sea seguro y respete la privacidad y la autenticidad de las personas.

Imagen Twitter: AssembleDebug