La inteligencia artificial (IA) llegó a nuestras vidas con el lanzamiento del famoso ChatGPT de OpenAI en noviembre de 2022 y, desde entonces, esta tecnología se ha utilizado para crear imágenes, escribir texto, programar código o automatizar tareas repetitivas, entre otras de sus capacidades. Sin embargo, más allá de estos empleos, desafortunadamente, la IA también puede usarse de forma malintencionada, como, por ejemplo, para imitar voces sin un consentimiento previo.
Esta última acción mencionada es un peligro para la seguridad de los usuarios, debido a que los ciberdelincuentes pueden usar las voces de las víctimas para robar información o perjudicar a otras personas. Además, un ejemplo de ello es el caso que ha sucedido, hace poco, en un instituto de enseñanza secundaria de Baltimore (Maryland, Estados Unidos), donde un profesor de educación física ha utilizado una voz clonada por IA para intentar despedir al director.
Concretamente, este maestro usó un servicio de clonación de voz mediante inteligencia artificial que simulaba ser la del director de la escuela para crear y compartir públicamente una grabación con comentarios racistas y antisemitas. Pero, como pudo comprobar la policía del condado de Baltimore, la grabación era falsa porque la voz del director tenía un "tono plano, sonidos de fondo inusualmente limpios y falta de pausas o sonidos respiratorios consistentes" –informó el diario The Baltimore Banner–.
Como era de esperar, tras investigar el origen de la clonación, la policía informó en un comunicado que el profesor, posiblemente, "hizo la grabación para tomar represalias contra el director, quien en ese momento estaba llevando a cabo una investigación sobre una posible mala gestión de los fondos escolares".
Sin embargo, la policía no pudo determinar qué herramienta con IA utilizó el maestro para clonar la voz, aunque reveló que utilizaba los ordenadores del instituto para acceder a OpenAI y la inteligencia artificial de Microsoft Bing. Finalmente, el cuerpo de seguridad arrestó al profesor y lo acusó de delitos relacionados con el presunto asunto.
Cómo se clona una voz con inteligencia artificial
Matt Lehmann, Chief Operating Officer de AudioStack, explicó en una entrevista para 20Bits que el proceso comienza con hacer grabaciones a la persona que se desea clonar la voz. Una vez obtenidas las grabaciones, se alinean con los textos escritos del script que la persona ha grabado y, posteriormente, se preparan los datos para modelar la voz.
Este proceso se lleva a cabo gracias al uso de la inteligencia artificial porque reconoce las características de la voz de una persona y las recrea con un modelo. Además, este trabajo suele tardar unos días pero, una vez finalizado, cualquier texto escrito se puede convertir en la voz de la persona que dejado las grabaciones.
Apúntate a nuestra newsletter y recibe en tu correo las últimas noticias sobre tecnología.
Comentarios