¿Quién está al otro lado? La IA ya puede parecer humana y copiar una voz

Imagina esta escena. Tu hija te llama directamente. Reconoces su voz. Está nerviosa, tiene un problema y necesita que le hagas una transferencia. Hablas con ella, le preguntas qué ha pasado y te responde. Todo parece encajar.

¿Qué prueba te haría falta para creer que es ella?

Durante mucho tiempo, escuchar una voz conocida ha servido para despejar dudas. Hoy tenemos motivos para exigir algo más. Hay sistemas capaces de generar conversaciones que parecen humanas y herramientas que producen habla semejante a la de una persona a partir de una grabación corta.[7][3][4]

Para preparar este artículo he probado, a fecha de hoy, opciones gratuitas de clonación de voz. Los resultados son bastante buenos. Y precisamente por eso me parecen preocupantes.

Una conversación puede construir confianza. Una voz puede reforzarla. La urgencia puede hacer que actuemos antes de comprobar quién está pidiendo qué.

El engaño necesita durar lo suficiente para conseguir una decisión. Una transferencia. Una contraseña. Un documento que no deberías haber enviado.

Ferrari: una pregunta interrumpió el engaño

En julio de 2024, un ejecutivo de Ferrari recibió mensajes de WhatsApp de alguien que se hacía pasar por Benedetto Vigna, el consejero delegado. Hablaba de una adquisición confidencial, pedía discreción y anunciaba documentos que debía firmar. Después llegó una llamada. Según la información de Bloomberg, reproducida por The Spokesman-Review, la voz imitaba incluso el acento del sur de Italia de Vigna.[11]

El supuesto jefe explicó que utilizaba otro teléfono y pidió ayuda con una operación de cobertura de divisas. El ejecutivo empezó a sospechar. La petición le resultaba extraña y percibió pequeñas entonaciones mecánicas. Entonces hizo una pregunta: ¿qué libro le había recomendado Vigna unos días antes? La llamada se cortó.[11]

El ejecutivo dejó de aceptar la voz como identificación y pidió una comprobación adicional. Ahí terminó el intento.

Arup: la videollamada que acabó en quince transferencias

En otro caso de 2024, un empleado del área financiera de Arup en Hong Kong recibió una petición para realizar una operación secreta. Al principio sospechó. Después participó en una videollamada en la que creyó reconocer al director financiero y a otros compañeros. Sus caras y sus voces hicieron que dejara de lado las dudas, según el relato de la policía recogido por CNN.[12]

El empleado realizó quince transferencias por un total de 200 millones de dólares de Hong Kong, unos 25,6 millones de dólares estadounidenses. Arup confirmó a CNN que había sufrido el fraude y que se habían utilizado voces e imágenes falsas.[12]

Aquí la falsa identidad tenía compañía. La reunión parecía aportar varias confirmaciones: el jefe, los compañeros, sus caras, sus voces. Pero todas formaban parte de la misma puesta en escena.

Estos dos casos explican por qué me preocupa lo que he probado. En Ferrari, la comprobación frenó el intento. En Arup, reconocer a quienes aparecían en pantalla bastó para que una sospecha inicial terminara en una pérdida millonaria.

Cinco minutos para parecer una persona

Cameron Jones y Benjamin Bergen, investigadores de la Universidad de California en San Diego, pusieron a prueba algo muy concreto: si los participantes podían distinguir a una IA de un humano conversando por escrito. En dos experimentos aleatorizados y preregistrados, cada evaluador mantenía simultáneamente dos conversaciones de cinco minutos: una con otra persona y otra con un sistema artificial. Después elegía quién creía que era el humano.[7]

Cuando GPT-4.5 recibía instrucciones para adoptar una personalidad humana, los evaluadores lo elegían como humano el 73 % de las veces. En esa condición, se confundían a favor de la máquina más a menudo de lo que identificaban correctamente a la persona real.[7]

En cinco minutos de conversación escrita, la máquina consiguió parecer más humana que el humano. Escribir con naturalidad ha dejado de servir como prueba de que detrás hay una persona.

Si esperamos descubrir al bot por su mala redacción, por sus frases rígidas o porque no entiende una broma, estamos utilizando un criterio que puede fallar. El resultado del experimento obliga a tomarse en serio esa posibilidad.

Convencerte es otra capacidad

Una máquina puede parecer humana sin convencerte de nada. Y puede convencerte aunque sepas perfectamente que es una máquina.

Francesco Salvi y sus colaboradores estudiaron la persuasión en debates con 900 participantes. Compararon interlocutores humanos y GPT-4, con y sin acceso a información sociodemográfica de la persona con la que debatían. Medían el acuerdo con una postura antes y después de conversar.[1]

En las comparaciones en las que no había empate, GPT-4 con información personal resultó más persuasivo que los humanos el 64,4 % de las veces. La medida era el cambio de acuerdo con una postura después del debate.[1]

Una corrección posterior mantiene la ventaja frente a la referencia humana, pero deja sin demostrar una diferencia concluyente entre GPT-4 con y sin personalización.[6]

Para quien participa en un chat, la consecuencia práctica es sencilla: un buen argumento merece examinarse. La identidad de quien lo presenta necesita una comprobación diferente.

Cuando la experiencia que te cuentan es inventada

El caso de la Universidad de Zúrich añade otra dimensión. Según la reconstrucción de The Decoder, basada en los documentos del proyecto y en los comentarios divulgados por los moderadores, investigadores introdujeron cuentas con respuestas generadas por IA en el foro de Reddit r/ChangeMyView sin informar a sus usuarios.[8]

El equipo publicó 1.783 comentarios y obtuvo 137 «deltas»: el reconocimiento que concede un usuario cuando una intervención cambia o cuestiona sustancialmente su posición. Algunas cuentas utilizaron identidades y experiencias personales inventadas para dar credibilidad o peso emocional a sus argumentos. Los investigadores acabaron anunciando que no publicarían el estudio.[8]

La credibilidad de aquellas cuentas descansaba, en parte, en vidas que nadie había vivido.

«Esto me pasó a mí» no es una frase cualquiera. Te pide que concedas a quien habla una experiencia. «Trabajo con víctimas» te pide que reconozcas una competencia. Si esas biografías son falsas, el engaño existe aunque el argumento incluya datos correctos.

Hay una diferencia entre ayudar a una persona a escribir mejor y fabricar a la persona que supuestamente está escribiendo.

Tu voz también puede dejar de ser una prueba

He querido probar esa otra parte del problema. Para este artículo he utilizado opciones gratuitas de clonación de voz y el resultado me ha parecido bastante bueno. Lo suficiente como para tomarme muy en serio su capacidad de engaño.

Los antecedentes técnicos llevan tiempo publicados. En marzo de 2024, OpenAI presentó Voice Engine, que generaba habla parecida a la de una persona con una muestra de quince segundos, en una prueba de acceso restringido.[3]

Microsoft había mostrado con VALL-E síntesis de voz personalizada a partir de tres segundos de referencia. Su propia documentación advierte de que la semejanza y la naturalidad dependen de factores como la calidad y duración del audio y el ruido de fondo.[4]

Hoy también existen modelos abiertos como VoxCPM2: publica código y pesos bajo licencia Apache 2.0 y ofrece clonación desde una muestra corta. Se puede ejecutar en un equipo compatible sin pagar a un proveedor por cada generación.[9]

Pensemos en el uso que puede darse a ese resultado: un audio corto, un teléfono, una petición urgente. La voz llega acompañada de una historia y de un motivo para actuar deprisa.

«Yo lo notaría» no es un control suficiente

Kimberly Mai y sus colaboradores presentaron voces reales y sintéticas a 529 participantes, en inglés y mandarín. En la condición en la que los audios se evaluaban individualmente, los oyentes identificaron correctamente el 73 % de las grabaciones falsas. Familiarizarlos previamente con ejemplos solo mejoró un poco los resultados.[2]

La prueba consistía en clasificar grabaciones, y los participantes mejoraban cuando podían compararlas por pares.[2] En una conversación cotidiana recibimos el audio dentro de una historia, con nuestras expectativas y preocupaciones. Yo no confiaría la seguridad de un pago a mi capacidad de descubrir una voz falsa.

Por eso no haría depender la seguridad de encontrar una respiración rara, una entonación artificial o un pequeño fallo. Esas pistas pueden despertar sospechas. Que no las encontremos no demuestra que la grabación sea auténtica.

La historia que te cuentan puede importar tanto como la voz

Un preprint de Fred Heiding y sus colaboradores examina de forma más directa el fraude telefónico con IA. Su encuesta experimental incluyó 4.100 adultos estadounidenses, expuestos a grabaciones o transcripciones de distintos escenarios de estafa, y se complementó con entrevistas.[5]

En el conjunto de escenarios, un 16,5 % respondió que accedería a la petición o expresó dudas. En la categoría de un familiar en apuros, la proporción llegó aproximadamente al 36 %. La encuesta medía disposición a aceptar la petición, incluyendo las respuestas de duda.[5]

Los autores identificaron la capacidad persuasiva del interlocutor como el predictor más fuerte de aceptación.[5]

Podemos obsesionarnos con si el timbre suena exactamente igual y olvidar qué nos están pidiendo hacer, por qué debe ser ahora y qué posibilidad tenemos de comprobarlo.

El audio es una parte. La petición, el contexto y la presión son las otras.

En un chat, una multitud también puede ser una puesta en escena

Además del dinero, está la formación de opinión. Un perfil que parece humano puede intervenir en una discusión. Varios perfiles pueden aparentar acuerdo, rechazo o una experiencia compartida. Podemos encontrarnos con una conversación escenificada que interpretamos como una reacción espontánea.

La precaución que propongo es separar el número aparente de voces de la calidad de las pruebas. Diez cuentas repitiendo una acusación no son diez verificaciones independientes. Una biografía conmovedora no sustituye una fuente. Una respuesta muy elaborada tampoco convierte una afirmación en un hecho.

Eso vale aunque todas las cuentas sean humanas. La IA añade una razón más para conservar ese criterio.

La comprobación tiene que ocurrir fuera de la escena

La regla que quiero recordar es esta: reconocer una voz no equivale a verificar una identidad. Y verificar una identidad no autoriza cualquier petición.

Mi conclusión práctica es dejar de pedirle al mismo mensaje que demuestre su autenticidad.

Si recibes una llamada urgente, cuelga y devuelve tú la llamada al número que ya tenías guardado. Si todo llega por un chat —mensajes, audios o una videollamada—, comprueba la petición fuera de ese hilo antes de actuar.

• Vuelve al contacto que ya conocías. Llama al número que tenías guardado, no al que acaba de llegar ni al que te proporciona el mensaje sospechoso.
• Separa la urgencia de la autorización. Una emergencia puede exigir rapidez, pero no convierte por sí sola una petición en auténtica. Comprueba con otro familiar, responsable o contacto habitual.
• En una empresa, conserva el procedimiento. Un audio atribuido al director no debería bastar para cambiar una cuenta bancaria, ordenar un pago o entregar información reservada. Usa el canal interno de verificación y las aprobaciones que correspondan.
• No trates los datos personales como una contraseña. Saber tu nombre, dónde trabajas o algo que has contado en público no acredita una relación contigo.
• Si ya has enviado dinero o información, actúa. Contacta de inmediato con tu banco o con el responsable del servicio afectado, conserva los mensajes y comunica lo ocurrido a las autoridades competentes.

La IA útil no necesita una identidad falsa

Una voz sintética puede ayudar a comunicar. Una IA puede traducir, explicar, redactar o preparar un argumento que luego una persona revisa y asume. Ese trabajo no necesita inventar una víctima, un familiar o un profesional para hacerse escuchar.

Yo no quiero renunciar a las herramientas con las que estamos construyendo cosas útiles. Quiero saber quién responde de lo que recibo y qué pruebas tengo antes de actuar.

Cada vez tendremos menos motivos para aceptar «suena humano» como comprobación. Y más motivos para hacer una pregunta concreta:

¿Cómo sé que eres tú?

Origen y fuentes

El punto de partida fue un vídeo de Lógica Globalizada sobre identidades artificiales y confianza en internet.[10] Los trabajos de Jones y Bergen, Salvi y colaboradores y Mai y colaboradores permiten examinar por separado apariencia humana, persuasión y detección de voces sintéticas. El caso de Zúrich se recoge a través de información periodística sobre un estudio no publicado; el trabajo de Heiding y colaboradores está disponible como preprint. Las pruebas con opciones gratuitas de clonación de voz son experiencia personal del autor.