Estás leyendo la publicación: La madre dice que la voz de IA de su hija de 15 años se usó para organizar un secuestro falso
Las IA como ChatGPT y una miríada de herramientas de cambio de voz pueden ser útiles e incluso divertidas para jugar, pero historias como esta resaltan los peligros de dicha tecnología. Una madre de Arizona estaba aterrorizada al creer que su hija había sido secuestrada y retenida para pedir rescate.
Según informó la empresa con sede en Arizona WKYT, Jennifer DeStefano fue objeto de algo más que una llamada de broma. Al parecer, recibió una llamada de su hija de 15 años, que estaba fuera de la ciudad en un viaje de esquí.
‘Mamá, me equivoqué’, comenzó, seguido de un hombre desconocido que decía: “Echa la cabeza hacia atrás, acuéstate”.
La peor pesadilla de todos los padres, el hombre continuó afirmando que tenía a la hija de Jennifer como rehén e hizo varias amenazas terribles de que, a menos que ella le pagara $ 1 millón de dólares, no volvería a ver a su hija. Todo el tiempo se la podía escuchar diciendo: ‘Ayúdame, mamá. Por favor, ayúdame. Ayúdame’, y gritando”.
Afortunadamente, después de llamar a su esposo, Jennifer pudo confirmar que su hija estaba sana, salva y completamente inconsciente de lo que estaba pasando. Todo había sido un truco horrible. Los delincuentes habían utilizado IA para imitar exactamente la voz de su hija.
“Era completamente su voz. Era su inflexión. Era la forma en que ella habría llorado”, dijo. “Nunca dudé ni por un segundo que era ella. Esa es la parte extraña que realmente me conmovió”.
Esta situación es horrible, pero lamentablemente no es un incidente aislado. Incluso a figuras de alto perfil se les han puesto palabras en la boca. Drake and the Weekend fueron atacados cuando un canción falsa fue liberado en sus voces.
Más imperdonablemente, el 7 veces campeón mundial de Fórmula Uno Michael Schumacher, quien tuvo un trágico accidente de esquí en 2014, dio una entrevista exclusiva a una revista alemana a principios de este mes, detallando algunos detalles desgarradores sobre la vida familiar. Que primicia, hasta que se reveló todo fue falso, usando una IA entrenada para producir citas que sonaban como él. La familia de Schumacher ahora está llevando la revista a los tribunales.
¿Cómo podemos evitar ser falsificados por la IA?
Desafortunadamente, ahora vivimos en un mundo en el que incluso otorgar a las personas acceso a nuestra imagen y fragmentos de nuestra voz puede usarse en nuestra contra. Es probable que las figuras públicas tengan dificultades para escapar de tales estafas, pero los ciudadanos comunes pueden tomar algunas medidas para protegerse.
Configurar cuentas de redes sociales como privadas es una excelente manera de garantizar que solo los ojos y los oídos de las personas en las que confía vean sus publicaciones. Los videos en Instagram, Facebook y similares no solo pueden revelar cómo se ve, sino que los estafadores solo necesitan unos segundos de audio para falsificar su voz.
Si se encuentra hablando en línea o por teléfono con alguien de quien desconfía, hágale preguntas personales que el verdadero amigo o familiar sabría y nunca envíe dinero ni haga clic en enlaces de fuentes no confiables.
Las mejores ofertas de Logitech MX Master de hoy
