{"id":136868,"date":"2023-07-14T12:10:23","date_gmt":"2023-07-14T19:10:23","guid":{"rendered":"https:\/\/www.feeling.com.mx\/site\/?p=136868"},"modified":"2023-07-14T12:10:23","modified_gmt":"2023-07-14T19:10:23","slug":"el-cada-vez-mas-frecuente-uso-de-voces-familiares-clonadas-con-inteligencia-artificial-para-realizar-estafas-telefonicas","status":"publish","type":"post","link":"https:\/\/www.feeling.com.mx\/site\/136868\/el-cada-vez-mas-frecuente-uso-de-voces-familiares-clonadas-con-inteligencia-artificial-para-realizar-estafas-telefonicas.html","title":{"rendered":"El cada vez m\u00e1s frecuente uso de voces familiares clonadas con inteligencia artificial para realizar estafas telef\u00f3nicas"},"content":{"rendered":"

\"Estafas<\/a><\/p>\n

La inteligencia artificial (IA) se est\u00e1 utilizando para realizar llamadas en las que se imitan las voces de personas conocidas para estafar al destinatario.
\n<\/strong><\/p>\n

Estas llamadas utilizan lo que se conoce como IA generativa, es decir, sistemas capaces de crear texto, im\u00e1genes o cualquier otro soporte, como v\u00eddeo, a partir de las instrucciones de un usuario.<\/p>\n

Los deepfakes (falsificaciones profundas) han ganado notoriedad en los \u00faltimos a\u00f1os con una serie de incidentes de gran repercusi\u00f3n, tales como el uso de la imagen de la actriz brit\u00e1nica Emma Watson en una serie de anuncios sugerentes que aparecieron en Facebook e Instagram.<\/p>\n

Tambi\u00e9n est\u00e1 el video de 2022 ampliamente compartido y desmentido, en el que el presidente ucraniano Volodymyr Zelensky parec\u00eda decirles a los ucranianos que \u00abdepusieran las armas\u00bb.<\/p>\n

Ahora, la tecnolog\u00eda para crear un audio falso, una copia realista de la voz de una persona, se est\u00e1 volviendo cada vez m\u00e1s com\u00fan.<\/p>\n

Dando armas al enemigo
\n<\/strong><\/p>\n

Para crear una copia realista de la voz de alguien se necesitan datos para entrenar al algoritmo. Esto significa tener muchas grabaciones de audio de la voz de la persona.<\/p>\n

Cuantos m\u00e1s ejemplos de la voz de la persona se puedan introducir en los algoritmos, mejor y m\u00e1s convincente ser\u00e1 la copia final.<\/p>\n

Muchos de nosotros ya compartimos detalles de nuestras vidas cotidianas en internet. Esto significa que los datos de audio necesarios para crear una copia realista de una voz podr\u00edan estar f\u00e1cilmente disponibles en las redes sociales.<\/p>\n

Pero, \u00bfqu\u00e9 ocurre una vez que la copia est\u00e1 ah\u00ed fuera? \u00bfQu\u00e9 es lo peor que puede ocurrir? Un algoritmo de deepfake podr\u00eda permitir a cualquiera que posea los datos hacer que \u00abt\u00fa\u00bb digas lo que quieran.<\/p>\n

En la pr\u00e1ctica, esto puede ser tan sencillo como escribir un texto y hacer que la computador lo diga en voz alta como si fueras tu voz.<\/p>\n

Los principales retos
\n<\/strong><\/p>\n

Esta posibilidad puede aumentar el riesgo de aumentar la prevalencia de la desinformaci\u00f3n. Puede utilizarse para tratar de influir en la opini\u00f3n p\u00fablica internacional o nacional, como se ha visto con los \u00abvideos\u00bb de Zelensky.<\/p>\n

Pero la ubicuidad y disponibilidad de estas tecnolog\u00edas tambi\u00e9n plantea retos importantes a nivel local, sobre todo en la creciente tendencia de las \u00abllamadas con IA para estafar\u00bb.<\/p>\n

Muchas personas habr\u00e1n recibido una llamada de estafa o phishing que nos dice, por ejemplo, que nuestro computadora se ha visto comprometida y que debemos iniciar sesi\u00f3n inmediatamente, lo que podr\u00eda dar al autor de la llamada acceso a nuestros datos.<\/p>\n

A menudo es muy f\u00e1cil detectar los enga\u00f1os, especialmente cuando la persona que hace la llamada formula preguntas y pide informaci\u00f3n que alguien de una organizaci\u00f3n leg\u00edtima no har\u00eda.<\/p>\n

Sin embargo, ahora imagine que la voz al otro lado del tel\u00e9fono no es un extra\u00f1o, sino que suena exactamente como un amigo o un ser querido. Esto inyecta un nivel completamente nuevo de complejidad y de p\u00e1nico para el desafortunado destinatario.<\/p>\n

Una historia reciente reportada por la cadena CNN destaca un incidente en el que una madre recibi\u00f3 una llamada de un n\u00famero desconocido. Cuando contest\u00f3 el tel\u00e9fono, era su hija. La hija supuestamente hab\u00eda sido secuestrada y estaba llamando a su madre para pedirle un rescate.<\/p>\n

De hecho, la ni\u00f1a estaba sana y salva. Los estafadores hab\u00edan hecho una falsificaci\u00f3n de su voz.<\/p>\n

Este no es un incidente aislado, y la estafa se ha dado con con variaciones, que incluyen un supuesto accidente automovil\u00edstico, en el que la presunta v\u00edctima llama a su familia para pedir dinero para superar el accidente.<\/p>\n

Viejo truco con nueva tecnolog\u00eda
\n<\/strong><\/p>\n

No se trata de una estafa nueva en s\u00ed misma. El t\u00e9rmino \u00abestafa del secuestro virtual\u00bb existe desde hace varios a\u00f1os. Y puede adoptar muchas formas, pero una de las m\u00e1s comunes consiste en enga\u00f1ar a las v\u00edctimas para que paguen un rescate para liberar a un ser querido que creen amenazado.<\/p>\n

El estafador intenta establecer una demanda incondicional y lograr que la v\u00edctima pague el rescate r\u00e1pido antes de que descubra que fue enga\u00f1ada.<\/p>\n

Sin embargo, el surgimiento de tecnolog\u00edas de IA poderosas y disponibles ha subido la apuesta significativamente y ha hecho que las cosas sean m\u00e1s personales.<\/p>\n

Una cosa es colgar a una llamada an\u00f3nima, pero se necesita mucha confianza para colgarle a alguien que suena como un hijo o pareja.<\/p>\n

Existe un software que se puede usar para identificar las falsificaciones y que crea una representaci\u00f3n visual del audio llamada espectrograma. Cuando est\u00e1 escuchando la llamada, puede parecer imposible distinguirla de la persona real, pero las voces se pueden diferenciar cuando los espectrogramas se analizan uno al lado del otro.<\/p>\n

Al menos un grupo ha ofrecido un software de detecci\u00f3n que se puede descargar, aunque es posible que dichas soluciones a\u00fan requieran algunos conocimientos t\u00e9cnicos para su uso.<\/p>\n

La mayor\u00eda de las personas no podr\u00e1n generar espectrogramas, entonces, \u00bfqu\u00e9 se puede hacer cuando no se est\u00e1 seguro de que lo que est\u00e1s escuchando es real? Al igual que con cualquier otro medio de comunicaci\u00f3n, hay que ser esc\u00e9ptico.<\/p>\n

Si recibes una llamada inesperada de un ser querido pidi\u00e9ndote dinero o haci\u00e9ndote solicitudes que parecen fuera de lugar, devu\u00e9lvele la llamada o env\u00edale un mensaje de texto para confirmar que realmente est\u00e1s hablando con \u00e9l.<\/p>\n

A medida que se expanden las capacidades de la IA, las l\u00edneas entre la realidad y la ficci\u00f3n se difuminan m\u00e1s. Y no es probable que podamos frenar esa tecnolog\u00eda. Esto significa que la gente tendr\u00e1 que volverse m\u00e1s cautelosa.<\/p>\n

*Oliver Buckley es profesor asociado de Ciberseguridad de la Universidad de East Anglia (Reino Unido) y es egresado en Computaci\u00f3n y Ciencias de la Computaci\u00f3n de las universidades de Liverpool y de Gal\u00e9s.<\/p>\n

Fuente: BBC.com<\/a><\/p>\n

\n

I\u2019m a security expert \u2013 AI risks \u2018deepfake photo epidemic\u2019 that's \u2018almost impossible for average person to detect\u2019https:\/\/t.co\/nAymOlkFpu<\/a><\/p>\n

— Manabutt (@JhonyDip007) July 14, 2023<\/a><\/p><\/blockquote>\n