ALERTAN DE DEEPFAKE EN MÉXICO, UN DELITO COMETIDO CON INTELIGENCIA ARTIFICIAL

Por: Redacción/ TEN/ Tecnología

“El Deepfake es una tecnología que mediante inteligencia artificial puedes crear videos o fotografías hiperrealistas de personas permitiéndote crear imágenes que realmente nunca existieron”, dijo Fernando Paulín, director ejecutivo de la empresa Trully.

Con la popularización de la inteligencia artificial en el último año, evidenciada por el lanzamiento de ChatGPT, se ha facilitado el acceso a potentes herramientas de IA. Esta expansión no se limita a los modelos de lenguajes natural, sino que también abarca la producción de videos híper realistas, anteriormente dominio exclusivo de grandes estudios de cine y televisión. Ahora, gracias al avance tecnológico, dichas herramientas están al alcance de muchas más personas globalmente. Sin embargo, como sucede con toda nueva tecnología, esta democratización trae consigo riesgos.

“Piensa en recibir un mensaje de video en WhatsApp, donde ves a un ser querido, tu hijo o hija, pidiendo ayuda urgente debido a graves problemas. Esto acelera tu corazón y nubla tu mente, impulsándote a actuar rápidamente. En el video, tu hijo te solicita un depósito de dinero y, preocupado por su bienestar, cumples enviando fondos a la cuenta proporcionada. Poco después, al escuchar a alguien entrar en casa y descubrir que es tu hijo regresando de la universidad sano y salvo, la preocupación se transforma en confusión. Esta escalofriante narrativa, lejos de ser ficción, es una realidad cada vez más tangible”.

Al inicio del año, se reveló que un empleado en Hong Kong había transferido 25 millones de dólares a estafadores. El engaño comenzó con correos electrónicos fraudulentos solicitando dinero, lo que inicialmente el trabajador sospechó como un intento de estafa. Sin embargo, su escepticismo se disolvió tras ser invitado a una conferencia telefónica con lo que parecía ser su “equipo de trabajo”, donde creyó ver y oír a colegas de distintas partes del mundo. Utilizando la tecnología Deepfake para simular tanto la imagen como las voces de sus compañeros, los estafadores lograron que el trabajador depositara 25 millones de dólares en las cuentas de los defraudadores (CNN 2024).

Este fraude, utilizando técnicas de Deepfake con ayuda de inteligencia artificial, ilustra cómo los criminales con alta especialización recurren a innovaciones tecnológicas para vulnerar las defensas de las organizaciones. Es una alerta para aquellas empresas que subestiman el impacto de los Deepfakes o creen estar a salvo de tales amenazas.

¿Cuál es el impacto del Deepfake en el sector crediticio en México?

Para el sector crediticio, el desafío que presenta el Deepfake es particularmente significativo. Esta industria se fundamenta en la capacidad de verificar la identidad de las personas para evaluarlas y, posteriormente, otorgarles un crédito. Con el rápido avance de la tecnología Deepfake, surge la incertidumbre sobre si las entidades financieras y bancos podrán identificar a aquellos defraudadores que emplean esta tecnología. Esta situación se complica aún más considerando que la digitalización de los servicios bancarios se ha convertido en un pilar clave para el crecimiento de bancos y fintechs, especialmente cuando alrededor del 79.2% de la población mexicana mayor de 6 años, tiene acceso a un teléfono celular (INEGI).

Hoy en día todos tienen acceso a un teléfono celular y cada vez es más fácil crear imágenes o videos falsos. Para los bancos adoptar la tecnología como medio para captar clientes ha sido muy beneficioso, pero también conlleva riesgos más cuando la inteligencia artificial que permite alterar imágenes es más accesible para todos, comentó Fernando Paulín CEO de Trully.

¿Cuáles son las opciones disponibles en México para identificar Deepfakes?

Hace seis meses, la tecnología Deepfake apenas era considerada una amenaza real para las empresas de préstamo en México, dada su novedad. Sin embargo, en los últimos meses, su impacto ha estado en boca de muchas empresas con el creciente número de noticias que relatan situaciones que parecen de película Fernando mencionó que, uno de los mayores problemas que observan es que los mexicanos no conocen esta tecnología ni sus alcances, y es que según los datos que han recabado 7 de cada 10 mexicanos no conocen que es el Deepfake.

Las empresas se acercan preocupadas con nosotros para preguntarnos si existe algo en el mercado capaz de detectar cuando estás frente a una imagen falsa o real ya que para ellos es vital conocer la identidad real de las personas, menciona Fernando.

Este veloz cambio en el escenario del fraude supone un desafío considerable para las empresas especializadas en la detección de fraudes, dada la ausencia de soluciones efectivas en el mercado mexicano para identificar y neutralizar los Deepfakes.

¿Existe una solución capaz de detectar el Deepfake?

Trully es una compañía dedicada a erradicar el fraude en México, recientemente han liberado la primera solución capaz de detectar el uso de Deepfake. Esta solución fue desarrollada para los bancos y fintechs que enfrentan el problema de validar fotografías para poder otorgar créditos a las personas.

“Cuando conoces a alguien extraño en la calle, lo primero que pasa por tu mente es si esta persona te quiere hacer el bien o más bien planea dañarte, los bancos necesitan preguntarse lo mismo al otorgar un crédito, la tecnología que detecta el Deepfake es parte de nuestro Buró de Fraude Digital”, añadió Fernando.

Fernando comentó que el equipo de ingenieros que desarrolló esta solución hizo un trabajo increíble, al realizar esta tecnología en apenas un par de meses.

Existen dos instituciones en México que detectan si alguien deja de pagar un crédito, pero hasta el día de hoy no existía ninguna empresa que empleara inteligencia artificial para detectar imágenes creadas con Deepfake o personas que sean defraudadoras.