Un CEO de un banco en Asia ingresó a un zoom con su equipo de trabajo. En el transcurso de la reunión pidió que se realizara una transferencia de 25 millones de dólares. La orden se ejecutó.
Lo que nadie del equipo logró detectar, fue que la persona que estaba en la videoconferencia no era el ejecutivo, sino un Deepfake, es decir, una imagen de video generada a través de Inteligencia Artificial (IA).
La historia sucedió hace tiempo cuenta Iñigo Castillo, director para México y América Latina de Incode Technologies, a La Silla Rota.
Te podría interesar
“Es un reto al que nos enfrentamos, era Inteligencia Artificial. El mundo en general y con el auge de la IA, nos enfrentamos a un riesgo cada vez más grande de encontrarnos con identidades sintéticas en internet y en nuestras interacciones”, expresó el directivo.
Desde su perspectiva, ese tema va a crecer y los riesgos tienden a aumentar.
“Esto es una carrera de ataque y defensa constante”, en donde las personas que quieren hacer mal uso de las tecnologías para cometer fraudes, simplemente se irán sofisticando.
Añadió que cada vez las vidas de las personas están más incrustadas en el mundo digital, en donde transacciones e interacciones suceden en la nueva realidad digital, por lo que es sumamente importante que existan tecnologías de verificación de identidad seguras y confiables.
Agregó que el ojo humano ya no es capaz de detectar adecuadamente si una persona dice ser quien es, en una transacción digital o remota.
La nueva frontera de fraude
Castillo expuso que en el caso del fraude con Deepfake del CEO asiático, han desarrollado herramientas con Inteligencia Artificial para detectar las identidades sintéticas, las cuales son la nueva frontera en el fraude de identidad.
“Hoy nos sentimos muy seguros y confiados en que las nuevas tecnologías que estamos creando, nuestros nuevos algoritmos, lo vemos como lo están usando nuestros clientes, algunos de ellos los bancos que acudieron a la Convención Bancaria…son modelos multimodales que tienen una serie de variables y vectores múltiples”, expresó.
A través de sus modelos, se puede detectar de forma automática, segura, confiable y rápida, si una foto es real o sobrepuesta, si la cara que se ve es real o no.
Enfatizó que la potencial tendencia mundial de fraudes son los Deepfake, ya que con la IA es fácil crear el video de alguien, lo cual "te deja asustado".
Aliados de la banca mexicana
Hace más de una década, en un acto de emprendedurismo, el mexicano Ricardo Amper fundó la empresa. Después, el CEO de Incode Technologies decidió poner la compañía en San Francisco, Estados Unidos para competir en Silicon Valley contra los grandes.
La compañía se enfrentó a las realidades más adversas y complicadas de fraude de identidad.
En la actualidad ya facturan en todo el mundo, con una posición muy consolidada en México, Colombia, Argentina, Brasil y tiene operaciones en Norteamérica y llegan hasta Australia.
En México, la empresa ya trabaja con una buena parte del sector bancario, principalmente en sus operaciones remotas, en la Apps digitales y otros complementos.
También trabajan con buena parte del sector Fintech, en donde estos disruptores del sector bancario les han depositado su confianza.
Además, que se tiene un componente regulatorio complejo para mantener la seguridad.
“Afortunadamente nos hemos expandido globalmente, en donde algunos bancos y Fintech a nivel global en Estados Unidos, como en otros países, en Sudamérica, como Brasil, han confiado en nosotros”, expresó.
Para lograr todo ello, tienen 160 ingenieros en una oficina en Serbia, donde hay un equipo amplio de Machine Learning y otro equipo amplio de talento mexicano.
¡Cuidado!
Iñigo Castillo explicó que cada vez las personas están más conectadas a través de procesos digitales y adoptando tecnología, porque hacen más fácil la vida, por lo que es necesario tomar medidas de precaución.
Agregó que hay que ser cada vez más cuidados de las redes en las que nos conectamos, qué hacemos con nuestras claves y sobre todo, que, en llamadas telefónicas, los bancos nunca pedirán datos.
“Hay que tener una conciencia de privacidad de los datos, hay que exigir a las instituciones con las que transacciones sean muy transparentes y claras en cómo nos piden consentimiento, qué van a hacer con nuestros datos, tienen que ser muy transparentes los servicios de privacidad de las plataformas con las que interactuamos”, concluyó.