Si estuvieras en una llamada de Zoom y tu jefe te dijera, cara a cara, que realices una transacción financiera, ¿te detendrías a pensar si la persona que está en tu pantalla es real? Dado que los deepfakes (imágenes o grabaciones que se han alterado y manipulado de manera convincente para tergiversar que alguien hizo o dijo algo que nunca se hizo o dijo) se están volviendo más comunes, probablemente deberías hacerlo. Conoce más sobre esta tecnología moderna que se puede usar para divertirse, pero también para el ciberdelito.
¿Es real?
Gracias al aprendizaje profundo (una forma de aprendizaje automático), las personas pueden alterar imágenes, vídeos y grabaciones de audio al colocar la cara, el cuerpo o la voz de alguien en un entorno diferente y hacer que parezca que dijeron o hicieron cosas que en realidad nunca sucedieron. ¿El resultado? Una falsificación que parece real.
¿Sabías que un ordenador podría crear un audio falso después de escuchar solo 10-20 segundos de la voz de alguien?
Esta tecnología que llama la atención ahora se ha vuelto ampliamente accesible para el público. Las aplicaciones como FaceApp permiten a las personas crear vídeos falsos de prácticamente cualquier persona. Puedes, por ejemplo, poner tu cara en un vídeo musical popular o convertirte en el actor principal en una escena de película entretenida. Algunas falsificaciones profundas en Internet pueden ser divertidas, pero en las manos equivocadas, las grabaciones de audio o vídeo fabricadas también se han convertido en herramientas de ciberdelincuencia que se utilizan para atacar a personas o empresas.
El deepfake como acosador, manipulador político y ciberatacante
Además de servir como diversión, los deepfakes también pueden tener graves efectos legales, personales o incluso políticos. Además, el hecho de que los ciberdelincuentes ahora puedan confeccionar fácilmente grabaciones de audio o vídeo hace que la ingeniería social sea aún más complicada.
En el campo de la ciberseguridad, los deepfakes pueden usarse para extorsión, fraude y manipulación. Por ejemplo, alguien podría usar un vídeo falso para chantajear a un director ejecutivo para que pague por la destrucción del vídeo o correr el riesgo de poner en peligro la reputación de su empresa. Más comúnmente, las empresas pueden experimentar "vishing", un tipo específico de phishing que puede usar audio falso para manipular a los empleados haciéndoles creer que están siguiendo las órdenes de sus empleadores.
Uno de los casos más famosos de un ataque deepfake ocurrió en 2019, cuando el CEO de una empresa de energía con sede en el Reino Unido recibió una llamada telefónica de su jefe, quien le dijo que transfiriera casi un cuarto de millón de libras a un proveedor en Hungría. Como la voz sonaba similar a la de su jefe alemán, el CEO siguió las órdenes. Poco después, siguió otra llamada, instando al CEO a enviar más dinero. Esto lo hizo sospechar más, por lo que decidió contactar a las autoridades. Poco después, se reveló que el director ejecutivo había sido víctima de "vishing", que probablemente utilizó tecnología deepfake para duplicar la voz del jefe alemán.
En otro caso de deepfake de 2022, Patrick Hillmann, director de comunicaciones del intercambio de criptomonedas Binance, comenzó a recibir llamadas de varias personas que afirmaban haber estado en contacto con él. Según ellos, estaban debatiendo la oportunidad de listar sus activos en Binance, y se suponía que recibirían un token de Binance a cambio de parte de su efectivo. Hillmann se sorprendió, ya que no conocía a ninguna de las personas que llamaron y creía que nunca había estado en contacto con ellos. Más tarde, Hillmann descubrió que los ciberdelincuentes usaron algunas de sus entrevistas publicadas anteriormente para crear una copia falsa de su persona y simular las llamadas de Zoom aparentemente relacionadas con el negocio. En este caso, las personas que fueron víctimas del deepfake perdieron su dinero, pero el problema también podría haber afectado seriamente la reputación de la empresa.
No caigas en las suplantaciones de identidad
Al ver algunos de los deepfakes más elaborados, puede sentir que no hay forma de determinar si lo que ves en línea es falso o real. De hecho, es beneficioso mantener cierto escepticismo. Si tienes alguna duda sobre lo que ves en tu pantalla, ya estás un paso más cerca de mantenerte seguro.
Pero, ¿cómo puedes identificar un deepfake? Cuando se trata de grabaciones de audio, los deepfakes son más difíciles de descubrir, ya que pueden sonar exactamente como una voz humana normal. Sin embargo, algunos programas ahora pueden detectar audios falsos. ¿Cómo? La voz humana puede producir una gama limitada de sonidos. Sin embargo, una "voz de ordenador" no es tan limitada y, por lo tanto, suena ligeramente diferente.
¿Puedes identificar un deepfake sin un software especializado? Puede ser difícil, pero es posible. Esto es lo que debes preguntarte cuando intentas verificar la autenticidad de un vídeo o una grabación de audio:
1. ¿La grabación parece difícil de creer? ¿El contenido es escandaloso y claramente intenta provocar una respuesta emocional de los espectadores/oyentes? Si es así, esa puede ser la primera señal para acercarse con escepticismo y verificar la información que ves o escuchas.
2. ¿No hay algo sospechoso en los detalles? Con frecuencia, los creadores de deepfakes tienen problemas para duplicar expresiones más sutiles, como parpadear, respirar o el cabello y los movimientos faciales delicados. De vez en cuando, también puede haber ligeros fallos en las áreas que más se mueven. En las grabaciones de audio, debes buscar pausas poco naturales entre palabras o, por el contrario, un discurso demasiado perfecto.
3. ¿El cuerpo se mueve naturalmente? Cuando alguien nos habla, tendemos a mirar su rostro en lugar de su cuerpo. Los creadores de deepfake también se enfocan principalmente en replicar expresiones faciales, por lo que si la forma del cuerpo o los movimientos de la persona en el vídeo parecen un poco extraños, es posible que estés viendo un deepfake.
4. ¿El audio se ajusta al vídeo? A veces, los creadores de deepfakes no logran hacer coincidir la grabación de audio con los movimientos de la persona. Una vez más, observa la cara con cautela para ver si los movimientos de la boca coinciden con las palabras que supuestamente salen de ella.
5. ¿La iluminación es consistente? ¿O la cabeza de la persona parece anormalmente clara u oscura? Las discrepancias de iluminación pueden ser un regalo.
Haz que la educación en seguridad digital sea entretenida
Los equipos de TI deben tratar de informar a sus empresas sobre los deepfakes y sus riesgos. Dado que los deepfakes son un ejemplo de tecnología que pueden usar tanto los artistas como los ciberdelincuentes, debes esforzarte por hacer que la capacitación de los empleados sea interactiva y divertida. Por ejemplo, envía algunos vídeos a los empleados y déjalos adivinar cuáles son reales y cuáles no. Si fomentas la participación activa, es más probable que los empleados recuerden lo que han aprendido y utilicen su conocimiento para mantener tu empresa más segura.
