El rápido desarrollo de la inteligencia artificial tiene beneficios evidentes para la sociedad en su conjunto, aunque también puede generar amenazas contra los derechos de individuos o empresas, como ya ha comenzado a ocurrir con los denominados deepfakes, que algunos criminales utilizan para fraudes y manipulaciones contra individuos o entidades.

El impacto de los deepfakes puede ser más difuso que el resto de los ataques ya conocidos (los ciberataques crecen un 59% cada año), afectando principalmente a la reputación y la confianza en una empresa. En algunos casos, pueden propiciar fraudes, suplantación de identidad, manipulación comercial, difamación de empleados o engaños a través de videollamadas, entre otros.

Desde Innovery, la multinacional de servicios de asesoramiento especializada en soluciones TIC, proponen seis puntos en los que es posible ayudar a las compañías afectadas por fraudes de este tipo:

• Desarrollar inteligencia artificial diseñada para su detección. La experiencia de Innovery en machine learning e inteligencia Artificial permite el desarrollo de algoritmos avanzados, capaces de detectar deepfakes con alta precisión. Pueden incluso analizar vídeos y audios, en busca de anomalías sutiles que indiquen una manipulación.
• Avanzar en soluciones de ciberseguridad que integren la detección de deepfakes.
• Autentificar los contenidos multimedia. Desarrollar sistemas que permitan a las empresas verificar el contenido multimedia publicado o compartido. Esto puede incluir tecnologías de marcas de agua digitales o blockchain para garantizar la integridad del contenido.
• Realizar simulaciones y entrenamiento. Gracias al uso de la inteligencia artificial, es posible crear simulaciones de ataque, basadas en deepfake, para capacitar a los trabajadores en su detección y respuesta.
• Desarrollar herramientas de evaluación de riesgos, capaces de ayudar a estimar el nivel de vulnerabilidad, ante este tipo de ataques, y ofrecer recomendaciones de seguridad.
• Introducir análisis forense. En caso de incidente relacionado con deepfakes, es posible ofrecer servicios de análisis forense, para ayudar a entender cómo se produjo el fraude y cómo protegerse de cara al futuro.

El futuro

Aventuran los analistas que esta modalidad de ataque se mantendrá en los próximos años, y algunas voces ya predicen que, en 2026, prácticamente el 90% del contenido online será generado artificialmente, llevando a un deterioro de la confianza y un aumento de la amenaza para las empresas.

Por este motivo, la Eurocámara votó hace unos días en favor de una Ley de Inteligencia Artificial que regule el desarrollo de este avance tecnológico que puede impactar directamente en los derechos y libertades de todos los ciudadanos.

Juan Manuel Pascual, experto en ciberseguridad y CEO de Innovery España y Latam, asegura que “ante este escenario, es importante que las empresas no solo implementen medidas de seguridad para proteger sus datos, sino que también estén preparadas para enfrentar los desafíos que los deepfakes pueden provocar en el ámbito de la reputación y confianza en las empresas e instituciones. La clave está en desarrollar una estrategia de seguridad cibernética integral que aborde la diversidad de amenazas que surgen a diario y que pueden alterar el día a día de cualquier organización”, concluye el especialista.