Inteligencia_artificial_amenaza many,identical,ai,robots,sitting,at,desk,in,the,officeEn 2024 se espera una inminente proliferación de ataques basados en Inteligencia Artificial (IA), según advierte Trend Micro, centrándose en el papel transformador de la IA generativa (GenAI). Ante este escenario, se destaca el papel clave de la industria para liderar regulaciones y adoptar estrategias defensivas innovadoras.

Eric Skinner, vicepresidente de estrategia de mercado de la firma, destaca la amenaza significativa de grandes modelos lingüísticos avanzados (LLM) en el phishing, ya que eliminan indicadores tradicionales, dificultando su detección. En este contexto, el experto recomienda que las empresas adopten controles de seguridad modernos para superar las limitaciones humanas.

Asimismo, se pronostica que la disponibilidad generalizada y la calidad mejorada de GenAI, junto con el uso de Redes Generativas Adversativas (GAN), transformarán el mercado del phishing en 2024. Esto permitirá la creación rentable de contenido audiovisual hiperrealista, impulsando fraudes como el compromiso de correo electrónico empresarial (BEC) y secuestros virtuales.

Dado el atractivo de ganancias lucrativas, los actores de amenazas se incentivarán a desarrollar herramientas GenAI maliciosas o a utilizar las legítimas con credenciales robadas y VPN para ocultar sus identidades. Además, desde Trend Micro también se advierte sobre posibles ataques a modelos de IA en 2024, especialmente a aquellos basados en la nube, siendo un objetivo atractivo. Los ataques de envenenamiento de datos podrían tener diversas consecuencias, desde la filtración de datos hasta la interrupción de sistemas de fraude y vehículos conectados. Sorprendentemente, realizar estos ataques ya tiene un costo inferior a los 100 dólares.

Estas tendencias podrían provocar un mayor escrutinio normativo y un impulso en la industria de la ciberseguridad para abordar estos desafíos. Se anticipa que el próximo año, el sector cibernético tomará la delantera en el desarrollo de políticas y normativas específicas para la ciberseguridad de la IA, y se espera un movimiento rápido hacia la autorregulación voluntaria en la industria.

Desafíos por venir

El informe destaca:

  • Un aumento en los ataques de gusanos nativos de la nube, dirigidos a vulnerabilidades y configuraciones erróneas y que utilizan un alto grado de automatización para afectar a múltiples contenedores, cuentas y servicios con el mínimo esfuerzo.
  • La seguridad en la nube será crucial para que las organizaciones aborden las brechas de seguridad en los entornos de nube, destacando la vulnerabilidad de las aplicaciones nativas de la nube a los ataques automatizados. Las medidas proactivas, incluidos los mecanismos de defensa robustos y las auditorías de seguridad exhaustivas, son esenciales para mitigar los riesgos.
  • Más ataques a la cadena de suministro tendrán como objetivo no solo los componentes de software de código abierto ascendentes, sino también las herramientas de gestión de identidad de inventario, como las SIM de telecomunicaciones, que son cruciales para los sistemas de flotas e inventario. También es probable que los ciberdelincuentes exploten las cadenas de suministro de software de los proveedores a través de sistemas CI/CD, con un enfoque específico en componentes de terceros.
  • Los ataques a blockchains privadas aumentarán como resultado de las vulnerabilidades en la implementación de una serie de blockchains privadas. Los actores de amenazas podrían utilizar estos derechos para modificar, anular o borrar entradas y luego exigir un rescate. Alternativamente, podrían intentar cifrar toda la blockchain si es posible hacerse con el control de suficientes nodos.