El nuevo mix del phishing y la inyección de comandos

Barracuda Research ha ofrecido una muestra más del modo en que la inteligencia artificial está cambiando el modo en que se producen los ciberataques. En esta ocasión, se trata de una nueva técnica de ataque que combina el tradicional phishing de ingeniería social destinada a los humanos con la inyección de comandos destinados a modificar el comportamiento de los asistentes de email basados en IA.

La compañía señala que los mensajes llevan, por debajo de la capa con texto e imágenes para el destinatario, una capa oculta dirigida a los sistemas de inteligencia artificial en la que se incorporan instrucciones que "pueden estar ocultas en comentarios HTML, elementos de texto invisibles (como fuentes de tamaño cero o texto blanco), contenido codificado o archivos adjuntos protegidos".

Esas instrucciones logran que la IA realice acciones como añadir una acción falsa de alta prioridad para que un empleado actualice datos de pago de un proveedor, manipular la selección automática de currículos para que de puntuaciones perfectas, ordenar al asistente a un modo de IA que pase a un modo de mantenimiento o administrativo autorizado, o bien para que inserte un código para robar credenciales.

Guruprasad Kenja, analista de amenazas de Barracuda, explica que "un solo correo electrónico puede contener dos ataques distintos, por ejemplo: un mensaje de phishing tradicional para obtener credenciales a través de un archivo adjunto maliciosos y una inyección de prompts para manipular los sistemas de IA con el fin de influir en su comportamiento".