La IA en la sombra impulsará una nueva oleada de amenazas internas

Imperva advierte que los controles de datos deficientes y el advenimiento de nuevas herramientas de IA generativa basadas en modelos de lenguaje grande (LLM) conducirán a un aumento en las violaciones de datos internos durante el próximo año.

A medida que los chatbots impulsados por LLM se han vuelto más poderosos, muchas organizaciones han implementado prohibiciones por completo o sobre qué datos se pueden compartir con ellos. Sin embargo, dado que una abrumadora mayoría (82%) no tiene una estrategia de gestión de riesgos internos, permanecen ciegos a los casos de empleados que utilizan IA generativa para ayudarles con tareas como escribir código o completar solicitudes de propuestas (RFP), a pesar de que esto a menudo implica que los empleados den acceso a aplicaciones no autorizadas a almacenes de datos confidenciales.

"Prohibir a los empleados el uso de IA generativa es inútil", señala Terry Ray, SVP, Data Security GTM y Field CTO, Imperva. "Hemos visto esto con tantas otras tecnologías: las personas inevitablemente pueden encontrar su camino alrededor de tales restricciones y, por lo tanto, las prohibiciones solo crean un juego interminable de golpes para los equipos de seguridad, sin mantener a la empresa significativamente más segura".

Las amenazas internas son responsables de más de la mitad de todas las violaciones de datos (58%) y, a menudo, se encuentran entre las más dañinas. Una investigación previa de Imperva sobre las mayores violaciones de datos de los últimos cinco años encontró que una cuarta parte (24%) se debió a errores humanos (definidos como el uso accidental o malicioso de credenciales para fraude, robo, rescate o pérdida de datos). Sin embargo, las empresas despriorizan constantemente las amenazas internas, y un tercio (33%) dice que no las percibe como una amenaza significativa.

"La gente no necesita tener intenciones maliciosas para causar una violación de datos", continuó Ray. "La mayoría de las veces, solo están tratando de ser más eficientes en hacer su trabajo. Pero si las empresas están ciegas a los LLM que acceden a su código de backend o almacenes de datos confidenciales, es solo cuestión de tiempo antes de que les explote".