La IA cognitiva abre la puerta a nuevas formas de manipulación, fraude y riesgos
- Seguridad
Durante la conferencia Kaspersky HORIZONS, la compañía analizó cómo la IA cognitiva puede intensificar la ingeniería social, el perfilado abusivo y las operaciones de influencia a gran escala. La convergencia entre interfaces cerebro-computadora e IoT amplía los riesgos más allá del entorno digital.
Kaspersky señala que la IA está evolucionando desde sistemas centrados en datos hacia tecnologías capaces de interpretar e interactuar con la cognición humana.
Aunque los modelos actuales no pueden leer pensamientos con precisión, sí pueden influir en decisiones y comportamientos mediante recomendaciones, personalización extrema y control masivo de la información. Representan un riesgo real y creciente tanto para la ciberseguridad como a nivel social y tecnológico, incluso si los escenarios más extremos siguen siendo especulativos.
Durante Kaspersky HORIZONS, los analistas del equipo GReAT identificaron cuatro riesgos emergentes que se intensificarán a medida que avance la IA cognitiva:
1. Ingeniería social más sofisticada y emocional. Los LLM ya permiten generar correos y páginas de phishing altamente creíbles. Con IA cognitiva, los ciberdelincuentes podrán explotar datos conductuales y psicológicos, adaptar dinámicamente los mensajes al contexto y apelar a emociones específicas para aumentar la tasa de éxito.
El phishing ya representa el 15% de las técnicas de ataque más utilizadas, según el informe global “Anatomía de un mundo Cibernético”. Kaspersky advierte de que estas técnicas pueden convertirse en puerta de entrada para APT y cibercrimen avanzado.
2. Manipulación cognitiva y operaciones de influencia masiva. La IA cognitiva permitirá campañas capaces de moldear la opinión pública, explotando sesgos cognitivos y estímulos emocionales. Grupos hacktivistas o actores APT podrían amplificar polarización, reforzar cámaras de eco y manipular narrativas a gran escala.
La frontera entre predecir el comportamiento y modificarlo activamente será cada vez más difusa, generando riesgos sistémicos para la autonomía individual y la confianza social.
3. Perfilado predictivo y abusos basados en identidad. La agregación masiva de datos permite construir perfiles psicológicos extremadamente detallados. Esto amplifica fenómenos como doxxing avanzado, correlación automática de identidades, campañas de acoso dirigidas y juicios basados en comportamientos inferidos.
El riesgo ya no es solo la pérdida de privacidad, sino la pérdida de control sobre la propia identidad y cómo puede ser utilizada en contra del individuo.
4. Interfaces cerebro-computadora conectadas al IoT: un nuevo vector de ataque. Las BCI, inicialmente diseñadas para pacientes, empiezan a integrarse con dispositivos conectados. Esto abre escenarios en los que señales neuronales pueden controlar dispositivos domésticos inteligentes, tecnologías de asistencia y equipamiento médico.
Si estos sistemas se comprometen, un atacante podría interceptar señales, manipular respuestas o explotar la relación entre intención y acción. Los riesgos dejan de limitarse al entorno digital y alcanzan sistemas físicos y la autonomía humana.
Noushin Shabab, investigadora principal de Kaspersky, advierte de que “a medida que aumente su adopción, también lo harán los riesgos asociados, y debemos estar preparados para ello.”
