Red Hat impulsa la seguridad de la IA empresarial con la adquisición de Chatterbox Labs
- Actualidad
La operación incorpora pruebas automatizadas, métricas independientes y guardrails avanzados al porfolio de Red Hat AI. Con ello, la empresa refuerza su apuesta por una IA responsable, verificable y preparada para producción en entornos híbridos.
Red Hat ha dado un paso estratégico en su hoja de ruta de inteligencia artificial con la adquisición de Chatterbox Labs, pionera en tecnologías de seguridad agnósticas al modelo y en sistemas de protección (guardrails) para IA generativa y predictiva. La compañía subraya que esta integración permitirá a las organizaciones desplegar modelos más confiables, robustos y auditables, un requisito clave a medida que la IA pasa del laboratorio a la producción.
Tecnología para evaluar riesgos y reforzar los guardrails
Chatterbox Labs aporta una combinación de herramientas automatizadas y métricas cuantitativas que permiten evaluar modelos y datos con independencia del proveedor o la arquitectura. Entre sus capacidades destacan:
- AIMI para gen AI, que genera métricas de riesgo independientes para LLMs.
- AIMI para IA predictiva, centrado en robustez, imparcialidad y explicabilidad.
- Guardrails avanzados, capaces de detectar y corregir prompts inseguros, tóxicos o sesgados antes del despliegue.
Estas capacidades han sido reconocidas por think tanks y responsables de políticas públicas, reforzando su valor en entornos regulados.
La adquisición fortalece la estrategia de Red Hat en IA agéntica y en el Protocolo de Contexto de Modelo (MCP), clave para agentes autónomos capaces de interactuar con sistemas empresariales. Chatterbox Labs ha investigado la seguridad agéntica holística, incluyendo la monitorización de respuestas y la detección de activadores de acción en servidores MCP, un área crítica para evitar comportamientos no deseados en sistemas autónomos.
Con esta operación, Red Hat avanza hacia una plataforma de IA empresarial donde la seguridad está integrada de forma nativa, independientemente del modelo, del acelerador o del entorno de despliegue. La compañía reafirma así su compromiso con un enfoque abierto, verificable y libre de dependencias propietarias, alineado con su visión de nube híbrida y multicloud.
