OpenAI adquiere la compañía de seguridad Promtfoo

Como es habitual, la operación está sujeta a las condiciones de cierre habituales, pero OpenAI anunció ayer el acuerdo para la compra de Promtfoo. Esta innovadora compañía ha creado una plataforma de seguridad de la inteligencia artificial “que ayuda a las empresas a identificar y remediar las vulnerabilidades de los sistemas de IA durante el desarrollo”.

El objetivo de la compañía dirigida por Sam Altman no es otro que dotar de mayor protección su plataforma OpenAI Frontier, un entorno para la creación y la operación de “AI coworkers” con el que se integrará directamente la tecnología de Promtfoo una vez que haya finalizado la compra. Según señala en la nota de prensa, ya hay un 25% de las empresas de Fortune 500 que utilizan la suite de herramientas de Promtfoo.

Además de estas herramientas, esta empresa ha desarrollado también una librería y CLI open source “ampliamente usadas” para la evaluación y realización de pruebas de Red Team de aplicaciones LLM. OpenAI seguirá apoyando este proyecto open source. En cuanto a la integración de las capacidades de Promtfoo en Frontier, ofrecerá las pruebas de seguridad y Red Team automatizadas, la seguridad y la evaluación integradas en los flujos de trabajo del desarrollo de la IA y capacidades de reporting y trazabilidad.

Srinivas Narayanan, CTO de Aplicaciones B2B de OpenAI, señala que “Promptfoo aporta una profunda experiencia en ingeniería para evaluar, proteger y probar sistemas de IA a escala empresarial. Su trabajo ayuda a las empresas a implementar aplicaciones de IA seguras y fiables, y nos entusiasma incorporar estas capacidades directamente a Frontier”.