Google ha presentado el Secure AI Framework (SAIF), un marco conceptual diseñado para proteger los sistemas de inteligencia artificial (IA) en un contexto de rápidos avances tecnológicos. SAIF surge como una respuesta a la creciente necesidad de establecer estándares de seguridad claros en la industria para el desarrollo y despliegue responsable de la IA, especialmente en áreas como la IA generativa.
Este nuevo marco se basa en las mejores prácticas de seguridad aplicadas al desarrollo de software y contempla la incorporación de medidas específicas para gestionar los riesgos inherentes a los sistemas de IA. Google destaca la importancia de una colaboración entre sectores público y privado para implementar soluciones de seguridad robustas que protejan la tecnología y garanticen un desarrollo seguro de la IA.
SAIF se compone de seis elementos principales:
- Ampliación de las bases de seguridad a la IA: Aprovecha la infraestructura segura y los conocimientos adquiridos en las últimas dos décadas para proteger tanto los sistemas de IA como a los usuarios, con prácticas como la sanitización de entradas para evitar ataques de inyección de instrucciones.
- Extensión de la detección y respuesta de amenazas: Integra la IA en el entorno de amenazas de las organizaciones para responder eficazmente a los incidentes cibernéticos relacionados con la IA. Esto incluye el monitoreo de entradas y salidas de los sistemas de IA para detectar anomalías.
- Automatización de defensas contra amenazas emergentes: Utiliza innovaciones de IA para mejorar la respuesta a incidentes de seguridad, facilitando la protección frente a adversarios que también emplean IA en sus ataques.
- Armonización de controles a nivel de plataforma: Establece controles de seguridad consistentes en toda la organización para reducir riesgos y asegurar que todas las aplicaciones de IA reciban las mejores protecciones de manera escalable y eficiente.
- Adaptación de controles para una retroalimentación rápida: Implementa técnicas de aprendizaje continuo para mejorar la detección y protección en función de las amenazas en evolución, a través de ejercicios como «red teaming» para evaluar la seguridad de los productos de IA.
- Contextualización de los riesgos en procesos empresariales: Realiza evaluaciones de riesgos de extremo a extremo para garantizar la seguridad en el uso de IA, incluyendo políticas de privacidad de datos y controles de ciclo de vida para los modelos de IA.
Con SAIF, Google espera fomentar una comunidad de seguridad de IA que involucre a gobiernos, industria y academia, asegurando que los avances en IA se realicen de forma segura y beneficiosa para todos. Además, Google planea ofrecer herramientas de código abierto y compartir conocimientos de sus equipos de inteligencia de amenazas para ayudar a las organizaciones a implementar SAIF en sus sistemas de IA.
