La empresa tecnológica Cisco anunció en días recientes el lanzamiento de Cisco AI Defense, una solución pionera para permitir y proteger la transformación de la inteligencia artificial (IA) en las empresas.
A medida que avanza esta revolucionaria tecnología, surgen nuevas preocupaciones y amenazas de seguridad a una velocidad sin precedentes, contra las cuales las soluciones de seguridad existentes en la actualidad no están preparadas. Cisco AI Defense está diseñado específicamente para que las empresas desarrollen, implementen y protejan aplicaciones de IA con confianza.
La IA potencia los riesgos
Los riesgos de que algo salga mal con la IA son increíblemente altos. Según un estudio de IA de Cisco, solo el 29 % de los encuestados se siente completamente equipado para detectar y prevenir la manipulación no autorizada de la IA.
Los desafíos de seguridad también son nuevos y complejos, ya que las aplicaciones de IA son multimodelo y multi nube. Las vulnerabilidades pueden ocurrir a nivel de modelo o de aplicación, mientras que la responsabilidad recae en diferentes propietarios, incluidos desarrolladores, usuarios finales y proveedores.
A medida que las empresas van más allá de los datos públicos y comienzan a entrenar modelos con datos privados, los riesgos sólo aumentan.
Para impulsar la innovación y la adopción de la IA, las empresas necesitan una capa común de seguridad que proteja a todos los usuarios y aplicaciones. Cisco AI Defense permite la transformación de las empresas en materia de IA al abordar dos riesgos urgentes:
Desarrollo e implementación de aplicaciones de IA seguras
A medida que la IA se vuelve omnipresente, las empresas utilizarán y desarrollarán cientos, sino miles, de aplicaciones de IA. Los desarrolladores necesitan un conjunto de medidas de seguridad y protección de la IA que funcionen para todas las aplicaciones.
Cisco AI Defense ayuda a los desarrolladores a actuar con rapidez y a generar un mayor valor al proteger los sistemas de IA de los ataques y salvaguardar el comportamiento de los modelos en todas las plataformas.
Las capacidades de AI Defense incluyen:
- Descubrimiento de la IA: los equipos de seguridad deben comprender quién crea las aplicaciones y las fuentes de capacitación que utilizan. AI Defense detecta aplicaciones de IA autorizadas y ocultas en nubes públicas y privadas
- Validación de modelos: el ajuste de modelos puede generar resultados tóxicos e inesperados. Las pruebas automatizadas verifican los modelos de IA en busca de cientos de posibles problemas de seguridad. Este equipo rojo algorítmico impulsado por IA identificar posibles vulnerabilidades y recomienda medidas de protección en defensa de IA para que las utilicen los equipos de seguridad
- Seguridad en tiempo de ejecución: la validación continua protege contra posibles amenazas a la seguridad, como inyección rápida, denegación de servicio y fuga de datos confidenciales de forma continua
Protección del acceso a las aplicaciones de IA
A medida que los usuarios finales se apresuran a adoptar aplicaciones de IA como herramientas de resumen para mejorar su productividad, los equipos de seguridad deben evitar la fuga de datos y el envenenamiento de datos confidenciales. Cisco AI Defense brinda a los equipos de seguridad:
- Visibilidad: proporciona una vista integral de las aplicaciones habilitadas para IA autorizadas y no autorizadas que utilizan los empleados
- Control de acceso: implementa políticas que restringen el acceso de los empleados a herramientas de IA no autorizadas
- Protección de datos y amenazas: protege continuamente contra amenazas y pérdida de datos confidenciales al tiempo que garantiza el cumplimiento
Cisco AI Defense es la última de una serie de innovaciones de seguridad impulsadas por IA de la tecnológica con sede en San José, California (EE. UU.). Se espera que esta plataforma esté disponible en marzo, de acuerdo con la compañía.
No dejes de leer: ¿Cómo orientar el impacto de la IA en la educación superior? La visión de una académica
Sigue nuestras redes sociales y se parte de nuestra comunidad