Google Cloud lanza AI Protection: solución de seguridad para la era de la IA

A medida que aumenta el uso de la IA, la seguridad sigue siendo una de las principales preocupaciones para las organizaciones.

Foto. cortesía. Portal ERP LATAM.

Google Cloud anunció una nueva solución que puede ayudar a las personas a mitigar el riesgo durante todo el ciclo de vida de la IA. Por eso anunció AI Protection, un conjunto de funciones diseñadas para proteger las cargas de trabajo y los datos de IA en las nubes y los modelos, independientemente de las plataformas que elija utilizar.

AI Protection ayuda a los equipos a gestionar de forma integral el riesgo de IA mediante lo siguiente:

·       Descubrir el inventario de IA en su entorno y evaluarlo para detectar posibles vulnerabilidades.

·       Protección de activos de IA con controles, políticas y medidas de seguridad.

·       Gestión de amenazas contra sistemas de IA con capacidades de detección, investigación y respuesta.

AI Protection está integrado con Security Command Center (SCC), nuestra plataforma de gestión de riesgos multicloud, para que los equipos de seguridad obtengan una visión centralizada de su postura de IA y gestionen los riesgos de IA de forma integral en contexto con sus otros riesgos en la nube.

Te peude interesar: Google Cloud y Odoo le apuestan al crecimiento empresarial global

Descubriendo el inventario de IA

Una gestión eficaz de los riesgos de la IA comienza con una comprensión integral de dónde y cómo se utiliza la IA en su entorno. Nuestras capacidades le ayudan a descubrir y catalogar automáticamente los activos de IA, incluido el uso de modelos, aplicaciones y datos, y sus relaciones.

Comprender qué datos respaldan las aplicaciones de IA y cómo se protegen actualmente es fundamental. La Protección de Datos Sensibles (SDP) ahora extiende el descubrimiento automatizado de datos a los conjuntos de datos de Vertex AI para ayudar a comprender la sensibilidad de los datos y los tipos de datos que componen los datos de entrenamiento y ajuste. También puede generar perfiles de datos que ofrecen una visión más profunda del tipo y la sensibilidad de sus datos de entrenamiento.

Una vez que sepa dónde existen datos confidenciales, AI Protection puede usar el equipo rojo virtual de Security Command Center para identificar combinaciones tóxicas relacionadas con IA y posibles caminos que los actores de amenazas podrían tomar para comprometer estos datos críticos, y recomendar pasos para remediar vulnerabilidades y realizar ajustes de postura.

Protección de activos de IA

Model Armor, una función clave de AI Protection, ya está disponible para el público general. Protege contra la inyección inmediata, el jailbreak, la pérdida de datos, las URL maliciosas y el contenido ofensivo. Model Armor es compatible con una amplia gama de modelos en Múltiples nubes, por lo que los clientes obtienen una protección consistente para los modelos y plataformas que desean usar, incluso si esto cambia en el futuro.

Hoy en día, los desarrolladores pueden integrar fácilmente el filtrado de mensajes y respuestas de Model Armor en sus aplicaciones mediante una API REST o una integración con Apigee. La posibilidad de implementar Model Armor en línea sin realizar cambios en la aplicación estará disponible próximamente gracias a las integraciones con Vertex AI y los productos de redes en la nube.

“Utilizamos Model Armor no solo porque ofrece una protección robusta contra inyecciones instantáneas, fugas de seguridad y fugas de datos confidenciales, sino también porque obtenemos una estrategia de seguridad unificada desde Security Command Center. Podemos identificar, priorizar y responder rápidamente a posibles vulnerabilidades, sin afectar la experiencia de nuestros equipos de desarrollo ni a las propias aplicaciones”, afirmó Jay DePaul, director de ciberseguridad y riesgos tecnológicos de Dun & Bradstreet.

Construir sobre una base segura

Los clientes también pueden beneficiarse del uso de la infraestructura de Google Cloud para crear y ejecutar cargas de trabajo de IA. La plataforma en la nube, segura por diseño y por defecto, está diseñada con múltiples capas de protección, cifrado y rigurosos controles en la cadena de suministro de software. 

Para los clientes cuyas cargas de trabajo de IA están sujetas a regulación, Google Cloud ofrece cargas de trabajo aseguradas para crear fácilmente entornos controlados con estrictas políticas de seguridad que aplican controles como la residencia de datos y el cifrado gestionado por el cliente.

Además, para las organizaciones que buscan descubrir un uso no autorizado de IA, o IA en la sombra, en su fuerza laboral, Chrome Enterprise Premium puede brindar visibilidad de la actividad del usuario final, así como prevenir la exfiltración accidental e intencional de datos confidenciales en aplicaciones de IA genéricas.