Uno de los desafíos es que el uso de la IA presenta problemas importantes en torno a la pérdida de datos confidenciales y el cumplimiento

La IA generativa ha cambiado rápidamente lo que el mundo pensaba que era posible con la inteligencia artificial, y su adopción generalizada inspira asombro e inquietud, aunque ambos al mismo tiempo, pero también es un desafío para las empresas.

Alex Au Yeung, director de productos de la división empresarial de Symantec, analiza cuáles son sus implicaciones para la empresa y la ciberseguridad , y señala que es un cambio de juego científico y de ingeniería para la empresa. “Una tecnología que puede mejorar en gran medida la eficiencia de las organizaciones, permitiéndoles ser significativamente más productivas con la misma cantidad de recursos humanos. Sin embargo, el impacto de la velocidad con la que aparecieron de la noche a la mañana las aplicaciones de IA generativa como ChatGPT, Bard y GitHub Copilot, comprensiblemente tomó por sorpresa a los líderes empresariales de TI. Tan rápido que, en apenas seis meses, la popularización de las herramientas de IA generativa ya está llegando a un punto de inflexión tecnológica”.

La IA generativa opera en redes neuronales impulsadas por sistemas de aprendizaje profundo, al igual que funciona el cerebro. Estos sistemas son como procesos de aprendizaje humano. Sin embargo, a diferencia del aprendizaje humano, el poder de los datos de múltiples fuentes combinado con la información correcta en la IA generativa significa que el procesamiento de las respuestas será años luz más rápido. Lo que podría tomar 30 años para que un individuo lo procese podría tomar solo un parpadeo. Este es un beneficio que se puede derivar dependiendo de la calidad, así como de la gran cantidad de datos que se pueden incorporar.

Los retos de la ciberseguridad

La IA generativa, incluido ChatGPT, se entrega principalmente a través de un modelo de software como servicio (SaaS) de terceros. Uno de los desafíos que tenemos por delante es que interactuar con la IA generativa requiere proporcionar datos a este tercero.

Los grandes modelos de aprendizaje (LLM) que soportan estas herramientas de IA requieren el almacenamiento de estos datos para responder de manera inteligente a las solicitudes posteriores que tienen los usuarios.

“Uno de los desafíos es que el uso de IA presenta problemas importantes en torno a la pérdida de datos confidenciales y el cumplimiento. Proporcionar información confidencial a los programas de IA generativa, como datos de identificación personal, información de salud protegida o propiedad intelectual, debe verse desde la misma perspectiva que otras relaciones con otras aplicaciones y debe incorporar los controles adecuados. No se trata de detener la innovación, se trata de hacer un uso responsable de estas herramientas”., comentó Ricardo Dos Santos, Gerente de Servicios y Ciberseguridad de eSoft LATAM, quien destaca que las soluciones Data Loss Prevention o prevención de pérdida de datos (DLP, por sus siglas en inglés) son un conjunto de herramientas y procesos que utilizan las empresas para asegurar que los datos confidenciales no se pierda, no se utilice de forma indebida o accedan a ella usuarios no autorizados.

Te puede interesar: Medellín apunta a ser la capital de la industria tecnológica en Latam

Y es que la información que alimentan herramientas de IA como ChatGPT pasa a formar parte de su conjunto de conocimientos. Cualquier suscriptor de ChatGPT tiene acceso a este conjunto de datos comunes. Esto significa que cualquier dato cargado o sobre el que hayas preguntado puede ser reproducido dentro de ciertas medidas de seguridad para la aplicación a otros terceros que tengan preguntas similares. “Tal como está hoy, la mayoría de las herramientas de IA generativa no tienen políticas de seguridad de datos concretas para los datos proporcionados por los usuarios” , advierte el especialista de Symantec – Broadcom.

Síguenos también en     LinkedIn 

“La amenaza interna también se vuelve significativa con la IA. Algunos colaboradores de su empresa pueden usar ChatGPT para crear correos electrónicos muy realistas, pero si no hacen la revisión adecuada, pueden duplicar el estilo de otro con errores tipográficos, información imprecisa y más. Además, los atacantes también pueden duplicar sitios web exactamente y eso abre otra brecha de seguridad”.

Lo que las empresas necesitan para la seguridad

Afortunadamente, existen soluciones de protección para la IA generativa, como Symantec DLP Cloud, Adaptive Protection en Symantec Endpoint Security Complete (SESC) y monitoreo en tiempo real de la seguridad del correo electrónico que abordan estos desafíos emergentes y bloquean los ataques de diferentes maneras.

Symantec DLP Cloud amplía Generative AI Protection para empresas con las capacidades que necesitan para descubrir, y posteriormente monitorear y controlar, la interacción con herramientas de IA generativa dentro de sus organizaciones. Entre otros beneficios, DLP puede usar IA para acelerar la priorización de incidentes, ayudando a los analistas sénior a clasificar los más importantes y reconocer aquellos que no son una amenaza crítica para la empresa.

Los beneficios incluyen:

– Proporcionar a las empresas la capacidad de comprender los riesgos a los que están sujetas, por el uso de herramientas con IA generativa.

– Permitir el uso seguro y protegido de las herramientas populares de IA al brindar las medidas de seguridad necesarias para bloquear la carga o publicación de datos confidenciales de manera intencional o inadvertida.

– Identificar, clasificar y documentar el cumplimiento de la identificación personal, información de salud, propiedad intelectual y otros datos críticos.

Symantec Generative AI Protection permite a las empresas "decidir por sí mismas" las innovaciones que mejoran la productividad de la IA generativa, sin comprometer la seguridad de los datos y el cumplimiento.

Las soluciones y servicios de seguridad de Symantec están disponibles en el país a través de eSoft LATAM, Partner Premier / TIER 1 VAD y el mejor Expert Advantage Partner & Technical Enablement, Latinoamérica de Broadcom  Software .