Adoptar herramientas para una IA confiable garantiza un trabajo más eficiente: Microsoft

A los líderes les preocupa el riesgo de que la IA genere información dañina, filtre datos confidenciales, sea secuestrada por atacantes o viole las leyes de privacidad.

Foto: cortesía. Portal ERP LATAM.

La IA generativa ha comenzado a transformar a muchas industrias, pero las empresas a menudo luchan con cómo crear e implementar herramientas de IA seguras a medida que la tecnología evoluciona.

“Las organizaciones se preocupan por la seguridad junto con la calidad y el rendimiento de sus aplicaciones de IA”, dice Sarah Bird, directora de productos de IA Responsable en Microsoft . “Pero muchos de ellos no entienden lo que tienen que hacer para que su IA sea confiable, o no tienen las herramientas para hacerlo”.

Para cerrar la brecha, Microsoft proporciona herramientas y servicios que ayudan a los desarrolladores a crear y enviar sistemas de IA confiables, o una IA creada con la seguridad, la protección y la privacidad en mente. Las herramientas han ayudado a muchas organizaciones a lanzar tecnologías en entornos complejos y regulados de manera importante, desde un asistente de IA que resume los registros médicos de los pacientes hasta un chatbot de IA que brinda orientación fiscal a los clientes.

Te puede interesar: Microsoft integra IA, agentes y Copilot en las novedades de Power Platform

El enfoque también ayuda a los desarrolladores a trabajar de manera más eficiente, dice Mehrnoosh Sameki, gerente principal de productos de IA responsable en Microsoft.

Las herramientas son parte de un método holístico que Microsoft proporciona para construir IA de manera responsable, perfeccionado por la experiencia en identificar, medir, administrar y monitorear el riesgo en sus propios productos, y asegurarse de que se realice cada paso.

Cuando surgió la IA generativa, la empresa reunió a expertos en seguridad, protección, equidad y otras áreas para identificar los riesgos fundamentales y compartir documentación, algo que aún se hace hoy en día a medida que cambia la tecnología. A continuación, desarrolló un enfoque exhaustivo para mitigar el riesgo y herramientas para ponerlo en práctica.

La perspectiva refleja el trabajo de un equipo que identifica riesgos emergentes como alucinaciones y ataques de inmediato, los investigadores que estudian deepfakes, expertos en medición que desarrollaron un sistema para evaluar la IA, e ingenieros que construyen y refinan barandillas de seguridad.

Las herramientas incluyen el marco de código abierto PyRIT para que los equipos identifiquen los riesgos, evaluaciones automatizadas para la medición y el seguimiento continuo de los riesgos, y seguridad del contenido para detectar y bloquear entradas y salidas dañinas.

Microsoft comparte buenas prácticas para elegir el modelo adecuado en una aplicación, escribir mensajes del sistema y diseñar experiencias de usuario como parte de la creación de un sistema de seguridad de IA sólido.

“Utilizamos un enfoque de defensa en profundidad con muchas capas que protegen contra diferentes tipos de riesgos, y le damos a las personas todas las piezas para hacer este trabajo por sí mismos”, dice Bird.

Microsoft también ayuda a las organizaciones a mejorar su gobernanza de IA, un sistema para rastrear y compartir detalles importantes sobre el desarrollo, la implementación y el funcionamiento de una aplicación o modelo que brindará a las organizaciones una plataforma unificada para colaborar, cumplir con un número creciente de regulaciones de IA y documentar los conocimientos de evaluación, los riesgos potenciales y las mitigaciones.

“Es difícil saber que todas las piezas funcionan si no se cuenta con la gobernanza adecuada”, dice Bird.

Parte del objetivo de Microsoft es ayudar a las personas a hacer más con la IA y compartir aprendizajes que faciliten el trabajo para todos.

"Hacer que nuestros propios sistemas de IA sean confiables es fundamental en lo que hacemos, y queremos empoderar a los clientes para que hagan lo mismo" , concluye la directora.