La inteligencia artificial avanza a pasos agigantados y, con ella, también crecen los desafíos en materia de seguridad, cumplimiento normativo y confiabilidad. En este contexto, NVIDIA lanzó una serie de microservicios de IA denominados NVIDIA NIM, diseñados para fortalecer la seguridad y mejorar el control sobre las aplicaciones empresariales basadas en inteligencia artificial generativa.

Estos microservicios forman parte de la colección de herramientas de software NVIDIA NeMo Guardrails, un conjunto de soluciones que permiten a las empresas desarrollar agentes de IA más confiables, evitando errores, sesgos y respuestas inapropiadas.

Según NVIDIA, los nuevos microservicios NIM ofrecen una solución clave en la implementación de “robots del conocimiento”, agentes capaces de realizar diversas tareas con alta precisión. La compañía sostiene que estas herramientas ayudarán a transformar la productividad de más de mil millones de trabajadores del conocimiento en todo el mundo.

Seguridad y precisión en aplicaciones empresariales

El desarrollo de agentes de IA plantea desafíos críticos en términos de seguridad y cumplimiento de normativas. Para abordar estos problemas, NeMo Guardrails permite a los desarrolladores integrar sistemas de seguridad que controlan el comportamiento de los modelos de lenguaje, asegurando que operen dentro de los parámetros predefinidos.

“Tecnologías como NeMo Guardrails son esenciales para salvaguardar las aplicaciones de IA generativa y garantizar que funcionen de forma segura y ética”, afirmó Anthony Goonetilleke, presidente del grupo de tecnología y responsable de estrategia de Amdocs, una de las empresas que ya están utilizando estas soluciones.

Amdocs, un proveedor global de software y servicios para empresas de telecomunicaciones, integró NeMo Guardrails en su plataforma amAIz para mejorar las interacciones impulsadas por IA. Según Goonetilleke, la incorporación de estas herramientas fortalece las capacidades de “Trusted AI”, permitiendo que los agentes conversacionales sean “seguros, fiables y escalables”.

Los nuevos microservicios NVIDIA NIM incluyen tres componentes principales:

• Microservicio NIM de seguridad de contenidos: diseñado para evitar la generación de respuestas sesgadas o perjudiciales, alineando las respuestas con estándares éticos.

• Microservicio NIM de control de temas: ayuda a mantener las conversaciones dentro de los límites definidos, evitando desvíos hacia temas no aprobados o potencialmente sensibles.

• Microservicio NIM de detección de jailbreak: agrega una capa de protección contra intentos de manipulación que podrían hacer que el sistema genere respuestas fuera de los parámetros establecidos.

Impacto en múltiples sectores

El avance de la inteligencia artificial en diversas industrias ha impulsado la necesidad de contar con modelos más seguros y precisos. Empresas líderes en sectores como automoción, salud, finanzas y comercio minorista ya están adoptando NeMo Guardrails para optimizar sus sistemas basados en IA.

Cerence AI, especializada en soluciones de IA para la industria automotriz, está utilizando NeMo Guardrails para garantizar que los asistentes de voz dentro de los vehículos proporcionen respuestas precisas y apropiadas. Nils Schanz, vicepresidente ejecutivo de producto y tecnología de la empresa, destacó que “el uso de NeMo Guardrails nos ayuda a ofrecer soluciones fiables y adaptadas al contexto a nuestros clientes fabricantes de automóviles”.

Además, resaltó que la tecnología de NVIDIA “es personalizable para cada fabricante de automóviles y nos ayuda a filtrar solicitudes dañinas o inadecuadas”, asegurando que sus modelos de lenguaje CaLLM no generen contenido no deseado.

En el sector minorista, Lowe’s, una de las principales cadenas de mejoras para el hogar, está implementando NVIDIA NeMo Guardrails para potenciar la asistencia al cliente. Chandhu Nair, vicepresidente senior de datos, IA e innovación de Lowe’s, explicó que la herramienta está permitiendo mejorar las interacciones generadas por inteligencia artificial.

“Con nuestras recientes implementaciones de NVIDIA NeMo Guardrails, nos aseguramos de que las respuestas generadas por IA sean seguras y fiables, reforzando los límites conversacionales para ofrecer solo contenido relevante y apropiado”, sostuvo Nair.

Un enfoque escalable y de código abierto

Una de las características más destacadas de NeMo Guardrails es su capacidad para integrarse en entornos de código abierto, permitiendo que los desarrolladores ajusten y personalicen los sistemas de seguridad según sus necesidades específicas.

Para acelerar la adopción de estas salvaguardas en el comercio minorista, NVIDIA anunció en la feria NRF que su AI Blueprint para asistentes de compras minoristas incluirá NeMo Guardrails. Esto permitirá interacciones más confiables y seguras con los clientes durante experiencias de compra digitales.

Además de grandes corporaciones, compañías de consultoría y tecnología como Taskus, Tech Mahindra y Wipro están incorporando estas soluciones en sus productos para ofrecer aplicaciones de IA generativa más seguras y confiables a clientes empresariales.

El ecosistema de NeMo Guardrails también se integra con herramientas de observabilidad y desarrollo de IA como ActiveScore de ActiveFence, Hive, Fiddler AI Observability y Weights & Biases, reforzando aún más sus capacidades.

“NVIDIA trabaja para ofrecer a los socios empresariales formas de acelerar la aplicación de la IA y hacer que el servicio sea aún más rápido. Con menos tiempo, estamos reduciendo los costos de producción y aumentando la eficiencia para nuestros clientes”, señaló Marcio Aguiar, director de la división Enterprise de NVIDIA para Latinoamérica.

Pruebas de seguridad y disponibilidad

Para garantizar la efectividad de estos modelos de salvaguarda, NVIDIA también ha desarrollado NVIDIA Garak, un conjunto de herramientas de código abierto diseñado para evaluar la seguridad de aplicaciones de inteligencia artificial.

Este sistema permite detectar vulnerabilidades en los modelos de IA mediante pruebas que buscan identificar riesgos como fugas de datos, inyecciones de código y alucinaciones en las respuestas.

Los desarrolladores pueden comenzar a utilizar los microservicios NeMo Guardrails y el kit de herramientas NVIDIA Garak, disponibles para empresas y programadores que buscan reforzar la seguridad en sus agentes de IA.

Con este lanzamiento, NVIDIA no solo avanza en la carrera por el desarrollo de inteligencia artificial, sino que establece un nuevo estándar en seguridad y confiabilidad, brindando a las empresas las herramientas necesarias para crear agentes de IA seguros y eficientes en múltiples sectores.