*Este artículo se publicó originalmente en Help Net Security.
Hablemos de un par de historias de terror ocurridas recientemente…
A finales del año pasado, un concesionario de Chevrolet desplegó un chatbot impulsado por Grandes Modelos Lingüísticos (LLM - Large Language Models) que se encontraba en su página de inicio. Al haber sido entrenado con especificaciones detalladas de los vehículos de la marca, respondía únicamente a preguntas sobre esos productos.
Sin embargo, los usuarios hallaron rápidamente la manera de sortear esos límites: mediante una serie de interrogantes capciosos que salían del rango de las respuestas del chatbot, lo incitaron a recomendar vehículos Tesla. Pronto fue manipulado para que escribiera código e incluso se ofreciera a vender autos por un dólar.
Un incidente más alarmante fue el de Co-Pilot de Microsoft, una herramienta de IA diseñada para ayudar a codificar. Debido al fenómeno de las “alucinaciones” de la Inteligencia Artificial -que genera información plausible pero falsa-, dicho instrumento sugería una biblioteca inexistente. Aprovechando esta oportunidad, un desarrollador creó otra con ese nombre, le incrustó malware y la subió a GitHub. En cuatro días, dicha biblioteca maliciosa registró 100.000 descargas.
Estos fallos deberían hacer reflexionar a cualquier empresario deseoso de integrar la IA en sus operaciones. Representan un recordatorio sobre los desafíos de la IA en ITSM (Gestión de Servicios de IT).
4 consideraciones clave para la integración de la IA en ITSM
Antes de adoptar la IA para la Gestión de Servicios de IT, ten en cuenta las consideraciones que se enumeran a continuación.
1. Gestionar la información confidencial
Partiendo de la base de que los modelos de IA requieren vastos conjuntos de datos para funcionar de manera óptima, cuando se utilizan sin restricciones puede conducir a importantes violaciones en la seguridad.
Por eso, las empresas deben garantizar que solo la información relevante y no sensible se introduzca en esos sistemas para evitar el acceso no autorizado y el uso indebido de la misma.
2. Garantizar la integridad de los datos: “Basura adentro, basura afuera”
La calidad de los datos utilizados para entrenar modelos de IA afecta directamente a su rendimiento. En ese aspecto, las organizaciones tendrán que implementar procesos rigurosos de saneamiento para asegurar que sean precisos, fiables y libres de errores. Este paso es fundamental para producir resultados confiables.
3. Establecer estrictos controles de acceso
Los modelos de IA no entienden de forma inherente el control de acceso, por lo que es esencial definir límites claros sobre quién toma contacto con los datos.
Para ello, resulta conveniente emplear múltiples LLM, cada uno diseñado para un fin específico, y alimentarlos sólo con la información adecuada.
Este enfoque elimina el concepto de los LLM generalistas en los que se usa todos los datos de la empresa, lo cual garantiza que el acceso a los mismos esté debidamente restringido y alineado con las funciones y responsabilidades de los usuarios.
4. Verificar de forma rigurosa los resultados de la IA
Otro de los desafíos de la IA en ITSM se vincula con la veracidad de los resultados, ya que estas herramientas pueden producir información incorrecta. Estas “alucinaciones” subrayan la necesidad de disponer de procesos de verificación rigurosos.
En concreto, es indispensable realizar auditorías y comprobaciones periódicas para garantizar que los resultados sean precisos y confiables. Dicha práctica es crucial para mantener la confianza y la credibilidad en las aplicaciones de IA.
5 mejores prácticas para la integración de la IA
1. Ser flexibles frente a la multiplicidad de proveedores
La adopción de una estrategia de IA agnóstica es esencial para mejorar los procesos de ITSM. Por lo tanto, en lugar de comprometerse con un único proveedor, las organizaciones tienen que utilizar una interfaz flexible que permita una integración perfecta con varios modelos.
Por ejemplo, aprovecha Azure de Microsoft por sus sólidos modelos GPT para gestionar las consultas del servicio de atención al cliente; y también Vertex AI de Google para agilizar los flujos de trabajo internos de IT.
Este enfoque garantiza que las empresas no estén atadas a un único prestador, permitiéndoles cambiar a los mejores modelos disponibles a medida que evoluciona la tecnología de IA. Al mantener esta flexibilidad, las organizaciones acceden continuamente a las capacidades más avanzadas.
Dicha estrategia no solo optimiza el rendimiento, sino que también garantiza que la infraestructura de IA se mantenga adaptada y preparada para el futuro, lista para incorporar los nuevos avances al momento de su surgimiento.
2. Aprovechar los modelos preentrenados
El entrenamiento de los modelos de IA desde cero requiere mucho tiempo, dinero e infraestructura informática. Dadas estas demandas sustanciales, los modelos preentrenados se convirtieron en una opción para la mayoría de las organizaciones.
Además, suelen incluir capacidades avanzadas perfeccionadas por los principales investigadores de IA, lo cual garantiza un rendimiento de vanguardia.
Sin embargo, es imprescindible ajustar estos modelos preentrenados con datos propios, ya que permite a las organizaciones adaptar la funcionalidad de la IA a sus necesidades específicas.
Es como tener un vehículo deportivo de alta gama que se puede ajustar para que funcione perfectamente en tu pista.
Agnosticismo tecnológico en IA: ¿Cuáles son los proveedores que hay que evitar?
3. Establecer límites de acceso claros
Para evitar el acceso no autorizado a la información sensible, define quién puede conocerla, cuál y en qué circunstancias. Por ejemplo, un representante de marketing debería estar al tanto del material promocional y los detalles de los productos, pero no de los datos financieros confidenciales o registros internos de los recursos humanos.
Al proporcionar a los modelos de IA sólo la información necesaria para la función específica del usuario, las organizaciones mitigan los riesgos y garantizan que los datos sensibles permanezcan seguros.
También se alinea con los requisitos de cumplimiento y las mejores prácticas para la gobernanza de los datos.
Se trata de crear una fortaleza alrededor de tu valiosa información, asegurando que solo ingresen aquellos con las claves correctas.
4. Implementar sólidos acuerdos de confidencialidad y de protección de los datos
Cuando se utilizan servicios externos de IA, es crucial salvaguardar la información privada mediante la aplicación de sólidos Acuerdos de Confidencialidad (Non-Disclosure Agreements) y de protección de datos.
Estos convenios deben estipular claramente que la información proporcionada no se utilizará para el reciclaje ni para fines distintos de los acordados explícitamente.
El marco legal brinda una red de seguridad, protegiendo a tu organización de un posible uso indebido de los datos por parte de terceros proveedores. Es esencial ser diligente en este aspecto, ya que las repercusiones por la filtración de información pueden ser graves, desde la pérdida de ventajas competitivas hasta responsabilidades legales.
5. Combinar los modelos AIaaS y self-hosted para mejorar la seguridad
Para mantener un control estricto sobre los datos confidenciales al tiempo que se aprovechan los beneficios de la IA, se recomienda adoptar un enfoque híbrido que combine la Inteligencia Artificial como servicio (AIaaS) con modelos self-hosted.
Para las tareas que implican información confidencial, como el análisis financiero y la evaluación de riesgos, el despliegue de modelos de IA self-hosted garantiza la seguridad y el control. Mientras que la utilización de proveedores de AIaaS como AWS para trabajos menos sensibles, como el mantenimiento predictivo y el soporte de rutina de IT, permite a las organizaciones beneficiarse de la escalabilidad y las funciones avanzadas de la Inteligencia Artificial basada en la nube.
En definitiva, la estrategia híbrida garantiza que los datos confidenciales permanezcan seguros dentro de la infraestructura de la organización al tiempo que se aprovecha la innovación y la eficiencia que ofrece AIaaS para otras operaciones.
Al equilibrar estos enfoques, las empresas pueden optimizar su integración de IA, manteniendo altos estándares de seguridad sin sacrificar la flexibilidad y las mejoras de rendimiento que brindan las soluciones en la nube.
Conclusión
Como cualquier nueva tecnología, la integración de la Inteligencia Artificial en los procesos de Gestión de Servicios de IT presenta oportunidades pero también varios retos.
Sobre los desafíos de la IA en ITSM, aconsejamos aprovechar los modelos preentrenados, establecer límites claros de acceso, aplicar sólidos acuerdos de confidencialidad y supervisar y auditar periódicamente los sistemas.
Estas mejores prácticas no sólo optimizan la funcionalidad y la eficiencia de las integraciones de IA, sino que también garantizan que los datos de la organización permanezcan seguros y cumplan las normas.
A veces, en la urgencia por introducir las nuevas tecnologías, tropezarás y caerás en el camino. Pero aprenderás de esas experiencias y así sortearás escollos similares. Al final, la IA se convertirá en un poderoso aliado de tus operaciones de IT -y no venderá Chevys por un dólar-.
