Formación
Seguridad
IA generativa

Cuatro habilidades ‘DevSecOps’ clave para la era de la IA generativa

Las habilidades de alto nivel, como la validación y supervisión de los grandes modelos del lenguaje y el aprendizaje de la pila de inteligencia artificial, son áreas clave que deben abordar los tecnólogos.

inteligencia artificial y ciberseguridad

Cuando la computación en la nube se convirtió en una solución empresarial y se generalizaron herramientas como la integración continua y la entrega continua, la infraestructura como código y los kubernetes, se produjo un claro cambio de paradigma en las áreas de desarrollo y operaciones. El trabajo que separaba el desarrollo y las operaciones se convirtió en responsabilidades de desarrollo y operaciones, y los equipos de colaboración pasaron del trabajo manual de configuración de infraestructuras, escalado de entornos informáticos y despliegue de aplicaciones a una automatización más avanzada y flujos de trabajo orquestados.

Los expertos creen que las capacidades de IA generativa, los copilotos y los grandes modelos de lenguaje (LLM) están marcando el comienzo de una nueva era en la forma en que los desarrolladores, los científicos de datos y los ingenieros trabajarán e innovarán. Esperan que la IA mejore la productividad, la calidad y la innovación, pero los equipos de desarrollo y operaciones deben comprender y gestionar un nuevo conjunto de datos, seguridad y otros riesgos operativos. Y lo que es más importante, los CIO y los equipos de devsecops, seguridad de la información y ciencia de datos desempeñarán un papel importante a la hora de habilitar y proteger la organización utilizando capacidades de IA generativa.

 

Los líderes de TI deben impulsar un cambio de responsabilidad en la IA

Los CIO y los líderes de TI deben preparar a sus equipos y empleados para este cambio de paradigma y cómo la IA generativa afecta a las prioridades de transformación digital. Nicole Helmer, vicepresidenta de Desarrollo y Aprendizaje de Éxito del Cliente en SAP, afirma que la formación debe ser una prioridad. "Las empresas deben priorizar la formación de los desarrolladores, y el factor crítico para aumentar la adaptabilidad es crear un espacio para que los desarrolladores aprendan, exploren y obtengan experiencia práctica con estas nuevas tecnologías de IA".

El cambio puede ser profundo y táctico a medida que la automatización de TI se hace más productiva, lo que permite a TI dedicarse a más responsabilidades de innovación, arquitectura y seguridad.

"A la luz de la inteligencia artificial generativa, los equipos de desarrollo de operaciones deben dar menos prioridad a las habilidades básicas de secuencias de comandos para el aprovisionamiento y la configuración de la infraestructura, las configuraciones de supervisión de bajo nivel y el seguimiento de métricas, así como la automatización de pruebas, considera el Dr. Harrick Vin, director de Tecnología de TCS. "En su lugar, deberían centrarse más en el análisis de los requisitos del producto, la definición de criterios de aceptación, el software y el diseño arquitectónico, todo lo cual requiere pensamiento crítico, diseño, establecimiento de objetivos estratégicos y habilidades creativas para resolver problemas".

Aquí hay cuatro devsecops, ciencia de datos y otras habilidades de TI para desarrollar esta nueva era de IA generativa.

 

Pregunte a las IA, pero investigue y valide la respuesta

Las instrucciones son fundamentales cuando se trabaja con herramientas de IA generativa, como ChatGPT, copilotos y otros LLM. Pero la habilidad más importante es evaluar los resultados, reconocer las alucinaciones y validar de forma independiente las recomendaciones de la tecnología.

"Los desarrolladores, los probadores y los analistas de negocio deben aprender a escribir indicaciones [y aprender] dónde funciona bien la IA generativa y dónde falla", afirma David Brooks, vicepresidente senior y principal evangelista de Copado. "Adopta una mentalidad de 'confía pero verifica' en la que realmente leas todo el contenido generado para determinar si tiene sentido".

Cody De Arkland, director de Relaciones con Desarrolladores en LaunchDarkly, dice que las habilidades de incitación y validación deben aplicarse a los experimentos con LLM. "Si se utiliza correctamente, los desarrolladores pueden aprovechar un LLM para mejorar la experimentación de sus productos mediante la generación rápida de nuevas variaciones de experimentos, especialmente cuando la solicitud se enmarca en torno a su hipótesis y con el público adecuado en mente. Aprender a captar las lagunas en las respuestas que dan y cómo tomar el 90% que te da y cerrar la brecha en el 10% final te convertirá en un profesional devsecops mucho más eficaz".

Mi recomendación a los ingenieros de devsecops es cambiar los enfoques de resolución de problemas. Antes de los LLM, los ingenieros investigaban, validaban, implementaban y probaban soluciones. Hoy en día, los ingenieros deberían insertar indicaciones al principio del proceso, pero no perder los pasos restantes al experimentar.

 

Mejorar los LLM con ingeniería de datos

Cuando le pregunté a Akshay Bhushan, socio de Tola Capital, por su elección de un importante conjunto de habilidades de IA generativa, respondió: "La ingeniería de datos se está convirtiendo en la habilidad más importante porque necesitamos personas que construyan pipelines para alimentar con datos al modelo".

Antes de los LLM, muchas organizaciones se centraban en crear canalizaciones de datos sólidas, mejorar la calidad de los datos, habilitar capacidades de ciencia de datos ciudadana y establecer una gobernanza de datos proactiva en datos estructurados. Los LLM requieren un alcance ampliado de datos no estructurados, incluidos texto, documentos y multimedia para entrenar y permitir un contexto más amplio. Las organizaciones necesitarán que los científicos de datos y los especialistas en gobernanza de datos aprendan nuevas herramientas para soportar canalizaciones de datos no estructurados y desarrollar incrustaciones LLM, y habrá oportunidades para que los ingenieros devsecops integren aplicaciones y automaticen la infraestructura subyacente.

"Los modelos generativos de IA dependen en gran medida de los datos para el entrenamiento y la evaluación, por lo que las habilidades de orquestación de canalización de datos son esenciales para limpiar, preprocesar y transformar los datos en un formato adecuado para el aprendizaje automático", insiste Rohit Choudhary, cofundador y CEO de Acceldata. "Las habilidades de visualización también son importantes para comprender las distribuciones de datos, identificar patrones y analizar el rendimiento del modelo".

Todos los tecnólogos tendrán oportunidades de aprender nuevas habilidades de ingeniería de datos y aplicarlas a las crecientes necesidades empresariales.

 

Conozca la pila de IA desde los copilotos hasta los ‘modelops’

Los proveedores de plataformas tecnológicas están introduciendo capacidades de IA generativa en IDE, plataformas de gestión de servicios de TI y otras herramientas de desarrollo ágil. Los copilotos que generan código basándose en las indicaciones de los desarrolladores son oportunidades prometedoras para estos últimos, pero exigen evaluar los resultados desde el punto de vista de la integración, el rendimiento, la seguridad y las consideraciones legales.

"La IA ha dado paso a toda una nueva era de eficiencia, pero herramientas como Copilot producen cantidades masivas de código que no siempre son precisas", dijo el fundador y CEO de Pryon, Igor Jablokov. "Tanto la pila devops como la industria de la ciberseguridad tendrán que ponerse al día en la detección de código generativo para garantizar que no se estén introduciendo problemas de derechos de autor y defectos en la empresa".

Las organizaciones con una importante propiedad intelectual pueden crear incrustaciones y desarrollar LLM privados para plantear y utilizar consultas en lenguaje natural contra estos datos. Algunos ejemplos son la búsqueda de información financiera, el desarrollo de LLM sobre datos de pacientes sanitarios o la creación de nuevas herramientas de aprendizaje educativo. Los desarrolladores y científicos de datos que quieran contribuir al desarrollo de LLM tienen que aprender varias tecnologías nuevas.

"El ingeniero de desarrollo moderno necesita aprender bases de datos vectoriales y la pila de código abierto, como Hugging Face, Llama y LangChain", recomienda Nikolaos Vasiloglou, vicepresidente de Investigación de Aprendizaje Automático en RelationalAI. "Aunque el uso de modelos lingüísticos gigantes con 100.000 millones de parámetros es popular, hay pruebas suficientes de que el juego podría cambiar con el ajuste fino y la composición de cientos de modelos más pequeños. Gestionar el ciclo de vida de estos modelos es otra tarea que no es trivial".

Por último, aunque desarrollar pruebas de concepto y experimentar es importante, el objetivo debe ser ofrecer capacidades de IA generativa listas para la producción, supervisar sus resultados y mejorarlas continuamente. Las disciplinas de MLops y modelops abarcan desde el aprendizaje automático hasta la IA generativa y son necesarias para respaldar los ciclos de vida completos de desarrollo y soporte.

Kjell Carlsson, jefe de Estrategia y Evangelización de Ciencia de Datos en Domino, dice: "La capacidad de operacionalizar modelos de IA generativa y sus conductos se está convirtiendo rápidamente en la habilidad más valiosa en IA, ya que es la mayor barrera para impulsar el impacto con IA generativa".

 

Seguridad por turnos y automatización de pruebas

Todos los expertos afirman que investigar, validar y probar las respuestas de una IA generativa son disciplinas críticas, pero muchas organizaciones de TI carecen de personal, habilidades y herramientas de seguridad y automatización de pruebas de control de calidad para hacer frente a los crecientes desafíos. Los desarrolladores, ingenieros de operaciones y científicos de datos deben invertir en estas habilidades de seguridad y automatización de pruebas para ayudar a llenar estos vacíos.

"Con la IA, podemos desplazar la seguridad, el control de calidad y la observabilidad hacia la izquierda en el ciclo de vida de desarrollo, detectar problemas antes, entregar código de mayor calidad y dar a los desarrolladores una retroalimentación rápida", dice Marko Anastasov, cofundador de Semaphore CI/CD. "Las habilidades heredadas como las pruebas manuales y la seguridad en silos pueden perder importancia a medida que la IA y la automatización asumen más de ese trabajo".

TI debe instituir disciplinas de pruebas continuas y seguridad donde sea que inserten capacidades de IA generativa en sus flujos de trabajo, aprovechen el código generado por IA o experimenten con el desarrollo de LLM.

"Los equipos de Devops deben priorizar las habilidades que cierran la brecha entre la IA generativa y Devops, como dominar la detección de amenazas impulsada por IA, garantizar la seguridad de los conductos automatizados de CI/CD y comprender la corrección de errores basada en IA", comenta Stephen Magill, vicepresidente de Innovación de Productos en Sonatype. "Invertir en áreas que son los mayores puntos de dolor para los equipos, como la falta de conocimiento sobre cómo se construyó el código o la dispersión de código por producir demasiado código, también es crucial, mientras que se puede poner menos énfasis en las tareas manuales y reactivas".

Sin embargo, centrarse en la seguridad y las pruebas en torno a cómo TI utiliza la IA generativa es insuficiente, ya que muchos otros departamentos y empleados ya están experimentando con ChatGPT y otras herramientas de IA generativa.

David Haber, CEO y cofundador de Lakera, dice que los equipos de Devops deben entender la seguridad de la IA. "Desarrollar habilidades para mitigar vulnerabilidades comunes como inyecciones rápidas o envenenamiento de datos de entrenamiento, y llevar a cabo ejercicios de red-teaming orientados a LLM. Los equipos de Devops deben implementar mecanismos de monitoreo continuo y respuesta a incidentes para detectar rápidamente las amenazas emergentes y responder antes de que se conviertan en un problema para toda la empresa".

¿Cambiará el mundo la IA generativa, o los riesgos y las normativas ralentizarán el ritmo de la innovación? Cada gran avance tecnológico viene acompañado de nuevas oportunidades, retos y riesgos técnicos. El aprendizaje de las herramientas y la aplicación de enfoques basados en pruebas son prácticas clave para que los tecnólogos se adapten a la IA generativa, y cada vez hay más responsabilidades de seguridad que abordar a medida que los departamentos buscan poner en funcionamiento las capacidades habilitadas por la IA.



TE PUEDE INTERESAR...

Webinars

Accede a la cobertura de nuestros encuentros
 
Lee aquí nuestra revista digital de canal

DealerWorld Digital

 

Forma parte de nuestra comunidad
 
¿Interesado en nuestros foros? 

 

Whitepaper