vLLM - Servidor Especializado en Inferencia de LLMs

vLLM - Servidor Especializado en Inferencia de LLMs

Save Big on Coursera Plus. 7,000+ courses at $160 off. Limited Time Only! Grab it Explore una introducción técnica en español sobre vLLM, un servidor especializado en inferencia para Modelos de Lenguaje Grande (LLMs). Durante esta presentación de 43 minutos, profundiza en los aspectos fundamentales de la tecnología vLLM, sus capacidades y aplicaciones prácticas en el campo del aprendizaje automático. Accede al material práctico complementario a través del notebook disponible en GitHub para implementar y experimentar con los conceptos presentados. Ideal para profesionales y entusiastas del aprendizaje automático que buscan optimizar el rendimiento en la inferencia de LLMs.