MLOPS LLMs - Converting Microsoft Phi3 to GGUF Format with LLaMA.cpp

MLOPS LLMs - Converting Microsoft Phi3 to GGUF Format with LLaMA.cpp

Aprende a cuantizar el modelo original Phi3 mini a diferentes tipos de datos como bf16, fp16 o q8_0 utilizando LLama.cpp en este tutorial en video de 31 minutos. Explora el proceso paso a paso para convertir el modelo Microsoft Phi3 al formato GGUF, una técnica esencial en el campo de MLOps para LLMs. Accede a los notebooks proporcionados en GitHub para seguir la demostración práctica y aplicar estos conocimientos en tus propios proyectos de aprendizaje automático y ciencia de datos.