Inferencia

intermediate

El proceso de utilizar un modelo de IA entrenado para realizar predicciones o generar resultados. El entrenamiento enseña al modelo; la inferencia es cuando este aplica lo que ha aprendido. Cuando le haces una pregunta a ChatGPT, eso es inferencia. La velocidad y el coste de la inferencia son factores clave para los sistemas de IA en producción.