Inferenza

intermediate

Il processo che consiste nell'utilizzare un modello di IA addestrato per effettuare previsioni o generare risultati. L'addestramento serve a insegnare al modello; l'inferenza è il momento in cui il modello applica ciò che ha imparato. Quando si pone una domanda a ChatGPT, si tratta di inferenza. La velocità e i costi dell'inferenza sono fattori chiave per i sistemi di IA in produzione.