QAQAСЛОВАРЬ / Основы ИИ
Инференс
Использование уже обученной модели для получения предсказания или ответа на новом входе.
Также: вывод модели, inference
Как это выглядит на практике
Когда классификатор относит новое обращение к доставке, он выполняет инференс. Из одной этой операции не следует, что он чему-то доучился.
Что проверить
Отделяйте стоимость обучения от стоимости каждого использования. Для оценки скорости измеряйте реальные короткие и длинные запросы.
Попробуйте на примере
Предложи простой замер времени классификации 10 писем: когда запускать секундомер, что считать готовым результатом и какую ошибку отдельно записывать.
Вставьте пример в чат и сравните результат со своим вариантом.
Рядом в словаре
Дальше по теме: Google · Machine Learning Glossary