---
title: FAQ
description: "知识库检索时插入大量文本或者大并发调用Embedding模型时NPU显存持续增加。"
url: https://www.hikunpeng.com/document/detail/zh/kunpengrag/bestpractice/kunpengrag_21_0054.html
sourcePath: /source/zh/kunpengrag/bestpractice/kunpengrag_21_0054.html
indexId: 3a0316cd75771fd41703e51f3b40d52781fc60ae867fb82e2ebb1b54903e170c58
---
# FAQ

#### 问题

知识库检索时插入大量文本或者大并发调用Embedding模型时NPU显存持续增加。


#### 回答

1. 服务启动时配置“MAX_BATCH_TOKENS”环境变量进行最大token限制，具体请参见  GitHub网站(https://github.com/huggingface/text-embeddings-inference)
。
2. 容器启动时可通过配置环境变量“-e CLEAN_NPU_CACHE=True”，使能每次推理后清理NPU缓存，注意开启该功能可能会影响推理性能。