爱吃鱼的馋嘴猫 - 宋马
爱吃鱼的馋嘴猫的头像 - 宋马
以知识为马,带你驶向未来的彼岸...

38天前

你好,下面是对issue中提到但尚未解决的问题的回复:

  1. 打开MKLDNN没有速度提升

    思考到PaddleOCR的默认行为就是“如果MKL-DNN可用,就使用之”,显式设置enable_mkldnn=True和不设置这个参数的效果一致,应该是符合预期的。如果你发现enable_mkldnn=Trueenable_mkldnn=False的推理耗时相近,可能不符合预期,请向我们汇报。

    对于:

    一开始输出结果MKLDNN是False的

    请问你是如何确定“MKLDNN是False”的呢?

  2. “发生许多新版本上由于说明不全导致进展缓慢的问题,列如说最新的OCRv5不能再用det= , res= 分开确认检测和识别的模型。”

    在PaddleOCR 2.x到3.x的升级中,我们修改了一些2.x中不合理的设计,列如det=rec=。关于这一点,可以参考我在 TypeError: PaddleOCR.predict() got an unexpected keyword argument det  PaddleOCR#15343 的回复。

    这次的大版本升级的确 导致部分API的不兼容变更,在使用PaddleOCR时请留意参考的文档是对应版本的(例如使用PaddleOCR 3.0时,请参考PaddleOCR 3.0的文档)。我们在这个文档里也对PaddleOCR 2.x->3.0的升级做了整体说明:https: paddlepaddle.github.io PaddleOCR latest update upgrade_notes.html#2-paddleocr-2x-3x 。

  3. “paddle2onnx上也有很大的问题,许多时候是版本不匹配导致转化不成功。”

    如果没有高级参数配置需求,提议可以参考PaddleOCR文档,使用标准的方式安装插件和执行模型格式转换,以避免遇到库 模型版本不匹配导致的问题。

  4. “在PaddleOCR()调用的时候,enable_hpi=True, # 高性能推理 开启会报错误。”

    请第一参考PaddleOCR文档安装高性能推理插件。

  5. “还有就是cpu_threads=16, # 设置CPU线程数(根据实际CPU核心数调整) , 我在配置这个参数的时候没有发现有什么加速效果”

    我们无法复现这个问题。在我们的环境中,对于通用OCR产线,测试cpu_threads=8cpu_threads=10,可以观察到比较明显的耗时差异。实际的加速效果可能和本地硬件环境有关,提议可以尝试一些比较极端的case,例如cpu_threads=1cpu_threads=8,比较是否存在可观察到的推理耗时差异。