docker安装rapidocr_api有bug #223

nzm001 · 2024-09-21T14:18:45Z

问题描述 / Problem Description

python-multipart依赖没有加
fix bugs: Error loading ASGI app. Could not import module "api".
内存爆炸

运行环境 / Runtime Environment

ubuntu22.04
docker环境python:3.10-slim

复现代码 / Reproduction Code

# 启动python:3.10-slim(docker run ... /bin/bash)
sed -i '.......'  /etc/apt/sources.list.d/debian.sources # 修改apt源，没影响
apt-get update
apt-get install -f -y g++ gcc python3-opencv
apt-get clean
rm -rf /var/lib/apt/lists/*
pip install --no-cache-dir --upgrade pip -i https://mirrors.aliyun.com/pypi/simple
pip install --no-cache-dir rapidocr_api -i https://mirrors.aliyun.com/pypi/simple
rapidocr_api -ip 0.0.0.0 -p 9003 # error1：没装python-multipart
pip install --no-cache-dir python-multipart -i https://mirrors.aliyun.com/pypi/simple
rapidocr_api -ip 0.0.0.0 -p 9003 # error2：Error loading ASGI app. Could not import module "api".
#修改api.py
rapidocr_api -ip 0.0.0.0 -p 9003 # 没有报错
# error3：每秒内存占用提高0.3-0.5MB的样子，直到boom

可能解决方案 / Possible solutions

添加python-multipart依赖。另外opencv有四个包，只要装一个，是否可以先检测，都没有再装opencv-python。
见stackoverflow，api改为src.api。
我不会。猜测开发的时候，直接在自己的工程目录下跑没问题。但是用pip安装，环境目录不一样导致2和3的问题。
请问rapidocr_api可以指定det、rec模型吗？谢谢。使用的时候发现小图片（来源是手机截图，但是我知道文字一定会在某个300x10的矩形中出现）先用随便啥模型超分辨率重建一次，det和rec结果要好很多，不知道有没有普适性。

The text was updated successfully, but these errors were encountered:

SWHL · 2024-09-23T00:19:23Z

感谢你的指出，请问是否愿意提PR来帮助修复这些问题呢

nzm001 · 2024-09-23T06:46:25Z

第二点，修改api.py，"api:app"改为"rapidocr_api.api:app"，但是这么改只是不报错，内存问题没有解决。只会改这么一处。

SWHL · 2024-09-23T07:18:31Z

好的，等我有空，我来具体看看

SWHL · 2024-10-15T02:26:36Z

在rapidocr_api==0.0.9中

问题1中python-multipart依赖已经添加，opencv包是依赖于rapidocr_onnxruntime库。因为rapidocr_onnxruntime运行环境和设备不得知，因此选择了依赖opencv-python这一个较为通用的包。
问题2已经解决
问题4暂时没有支持传入参数，可以先自己在安装rapidocr_api后，修改源码添加指定的det和rec模型。欢迎PR修改哈，修改位置在：

RapidOCR/api/rapidocr_api/main.py

Line 22 in a07b9c2

self.ocr = RapidOCR()

可以指定的参数参见：docs

内存一直增长的问题，暂时不知道为啥，因为rapidocr_api依赖rapidocr_onnxruntime，而rapidocr_onnxruntime是没有这个问题的。

nzm001 · 2024-10-15T17:31:03Z

刚刚重新试了一下，以下是Dockerfile

FROM python:3.10-slim

ENV DEBIAN_FRONTEND=noninteractive

RUN set -eux; \
    pip install --no-cache-dir rapidocr_api -i https://mirrors.aliyun.com/pypi/simple; \
    pip uninstall -y opencv-python; \
    pip install --no-cache-dir opencv-python-headless -i https://mirrors.aliyun.com/pypi/simple

EXPOSE 9003

CMD ["bash", "-c", "rapidocr_api -ip 0.0.0.0 -p 9003"]

直接docker run会导致一个cpu核心跑满（空载，未识别图片），内存一直增加。如果用docker run -it xx /bin/bash进去，

cd /usr/local/lib/python3.10/site-packages/rapidocr_api/
rapidocr_api -ip 0.0.0.0 -p 9003

这样cpu基本没有负载（<0.5%），内存不会不停增加。也就是说必须要在rapidocr_api的安装目录运行，不知道这样是否有助于找到bug。

nzm001 · 2024-10-15T17:47:57Z

另外用了这段时间发现对于手机电脑截屏、漫画、电影内嵌字幕这类图片中较小的文字时，使用upscale再识别准确率有提升（可以先裁剪再upscale）。不过这个自己去整合应用就行了，有兴趣提高准确率的人可以去试试看。例如实际应用漫画翻译manga-image-translator中的参数--upscaler {waifu2x,esrgan,4xultrasharp}。
#210 电影字幕就是这种情况。

SWHL · 2024-10-16T01:16:47Z

刚刚重新试了一下，以下是Dockerfile
FROM python:3.10-slim

ENV DEBIAN_FRONTEND=noninteractive

RUN set -eux; \
    pip install --no-cache-dir rapidocr_api -i https://mirrors.aliyun.com/pypi/simple; \
    pip uninstall -y opencv-python; \
    pip install --no-cache-dir opencv-python-headless -i https://mirrors.aliyun.com/pypi/simple

EXPOSE 9003

CMD ["bash", "-c", "rapidocr_api -ip 0.0.0.0 -p 9003"]
直接docker run会导致一个cpu核心跑满（空载，未识别图片），内存一直增加。如果用docker run -it xx /bin/bash进去，
cd /usr/local/lib/python3.10/site-packages/rapidocr_api/
rapidocr_api -ip 0.0.0.0 -p 9003
这样cpu基本没有负载（<0.5%），内存不会不停增加。也就是说必须要在rapidocr_api的安装目录运行，不知道这样是否有助于找到bug。

收到，感谢，我排查排查

SWHL · 2024-10-16T01:17:11Z

另外用了这段时间发现对于手机电脑截屏、漫画、电影内嵌字幕这类图片中较小的文字时，使用upscale再识别准确率有提升（可以先裁剪再upscale）。不过这个自己去整合应用就行了，有兴趣提高准确率的人可以去试试看。例如实际应用漫画翻译manga-image-translator中的参数--upscaler {waifu2x,esrgan,4xultrasharp}。 #210 电影字幕就是这种情况。

感谢，我后期看看能不能整合进来

SWHL · 2024-10-16T06:13:53Z

关于docker启动报OOM的问题，猜测可能是我用错了async函数，麻烦你那里安装rapidocr_api之后，在源码中去掉async字段，实验一下是否仍在存在该问题：

RapidOCR/api/rapidocr_api/main.py

Line 52 in b2fd006

async def ocr(image_file: UploadFile = None, image_data: str = Form(None)):

nzm001 · 2024-10-16T17:27:44Z

FROM python:3.10-slim

ENV DEBIAN_FRONTEND=noninteractive

RUN set -eux; \
    pip install --no-cache-dir rapidocr_api -i https://mirrors.aliyun.com/pypi/simple; \
    pip uninstall -y opencv-python; \
    pip install --no-cache-dir opencv-python-headless -i https://mirrors.aliyun.com/pypi/simple; \
    sed -i 's/async def ocr(/def ocr(/' /usr/local/lib/python3.10/site-packages/rapidocr_api/main.py

EXPOSE 9003

CMD ["bash", "-c", "rapidocr_api -ip 0.0.0.0 -p 9003"]

确认过了，bug没有变化，在rapidocr_api的安装目录运行正常。docker run -it进入

cat /usr/local/lib/python3.10/site-packages/rapidocr_api/main.py # 确认已经删除async
cd /usr/local/lib/python3.10/site-packages/rapidocr_api/
rapidocr_api -ip 0.0.0.0 -p 9003 # 在rapidocr_api的安装目录运行正常
# Ctrl + C 退出
cd /
rapidocr_api -ip 0.0.0.0 -p 9003 # 根目录运行还是一样的问题

SWHL · 2024-10-17T00:02:13Z

收到，请尝试将执行代码rapidocr_api -ip 0.0.0.0 -p 9003写到一个shell(例如1.sh)文件里，通过bash 1.sh来启动试试呢。

nzm001 · 2024-10-17T01:25:08Z

docker run -it xx /bin/bash

# cd /
# echo 'rapidocr_api -ip 0.0.0.0 -p 9003' > 1.sh
# bash 1.sh # bug没变化，单核占满，内存增长
INFO:     Will watch for changes in these directories: ['/']
INFO:     Uvicorn running on http://0.0.0.0:9003 (Press CTRL+C to quit)
INFO:     Started reloader process [132] using WatchFiles
INFO:     Started server process [162]
INFO:     Waiting for application startup.
INFO:     Application startup complete.

# cd /usr/local/lib/python3.10/site-packages/rapidocr_api/
# bash /1.sh # 运行正常
INFO:     Will watch for changes in these directories: ['/usr/local/lib/python3.10/site-packages/rapidocr_api']
INFO:     Uvicorn running on http://0.0.0.0:9003 (Press CTRL+C to quit)
INFO:     Started reloader process [70] using WatchFiles
INFO:     Started server process [100]
INFO:     Waiting for application startup.
INFO:     Application startup complete.

SWHL · 2024-10-17T13:26:35Z

好吧，这。。。。
暂时不知道哪里出了问题了

xmxoxo · 2024-10-25T03:23:25Z

有可能是那个“reload=True“造成的，我改了代码，加了参数，可以传是否使用模型等功能，我改完PR一下

xmxoxo · 2024-10-25T03:32:02Z

另外在Docker里启动方式用这样：

CMD ["rapidocr_api"]

SWHL · 2024-10-25T03:32:40Z

@xmxoxo 感谢，期待你的PR

xmxoxo · 2024-10-25T09:15:50Z

已经提交PR

SWHL · 2024-10-28T01:47:39Z

@xmxoxo 已经合并进去了，感谢，最新版本为rapidocr_api==0.1.1
@nzm001 请安装最新的版本，尝试是否仍然有问题

SWHL · 2024-10-31T01:30:51Z

@TwT-L 麻烦说一下运行具体环境、代码和详细报错信息

xmxoxo · 2024-10-31T01:50:38Z

这里有个做好的镜像大家可以测试下:
registry.cn-shenzhen.aliyuncs.com/my_worker/rapidocr_api:0.1.1

使用方法：

拉取镜像：
docker pull registry.cn-shenzhen.aliyuncs.com/my_worker/rapidocr_api:0.1.1

启动容器：
docker run -p 9003:9003 --name rapidocr_api_1 --restart always -d rapidocr_api:0.1.1

SWHL · 2024-10-31T06:27:10Z

@xmxoxo 哇哦，想问一下这个镜像已经解决了上面的问题了吗？如果是的，我想给写到官方文档里呢，一直缺少个docker镜像来着。

xmxoxo · 2024-10-31T07:15:18Z

@SWHL 你可以测试一下这个镜像，我这里用是没啥问题

nzm001 · 2024-11-01T17:41:30Z

有可能是那个“reload=True“造成的，我改了代码，加了参数，可以传是否使用模型等功能，我改完PR一下

@xmxoxo 这怎么能找得出来？？6啊。那个dockerfile里，uninstall需要和前面的install写在一个RUN里，否则镜像不会缩小。

api/README.md里设置环境变量expert改为export。

FROM python:3.10-slim

ENV DEBIAN_FRONTEND=noninteractive

RUN set -eux; \
    pip install --no-cache-dir rapidocr_web rapidocr_api -i https://mirrors.aliyun.com/pypi/simple; \
    pip uninstall -y opencv-python; \
    pip install --no-cache-dir opencv-python-headless -i https://mirrors.aliyun.com/pypi/simple

EXPOSE 9003
EXPOSE 9004

CMD ["bash", "-c", "rapidocr_web -ip 0.0.0.0 -p 9003 & rapidocr_api -ip 0.0.0.0 -p 9004"]

运行

sudo docker run -d \
    --name rapidocr \
    --restart always \
    --cap-drop=ALL \
    --security-opt=no-new-privileges \
    --cpus=".9" \
    --memory=4g --memory-swap=4g \
    -p 9003:9003 -p 9004:9004 \
    -e det_model_path=/models/ch_PP-OCRv3_det_infer.onnx \
    -e rec_model_path=/models/ch_PP-OCRv3_rec_infer.onnx \
    -v /path/to/models:/models \
    rapidocr

@SWHL Debian 12测试没问题。不会编程，具体代码就不献丑了，下面是用的时候发现的一些想法：

Dockerfile里api和web可以任意选择删除，也可以放一起用（这俩默认端口一样，所以改了一个）。
docker run参数限制了cpu和内存，参数你看看要不要删改。-e det_model_path和-e rec_model_path只对api生效，对web无效，两者并不统一。
设置了rec_model_path，rec_keys_path是否也需要改，还是说通过那个在线转换paddleocr后，onnx自带字典。

SWHL · 2024-11-03T12:27:56Z

@nzm001
回答
想法2： web端，我考虑做一些适配，统一一下
想法3：通过在线paddleocr转换后，onnx中是自带字典的。需要注意的是如果自己是通过paddle2onnx工具，是不带字典的哈

nzm001 · 2024-11-04T14:39:16Z

怪不得，用PaddlePaddle/Paddle2ONNX和RapidAI/PaddleOCRModelConvert这两个转换的sha256一样，用网页转的就是和前两者不同。

SWHL · 2024-11-05T00:03:29Z

@nzm001 RapidAI/PaddleOCRModelConvert和用网页转的是同一个工具呀，网页的只不过是用streamlite包装了一下，没做什么，估计后面对应的依赖包，像paddle2onnx，版本不同。

TwT-L · 2024-11-11T12:34:19Z

为什么我的docker启动的rapidocr_api会提示

INFO:     172.30.0.2:56468 - "POST /ocr HTTP/1.1" 500 Internal Server Error
rapidocr-1  | ERROR:    Exception in ASGI application
rapidocr-1  | Traceback (most recent call last):
rapidocr-1  |   File "/usr/local/lib/python3.10/site-packages/uvicorn/protocols/http/httptools_impl.py", line 401, in run_asgi
rapidocr-1  |     result = await app(  # type: ignore[func-returns-value]
rapidocr-1  |   File "/usr/local/lib/python3.10/site-packages/uvicorn/middleware/proxy_headers.py", line 60, in __call__
rapidocr-1  |     return await self.app(scope, receive, send)
rapidocr-1  |   File "/usr/local/lib/python3.10/site-packages/fastapi/applications.py", line 1054, in __call__
rapidocr-1  |     await super().__call__(scope, receive, send)
rapidocr-1  |   File "/usr/local/lib/python3.10/site-packages/starlette/applications.py", line 113, in __call__
rapidocr-1  |     await self.middleware_stack(scope, receive, send)
rapidocr-1  |   File "/usr/local/lib/python3.10/site-packages/starlette/middleware/errors.py", line 187, in __call__
rapidocr-1  |     raise exc
rapidocr-1  |   File "/usr/local/lib/python3.10/site-packages/starlette/middleware/errors.py", line 165, in __call__
rapidocr-1  |     await self.app(scope, receive, _send)
rapidocr-1  |   File "/usr/local/lib/python3.10/site-packages/starlette/middleware/exceptions.py", line 62, in __call__
rapidocr-1  |     await wrap_app_handling_exceptions(self.app, conn)(scope, receive, send)
rapidocr-1  |   File "/usr/local/lib/python3.10/site-packages/starlette/_exception_handler.py", line 53, in wrapped_app
rapidocr-1  |     raise exc
rapidocr-1  |   File "/usr/local/lib/python3.10/site-packages/starlette/_exception_handler.py", line 42, in wrapped_app
rapidocr-1  |     await app(scope, receive, sender)
rapidocr-1  |   File "/usr/local/lib/python3.10/site-packages/starlette/routing.py", line 715, in __call__
rapidocr-1  |     await self.middleware_stack(scope, receive, send)
rapidocr-1  |   File "/usr/local/lib/python3.10/site-packages/starlette/routing.py", line 735, in app
rapidocr-1  |     await route.handle(scope, receive, send)
rapidocr-1  |   File "/usr/local/lib/python3.10/site-packages/starlette/routing.py", line 288, in handle
rapidocr-1  |     await self.app(scope, receive,

SWHL self-assigned this Sep 30, 2024

SWHL added a commit that referenced this issue Oct 15, 2024

fix(rapidocr_api): Fixed issue #223

a07b9c2

This was referenced Nov 4, 2024

统一rapidocr_web端参数，与rapidocr_api一致 #248

Open

图片中较小的文字时，使用upscale再识别，有助于提升准确率 #249

Open

nzm001 closed this as completed Nov 4, 2024

RapidAI locked and limited conversation to collaborators Nov 12, 2024

SWHL converted this issue into discussion #255 Nov 12, 2024

Provide feedback

Saved searches

Use saved searches to filter your results more quickly

This issue was moved to a discussion.

docker安装rapidocr_api有bug #223

docker安装rapidocr_api有bug #223

This issue was moved to a discussion.

This issue was moved to a discussion.

docker安装rapidocr_api有bug #223

docker安装rapidocr_api有bug #223

Comments

问题描述 / Problem Description

运行环境 / Runtime Environment

复现代码 / Reproduction Code

可能解决方案 / Possible solutions

This issue was moved to a discussion.