Comments (4)
请问paddleLite这个库是没有人维护了吗?
from paddle-lite.
已经几个月没更新了,很多认识的职员也离职或调岗
from paddle-lite.
- 标题:paddleLite在arm上推理与onnxruntime推理耗时差异过大
- 版本、预测库信息: 1)Paddle Lite 版本:v2.13 2)Host 环境:Ubuntu 18.04 3)运行设备环境:展锐S8000 4)预测后端信息:CPU fp16
- 预测信息
1)预测 API:C++
2)预测选项信息:armv8、单线程
3)预测库来源:官网下载- 复现信息:模型如下
- 问题描述:就这个模型,使用onnxruntime进行推理的时候,耗时仅为40ms,但是使用paddlelite进行推理,耗时则变成了1.1s左右,差异太大了,还麻烦看看,是哪里的问题
模型链接为:https://drive.google.com/drive/folders/1dufr3PAx7E743s5ycQZuJYgyxTyazAvL?usp=sharing
—————
你好 看到你的github 我想你是步步高家教机工程师
这里我有一台步步高家教机S3出现了故障
原因是这台设备刷入了一个System
这导致我的设备无法进入loader模式
主板上我没有找到EMMC_CLK点让这台设备进入MaskROM模式
关于这台设备的维修资料甚少
我的微信是19153241610
我的QQ是3453501674
我可能很需要你的帮助 谢谢
from paddle-lite.
- 标题:paddleLite在arm上推理与onnxruntime推理耗时差异过大
- 版本、预测库信息:
1)Paddle Lite 版本:v2.13
2)Host 环境:Ubuntu 18.04
3)运行设备环境:展锐S8000
4)预测后端信息:CPU fp16- 预测信息
1)预测 API:C++
2)预测选项信息:armv8、单线程
3)预测库来源:官网下载- 复现信息:模型如下
- 问题描述:就这个模型,使用onnxruntime进行推理的时候,耗时仅为40ms,但是使用paddlelite进行推理,耗时则变成了1.1s左右,差异太大了,还麻烦看看,是哪里的问题
模型链接为:https://drive.google.com/drive/folders/1dufr3PAx7E743s5ycQZuJYgyxTyazAvL?usp=sharing
能提供一下原始的 Paddle 模型吗?我看你只提供了 nb模型。
然后是否能用 https://www.paddlepaddle.org.cn/lite/v2.12/performance/benchmark_tools.html 提供的 benchmark 方法,看下是哪个算子耗时很大,理论上差距不一样这么大的。
from paddle-lite.
Related Issues (20)
- arm的推理结果正确,opencl的结果不正确,请问如何做逐层的精度对比分析? HOT 3
- Object Detection运行run脚本的时候报错 HOT 6
- 华为Atlas300I(3010,昇腾310)安装Paddle-Lite运行例程出错 HOT 4
- Paddle-Lite通过X2Paddle转化出的nb模型出错 HOT 2
- [BUG] sort_cpuid_by_max_freq()中的bubble sort代码逻辑错误 HOT 4
- 基于Paddle Lite框架下的编译问题 HOT 3
- Android端推理LightGlue模型crash了 HOT 1
- ubuntu 22.04 x64 编译paddle-lite x86出错 lite/CMakeFiles/publish_inference.dir/rule HOT 2
- .pdmodel转换.nb失败,报错Check failed: it != outputs_.end(): HOT 18
- 3399 编译with_opencl后运行示例mobilenetv1_light_api显示不支持opencl HOT 1
- 使用华为NPU推理pp-yoloe-r模型报错,提示cann版本不匹配 HOT 15
- could not create a descriptor for a pooling forward propagation primitive HOT 1
- "树莓派5 编译错误"- v2.13 编译报错、环境信息: (Linux raspberrypi 6.6.28+rpt-rpi-2712 #1 SMP PREEMPT Debian 1:6.6.28-1+rpt1 (2024-04-22) aarch64 GNU/Linux) HOT 21
- 预编译库的V2,12下载的压缩包里没有找到python,我要怎么继续下一步得到python--->install--->dist--->paddlelite-*.whl HOT 1
- "树莓派5 编译错误"- v2.13 编译报错 cd09a8e01、环境信息:(Debian arm64 ----armv8 ) ,经检查“cd09a8e01”是git describe --always 值 HOT 3
- 编译无法生成inference_lite_lib.armlinux.armv8.opencl包 HOT 5
- Linux x86平台推理Paddle-OCRv4出错 HOT 4
- Excel file returning empty with no error [URGENT] HOT 1
- 调用nb格式模型时候报错:Segmentation fault (core dumped) HOT 1
- 新人求助,能提供bert,pythonAPI推理部署示例嘛,我该如何做前处理和后处理。 HOT 2
Recommend Projects
-
React
A declarative, efficient, and flexible JavaScript library for building user interfaces.
-
Vue.js
🖖 Vue.js is a progressive, incrementally-adoptable JavaScript framework for building UI on the web.
-
Typescript
TypeScript is a superset of JavaScript that compiles to clean JavaScript output.
-
TensorFlow
An Open Source Machine Learning Framework for Everyone
-
Django
The Web framework for perfectionists with deadlines.
-
Laravel
A PHP framework for web artisans
-
D3
Bring data to life with SVG, Canvas and HTML. 📊📈🎉
-
Recommend Topics
-
javascript
JavaScript (JS) is a lightweight interpreted programming language with first-class functions.
-
web
Some thing interesting about web. New door for the world.
-
server
A server is a program made to process requests and deliver data to clients.
-
Machine learning
Machine learning is a way of modeling and interpreting data that allows a piece of software to respond intelligently.
-
Visualization
Some thing interesting about visualization, use data art
-
Game
Some thing interesting about game, make everyone happy.
Recommend Org
-
Facebook
We are working to build community through open source technology. NB: members must have two-factor auth.
-
Microsoft
Open source projects and samples from Microsoft.
-
Google
Google ❤️ Open Source for everyone.
-
Alibaba
Alibaba Open Source for everyone
-
D3
Data-Driven Documents codes.
-
Tencent
China tencent open source team.
from paddle-lite.