熟悉 python 编程,熟悉C++。能用C++进行模型部署,推理加速,熟悉opencv图像处理库。
能将模型进行服务端、边缘端部署,有 rk3588、树莓派、服务器部署经验,熟悉tensorrt,ncnn的模型部署。
熟悉Transformer架构,熟悉大模型的SFT、RAG,对多模态大模型有一定的理解,有相关的兼职项目经历。
有过双目测距,目标检测、人脸识别、图像分割、ocr 、目标跟踪、关键点检测相关的项目经历。
能将主流通用模型进行模型剪枝、蒸馏、量化、熟悉主流轻量化网络模型。
紧跟 AI 时代新技术与论文解读。
1、项目类型: 小目标检测识别+模型加速+ocr识别+多元统计分析+RK模型移植
项目描述:每年会发生大量的电瓶车、新能源车起火事件导致人民生命财产安全遭受巨大损失。于是需要在起火前感知温度和烟雾,并给车主发送报警信息,在电瓶车、新能源起火时,准确检测到火焰并通过水帘或花洒及时作出降温处理,阻断火焰的蔓延,防止火势的扩大造成更大的人民生命财产的损失。
算法流程:采集了大量的电瓶车和新能源起火的数据使用yolov8进行模型训练,为使距离超过40米-50米以上的距离也能准确识别到目标,对已有数据进行切分增强,把一张大图分割成15张小图,同时推理的时候也进行相同的切分,为保证推理时运行的速度,采用了批推理的方式一次性推理16张图,同时采用了混合量化的方式保证了每网络层的精度均在99%左右,为确保火焰识别的准确性,推理时采用了连续多帧对比iou的方式,同时也采用热成像图相结合的方式使误报率降到了极低的水平。另外通过多元线性回归,判断起火点的实际位置来确定哪一个喷头进行喷淋,另外采用了ocr模型识别新能源车车牌。最终所有的算法均部署在rk3588上。
2、项目类型:目标计数+OCR识别+RK模型移植+树莓派模型移植
项目描述:每年猪场因大量的偷猪漏猪事件导致猪场损失惨重,为方便猪场管理,防止猪场集团资产流失。于是需要对每个栏位的猪只进行计数另一方面在猪只测重的时候,需要测量每头猪的体重,但是由于进入摄像头拍摄的猪很难通过图像特征区分每头猪的身份,于是需要对猪的身份进行识别。
算法流程:采用国产鱼眼相机对数据进行采集,为克服猪场环境复杂,猪只重叠,聚集现象等难题,分别对比了多种数据标注方式,调研了检测模型、分割模型、关键点检测模型、旋转目标检测模型,并经过反复效果验证,最终采用了特殊标注方式+yolov5目标检测的方式,栏位猪只进行盘点。对于猪身份识别,是用自己真实场景的数据,采用paddleocr模型,并利用paddleocr的权重信息作预训练。最终猪只盘点算法部
署在RK3568和树莓派上,OCR识别部署在RK3568上。
项目结果:盘点准确率P为98.5%,召回率R为96.2,map为99.1%,RK3568速度200ms。OCR识别准确率为98.5%。
3、项目类型:目标跟踪
项目描述:移动的一些重要机房的一些涉密区域是不容有人进入, 即使一些操作技术人员在机房内操作都要受到严格的监控。另一方面,当操作人员进入到重要机房时,通过跟踪到具体的人,以方便后续对他的行为进行分析,防止操作不当,引发严重事故。
算法流程: 以 yolov5s为目标检测器,以 deepsort 为跟踪器为基本的算法模型,为保证速度要求对 yolov 5进行剪枝和 int 8量化、然后使用 tensorrt 推理加速,最终完成该项目。
对栏位中的猪只进行计数,部署在rk3588上,通过模型的剪枝、量化等优化方式,极大的降低的硬件的资源利用率。
使用深度学习模型,对猪只进行测重,并把所以的测重模型部署在rk3588上,在100公斤以内的猪的体重误差在4公斤以下。
采用国产银牛摄像头对一个栋舍的猪进行数据采集, 每个栋舍的栏位下方有一个电子感应称, 用摄像头 拍摄照片的同时 ,会同时获得猪的体重值 。训练时 ,用分割模型 ,把完整猪只分割出来 ,然后将分割出来 的猪只, 贴到一个mask上 ,最后再用回归模型, 回归出m