基于树莓派开源硬件平台与无线网络的 嵌入式智能视频监控系统
2019年06月09日 23:18         所属学院: []          点击:


 

湖南省大学生研究性学习和创新性实验计划

         

 

 

 

项目名称: 基于树莓派开源硬件平台与无线网络的

                

  • 如果您无法在线浏览此 PDF 文件,则可以

  • 下载免费小巧的 福昕(Foxit) PDF 阅读器,安装后即可在线浏览  或

  • 下载免费的 Adobe Reader PDF 阅读器,安装后即可在线浏览  或

  • 下载此 PDF 文件

   

项目编号:       湘教通[2014]248号-131       

学生姓名: 张鹏飞 金晓康 李旭东 谭晶晶 陆朝铨

所在学校和院系:     计算机与通信工程学院     

项目实施时间:   2014年1月 2015年12月   

指导教师:                张建明               

联系电话:             139-7481-8482           

填表日期:             2015年12月            

 

 

2011年制

 


湖南省大学生研究性学习与创新性实验项目计划

结题须知

 

    一、凡经立项的项目都必须结题。项目研究工作完成后,项目负责人须从网上下载并填写《湖南省大学生研究性学习和创新性实验计划项目结题报告》,经所在单位签署意见后,报教务处实验室建设与管理科。

二、申请结题时,项目负责人须提供以下材料:

    1、《湖南省大学生研究性学习和创新性实验计划项目结题报告》一式三份及电子文档;

    2、项目研究成果主件(含项目研究报告、论文、专著、软件、其他等);

    3、必要的附件(验证项目成果及成果推广效果、效益的资料);

4、项目申请书、开题报告、中期报告复印件;

5、以上2~4项以支撑材料的形式装订成册,一式三份;

6、本结题报告书适用于湖南省立项项目。

      

 

 


一、基本情况

项目名称

基于树莓派开源硬件平台与无线网络的嵌入式智能视频监控系统

立项时间

2014.6

完成时间

2015.12

组成

序号

姓名

学号

所在学院及

专业

所在院(系)

项目中的分工

1

张鹏飞

201250080121

计算机科学与技术

计算机与通信工程学院

项目负责人,前端开发

2

金晓康

201250080114

计算机科学与技术

计算机与通信工程学院

后端开发,人脸识别算法研究

3

李旭东

201350080324

计算机科学与技术

计算机与通信工程学院

文档撰写、资料收集,后端开发

4

谭晶晶

201350080323

计算机科学与技术

计算机与通信工程学院

前端开发,传输模块开发

5

陆朝铨

201350080335

计算机科学与技术

计算机与通信工程学院

实验记录

 

二、研究成果简介

研究的目的及意义

机器视觉是人类视觉的扩展和延伸。随着研究的不断深入,新的描述方式、求解手段的不断探索和创新以及微处理器性能的快速提高,机器视觉的研究必将会迎来一个更加繁荣的时代,机器视觉技术与产品将会被广泛地应用于更为复杂的场合。

近年来,随着国民经济快速增长、社会迅速进步和国力不断增强,银行、电力、交通、安检以及军事设施等领域对安全防范和现场记录报警系统的需求与日俱增,要求越来越高,视频监控在生产生活各方面得到了非常广泛的应用。虽然监控系统己经广泛地存在于银行、商场、车站和交通路口等公共场所,但现有的视频监控系统通常只是录制视频图像,提供的信息是没有经过解释的视频图像,只能用作事后取证,没有充分发挥监控的实时性和主动性。为了能实时分析、跟踪、判别监控对象,并在异常事件发生时提示、上报,为政府部门及时决策、正确行动提供支持,视频监控的“智能化”就显得尤为重要。

由人盯着监视屏幕,人总有疲劳限度的。研究表明,监控操作人员盯着电视墙屏幕超过10分钟后将漏掉90%的视频信息。由于人工筛选数据的低效率和低可靠性,视频监控系统不能局限于被动地提供视频画面,要求集成智能算法,能够自动识别不同的物体,发现监控画面中的异常情况,实现不再要人去盯、用计算机代替人进行监控,即实现“自动监控”或“智能监控”。智能视频监控是基于机器视觉对视频信号进行处理、分析和理解,在不需要人工干预的情况下,通过对序列图像自动分析对监控场景中的变化进行定位、识别和跟踪,并在此基础上分析和判断目标的行为,能在异常情况发生时及时发出警报或提供有用信息,从而有效地协助安全监管人员处理危机,并最大限度地降低误报和漏报现象,成为应对突发事件的有力辅助工具。

本项目研究成果的一个典型实际应用。湖南省共有2573个渡口,3468条渡船,渡口数量稳居全国第一。水运交通事故导致的人员伤亡、财产损失、环境污染、以及社会和政治影响不容忽视。最近几年,湖南省连续发生多起较大以上的水运交通安全事故,给人民生命财产安全造成了极为重大的损失。为解决渡口码头运营安全管理中的实际问题,用现代科技去替代“人海战役”,我们通过与湖南省水运管理局的反复沟通和到渡口码头调研,将重点研究从技术上保障自动识别督查客渡船“六不发航”制度中的“超载不发航”、“乘客不穿救生衣或不带浮具不发航”。超载判断是通过基于图像或视频的乘客检测与跟踪技术来实现的。由于现有架设在岸边的摄像头受气候、光照变化、乘客上下船时有互遮挡、雨伞和帽子的干扰、目标距离等因素影响,不少情况下采集到的视频质量一般,先天不足对乘客检测和跟踪是个挑战。在客渡船船舱顶部加装摄像头,获取船内图像,这样采集图像的质量受外界影响小,有利于提高识别准确率。

主要研究内容

基于指导老师在嵌入式系统、图像处理和模式识别领域的积累,针对各种智能监控系统的实际需求,我们研发的基于树莓派开源硬件平台与无线网络的嵌入式智能视频监控系统可安装在汽车、船舶、地铁等交通工具内部,更加准确的自动识别所监视区域内部的情况。

我们研发的基于树莓派开源硬件平台与无线网络的嵌入式智能视频监控系统,摄像头现场采集图像,树莓派现场分析理解图像进行人员检测和计数,无线网络将识别结果传送给监控中心计算机。只有出现违章情况时,如客车超载、客渡船乘员超载和未穿救生衣等,才将监控区域的图像传送给监控中心服务器并将违章代码传送到相关人员手机上,减少了传输数据量。通过嵌入式系统的使用,可以在现场进行乘员检测与计数、行人检测与姿态估计等,第一时间发现违章现象,从而进行有效监管,具有较高的实用价值。

1熟悉树莓派的硬件结构其性能,掌握构建基于树莓派的应用系统硬件,利用板载的GPIO通用接口、I2C总线接口、SPI总线接口、串口等外部设备接口扩展树莓派的功能。

2)基于安装在监控现场的通用USB摄像头或树莓派专用CSI摄像头,设计开发运行在树莓派上的图像和视频采集程序模块,并设置摄像头的帧频、视频压缩格式和图像参数

3)基于(2)中采集的图像,研究行人检测与跟踪、乘员检测和计数、人脸检测与识别计数等算法。算法运行在树莓派上,能够理解图像的内容,能准确定位到人。采用开源的计算机视觉函数库(C/C++使用OpenCV),实现这些程序模块以及开发接口支撑其扩展。

4)采用TCP/IP协议Socket编程,将(3)中的图像内容分析结果传回的远程监控中心电脑中心电脑对其远程控制。若监控现场出现异常现象,则将现场图像也传回,起到取证的作用。

5设计实现运行在监控中心电脑或监控人员手机上的程序,接收来自树莓派的采集图像并实现屏幕显示文件保存,实现远程智能视频监控。

主要研究成果

搭建基于树莓派与多种网络连接方式的硬件系统;开发嵌入式智能视频监控软件系统(包括树莓派前端、基于PC或移动终端的后端);具有适应各种网络的稳定传输能力,并能实时接收请求,给出响应综合(1) (2) (3)目标,从而完成基于视频的人员识别系统前端检测识别,后端控制监控的一个便携式系统

发表专业论文1篇;申请软件著作权1项。主要成绩如下:

1. 张鹏飞, 金晓康, 汤倩, 张建明. 学习字典下自适应稀疏度估计的分解去噪算法[J]. 福建电脑, 2015, (01): 10-12+31.

2. 陆朝铨, 李旭东, 张鹏飞, 金晓康, 张建明. 基于树莓派硬件平台与无线网络的嵌入式智能视频监控系统, 软件著作权正在申请, 已缴纳申请费和代理费.

3. 张鹏飞, 金晓康. 基于树莓派开源硬件平台与无线网络的嵌入式视频监控系统, 2015"华为杯"湖南省大学生计算机作品赛一等奖, 指导老师: 张建明.

4. 张鹏飞, 金晓康, 李旭东. 基于视频的便携式人员身份识别系统, 2015年获"北大青鸟郴州科泰杯"湖南省第十一届软件应用作品大赛三等奖(嵌入式软件类), 指导教师: 张建明, 熊兵.

5. 金晓康获硕士研究生推荐免试资格, 已保送新利luck在线·(中国)有限公司官网2016级硕士研究生, 导师: 张建明.

研究方法和研究成果创新及特色

室内场所人数统计是当今智能视频系统研究中一个十分活跃的新领域。该技术能够被应用在不同的公共室内场所,发挥不同的作用。在程序化的工作场合中人数统计可预测人群流量,提高建筑设施或者公共设施的利用率。

人脸的自动检测是一类具有很大挑战性的问题,其主要难点在于:

1)人脸是一类高度非刚性的目标,存在相貌,表情,肤色等差异;

2)人脸上可能会存在一些附属物,诸如,眼镜,胡须等;

3)人脸的姿态变化万千,并且可能存在遮挡物;

4)待检测图像性质的差异。比如:待检图像的分辨率;摄录器材的质量等;

5)光源的种类和角度。不同种类和角度的光源会对待检测的人脸产生不同性质的反射和不同区域的阴影。

当前国内外人流自动技术的方法主要有一下几种:

1)基于形状的人脸检测计数

2)基于肤色特征的人脸检测计数

3)基于模型学习的人脸检测计数

这些主流的算法都有一定程度上的困难和存在不确定的因素:(1鉴于行人行走情况下姿势的千变万化,如何将重叠的行人目标分割开来。行人穿着颜色差异不大时将行人如何区分出来。(2中当人脸肤色差异不大时,如何将行人分离。(3)中利用统计的方法,采用SVM检测架构,取得了非常好的检测效果。综合上述,本系统采用将人脸训练,HOG特征Adaboost分类器相结合,保了检测效率的情况下提高检测速度。

项目的创新点和特色:

1)本项目研究成果可广泛应用于各种智能视频监控系统、可视倒车系统、行车记录仪、安防设备等电子产品的开发实现。

2)不依靠有线线路提供电力与网络,使监控系统的灵活性、便携性、可靠性得到有效保障。

3)系统具有行人计数、救生衣检测等功能,可以减小监控人员的劳动强度。

4)使用最新推出的树莓派这种开源硬件标准平台进行开发,使得产品功能的扩展更加方便。

 


三、项目研究总结报告

计划执行情况

120141-20142

小组成员基本熟悉树莓派的性能特点,熟悉常用外部设备及接口。

220142-20144

小组成员已掌握Linux系统常用操作命令的使用,熟悉Linux系统下C/C++程序开发运行,特别是进程和多线程编程、基于TCP/UDP的网络编程,并能开发简单的多线程程序以及通信程序

320145-20147

熟悉相应硬件的性能与使用技术,完成搭建“树莓派+CSI摄像头+以太网/WLAN/3G”硬件平台,采用现有的开源软件,分别通过三种网络接口来完成图像的采集和传输。

420146-20148

完成嵌入式Linux开发环境的构建、能进行交叉编译。

熟悉Linux环境下Opencv程序开发以及Windows平台上的MFC界面开发

520149-201412

在传输网络分别为有线的以太网、基于802.11的无线局域网环境下,完成基于树莓派的视频监控系统前端软件的开发和测试,须有图像/视频采集、传输功能。

完成基于PC的视频监控系统后端软件的开发和测试

2015年:

主要完成图像处理、模式识别等算法的设计,整个系统的调试,以及完成后续工作。

620151-20155

新增在局域网中,完成基于树莓派的视频监控系统前端软件的完善性开发和测试。

720156-201510

OpencvCV是在树莓派上开发计算机视觉应用程序的开源框架。小组成员学习图像处理、模式识别的算法,基于OpenCV库实现行人计数、移动目标检测等图像或视频的智能分析、内容理解的功能,得到树莓派前端最终的嵌入式智能视频监控系统。

完成基于PC的视频监控系统后端软件进行适应性的开发和测试。

8201511-201512

对产品进行包装、调试,检测产品的稳定性,完善产品性能。撰写用户使用手册。总结项目执行经验,以方便后续研究。

本项目严格按照项目计划完成进度,项目分工明确,小组成员认真负责,项目组长有责任心,共同完成项目预定计划及目标。

二、项目研究和实践情况

本项目是基于机器视觉对视频信号进行处理、分析和理解,在不需要人工干预的情况下,通过对序列图像自动分析对监控场景中的变化进行定位、识别和跟踪,并在此基础上分析和判断目标的行为,能在异常情况发生时及时发出警报或提供有用信息,从而有效地协助安全监管人员处理危机,并最大限度地降低误报和漏报现象,成为应对突发事件的有力辅助工具。

本系统总共分为两个子系统:一个是服务器端,也就是树莓派前端,另一个是客户端,也就是在Windows系统运行的后端。两部分同时开启时,树莓派前端会启动身份识别系统,实时监控摄像头所拍摄画面,并用基于OpenCV的人脸分析算法检测当前画面,同时把画面通过网络传输到客户端;客户端这时会实时接收来自服务端的数据,并把当前画面标记后显示在屏幕上。同样远程的电脑通过界面的按钮也可远程对前端的树莓派系统进行控制。

本项目严格按照上图所示的系统框图进行分工合作,小组成员对各自的系统开发完成后进行集成,实践情况良好。

三、研究工作中的主要成绩和收获

研究工作的进行中,小组成员收货颇丰。除了第二部分所提到的研究成果之外对自身磨练收获也是巨大的。

通过对该项目的研究,小组成员

1. 熟悉树莓派的性能特点,熟悉常用外部设备及接口;

2. 掌握Linux系统常用操作命令的使用,树莓派安装的Debian系统它是指一个致力于创建自由操作系统的合作组织及其作品,由于Debian项目众多内核分支中以Linux宏内核为主,而且Debian操作系统中绝大部分基础工具来自于GNU工程。,熟悉Linux系统下C/C++程序开发运行,特别是进程和多线程编程、基于TCP/UDP的网络编程,并能开发简单的多线程程序以及通信程序。熟悉相应硬件的性能与使用技术,完成搭建“树莓派+CSI摄像头+以太网/WLAN/3G”硬件平台,采用现有的开源软件,分别通过三种网络接口来完成图像的采集和传输。

3. 熟悉Linux环境下Opencv程序开发以及Windows平台上的MFC界面开发。了解OpenCV是一个基于(开源)发行的跨平台计算机视觉库,可以运行在LinuxWindowsMac OS操作系统上。它轻量级而且高效,由一系列C函数和少量C++类构成,同时提供了PythonRubyMATLAB等语言的接口,实现了图像处理和计算机视觉方面的很多通用算法。

4. 了解并习现阶段成熟的人脸检测算法:首先进行人脸训练,HOG特征Adaboost分类器相结合,保了检测效率的情况下提高检测速度其主要核心思想分为四步:

(1) 使用Haar-like特征做检测;

(2) 使用积分图(Integral Image)对Haar-like 特征求值进行加速;

(3) 使用AdaBoost算法训练区分人脸和非人脸的强分类器;

(4) 使用筛选式级联把强分类器级联到一起,提高准确率。

5. 了解并学习现阶段人脸识别算法。利用特征提取的方法,对人脸进行模板匹配,其核心步骤主要分为四部

(1) 特征提取,建立模板库;

(2) 进行人脸检测,得到的轮廓信息;

(3) 加载模板库;

(4) 检测出的人脸与模板进行匹配。

四、研究工作不足、出现困难问题及建议

本系统率先使用了当前热门的“片式电脑”--树莓派,并在其之上采用人脸检测算法、图像处理、多线程编程等多种技术,实现了具有“智能化”处理的视频监控系统。

技术难点:

图像人脸识别算法,复杂背景下人脸检测不准确;

人脸识别算法,密集程度下匹配程度不高;

接收端多线程接收图片易造成内存冲突。

硬件限制:

基于树莓派CPU处理功率不高,只有700赫兹,内存容量有限,只有512MB这样的配置给图像处理以及图像传输都加大了困难,在后端的显示就会显得不流畅甚至延迟前端采集的图像较为清晰时,图像的处理以及人脸的检测算法的时间就会延长采集到的图像压缩时,就会造成一定程度的损失图像的清晰度,人脸检测就会显得不准确

由于上述的限制,因此要找到平衡硬件与软件之间的平衡点是一个难点。本系统采用将人脸训练,HOG特征Adaboost分类器相结合,保了检测效率的情况下提高检测速度该算法是一种基于统计的行人检测算法,采用SVM检测架构,取得了非常好的检测效果。小组成员通过对该算法的深入研究,都对其有了一定的理解与掌握。

本系统具有“智能化”实时处理图像性能优点,可以适用于各种室内室外的人数统计,人脸识别等场所,其中树莓派所具有的便携式优点,具有较好的市场前景和应用前景。

本系统采用多线程的控制方法,将不同的功能集成。当需要添加功能时,只需增加线程,集成进开发好的模块即可,例如行人计数模块等。


四、经费使用情况

经费合计  20000  元,其中,学校配套资助  10000  元,学院(所)配套资助  0  元,其他经费  0  元。

经费支出情况:

项目申请经费:20000元;已报销经费:20000元。

已报销费用的主要内容及各自所占比例:

1)书籍、复印打印资料、办公用品:2000

2)核心硬件器材:9000

3)论文发表版面费及软件著作权申请:3000

4)调研费、差旅费、交通费:3000

5)工作餐及生活补贴费:2000

6)项目管理费:1000

 

 

 

 

 

 

 

 

 

 

 

五、指导教师及学院(系)审核意见

项目指导教师对结题的意见,包括对项目研究工作和研究成果的评价等。

 

软硬件整合是近年信息产业特别是消费类电子产品领域的热门话题。通过硬件创新与软件整合的概念有很多,但是如何将创意变为现实,甚至进行创业,是一个难题。树莓派在欧盟特别是英国非常流行,代表了嵌入式系统技术开发的潮流,而智能视频分析在理论和技术上一直都还是一个难题,因此,本项目具有很深的理论意义和广泛的应用前景。

本课题已按实验计划内容完成了各项相关工作,反映了小组成员在项目实施过程中付出的努力和完成的效果。各项附加材料充分体现出小组成员的辛勤劳动成果。同意申请结题。

 

 

导师签章:         

    年    月    日

 

 

本湖南省大学生创新性实验项目按照申请书要求进行了相关实验内容安排和软硬件设计实施,达到了项目申请书的各项要求,相关硬件平台、应用软件的实验效果好,已实现基于树莓派开源硬件平台与无线网络的嵌入式智能视频监控系统多种应用场景实验,有利于网络软件开发嵌入式系统学习。

该小组成员能够在指导教师的安排下分工合作,按要求分模块进行实验实施和计划执行,达到了大学生创新性实验项目培养学生动手能力和实际操作能力的目标和出发点。项目进度和经费控制合理,文档及结题工作符合要求。学院同意该项目完成结题。

 

负责人签章:               

                                             年    月    日

 

六、学校结题审核意见

内容提示:项目负责人所在院(部)对结题的意见,包括对项目研究工作和研究成果的评价等。

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

单位负责人(签章)           

                                               年    月    日