大数据科技进校园——高效开源的物联网大数据平台
2021年10月10日晚上6时,9728太阳集团邀请涛思数据团队一行在信息楼四层报告厅举办了“大数据科技进校园——高效开源的物联网大数据平台”讲座。主讲人为涛思数据团队创始人兼CEO陶建辉先生。
作为TDengine大数据平台的创始人,陶建辉讲述了TDengine在处理时序化数据上的技术优势,并分析了与经典数据平台相比,TDengine存取速度快、数据压缩强等优点,让同学们学习到了许多前沿大数据知识。
陶建辉表示,在创建TDengine之时,他对物联网、工业互联网的数据进行了大量的分析,发现这些数据具备时序、结构化、一个采集点有唯一的数据源、写操作为主读为辅、流量平稳可预测等特点,而使用市面流行的通用大数据方案进行查询存储时往往要面对成本高、性能差的窘境。
为打破这个僵局,从数据特点出发,涛思数据打造的时序数据库TDengine带着“一个数据采集点一张表”的创新浮出水面,其中每个采集点的数据在存储介质上以块为单位进行连续存储,减少随机读的同时成数量级提升了查询速度。此外,这个创新还有两个优点,即可以通过无锁、追加的方式写入,极大提升了写入速度,且每个数据块内采取的是列式存储模式。以上优点叠加之后保证了TDengine单个数据采集点的插入和查询效率最优化。
但这个创新也带来了一个技术挑战——表的数目过于庞大,难于管理、难于聚合。从这个挑战出发,TDengine创新地引入了“超级表”的概念——将同一类型的设备放在同一个超级表中,静态属性和动态属性可以分离开来存储,节省存储空间的同时更加便于进行聚合查询等操作。
此外,陶建辉还结合实际案例,从系统架构、代码示例等专业实操角度进行了讲解和分析,助力同学们更加深入理解时序数据库在研发和应用上的更多细节点。
目前,TDengine源码已经在Github上开源,两年发展下已收获16000+Star。涛思数据团队也希望同学们积极参与开源项目,努力提升自己的程序实践水平。
讲座结束后,陶建辉认真热情的回答了同学们提出的问题,并就学业规划、就业发展等给出了详实建议。
本次讲座让现场的同学们更加深入地了解了物联网大数据平台,了解了前沿的大数据处理技术,同时也更深入地了解了参与开源的意义和价值。最后陶建辉也为同学们分享了加入开源项目的渠道和方式,欢迎感兴趣的同学进行尝试。