论文题目：基于深度学习的人群移动轨迹表示学习及预测模型研究
摘要：人群移动轨迹反应了人们的出行规律,而轨迹表示学习和预测是时空数据挖掘领域的重要研究方向之一,对理解人类的行为模式、研究无人驾驶技术、城市规划建设、缓解城市交通拥堵和重点人群管理等方面具有重要意义。近年来,随着人工智能的发展,诸多轨迹建模方法使用深度学习模型从复杂的移动轨迹数据中提取内在规律的特征表示以提高轨迹预测准确性。目前,深度学习在交通流量预测、交通拥堵识别、目的地预测等领域取得了一定的成果。然而,基于深度学习的轨迹建模方法大多直接从自然语言处理或者图像处理领域迁移过来,不能鲁棒的表示轨迹数据的内在规律。一方面,轨迹数据包含了坐标内部特征和轨迹上下文特征,需要考虑这两部分特征的统一表示方法。另一方面,轨迹数据具有长序列时空交互的特性,需要考虑时空演变的过程。因而,研究时空交互特征与轨迹内部规律的融合表示方法,不仅能提升深度学习模型对轨迹的预测能力,更有助于探究轨迹在地理空间上的规律,为探索轨迹的时空交互过程提供科学的研究方法。本文以基站采集到的人群移动轨迹为研究对象。研究了轨迹时空特征的构成,包括坐标序列、人群交互关系、不同尺度下的远程依赖关系,进而构建了基于深度学习的轨迹预测模型。本文的主要研究内容如下。（1）针对在实空间下坐标与轨迹上下文特征无法联合表示的问题,提出了一种在复空间下基于Skip-gram的轨迹表示学习方法（Trajectory Representation Learning Method in Complex Space Based on Skip-gram,TRMC+Skipgram）。首先,将轨迹上下文关系转化为图结构来解决轨迹上下文不连续问题。其次,基于欧拉公式推导出复向量距离计算方法,结合Skip-gram和图采样方法学习在复空间下的坐标与轨迹上下文特征联合表示向量。最后,在节点连接预测任务中,TRMC+Skipgram可以有效的对特征相似的坐标进行聚合;在轨迹用户连接任务中,也可以有效的提高轨迹用户连接的准确性。（2）针对基站不规则采样导致的轨迹缺失问题,结合两个标准的长短时记忆神经网络（Long Short-term Memory,LSTM）,提出了一种复空间下的长短时记忆神经网络（Complex LSTM,CLSTM）,构建了一种缺失轨迹数据推断模型（Missing Trajectory Data Inference Model Based on CLSTM,MTDIC）。首先,MTDIC在坐标嵌入层加载了TRMC+Skipgram学习的坐标预训练向量,并且融入了轨迹的长短周期特征,通过CLSTM提取轨迹预训练向量的交互特征,结合非线性映射层实现缺失轨迹的补全。其次,基于低维潜在子空间的非线性映射和schatten范数,推导出了一种核正则化损失函数,保证了MTDIC恢复的轨迹数据满足低秩性。最后,在某市十万人一年的轨迹数据和一个公共数据集Gowalla中验证了MTDIC可以学习到人群的移动模式,提高恢复轨迹的准确性。（3）针对传统轨迹目的地预测模型没有考虑人群交互特征的问题,提出了一种基于时空注意力的深度学习预测模型（Spatio-temporal Attention Deep Learning Prediction Model,STAM）。该模型包含时间注意力模块、空间注意力模块、时空特征融合模块和目的地预测模块。首先,基于多头注意力设计了时间注意力模块来提取轨迹的时间交互特征。其次,基于图注意力神经网络设计了空间注意力模块来提取人群的空间交互特征,进而构建了一个时空特征融合模块来自适应的控制时间交互特征和空间交互特征的融合。最后,轨迹目的地预测模块将时空交互特征映射为轨迹目的地。在ETH和UCY两个公开数据集上验证了STAM可以有效的提取轨迹的时间交互特征和人群的空间交互特征,降低真实轨迹目的地与预测轨迹目的地的误差。（4）针对强制教学（Teacher forcing）训练轨迹多步预测模型导致的曝光误差（Exposures bias）高的问题,提出了一种嵌套迭代解码算法,结合Seq2Seq（Sequence to Sequence,Seq2Seq）框架构建了一种基于嵌套迭代的轨迹多步预测模型（Trajectory Multi-step Prediction Model Based on Nested Iteration,TPNI）。首先,TPNI采用并列的时间特征提取模块和空间特征提取模块提取低耦合的时空交互特征,进而通过多个解码器在时间轴上以不同的时间起点嵌套解码生成多条轨迹,实现其参数的更新。最后,在MTDIC补全的轨迹数据上验证了TPNI能够有效降低轨迹多步预测的误差。（5）研究的方法应用于智慧城市人员管理平台。通过基于轨迹表示学习方法TRMC+Skipgram和轨迹缺失数据推断模型MTDIC获得完整的人群轨迹数据,构建了人群热力图模块用于区域人员密度分析。同时为了管理人员高密度区域,基于轨迹单步预测模型STAM,构建了轨道交通人流管理模块,预测乘坐轨道交通人群的下车站点,结合人群热力图信息,实现了各站点的超负荷预警。最后,为了监测重点管理人群的行为轨迹,基于轨迹多步预测模型TPNI构建了重点人群管理模块,结合人群热力图模块和轨道交通人流管理模块提供的人口高密度区域信息,对行为模式异常的人群进行预警,实现了智慧城市人员的智能管理。
关键词：深度学习;轨迹表示学习;复空间;核正则化;时空注意力;轨迹预测;智慧城市人员管理
学科专业：控制科学与工程
摘要
ABSTRACT
第一章 绪论
1.1 课题背景和意义
1.2 国内外研究现状
1.2.1 轨迹表示学习概述
1.2.2 缺失坐标推断概述
1.2.3 轨迹预测概述
1.3 课题研究内容
1.4 论文组织结构
第二章 在复空间下的轨迹表示学习方法研究
2.1 引言
2.2 轨迹表示学习方法
2.2.1 轨迹表示学习问题定义
2.2.2 复向量距离计算方法
2.2.3 图采样方法
2.2.4 在复空间下基于Skip-gram的轨迹表示学习方法
2.3 轨迹表示学习方法验证
2.3.1 实验数据集
2.3.2 表示学习的基准模型
2.3.3 实验结果
2.3.4 结果讨论
2.4 本章小结
第三章 基于CLSTM的缺失轨迹推断模型
3.1 引言
3.2 缺失轨迹推断模型的研究
3.2.1 传统LSTM
3.2.2 CLSTM模型的推导
3.2.3 在复空间下的全连接网络和Relu激活函数
3.2.4 一种新的核正则化方法
3.2.5 基于CLSTM的缺失轨迹推断模型结构
3.3 基于CLSTM的缺失轨迹推断模型验证
3.3.1 实验数据集
3.3.2 MTDIC模型验证
3.3.3 结果讨论
3.4 本章小结
第四章 基于时空注意力的轨迹单步预测深度学习模型
4.1 引言
4.2 时空注意力模型
4.2.1 轨迹单步预测的问题定义
4.2.2 时空注意力模型结构
4.2.3 坐标与位置嵌入
4.2.4 时间注意力模块
4.2.5 空间注意力模块
4.2.6 时空特征融合模块
4.2.7 轨迹目的地预测模块
4.3 基于时空注意力的轨迹目的地预测模型验证
4.3.1 实验数据集
4.3.2 轨迹单步预测的基准模型
4.3.3 评价指标
4.3.4 实验结果
4.3.5 轨迹预测结果展示
4.3.6 结果讨论
4.4 本章小结
第五章 基于嵌套迭代的轨迹多步预测深度学习模型
5.1 引言
5.2 TPNI模型
5.2.1 轨迹多步预测的问题定义
5.2.2 数据集划分
5.2.3 TPNI模型结构
5.2.4 坐标嵌入模块
5.2.5 时间特征提取模块和空间特征提取模块
5.2.6 轨迹生成模块
5.3 基于嵌套迭代的轨迹多步预测模型验证
5.3.1 轨迹多步预测的基准模型
5.3.2 实验结果
5.3.3 结果讨论
5.4 本章小结
第六章 轨迹建模方法在智慧城市人群管理平台中的应用
6.1 引言
6.2 智慧城市人员管理平台架构
6.3 应用模块
6.3.1 人群热力图模块
6.3.2 轨道交通人流管理模块
6.3.3 重点人群管理模块
6.4 本章小结
第七章 总结与展望
7.1 总结
7.2 展望
参考文献
致谢
作者和导师简介
北京化工大学博士研究生学位论文答辩委员会决议书