0 引言

交通运输行业是社会生产活动和公众出行的重要保障，交通安全水平的重要作用也日趋显著。随着信息技术和管理水平的不断发展，更加丰富的交通事故信息被记录。交通事故信息是典型的多模态数据，从数据类型来看，既有人工录入的结构化字段和自然语言描述文本，又有系统自动记录的视频、音频等非结构化数据。从时间维度上看，随着事故演化或者处置推进，交通事故信息可能被多次记录，包含了从事故发现、响应、处置、恢复的各个阶段。

交通事故具有复杂性和随机性，难以被结构化字段完整表征。应急处置是影响交通事故持续时间、道路交通延误的关键环节，通常以自然语言形式被记录。自然语言处理技术在事故文本智能分析^[1-3]中已经取得一定进展。Li等^[4]回顾了深度学习技术在命名实体识别中的最新应用。王颖洁等^[5]总结了中文命名实体识别研究中的关键问题，一些学者探讨了军事、航空等领域的命名实体识别效果^[6-8]，刘兴丽等^[9]提出了适用于小样本命名实体识别的数据增强改进算法。张鹏翔^[10]通过多维字符特征+BiLSTM+CRF模型实现了铁路设备事故报告中7类信息提取。韩广等^[11]基于432条文本和十类铁路事故，建立了结合词向量和句向量双通道的WA-S-BiLSTM模型，王向前等^[12]以239份煤矿事故案例文本为数据来源，构建了7种实体类型的ALBERT-Bi LSTM-CRF模型。刘婷等^[13]通过1 000份报告设计了BERT-BiLSTM混合模型以识别8种水利工程事故原因。刘昭等^[14]从微博平台爬取了近2 000条数据，采用XGBoost文本分类器识别交通突发事件。樊海玮等^[15]采集了4 446条交通事故文本数据，构建了BERT-BiGRU-CRF模型提取地点、时间、原因、类型、交通方式、伤亡结果、道路类型7类信息。李昀轩等^[16]对120 191条交通警情提取时间、地址和车牌信息，并提出了交通警情分类模型和语义分析方法。由此可知，由于实体类型、数据集规模、应用领域的异质性，事故文本实体识别尚未获得一致结论。同时，大多数研究重点分析了时间、地点、原因、类型等属性信息^[17]，对于处置阶段信息的提取尚未深入开展。在前期研究中验证了处置阶段信息对高速公路交通事故持续时间具有显著的调节效应^[18]。因此，准确识别交通事故文本中的应急处置信息对应急响应效率和应急预案优化具有重要意义。

交通事故信息质量直接影响数据挖掘下游任务的效果。准确评估信息质量能够为应急处置、交通管制提供决策依据。在事故发现初期，完全掌握事故所有信息是不切实际的。随着事故演化，天气状况、道路条件等因素会发生变化，事故信息也可能在不同阶段被逐渐补充。同时，由于信息采集人员经验差异，可能产生属性划分的不准确、结构化数据与文本数据不一致等情况。针对交通事故信息所表现出的复杂、海量、多阶段等特性，有必要进行更深入的研究。目前应急信息质量评估理论尚待进一步完善，面向多模态交通事故数据的信息质量评价仍极具挑战性。朱益平等^[19]建立政务微信公众号信息质量评价模型。徐文强等^[20]从内容质量、描述质量和信息约束角度，构建大数据环境下的应急信息质量评估体系。GUO等^[21]通过BiLSTM-CRF模型提取应急预案中信息发送、消息接收和常规任务3种类型，从响应层级关系、完整性、模糊性和冗余性对突发事件应急预案文本进行评价。

综上所述，交通事故命名实体识别研究中尚未深入涉及应急处置信息识别，且对于多模态的交通事故采集信息的质量评价，尚未形成有效结论。因此，建立一种基于预训练模型和深度学习网络的交通事故命名实体识别模型，同时，从两种模态数据的一致性和丰富性，提出交通事故信息内容评价指标，实现文本信息抽取结果与结构化数据的信息内容量化评价，是自然语言处理技术在交通应急安全领域的重要应用。研究成果可以定量评估运营管理中信息采集质量和有效性，进而为应急处置流程优化提供决策依据。

1 交通事故文本信息识别模型

基于文本信息的交通事故命名实体识别模型由文本标注模块、预训练语言模块、双向长短时记忆(Bidirectional Long Short Term Memory，BiLSTM)模块和条件随机场(Conditional Random Field，CRF)模块构成。采用BIO标记法对交通事故文本进行标注；在预训练语言模块中使用双向Transformer编码结构实现文本序列的向量化表达，生成融合字向量、句向量以及位置向量的特征向量。将特征向量输入BiLSTM模型提取特征，运用CRF对BiLSTM输出的序列标注进行编码和制约，以最大概率的序列标注作为最终输出结果。

1.1 文本标注

交通事故文本标注采用BIO标记法，其中B表示实体的开始，I表示实体的中间，O代表非实体。以表征动态演化和处置过程为业务需求，将实体分为事故位置、事故类型、事故描述和应急处置等方面，其中应急处置分为处置机构、处置设备、未处置、处置中、处置效果5个实体。通过BIO标记法分别定义各实体类别的标签，实体详细定义见表 1。

1.2 预训练语言模型

预训练语言模型显著提升了自然语言处理领域任务的当前最优结果(State of the Art，SOTA)表现，其中由谷歌在2017年提出的Transformer成为最主要的自然语言处理特征提取工具。BERT模型使用掩码语言模型(Masked Language Model，MLM)和下句预测(Next Sentence Prediction，NSP)实现文本字词特征的预训练。它将多个Transformer编码器堆叠提取特征，模型结构如图 1所示。在文本的开头和句子之间分别插入[CLS]和[SEP]，采用字向量、句向量和位置向量的Embedding编码之和作为融合的特征向量。在文本序列的特征向量输入BERT模型之前，随机抽取15%的掩码词。对80%的样本用掩码标记[MASK]替换掩码词，对另外10%的样本不做任何替换，对最后10%的样本从模型词表中随机抽取单词来替换掩码词。利用大规模的语料数据进行自监督学习的训练，使得BERT模型能够正确预测这些被掩码词，以便获取输入文本数据中的语义信息。其中，[CLS]标签对应的输出向量记为C，其判断B句是否为A句的下一句。是，则输出1；否, 则输出0。T_Mask为预测的掩码词。

假设原始数据序列为 S ={S₁, S₂，…, S_n}，n为样本字数。叠加并进行掩码操作后得到BERT模型输入为 E ={E₁, E₂，…, E_N}，N为组合后词向量维度。每个Transformer编码器由Self-attention层和前馈神经网络层组成。Self-attention是Transformer的核心机制。它将输入的词向量通过线性变换得到3组向量序列 Q，K，V。然后使用Softmax函数得到特征函数Attention(Q, K, V)。其计算过程如下：

(1)

(2)

(3)

(4)

式中，E为输入的词向量；w_q，w_k，w_v分别为训练获得的权重矩阵；d_k为词向量的维度。

重复多次相同的Transformer编码器后得到与 E ={E₁, E₂，…, E_N}向量长度相同的输出向量 T ={T₁, T₂，…, T_N}，即为经过BERT模型预训练后的向量。

1.3 BiLSTM-CRF模型

BiLSTM是自然语言处理领域应用较好的一种深度学习模型。采用BiLSTM模型对预训练后的文本向量T进行特征提取，采用CRF模型对网络输出结果进行条件约束，从而得到合理的实体类型预测结果。BiLSTM-CRF模型的结构如图 2所示。BiLSTM由前向LSTM层和后向LSTM层组成，获取输入信息在两个方向的上下文特征，然后使用Softmax函数给出每个词T_i对应每个预定义标签j的概率值p_ij。同时，在BiLSTM网络中加入了Dropout层避免过拟合现象。

LSTM设置3种门结构：遗忘门(Forget Gate)、输入门(Input Gate)与输出门(Output Gate)，三者利用sigmoid激活函数(记为σ)的0-1门控特性对经过的信息进行筛选，通过有用的信息，阻挡无用的信息。LSTM通过记忆细胞状态C_t来构建长期依赖关系，通过隐含层状态h_t来构建短期依赖关系。输入门I_t决定是否忽略输入数据，遗忘门F_t将值向0减少，输出门O_t决定是否使用隐含层状态。LSTM模型表示如下：

(5)

(6)

(7)

(8)

(9)

(10)

式中，x_t为当前输入；h_t－1为前一时刻隐含层输出；w_xi，w_hi，w_xf，w_hf，w_xo和w_ho为权重；b_i，b_f，b_o和b_c为偏差；⊙为对应元素点乘；tanh函数的作用是保证值∈(― 1，1)。

最后将Bi LSTM层输出的隐藏层状态h_t连接起来，形成特征向量 H。将 H作为Softmax函数的输入来预测标签。由于Softmax函数的输出值之间是相互独立的，可能存在不合理序列的情况。因此需要采用CRF模型，对BiLSTM的输出进行修正。CRF模型考虑了各个字标签之间的约束关系，通过各标签得分与标签之间的转移得分来计算不同标签的出现概率。选取出现概率最大的标签序列作为最优的预测结果。

令X={x₁, x₂，…, x_n}为观测序列，y={y₁, y₂，…, y_n}为与之相应的标记序列，则构建条件概率模型：

(11)

式中，t_j (y_i+1, y_i, x, i)为定义在观测序列的两个响铃标记位置上的转移特征函数，用于刻画相邻标记变量之间的相关关系以及观测序列对其影响；s_k (y_i, x, i)为定义在观测序列的标记位置i上的状态特征函数，用于刻画观测序列对标记变量的影响；λ_j和u_k为参数；Z为规范化因子，用以确保式(11)是正确定义的概率。

1.4 模型评价指标

对于第i个预定义的实体类别，采用准确率P_i、召回率R_i，F1_i值作为模型的评价指标。准确率P_i描述正例预测准确程度，召回率R_i衡量模型识别真实正例的程度，F1值是准确率和召回率的调和平均值，F1∈ (0，1)，越接近1模型效果越佳。计算式为：

(12)

(13)

(14)

式中，TP为真正例个数；FP为假正例个数；FN为假反例个数。

考虑各实体类别数量可能不均衡，采用加权的F1值作为模型的综合评价指标，计算式为：

(15)

式中，d_i为样本中第i类标签的数量；n为训练数据集中标签类别数；D为训练数据集中标签总数。

2 多模态交通事故信息内容评价 2.1 数据来源及预处理

以陕西省高速公路2021年6月至2022年8月的交通事故数据集为数据来源，其中2021年6月至2022年5月为训练集，2022年6—8月为测试集。陕西省高速公路交通事故数据集中记录了交通事故的结构化属性，包括事故开始时刻、事故清除时刻、事故类型、受伤人数等，并保存了每次报送的自然语言文本。结合信息内容评价需求，根据数据集中属性的划分提取结构化字段如表 2所示。其中，交通事故持续时间定义为系统记录的事故开始时刻与事故清除时刻的时间差^[17]。BIO标注后不同数据集规模如表 3所示。

2.2 信息内容评价指标

信息内容是数据价值的体现，是数据质量评价的前提和关键性问题。以信息内容评价为目标，考虑应急信息质量的特点和需求，从多模态数据的一致性和信息描述的丰富性两个维度，对交通事故信息内容进行评价，指标定义见表 4。

令

表示结构化属性，Text={I₁，…，I_m}表示文本信息，式中，a_ij为第i条样本中第j个结构化属性；I_i为第i条样本的文本信息；n为属性个数；m为样本数。预定义的实体类别为K，交通事故实体识别结果为

式中，k_ij为第i条样本中第j个实体类型出现的频数。

(1) 一致性A1表征结构化数据与文本信息对相同内容要素记录的一致程度。计算式：

(16)

式中，K_c为结构化数据记录的实体类型个数, K_c∈0, 1, 2，…, K；ifcon(a_ij, k_ij)为判断结构化数据a_ij与文本信息实体内容k_ij是否一致，若一致则为1，否则为0。若数据为空而导致无法比较时，记为0。

(2) 应急处置占比B1表征应急处置实体数量在样本实体数量的占比，计算式：

(17)

式中K_a为实体类型中属于应急处置实体的个数。

(3) 变异性B2表示被识别的不同实体类型的分布情况，量化各要素在数据集中的波动程度。计算式为：

(18)

式中，std(·)和mean(·)分别为各类型实体数量的均值和标准差。

3 实例分析 3.1 交通事故信息识别模型性能分析

ALBERT和RoBERTa是两种BERT的改进模型。ALBERT模型是一种轻量级BERT，降低了内存和算力消耗，提高了训练速度。RoBERTa与BERT相比，在模型参数量、bacth size和训练数据上规模更大。采用相同的训练集和试验环境，比较BERT-BiLSTM-CRF，ALBERT-BiLSTM-CRF和RoBERTa-BiLSTM-CRF这3种深度学习模型的识别结果。以式(15)的加权F1值评价每个模型的性能，保存多次训练中性能较优的模型作为最终识别模型。

SET0表示原始的测试集，SET1~SET5表示相同样本量、有放回抽样的测试集。同时，以陕西交通微博为语料来源，采用网络爬虫随机获取2 000条文本信息作为袋外测试集，分析模型对“新”数据的识别效果，检验模型的鲁棒性。各深度学习模型的性能如表 5所示。

由表 5可知，测试集上RoBERTa-BiLSTM-CRF的识别效果最佳。同时，袋外测试集上BERT-BiLSTM-CRF效果最佳，说明其对不同数据的适应性最好。BERT，ALBERT和RoBERTa每次测试集训练时间约10，5和20 h。无论测试集还是袋外测试集上，采用BERT和RoBERTa预训练模型的效果极为接近，采用ALBERT的模型性能均最差。综合考虑模型精度和训练时长，BERT-BiLSTM-CRF是一个在识别准确度、学习效率和鲁棒性较优的深度学习模型，以此作为本研究的交通事故命名实体识别模型。

3.2 交通事故应急处置实体识别结果分析

利用BERT-Bi LSTM-CRF模型对测试集进行交通事故信息识别，应急处置实体的识别结果示例见表 6。计算持续时间和处置机构、处置设备、未处置、处置中、处置效果的Spearman相关系数，依次为0.309，0.151，0.137，0.220和0.178。结果表明，应急处置实体数量与持续时间之间存在正相关性。

3.3 交通事故信息内容的评价结果与分析

以测试集6 916条样本为例，选取天气、路产损失、交通分流、事故类型和伤亡情况作为多模态数据一致性评价内容，评价指标计算结果如表 7所示。

由表 7可知，结构化数据和文本数据的一致性较低，且不同信息内容之间波动性较大，说明两种模态数据对同一交通事故的信息内容描述不一致问题显著，需要在运营管理中加强工作人员对外部环境和控制措施的记录质量，尤其是天气和交通分流的信息采集质量。同时，应急处置实体占比达到36%，说明该数据集中以自然语言记录的文本信息具有较高的内涵，是结构化数据的有效补充，对应急处置信息命名实体识别具有实际意义。综上可知，交通事故数据集中不同模态的信息一致性尚有较大提升空间，文本信息蕴含丰富的应急处置信息，规范信息记录质量标准具有重要作用。

4 结论

建立了一种高速公路交通事故命名实体识别模型，是自然语言处理技术在交通事故文本信息抽取的新方法，弥补了现阶段应急处置信息识别的不足。比较了BERT-BiLSTM-CRF，ALBERT-Bi LSTM-CRF和RoBERTa-BiLSTM-CRF这3种深度学习模型，BERT和RoBERTa预训练模型的效果最佳，且BERT训练时间较RoBERTa短。结果表明，BERT-BiLSTM-CRF模型在识别效果、训练速度和鲁棒性方面具有明显优势。

从一致性和丰富性两个维度提出了交通事故信息内容的评价指标，提供了一种多模态的信息内容量化评价方法，为解决文本信息和结构化数据一致性提供了技术路径，并实证了文本信息的分析价值。研究成果可以量化评估多模态数据采集质量，进而提取真实完整的应急处置流程，为降低交通事故持续时间提供改进依据。

信息质量评估是提高信息资源管理效率的关键，有利于提高信息价值，促进应急安全管理的发展。本研究主要从多模态数据的一致性进行评价，后续需要从信息效用、传播过程等角度深入探讨交通应急处置中信息报送的质量和有效性。