0 引言

在“交通强国”发展战略指引下，截至2022年底，我国公路总里程达到535万km，稳居世界第一。“十三五”规划期间, 我国公路总投资规模将达到7.8万亿元人民币。在公路建设规模稳步扩大、投资需求持续增长的客观条件下，公路建设也迎来了高质量发展的转型时期。受到市场因素影响，公路工程成本投入波动大，资本运行风险高^[1]，投资管控压力大。目前，对公路建设的投资管控，采用设计概算作为控制指标，但设计概算的编制主要依据政府定额体系对量、价、费等^[2]的规定，具有一定的局限性、滞后性和偏差性，对于工程特征和市场环境的变化不能及时应对和快速调整，也缺乏系统的公路工程造价指标体系作为衡量概算合理性的参考，导致了设计概算与实际投资偏差超出合理范围。随着投资主体多元化^[3]，PPP和EPC等新型承发包模式的广泛应用，从公路项目的规划、立项、投资、建设及后期的运营，建设主体都需要对资金的投入使用和保值增值给予预测、预警和监控，探索更为市场化、智能化的管控手段必要而迫切。

借助大数据和机器学习技术在预测算法上的强大优势，回归预测分析已被充分证实并广泛应用于房价、股市及天气预测等各个方面。本研究应用全国各省市高速公路工程概算原始数据，基于XGBoost算法，建立高速公路工程概算与工程特征、宏观经济因素之间的关联关系，开发高速公路工程概算预测模型，用于投资审批和监控过程中预测高速公路造价，衡量设计概算编制的合理性，同时也为投资者的管理与决策提供参考依据。

1 文献综述

高速公路工程具有项目周期长^[4]、资金投入大、工程技术复杂、项目地域分布分散等特征，其造价工作也受到各方面因素影响，由于施工时间长、地质环境复杂^[5]，还涉及到区域经济因素、政府相关法律等因素的影响，设计总概算不能有效地成为建设方进行造价管理的工具。高速公路工程概算的编制是基于定额体系以实物量法为基础进行的，定额是设计单位及咨询单位进行工、料、机计算消耗量的重要依据^[6]。根据公路工程建设市场上现行定额标准，劳动定额、材料消耗定额和机械台班定额是公路定额中的主要内容^[7]。在传统的定额体系中，虽然定额的发布呈周期性、大数据性的特点不断地在完善，但还存在着管理途径有限，缺乏现代理念的缺点。对于公路工程成本的管理和组织依然缺乏时效性和系统性，因此需要新造价预测方法来辅助投资建设单位进行资金的管控和管理层决策。

基于大数据理论，创建机器学习模型进行预测已在各个领域得到了广泛的应用。在国外的研究中，英国专家^[8]第1次将回归模型应用于造价预测。也有专家^[9]就回归预测方法进行进一步改进，使其更加完善和准确。Liu等^[10]针对计算方法进行深层次的研究，提高了模型的精度，提出了分阶段成本控制系数法。Shash^[11]研发了公路造价预测软件TRACER，用于公路工程造价的预测，但需要进行实时的维护与更新数据，需要大数据的支持。Mahfouz^[12]通过选取11个影响洛杉矶地区全部工程造价的工程量影响因子，构建了神经网络预测模型。随着“十四五”规划的到来，大数据中心建设与5G、工业互联网一同被提及，成为衡量大国信息化与现代化实力的一个重要指标。我国学者也对造价预测方面展开了诸多研究，周仁强^[13]通过典型工程法，利用已知的造价信息建立造价测算模型，得出各单项工程造价指数、综合指数及平均数指数的测算编制方法。任宏等^[14]为了进一步改善BP神经网络的性能，将学习自适应调整法和动量法引入模型。陈源等^[15]基于实例推理的估算方法利用灰色关联理论对公路工程造价指标的影响因素进行预测，得出了公路工程造价投资估算预测值案例推理的方法。

2016年，陈天琦等^[16]针对多变量数据集提出了学习能力强、稳定性好、运算速度快的XGBoost(eXtreme Gradient Boosting)模型，即基于决策树的提升算法，在近年的建模竞赛上得到了很多的应用，且已经被广泛应用于医学领域、房地产领域和金融领域。龚军等^[17]使用“单因素分析+logistic”筛选独立危险因素，用于儿童脓毒性休克的危险因素筛查。张家棋等^[18]使用XGBoost算法建立预测模型进行房价预测，XGBoost的学习优势已经在多领域得到了验证。

综上所述，针对定额体系的缺点及工程概算在造价管理中的重要性，本研究拟提出一种基于XGBoost算法的高速公路工程概算预测模型，利用回归分析法，基于多种造价指标的选取，探索高速公路设计概算预测的新模式。

2 研究方法 2.1 XGBoost模型

XGBoost算法模型是采用加法模型与前向分步算法结合的算法模型。该模型基于Boosting方法，通过将许多树模型结合的方式来提高计算的准确率要求，通过不断地进行迭代，生成很多新的树模型，名为梯度提升树。前向分步算法指在叠加新的基础模型上进行同步优化，即每次叠加的模型对上次模型拟合后的残差进行拟合，从算法模型的角度解释即为决策树的加法模型：

(1)

式中，M为决策树的数量；T(x, θ_m)为其中的某个决策树；θ_m为对应决策树的所有参数合集，其中，假设f₀ (x)=0，则相应的第m步的模型是：

(2)

为求解对应的参数θ_m，需要最小化相应损失函数θ′_m来确定，具体公式为：

(3)

式中，x_i为第i个特征值; y_i为第i个真实值; L为损失函数。

前向分步算法得到M棵决策树T(x, θ_m) 后，再进行叠加，便可以得到提升树模型f_M(x)，参数值的求解依赖于损失函数的求解情况。

假设在提升树的模型中，加入不停迭代到k棵形成f_k树函数公式，预测值的函数关系表达式为：

(4)

式中，F= {f(x)=w_q(x) } (q: R^m→T, w∈R^T)，为所有回归树模型构建的函数空间；q(x)为x映射为决策树叶子节点索引的函数；R^m为输入空间划分为m个区域；R^T为T个叶子节点的输入空间区域；T为叶子节点的数量；w为叶子节点对应的权重。因此每次迭代生成的树，即每次前一棵树k-1所迭代出的预测值与实际值都会有一定差额，这个差额即为损失量，将损失量表示为损失函数L (ϕ)，即为：

(5)

式中，l(, y_i)为预测值与真实值的差异；Ω(f_k)是一个正则项，是使用叶子节点数与叶子节点对应值向量控制整个训练模型的复杂程度^[19]。假设迭代训练到第t棵树，首先定义f₀(x_i)= =0，则第t次迭代得到的模型则为：

(6)

目标函数Obj经过t次迭代后进行累加，即可表示为：

(7)

对误差项进行二阶泰勒展开：

(8)

当训练到第t棵树时，g_i和h_i为已知的量，去掉公式中的常数项，便是统一的第t次迭代的目标函数。

XGBoost算法的优势在于对于样本数据集进行正则化后对过拟合修正，擅长解决高速公路工程造价这类具有高维因子和大量数据特征的样本预测，通过二阶导数的运算，使损失更加精确，降低最小损失函数，而其算法的并行化也使运算效率得到更大的提升。

2.2 建模流程

XGBoost是基于梯度提升的一种目标函数计算方式，提高了模型的精度，并将目标函数的求解方式转化成二次函数求解最小值问题，将正则项转化为树模型的复杂度加入目标函数中，提升了模型的运算能力和泛化能力，建模过程如下：

(1) 数据预处理阶段，高速公路工程造价影响因子较多，影响机制复杂，使用SPSS软件和Python软件将选取的概算预测指标进行多重共线性、标准化等处理，剔除异常值，减小异常值对模型预测准确度的影响。

(2) 数据预处理后，将数据分为训练集和测试集，为模型的正常运行做好前期准备。

(3) 利用网格搜索和交叉验证的方法对XGBoost算法模型进行参数组合的优化和筛选，在训练集中训练出得分最高的最优预测模型参数组合并输出最优参数。

(4) 利用测试样本对步骤(3)所选取的模型参数进行检验，利用R²，MAE，RMSE对测试集的结果进行评价分析，随后随机选取样本数据对XGBoost算法模型进行预测验证，检验模型预测的准确性和稳定性。

3 高速公路概算影响指标分析 3.1 指标的识别

影响高速公路造价的指标种类繁多，按来源主要包含项目内特征指标和宏观经济指标2类。本研究采用文献研究法和问卷调查法综合对相关特征指标进行识别和重要性排序。

(1) 基于文献研究的影响指标识别

筛选出有关高速公路工程造价影响因素分析及造价预测模型的国内外学术期刊文献45篇(国内33篇，国外12篇)，将文献中所涉及到的影响指标按项目内部和外部宏观影响因素进行归类，文献研究统计结果详见表 1。

如表 1所示，从文献的统计结果可见，对公路工程造价影响较大的项目特征指标有桥隧比(11篇)、地貌特征(11篇)、路线长度(7篇)、路基宽度(6篇)、通道数量(6篇)、施工方案(5篇)、建安费(5篇)、土石方数量(5篇)；宏观经济指标有劳动力价格(9篇)、CPI指数(8篇)、征地费标准(7篇)、材料价格(6篇)，银行贷款利率(5篇)。

(2) 基于问卷调查的影响指标识别

在文献研究基础上，设计公路工程造价影响指标的调查问卷，剔除文献数量较少的所在地区(2篇)、人均收入水平(1篇)和投资渠道(1篇)。将同类型指标进行合并，例如，将标准规范变化和政策处理合并为当地政府政策。将辅助性指标并入主指标，例如，将通道数量并入桥隧比，将施工方案并入建安费用指标。剩余18项指标进行调查分析。

问卷采用五点式李克特量表，由被调查者对问卷中的高速公路工程造价影响指标的重要程度进行判断。共发放199份调查问卷，发放对象中施工单位和设计单位占比79.9%，一线员工及部门主办占比80.4%，95.48%的被调查者参与过高速公路工程建设工作。收回有效问卷190份，统计得到18项高速公路造价影响指标的均值和方差情况见表 2。

如表 2所示，通过调查，共7项指标在“重要”分值以上，分别是路基宽度(3.49)、路线长度(3.46)、地形地貌(3.38)、桥隧比(3.35)、劳动力价格(3.34)、材料价格(3.29)、征地费指标(3.1)。

(3) 综合指标筛选

综合文献研究和问卷调查2种方法研究结果，对交叉重复部分进行合并。CPI指标在文献研究中所占比例较大，研究发现CPI指标属于国家宏观经济指标，一线工作人员对其影响作用并不明确，所涉及文献大多为国外学者研究文献，研究意义较大，因此纳入指标筛选范围中。

3.2 指标的选取

通过文献综述和问卷调查，选取8个指标作为影响高速公路工程造价的影响指标，其中路基宽度、路线长度、地形地貌和桥隧比属于项目内影响指标，劳动力价格、材料价格、征地费用指标和CPI指标属于宏观经济指标。为了检验所选指标的合理性，针对部分公路工程概算数据进行分析。从交通运输部路网监测与应急处置中心对各省公路项目造价指标的调研报告中，根据涉及到的路线长度、路基宽度、地貌特征等众多因素对比需求考虑，选取2019—2020年度广西省和河南省新建高速公路批复概算数据为样本，对指标进行验证分析，概算样本数据如表 3所示。

(1) 征地费标准。所有样本项目的征地费用占概算造价总额的平均比例为10.95%，说明征地费对高速公路工程造价具有较强的影响作用。

(2) 车道数与路基宽度。车道数与路基宽度相关性较高，进行统一分析，沙井至吴圩高速公路设计为六车道，广西省内其余高速公路均为四车道。由表中可见，在不考虑其他因素的情况下，该公路的每公里平均造价高于其他大部分四车道平均造价。

(3) 桥隧比。选取桥隧比74.4%的南丹-天峨下老公路作为主要研究对象，不考虑其他因素的影响，其每公里平均造价最高，甚至高于六车道的沙井-吴圩高速公路。

(4) 地形地貌。地形地貌特征以平原微丘和山岭重丘的比例表示，表中所示河南省林州(豫冀省界)-桐柏高速公路林州段为山岭重丘区新建高速公路，在不考虑其他因素影响下，每公里平均造价高于平原微丘区的项目。

通过对高速公路工程概算影响指标的识别和分析，可以确定所筛选出的8项影响指标对造价的影响是相对较强的，因此选用该8项指标作为XGBoost算法模型构建的自变量指标，以此为基础对工程概算的预测研究进行分析与探究。

预测模型选取指标如表 4所示。

4 XGBoost算法模型的构建与预测实现 4.1 模型构建与参数优化

从sklearn库中导入XGBoost模块，导入所需样本指标，进行多重共线性检验、标准化处理、异常值处理、相关性分析等数据预处理，随后设定参数调整范围：包含总共迭代次数、学习速率(以避免在更新过程中的过拟合)、每棵树的最大深度和取值范围(默认值是6)，树越深，越容易过拟合、训练的实例样本占整体实例样本的比例(取值范围是(0, 1]，默认为1，防止过拟合)。随后对样本指标以7∶3的比例随机划分为训练集与测试集，进入下一步训练阶段。

(1) 样本输入

使用交通运输部路网监测与应急处置中心发布的《2019年高速公路造价指数指标分析报告》中的数据进行输入，制订如下筛选标准。

① 筛选高速公路工程项目。

② 未标注路基宽度所占总路线长度比例和桥隧比情况的，为保证预测模型的准确性，进行剔除。

③ 仅保留单一数据类型的数据。

④ 仅保留新建高速公路工程项目。

最终整合出的数据共计322组，作为初试输入样本。

(2) 样本预处理

① 多重共线性检测

将数据进行多重共线性诊断，得到结果如表 5所示。

根据SPSS软件中的结果输出，条件索引>10或方差比例 < 0.5时，自变量之间会出现严重的多重共线性，由表 5可知，该样本中存在严重多重共线性问题，因此不能使用简单的多元线性回归模型，而使用XGBoost算法模型可以解决该问题。

② 标准化及异常值处理

由于数据类型和统计量纲都不尽相同，在进行下一步数据分析之前，通常需要对数据进行标准化处理^[20]。随后使用标准化后的数据输出正态分布图和QQ图，观察其是否满足进一步数据预测的要求，直观的QQ图检验是常用的定性方法，在实践中应用广泛^[21]。QQ图有2个作用：第一，检验1组数据是否服从某一分布。第二，检验2个分布是否服从同一分布。QQ图全称是quantile-quantile plot，从名称中可了解到是和分位数相关的图。正态分布图和QQ图如图 1所示。

将造价指标较大的数值进行筛选，以50 000万元为分界点，对造价指标的样本进行了分割，筛选出6个异常值样本，如表 6所示。

由表 6可知，共计挖掘出6个异常值，异常值样本的共有特征为桥隧比均大于90%，核对项目概况为桥梁或隧道导致造价指标异常。可见桥隧比极大的项目，由于单一原因导致的造价指标突高影响造价整体性结构，异常值的出现导致分布偏度非常大，需要对异常值进行处理。由于异常值只有6个，基本对样本容量无影响，遂采取删除处理。

(3) Grid SearchCV参数优化

Grid SearchCV即交叉验证+网格搜索的训练模式。本研究采用5折交叉验证的方式首先对训练组再次进行划分，将训练组随机均分成5块，设定其中1块为预测集，其余4块为训练集，以1∶4的方式进行交叉验证，随后选定另1块为预测集，其余4块为训练集再次训练，直到每块都被指定过预测集后，输出参数得分应用于测试集中进行预测分析。

本研究中需要选取出最优参数组合，因此在模型构建阶段便设定了每个参数的浮动范围，网格搜索的原理简单可以理解为“穷举法”，所有参数同时变化，进行交叉验证，这样每变动1次便又进行了1次5折交叉验证，通过将所有的参数范围都运算过后，所得出的得分最高的参数，即为最优参数。

将输入与预处理后的模型进行导入，设定参数调节范围。XGBoost算法模型中所涉及到的参数较多，因此仅选用对模型预测精度影响较大的4个参数进行调节并设置调节范围，在此基础上进行交叉验证和网格搜索，对设置的参数进行优化选择。优化的指标为XGBoost模型中的评分系统，网格搜索自动寻找评分最高的参数组合并进行输出，获得在训练集中得分最高的参数组合并进行预测集的预测，调节参数如表 7所示。

4.2 评价体系与重要性排序

模型预测结果是否符合要求，参数得分并不能作为评价模型预测准确度和稳定性的唯一指标，因此，拟选用均方根误差RMSE、拟合优度R²、平均绝对误差MAE这3个评价指标同时对预测模型的预测能力进行评价。

RMSE亦称标准误差，均方根误差是预测值与真实值偏差的平方与观测次数n比值的平方根。回归模型预测效果的验证中，将验证数据样本代入回归模型，计算获得参数估计值(计算值)，RMSE值越小，证明预测的效果越好。

R²是指回归直线对观测值的拟合程度。测量拟合优度的统计量是可确定系数(也称为确定系数)R²，R²最大值为1。R²的值越接近1，说明回归拟合的曲线与实际值的拟合程度越好。

MAE的观测值和实际值之间误差绝对值的平均值，它实际上是误差平均的一种更一般的形式。

RMSE相当于L2范数，MAE相当于L1范数。次数越高，计算结果就越与较大的值有关，而忽略较小的值，这就是为什么RMSE针对异常值更敏感的原因，即有1个预测值与真实值相差很大，那么RMSE就会很大。RMSE受异常值的影响更大，而MAE受到的影响小很多。同样，MAE的值越小，则预测模型的准确性和有效性越好。

(1) 预测值与真实值对比

应用最优参数下的高速公路工程预测模型对测试集的数据进行预测，随后使用选取的评价指标体系对预测结果进行评价，预测值与真实值对比如图 2所示。该预测模型的预测能力和学习能力由图 2可见一斑。

(2) 预测模型评价体系

输出RMSE, R², MAE指标，如表 8所示。

RMSE指标与MAE指标的得分越小，预测效果越好，R²指标越接近1，预测模型的效果越好。由图可知，XGBoost算法模型在3个评价指标中都有着出色的表现。

(3) 特征重要性排序

特征重要性(Feature Importance)衡量了特征在模型中的提升决策树构建中价值。一个特征越多地被用来在模型中构建决策树，它的重要性就相对越高，也可理解为该指标在整个预测模型中对于目标函数的影响权重。一个已训练的XGboost模型能够自动计算特征重要性，这些重要性得分可以通过成员变量feature_ importances得到。

本次高速公路工程造价XGBoost预测模型的特征重要性指标输出如图 3所示。

可以看出，路线长度占据了特征指标重要性的首位，则可认定在决策树迭代的过程中，路线长度参与的树模型最多，经过机器学习后认为其占每公里造价指标的权重最大。其次是桥隧比和路基宽度2个指标特征在XGBoost模型决策树迭代过程中也较多地被用来在模型中构建决策树，其余特征值占较为近似，地形特征值因为变化不明显，所以处于权重的最后位置。

4.3 XGBoost预测模型验证

最后，随机选取样本库中的2组样本进行最优参数的预测分析，分别选取江西抚吉高速和河南林桐高速的概算数据，基础数据如表 9所示。

将数据按指标类别输入模型中，进行标准化处理，标准化后数据集如表 10所示。

将数据集标准化后，代入选定的最优参数组进行模型预测，预测值与实际值对比如表 11所示。

由随机样本的预测值与实际值对比表可知，误差在4.9%~7%之间。而由图 3预测值与实际值对比可知，少部分样本的预测值与实际值差距较大，差距较大的样本造价指标在50 000万附近，原因可能为桥隧比极大而造成指标突高，预测模型针对此类数据的预测能力较弱，但大部分样本数据预测较为准确。这表明该参数选择下的XGBoost算法模型的优化效果较好，预测误差较小，预测效果比较符合预期，可以实现投资方概算编制阶段的辅助预测、辅助决策和辅助投资管控的功能。

5 结论

本研究综合考虑我国高速公路项目内特征指标和宏观经济指标对于工程造价的影响，通过多种调研统计途径进行影响指标的筛选和分析，共计筛选出路线长度、路基宽度、桥隧比、地形地貌、CPI、材料价格、劳动力价格和征地费用指标8个造价影响指标，应用XGBoost算法综合影响指标建立高速公路工程造价预测模型，得出以下结论。

(1) 依据特征重要性分析，路线长度、桥隧比、路基宽度这3个指标对高速公路工程造价影响较大，材料价格、劳动力价格、征地费用指标这4个指标对造价具有一定程度的影响，而地形地貌对造价具有较小的影响。

(2) 应用XGBoost算法建立我国高速公路造价预测模型是可以实现的，相较于其他回归预测算法，XGBoost算法在处理高维存在多重相关性的大样本数据具有显著优势，并行算法和增加正则项可以有效提高学习速率降低预测误差。

(3) 通过RMSE，MAE和R²评价体系的检验，在322组数据的训练和预测过程中，XGBoost算法预测模型的表现较好，通过网格搜索和交叉验证进行算法优化，可以得到更加优化的模型参数组合，效果较好，可以推广到同类型其他高维复杂数据的预测模型中。

本研究提出了一种基于XGBoost算法的我国高速公路工程概算预测模型，由于受到样本容量限制，为保证预测精度和稳定性，选用全国各省数据综合建模，未能针对各省市不同的经济环境和项目特征进行模型细化，无法个性化表达各省市的造价影响因素，在以后的研究中，随着新基建和信息化的不断发展，可针对各省市的不同造价特征进行建模研究，分析造价指标影响因素。