【调参01】如何使用网格搜索寻找最佳超参数配置

Meta ·
更新时间:2024-09-21
· 921 次阅读

本文介绍了如何使用网格搜索寻找网络的最佳超参数配置。

文章目录1. 准备数据集2. 问题建模2.1 训练集测试集拆分2.2 转化为监督学习问题2.3 前向验证2.4 重复评估2.5 网格搜索2.6 实例化3. 使用网格搜索寻找CNN最佳超参数3.1 超参数配置3.2 消除季节性影响3.3 问题建模3.4 完整代码

代码环境:

python -3.7.6 tensorflow -2.1.0

假设现在已经定义好了网络模型,但需要对模型中的超参数进行微调。常用的方法是穷尽网格搜索(Exhaustive Grid Search)和随机参数优化(Randomized Parameter Optimization)模型超参数。

顾名思义穷尽网格搜索即将所有需要选择的超参数进行组合,并将每一种组合都用于评估,优点是可以为每种参数组合测试性能;缺点是浪费计算资源,消耗时较长,在使用深度学习模型训练大规模数据集时,可能并不适用。随机参数优化是随机的选择参数组合进行评估,优点是添加参数数量也不会影响其性能;缺点是可能会漏掉最佳的参数组合。

为了便于演示,本文通过单变量时间序列建模的参数搜索方法,介绍了网格搜索的建模流程。清楚了这个流程,也就很容易扩展到多变量时间序列建模问题。

1. 准备数据集

1. 首先,从gayhub,打错了,github下载文件:点击此处
原创文章 203获赞 714访问量 6万+ 关注 私信 展开阅读全文
作者:datamonday



超参数 调参 参数

可以

需要 登录 后方可回复, 如果你还没有账号请 注册新账号