返回首页
苏宁会员
购物车 0
易付宝
手机苏宁

服务体验

店铺评分与同行业相比

用户评价:----

物流时效:----

售后服务:----

  • 服务承诺: 正品保障
  • 公司名称:
  • 所 在 地:
本店所有商品

  • [正版新书]多目标贝叶斯优化 面向大模型的超参调优理论 徐华 王洪燕 袁源 清华大学出版社 多目标 贝叶斯 优化
  • 新商品上架
    • 作者: 徐华//王洪燕//袁源著
    • 出版社: 清华大学出版社
    送至
  • 由""直接销售和发货,并提供售后服务
  • 加入购物车 购买电子书
    服务

    看了又看

    商品预定流程:

    查看大图
    /
    ×

    苏宁商家

    商家:
    句字图书专营店
    联系:
    • 商品

    • 服务

    • 物流

    搜索店内商品

    商品分类

    商品参数
    • 作者: 徐华//王洪燕//袁源著
    • 出版社:清华大学出版社
    • 开本:16开
    • ISBN:9787302667513
    • 出版周期:旬刊
    • 版权提供:清华大学出版社

     书名:  多目标贝叶斯优化——面向大模型的超参调优理论
     出版社:  清华大学出版社
     出版日期  2024-07
     ISBN号:  9787302667513
    多目标贝叶斯优化——面向大模型的超参调优理论
    徐华王洪燕袁源著
    清华大学出版社
    北京内容简介以大规模深度学习模型超参调优为代表的评估代价昂贵的多目标优化问题被称为昂贵的多目标优化问题(Expensive MOPs)。昂贵的多目标优化问题广泛存在于现实世界中的不同应用领域。其优化目标通常为黑盒函数,且求得其真实目标函数值的评估代价高昂;而现实世界的有限资源和成本只允许求解器进行有限次函数评估,用于搜索该类问题的帕累托前沿。多目标贝叶斯优化方法能有效地求解该类问题,其利用高斯过程代理模型近似原优化问题以降低函数评估成本,并使用能平衡利用和探索之间关系的获取函数推荐候选解。本书关注大模型超参调优这类昂贵的多目标优化问题,针对其经典的求解方法(贝叶斯优化方法)开展理论方法探索。针对低维和高维决策空间中的并行化函数评估问题、获取函数优化效率问题以及维度灾难和边界问题,本书对多目标贝叶斯优化方法进行四方面的研究,旨在有效地求解低维和高维昂贵的多目标优化问题。
    本书可作为当前大模型超参调优理论研究与应用实践的指导书,也可作为演化学习、智能优化、大数据及人工智能等相关专业的教材和参考书。
    本书封面贴有清华大学出版社防伪标签,无标签者不得销售。
    版权所有,侵权必究。举报: 01062782989,beiqinquan@tup.tsinghua.edu.cn。图书在版编目(CIP)数据
    多目标贝叶斯优化: 面向大模型的超参调优理论/
    徐华, 王洪燕, 袁源著. 北京: 清华大学出版社,
    2024. 7.  ISBN 9787302667513
    Ⅰ. TP274
    中国国家版本馆CIP数据核字第2024CL1749号责任编辑: 白立军常建丽
    封面设计: 刘乾
    责任校对: 王勤勤
    责任印制: 刘菲出版发行: 清华大学出版社
    网址

     


     

    深入多层次研究:全面探索各类代表性的多目标智能优化方法在各个领域中的实际应用,为专业人员提供实用指南和解决方案,助力问题解决与智能决策。
    启发自然界的算法:借鉴生物系统的智慧,采用仿生智能优化算法,突破传统数学解析方法,解决昂贵多目标优化问题,提供独到的优化解决方案。
    专注高维多目标贝叶斯优化:关注高维目标空间中的挑战,引入先进算法和技术,包括目标降维和代理模型的辅助优化,为处理现实世界中复杂智能决策问题提供关键方法和工具。

     

    目录
    第1章概述1
    1.1研究背景1
    1.2昂贵的多目标优化问题3
    1.3研究现状分析5
    1.3.1低维多目标贝叶斯优化方法5
    1.3.2高维多目标贝叶斯优化方法10
    1.4本书的主要研究内容12
    1.5本书的结构安排14
    第2章背景知识15
    2.1基本概念15
    2.2贝叶斯优化16
    2.3高斯过程18
    2.3.1均值函数和核函数选择19
    2.3.2超参数选择20
    2.4获取函数21
    2.4.1期望改进22
    2.4.2知识梯度23
    2.4.3熵搜索和预测熵搜索27
    2.4.4多步最优获取函数28
    2.5标准合成的多目标测试问题29
    2.6多目标优化方法的评价指标30
    2.7本章小结33
    第3章研究综述34
    3.1综述部分的总体结构34
    3.2相关研究工作34
    3.2.1高维优化34
    3.2.2组合优化37
    3.2.3噪声和鲁棒优化38
    3.2.4昂贵的约束优化41
    3.2.5多目标优化43
    3.2.6多任务优化46
    3.2.7多保真度优化49
    3.2.8迁移学习/元学习50
    3.2.9并行/批次贝叶斯优化52
    3.3本章小结53
    目录 多目标贝叶斯优化——面向大模型的超参调优理论〖2〗〖2〗 〖1〗 第4章基于自适应采样的批量多目标贝叶斯优化方法54
    4.1引言54
    4.2ParEGO简介与局限性分析55
    4.3基于自适应采样的批量多目标贝叶斯优化的研究方法56
    4.3.1算法框架57
    4.3.2初始化58
    4.3.3函数评估与目标函数聚合58
    4.3.4获取函数58
    4.3.5自适应批量采样60
    4.3.6高斯模型及更新62
    4.4实验63
    4.4.1实验设置63
    4.4.2标准合成测试集上的对比结果65
    4.4.3采样策略对算法性能的影响74
    4.5神经网络超参调优任务案例分析77
    4.5.1问题描述78
    4.5.2实验结果与分析78
    4.6本章小结81
    第5章基于块坐标更新的高维多目标贝叶斯优化方法82
    5.1引言82
    5.2基于块坐标更新的高维多目标贝叶斯优化的研究方法83
    5.2.1算法框架83
    5.2.2初始化84
    5.2.3函数评估与目标函数聚合85
    5.2.4块坐标更新87
    5.2.5贪心获取函数89
    5.2.6高斯模型及候选解推荐90
    5.3实验91
    5.3.1实验设置91
    5.3.2标准合成测试集上的对比结果92
    5.3.3块坐标更新对决策空间降维的影响100
    5.3.4贪心获取函数对平衡收敛性与多样性的影响103
    5.3.5块大小d对算法性能的影响106
    5.3.6上下文向量对算法性能的影响108
    5.4本章小结109
    第6章基于可加高斯结构的高维多目标贝叶斯优化方法111
    6.1引言111
    6.2ADDGPUCB简介与局限性分析112
    6.3基于可加高斯结构的高维多目标贝叶斯优化的研究方法114
    6.3.1算法框架114
    6.3.2初始化115
    6.3.3函数评估与目标函数聚合116
    6.3.4决策空间划分学习116
    6.3.5可加高斯模型117
    6.3.6可加双目标获取函数和候选解推荐118
    6.3.7模型更新119
    6.4实验120
    6.4.1实验设置120
    6.4.2标准合成测试集上的对比结果121
    6.4.3可加双目标获取函数对算法性能的影响125
    6.5本章小结127
    第7章基于变量交互分析的高维多目标贝叶斯优化方法128
    7.1引言128
    7.2基于变量交互分析的高维多目标贝叶斯优化的研究方法129
    7.2.1算法框架129
    7.2.2初始化与函数评估131
    7.2.3可分多目标问题重定义131
    7.2.4决策空间划分学习131
    7.2.5多目标可加高斯模型133
    7.2.6候选解推荐134
    7.2.7模型更新135
    7.3实验135
    7.3.1实验设置135
    7.3.2标准合成测试集上的对比结果136
    7.3.3获取函数对算法性能的影响137
    7.4本章小结139
    第8章智能交通领域优化问题案例分析140
    8.1问题描述140
    8.1.1汽车侧面碰撞问题140
    8.1.2带有偏好信息的汽车驾驶室设计问题141
    8.2实验结果与分析142
    8.2.1汽车侧面碰撞问题的结果分析143
    8.2.2带有偏好信息的汽车驾驶室设计问题的结果分析143
    8.3本章小结145
    第9章未来研究工作展望146
    9.1分布式贝叶斯优化146
    9.2联邦贝叶斯优化147
    9.3动态优化147
    9.4异构评估148
    9.5算法公平性148
    9.6非平稳优化149
    9.7负迁移150
    第10章全书总结151
    参考文献153
    附录178
    英文对照表178
    图索引180
    表索引182

     

    前言
    习近平总书记在党的二十大报告中指出: 教育、科技、人才是全面建设社会主义现代化国家的基础性、战略性支撑。必须坚持科技是第一生产力、人才是第一资源、创新是第一动力,深入实施科教兴国战略、人才强国战略、创新驱动发展战略,这三大战略共同服务于创新型国家的建设。报告同时强调: 推动战略性新兴产业融合集群发展,构建新一代信息技术、人工智能、生物技术、新能源、新材料、高端装备、绿色环保等一批新的增长引擎。
    当前,人工智能日益成为引领新一轮科技革命和产业变革的核心技术。其中,智能优化作为一种重要的计算方法,其在大模型调参、控制系统设计、工业调度、软件工程等实际应用中,已经展现出独特优势和巨大潜力。该类问题通常需要耗费大量时间和成本的模拟或实验,导致极高的计算成本。以广泛应用于自然语言处理、音频分析和计算机视觉中的大模型超参调优任务为例,人们希望在提高模型精度的同时降低网络的复杂度或训练时间。对于大模型而言,模型的单次训练可能需要许多 GPU 计算天数(GPU Days)。
    以超参数调优任务为例,较好的深度学习大模型应该具有较低的训练成本和较高的准确率,但实际很难找到一组超参数能够同时使这两个子目标达到最优。如果是大模型或超大模型训练,需要的评估代价会更高昂。如上述超参调优任务评估代价昂贵的多目标优化问题被称为昂贵的多目标优化问题。
    面向求解昂贵的多目标问题的贝叶斯优化方法,本书围绕低维决策空间和高维决策空间中的串行函数评估、获取函数优化效率低、维度灾难和边界问题等关键问题,针对求解昂贵的多目标优化问题的贝叶斯优化方法展开四方面的研究。针对上述理论研究方法,本书还给出理论方法在一个真实昂贵的多目标优化问题数据集上的应用验证,以验证理论方法的有效性和可行性。
    本书是演化学习与智能优化系列专著的第三部,作者的研究团队后续将及时梳理和归纳总结相关的最新成果,以系列图书的形式分享给


     

    1
    • 商品详情
    • 内容简介

    售后保障

    最近浏览

    猜你喜欢

    该商品在当前城市正在进行 促销

    注:参加抢购将不再享受其他优惠活动

    x
    您已成功将商品加入收藏夹

    查看我的收藏夹

    确定

    非常抱歉,您前期未参加预订活动,
    无法支付尾款哦!

    关闭

    抱歉,您暂无任性付资格

    此时为正式期SUPER会员专享抢购期,普通会员暂不可抢购