预售 生成式AI安全:GENAI驱动的智能安全体系 张栋 著 计算机控制仿真与人工智能专业科技 正版图书籍 机械工业出

●目　　录　Contents<br />前　言<br />第一部分　GenAI：从基础到前沿<br />第1章　GenAI概述　3<br />1.1　GenAI的产生　3<br />1.1.1　AI的发展历程　3<br />1.1.2　什么是GenAI　5<br />1.1.3　与GenAI相关的核心概念　6<br />1.2　GenAI与其他AI类型的比较　8<br />1.2.1　GenAI与基于规则的AI　8<br />1.2.2　GenAI与专家系统　9<br />1.2.3　GenAI与演化算法　11<br />1.3　GenAI带来变革的本质原因　13<br />1.4　GenAI在不同领域的应用　18<br />1.4.1　医疗保健　18<br />1.4.2　金融服务　20<br />1.4.3　教育　21<br />1.4.4　网络安全　22<br />1.4.5　娱乐与媒体　23<br />1.5　GenAI的挑战与未来发展　24<br />1.5.1　AI的扩张与失控风险　24<br />1.5.2　两种思潮：有效加速主义<br />与有效利他主义　26<br />1.5.3　应对风险的策略：从伦理<br />到技术　27<br />1.5.4　GenAI的未来发展　28<br />第2章　GenAI的关联学科及<br />应用　29<br />2.1　GenAI与自然语言处理　29<br />2.2　GenAI与数据科学　33<br />2.3　GenAI与人脑认知科学　36<br />2.4　GenAI与决策科学　38<br />2.5　GenAI与复杂性科学　40<br />第3章　GenAI的核心技术　43<br />3.1　GenAI的核心算法和架构　43<br />3.1.1　生成模型的算法　43<br />3.1.2　生成对抗网络　44<br />3.1.3　变分自编码器　45<br />3.1.4　循环神经网络　46<br />3.1.5　递归生成网络　47<br />3.1.6　Transformer　48<br />3.1.7　强化学习　49<br />3.2　生成模型解析：从数据到<br />部署的系统化框架　51<br />3.3　GenAI模型评价指标　52<br />3.4　GenAI技术的下一步发展：<br />多模态与AI Agent　54<br />3.4.1　多模态　54<br />3.4.2　AI Agent　55<br />第二部分　未来防御：GenAI与<br />网络安全<br />第4章　GenAI在网络安全中的<br />发展　59<br />4.1　网络安全概述　59<br />4.2　GenAI在网络安全中的应用<br />与挑战　61<br />4.2.1　虚假新闻生成　61<br />4.2.2　深度伪造技术滥用　62<br />4.2.3　自动化网络攻击　63<br />4.2.4　人工智能对抗攻击　65<br />4.3　GenAI对网络安全的影响　66<br />第5章　GenAI在网络安全生命<br />周期中的影响与实践　68<br />5.1　安全和风险管理　68<br />5.1.1　背景　68<br />5.1.2　挑战　69<br />5.1.3　应用　71<br />5.1.4　案例　72<br />5.2　资产安全　75<br />5.2.1　背景　75<br />5.2.2　挑战　77<br />5.2.3　应用　78<br />5.2.4　案例　79<br />5.3　安全架构和工程　81<br />5.3.1　背景　81<br />5.3.2　挑战　83<br />5.3.3　应用　84<br />5.3.4　案例　84<br />5.4　身份识别和访问管理　88<br />5.4.1　背景　89<br />5.4.2　挑战　91<br />5.4.3　应用　91<br />5.4.4　案例　92<br />5.5　安全评估和测试　94<br />5.5.1　背景　94<br />5.5.2　挑战　95<br />5.5.3　应用　96<br />5.5.4　案例　97<br />5.6　安全运营　98<br />5.6.1　背景　99<br />5.6.2　挑战　99<br />5.6.3　应用　101<br />5.6.4　案例　101<br />5.7　软件开发安全　102<br />5.7.1　背景　103<br />5.7.2　挑战　104<br />5.7.3　应用　105<br />5.7.4　案例　106<br />第三部分　面对未知：GenAI的<br />内生安全风险<br />第6章　GenAI的内生安全<br />风险概述　111<br />6.1　GenAI面临的内生安全<br />风险　111<br />6.2　价值观对齐与AI伦理　116<br />第7章　GenAI的内生安全：<br />基于NIST AI RMF的<br />风险评估与实践　122<br />7.1　NIST AI RMF概述　122<br />7.2　GenAI系统风险评估过程<br />中的挑战　125<br />7.3　风险控制关键措施　127<br />7.3.1　风险映射：明确风险来源<br />与影响边界　127<br />7.3.2　风险度量：量化评估<br />与优先级排序　128<br />7.3.3　风险管理：组织层面的<br />资源分配与持续治理　129<br />7.3.4　场景化应用方案：贴合<br />实际与法规要求　130<br />7.3.5　测试-评估-验证-确认：<br />技术流程中的性能检测与<br />法律遵从　131<br />7.3.6　人机交互的复杂性与风险<br />应对　132<br />7.4　NIST AI RMF与大模型<br />价值观对齐的实践　133<br />7.4.1　NIST AI RMF对于价<br />值观对齐的总体思路　133<br />7.4.2　GenAI价值观对齐中的<br />核心技术　135<br />7.4.3　安全有监督微调与人类<br />反馈强化学习的局限性　140<br />7.4.4　价值观对齐技术的发展<br />趋势　141<br />第四部分　在边缘跳舞：AGI的<br />双面未来<br />第8章　从幻想到现实：AGI与<br />智能自主系统　147<br />8.1　什么是AGI　 147<br />8.2　什么是意识　150<br />8.3　管理主动型AI系统风险的<br />实践　156<br />8.4　智能自主系统带来的挑战　160<br />第9章　新型智慧崛起：从LLM<br />到多元智能的进化与<br />风险　165<br />9.1　AI是一种新的智慧形态　166<br />9.2　从复杂性与因果理论看GenAI<br />的不可解释性　167<br />9.3　如何控制更高级的智慧<br />形态　169<br />9.3.1　基于有限的规则无法<br />约束AI的行为　169<br />9.3.2　通过人机协作探索对于<br />AI的控制　170<br />9.4　智能的进化与风险　172<br /><br />