自己动手写分布式搜索引擎 罗刚、崔智杰 著 专业科技 文轩网

目 录 章 搜索引擎 1 1.1 搜索引擎基本模块 2 1.2 开发环境 3 1.3 搜索引擎工作原理 4 1.3.1 网络爬虫 5 1.3.2 全文索引 5 1.3.3 搜索用户界面 8 1.3.4 分布式计算 9 1.3.5 文本挖掘 9 1.4 算法基础 9 1.4.1 折半查找 10 1.4.2 排序 10 1.4.3 最小生成树 12 1.5 软件工具 15 1.6 单元测试 15 1.7 本章小结 17 1.8 术语表 18 第2章 自己动手写全文检索 19 2.1 构建索引 22 2.2 生成索引文件 23 2.3 读入索引文件 25 2.4 查询 26 2.5 有限状态机 29 2.5.1 运算 29 2.5.2 编辑距离有限状态机 30 2.6 本章小结 32 第3章 Lucene的原理与应用 33 3.1 Lucene快速入门 34 3.1.1 创建索引 34 3.1.2 查询索引库 35 3.1.3 创建文档索引 36 3.1.4 查询文档索引 36 3.2 创建和维护索引库 37 3.2.1 设计索引库结构 37 3.2.2 创建索引库 38 3.2.3 向索引库中添加索引文档 40 3.2.4 删除索引库中的索引文档 43 3.2.5 更新索引库中的索引文档 44 3.2.6 关闭索引库 45 3.2.7 索引的优化与合并 45 3.2.8 灵活索引 46 3.2.9 索引文件格式 47 3.2.10 定制索引存储结构 49 3.2.11 写索引集成到爬虫 54 3.2.12 多线程写索引 56 3.2.13 分发索引 58 3.2.14 修复索引 61 3.3 查找索引库 61 3.3.1 查询过程 61 3.3.2 常用查询 64 3.3.3 基本词查询 65 3.3.4 模糊匹配 65 3.3.5 布尔查询 67 3.3.6 短语查询 69 3.3.7 跨度查询 71 3.3.8 FieldScoreQuery 74 3.3.9 排序 77 3.3.10 使用Filter筛选搜索结果 81 3.3.11 使用Collector筛选搜索 结果 82 3.3.12 遍历索引库 85 3.3.13 关键词高亮显示 88 3.3.14 列合并 91 3.3.15 关联内容(BlockJoinQuery) 92 3.3.16 查询大容量索引 94 3.4 读写并发 95 3.5 Lucene深入介绍 95 3.5.1 整体结构 96 3.5.2 索引原理 97 3.5.3 文档值 100 3.5.4 FST 102 3.6 查询语法与解析 102 3.6.1 JavaCC 104 3.6.2 生成一个查询解析器 114 3.6.3 简单的查询解析器 114 3.6.4 灵活的查询解析器 114 3.7 检索模型 119 3.7.1 向量空间模型 121 3.7.2 DFR 125 3.7.3 BM25概率模型 130 3.7.4 BM25F概率模型 136 3.7.5 统计语言模型 138 3.7.6 相关性反馈 140 3.7.7 隐含语义索引 140 3.7.8 学习评分 141 3.7.9 查询与相关度 142 3.7.10 使用Payload调整相关性 142 3.8 查询原理 146 3.8.1 布尔匹配 147 3.8.2 短语查询 150 3.8.3 索引统计 150 3.8.4 相关性 152 3.9 分析文本 155 3.9.1 Analyzer 156 3.9.2 TokenStream 162 3.9.3 定制Tokenizer 164 3.9.4 重用Tokenizer 166 3.9.5 有限状态转换 167 3.9.6 索引数值列 168 3.9.7 检索结果排序 171 3.9.8 处理价格 171 3.10 Lucene中的压缩算法 172 3.10.1 变长压缩 172 3.10.2 Gamma 174 3.10.3 PForDelta 176 3.10.4 VSEncoding 178 3.10.5 前缀压缩 179 3.10.6 差分编码 180 3.10.7 静态索引裁剪 182 3.11 搜索中文 182 3.11.1 Lucene切分原理 185 3.11.2 Lucene中的Analyzer 186 3.11.3 自己写Analyzer 188 3.11.4 Lietu中文分词 191 3.11.5 字词混合索引 191 3.12 搜索英文 196 3.12.1 英文分词 196 3.12.2 词性标注 199 3.12.3 原型化 201 3.13 索引数据库中的文本 202 3.14 优化使用Lucene 204 3.14.1 系统优化 204 3.14.2 查询优化 205 3.14.3 实现时间加权排序 207 3.14.4 词性标注 210 3.14.5 个性化搜索 213 3.15 实时搜索 213 3.16 语义搜索 215 3.16.1 发现同义词 215 3.16.2 垂直领域同义词 219 3.16.3 同义词扩展 219 3.16.4 语义标注 225 3.17 本章小结 225 3.18 术语表 226 第4章 搜索引擎用户界面 227 4.1 实现Lucene搜索 228 4.1.1 测试搜索功能 228 4.1.2 加载索引 229 4.2 搜索页面设计 231 4.2.1 Struts2实现的搜索界面 232 4.2.2 用于显示搜索结果的 Taglib 234 4.2.3 实现翻页 235 4.3 实现搜索接口 238 4.3.1 编码识别 238 4.3.2 布尔搜索 241 4.3.3 指定范围搜索 241 4.3.4 搜索结果排序 242 4.3.5 索引缓存与更新 243 4.4 实现分类统计视图 249 4.4.1 单值列分类统计 255 4.4.2 侧钻 256 4.5 实现相似文档搜索 257 4.6 实现AJAX搜索联想词 259 4.6.1 估计查询词的文档频率 259 4.6.2 搜索联想词总体结构 259 4.6.3 服务器端处理 260 4.6.4 浏览器端处理 265 4.6.5 拼音提示 267 4.6.6 部署总结 267 4.7 推荐搜索词 268 4.7.1 挖掘相关搜索词 268 4.7.2 使用多线程计算相关 搜索词 270 4.8 查询意图理解 271 4.8.1 拼音搜索 271 4.8.2 无结果处理 272 4.9 集成其他功能 272 4.9.1 拼写检查 272 4.9.2 分类统计 276 4.9.3 相关搜索 281 4.9.4 再次查找 284 4.9.5 搜索日志 284 4.10 查询分析 286 4.10.1 历史搜索词记录 286 4.10.2 日志信息过滤 286 4.10.3 信息统计 287 4.10.4 挖掘日志信息 289 4.10.5 查询词意图分析 290 4.11 部署网站 290 4.11.1 部署到Web服务器 290 4.11.2 防止攻击 292 4.12 手机搜索界面 295 4.13 本章小结 296 第5章 Solr分布式搜索引擎 297 5.1 Solr简介 298 5.2 Solr基本用法 299 5.2.1 Solr服务器端的配置与中文 支持 300 5.2.2 数据类型 304 5.2.3 解析器 306 5.2.4 把数据放进Solr 307 5.2.5 删除数据 312 5.2.6 查询语法 313 5.3 使用SolrJ 313 5.3.1 Solr客户端与搜索界面 313 5.3.2 Solr索引库的查找 315 5.3.3 分类统计 317 5.3.4 高亮 319 5.3.5 同义词 322 5.3.6 嵌入式Solr 322 5.3.7 Spring实现的搜索界面 323 5.3.8 索引分发 331 5.3.9 Solr搜索优化 333 5.4 从FAST Search移植到Solr 336 5.5 Solr扩展与定制 337 5.5.1 缺省查询 337 5.5.2 插件 338 5.5.3 Solr中字词混合索引 338 5.5.4 相关检索 340 5.5.5 搜索结果去重 341 5.5.6 定制输入输出 344 5.5.7 聚类 348 5.5.8 分布式搜索 348 5.5.9 分布式索引 352 5.5.10 SolrJ查询分析器 353 5.5.11 扩展SolrJ 360 5.5.12 扩展Solr 361 5.5.13 日文搜索 364 5.5.14 查询Web图 365 5.6 SolrNet 367 5.6.1 使用SolrNet实现全文搜索 367 5.6.2 实现原理 370 5.6.3 扩展SolrNet 371 5.7 Solr的PHP客户端 373 5.8 Solr的其他客户端 376 5.9 为网站增加搜索功能 376 5.10 SolrCloud 377 5.10.1 Zab协议 377 5.10.2 ZooKeeper 377 5.10.3 使用SolrCloud 379 5.10.4 SQL查询 380 5.11 Solr原理 381 5.11.1 支持Solr的中文分词 381 5.11.2 缓存技术 383 5.12 本章小结 384 第6章 ElasticSearch分布式搜索 引擎 387 6.1 安装 389 6.2 搜索集群 390 6.2.1 Zen发现机制 390 6.2.2 JGroups 391 6.3 创建索引 393 6.4 Java客户端接口 396 6.4.1 创建索引 398 6.4.2 插入数据 398 6.4.3 索引库结构 400 6.5 查询 401 6.6 高亮显示 405 6.7 分页 406 6.8 中文搜索 407 6.8.1 中文AnalyzerProvider 407 6.8.2 字词混合索引 409 6.9 分组统计 412 6.10 与爬虫集成 413 6.11 Percolate 413 6.12 权限 414 6.13 SQL支持 415 6.14 本章小结 419