solr查询量增加后,单服务器承受不了搜索压力是,需要多服务来支撑,Solr1.4后自己提供了复制机制ReplicationHandler。
ReplicationHandler是个RequestHandler,在solrconfig.xml配置ReplicationHandler即可使用。
Master配置
<requestHandler name="/replication" class="solr.ReplicationHandler" >
<lst name="master">
<!--什么时候出发同步,参数名replicateAfter,取值可以是startup commit optimize -->
<str name="replicateAfter">startup</str>
<str name="replicateAfter">commit</str>
<!--数据备份 参数名backupAfter 同样可以似乎startup commit optimize -->
<!-- <str name="backupAfter">optimize</str> -->
<!--配置要同步的配置文件 -->
<str name="confFiles">schema.xml,stopwords.txt,elevate.xml</str>
<!--提交同步时间间隔,默认是10秒,一般不用改动 -->
<str name="commitReserveDuration">00:00:10</str>
</lst>
</requestHandler>
Slave配置
<requestHandler name="/replication" class="solr.ReplicationHandler" >
<lst name="slave">
<!--主服务的同步地址-->
<str name="masterUrl">http://master_host:port/corename/replication</str>
<!--同步轮询的时间间隔,是应用还击而定 -->
<str name="pollInterval">00:00:20</str>
<str name="compression">internal</str>
<!--Http相关参数设置-->
<str name="httpConnTimeout">5000</str>
<str name="httpReadTimeout">10000</str>
<!-- 如果主服务设置认证,在此设置登录用户名密码 -->
<str name="httpBasicAuthUser">username</str>
<str name="httpBasicAuthPassword">password</str>
</lst>
</requestHandler>
Solr同步是通过Slave周期性轮询来检查Master的版本,如果Master有新版本,那么就开始同步复制。
1. Slave发出一个filelist命令来收集文件列表。这个命令将返回一系列元数据(size,lastmodified,alias等等)
2. Slave查看它本地是否有这些文件,然后它会开始下载缺失的文件(使用命令filecontent)。如果连接失败,则下载终止。它将重试5次,如果仍然失败则放弃。
3. 文件被下载到了一个临时目录。因此,下载中途出错不会影响到slave。
4. 一个commit命令被ReplicationHandler执行,然后新的索引被加载进来
solr同步复制就那么简单。
分享到:
相关推荐
hbase indexer是负责将hbase的数据自动同步到solr中建立索引,不需要写代码将hbase的数据同步到solr中创建索引。尽少开发工作,和减少在在并发环境下手工创建索引可能带来性能问题。
Solr 索引 测试报告 性能
Solr接受xml格式数据更新、提交、修改索引。
solr配置中文解析器和将数据导入solr索引库时所需的jar包
主要讲解了 solr客户端如何调用带账号密码的solr服务器调用,实现添加索引和查询索引,以及分组查询
solr测试数据,数据文件
solr创建索引并查询,希望能够帮助有需要的人。。。
solr同步数据库需要jar包,多个solr同步数据库数据的jar包。压缩文件里面有说明
solr初学者很受用的!讲解了solr怎么创建索引的及其原理,以及查询
今天小编就为大家分享一篇对python 操作solr索引数据的实例详解,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
Dubbo+Solr+RabbitMQ实现Solr数据同步
该jar包(solr-dataimportscheduler-1.2.jar)实现了solr数据同步的增量、全量同步,还添加了登录验证功能,同时还包含了源码,亲测可用
solr入门环境搭建,sorl ik分词器分词,solr数据库数据导入,solr同步等技术实现及配置.版本solr7.4.0 + ikanalyzer-solr5 + solr-dataimport-scheduler
使用solr做数据库定时同步更新数据和索引时用到该jar,经过本人测试通过,放心使用. 支持solr5.x,solr6.x
在tomcat中配置solr,以及solr 全文搜索建立索引的相关方法总结
solr索引服务基础知识[收集].pdf
使用多线程方式 通过solrj 接口向solr新增索引信息
solr服务开启、停止、重启: cd到solr的bin目录 ./solr start | restart | stop -force ./solr start -p 9923 -force ./solr stop -p 9923 -force ...solr 全量数据迁移方法:(数据结构及数据全部迁移出来了
亲测solr7.7.2可用,并且在原有的无需验证的基础上增加了带账号密码验证的功能,所以有两个jar包,网友可根据自己的需要下载。账号密码验证的格式为user_pwd=user:password
solr同步调优,达到15分钟处理10万条数据更新,大约20万次solr操作(删除和插入),失败率1/10万