当删除mysq查询限制时,来自mysql的solr dataimport会死掉

发布时间：2021-03-05 13:49:39 所属栏目：MySql教程来源：网络整理

导读：我有一个mysql数据库,在一个表中有超过400,000,000条记录. 当我设置限制时,Solr导入运行正常.我的最后一次测试是10,它在大约5分钟内成功运行.在Solr中拥有完整的数据集是必需的,当我删除限制时,solr报告它已经丢失了与mysql的连接. 我相信我遇到的是当前配置

副标题[/!--empirenews.page--]

我有一个mysql数据库,在一个表中有超过400,000,000条记录.

当我设置限制时,Solr导入运行正常.我的最后一次测试是10,它在大约5分钟内成功运行.在Solr中拥有完整的数据集是必需的,当我删除限制时,solr报告它已经丢失了与mysql的连接.

我相信我遇到的是当前配置中的错误配置或限制.

这是来自tomcat的catalina.out日志

Caused by: java.lang.RuntimeException: org.apache.solr.handler.dataimport.DataImportHandlerException: Unable to execute query: SELECT id as solr_id,id,firstname,lastname,state from names Processing Document # 1
        at org.apache.solr.handler.dataimport.DocBuilder.buildDocument(DocBuilder.java:621)
        at org.apache.solr.handler.dataimport.DocBuilder.doFullDump(DocBuilder.java:327)
        at org.apache.solr.handler.dataimport.DocBuilder.execute(DocBuilder.java:225)
        ... 3 more
Caused by: org.apache.solr.handler.dataimport.DataImportHandlerException: Unable to execute query: SELECT id as solr_id,state from names Processing Document # 1
        at org.apache.solr.handler.dataimport.DataImportHandlerException.wrapAndThrow(DataImportHandlerException.java:72)
        at org.apache.solr.handler.dataimport.JdbcDataSource$ResultSetIterator.


MySQL日志

130616 16:15:29 mysqld_safe Starting mysqld daemon with databases from /var/lib/mysql
130616 16:15:29 [Warning] option 'max_allowed_packet': unsigned value 53687091200 adjusted to 1073741824
130616 16:15:29  InnoDB: Initializing buffer pool,size = 22.0G
130616 16:15:30  InnoDB: Completed initialization of buffer pool
130616 16:15:31  InnoDB: Started; log sequence number 49 1885610091
130616 16:15:31 [Note] Event Scheduler: Loaded 0 events
130616 16:15:31 [Note] /usr/libexec/mysqld: ready for connections.
Version: '5.1.69'  socket: '/var/lib/mysql/mysql.sock'  port: 3306  Source distribution

MySQL表

CREATE TABLE `names` (
  `id` int(11) unsigned NOT NULL AUTO_INCREMENT,`state` varchar(12) DEFAULT NULL,`source` varchar(128) DEFAULT NULL,`lastname` varchar(128) DEFAULT NULL,`firstname` varchar(128) DEFAULT NULL,PRIMARY KEY (`id`),KEY `source-state` (`source`,`state`),KEY `first-last` (`firstname`,`lastname`),KEY `first-last-state` (`firstname`,`lastname`,`state`)
) ENGINE=InnoDB AUTO_INCREMENT=433924211 DEFAULT CHARSET=utf8;

MySQL配置

                                                （编辑：辽源站长网）
【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!

1/3

尾页