Merge index FAILED, rowid out of bounds

General Discussions - Russian
1

Доброго времени суток.
Периодически, после merge delta в основной падают запросы.
Проверка основного индекса через indextool, показала, что индекс некорректный.

Manticore 3.6.0 96d61d8@210504 release
Copyright (c) 2001-2016, Andrew Aksyonoff
Copyright (c) 2008-2016, Sphinx Technologies Inc (http://sphinxsearch.com)
Copyright (c) 2017-2021, Manticore Software LTD (https://manticoresearch.com)

using config file ‘/srv/www/sectionks/etc/manticore/manticore.conf’…
checking index ‘procedures’…
checking schema…
checking dictionary…
checking data…
FAILED, rowid out of bounds (wordid=0(0), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(0), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(0121200004720000115), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(0121200004720000117), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(1), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(1), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(10), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(10), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(110), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(110), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(13), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(13), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(20431), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(20433), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(23164), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(23166), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(28), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(28), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(341), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(341), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(42), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(42), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(4444460004), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(4444460004), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(662878826), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(662878826), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(8878423), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(8878423), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(8889660), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(8889660), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(etpets), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(etpets), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(http), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(http), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(ipbidding), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(ipbidding), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(not), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(not), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(okpd2), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(okpd2), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(procedure), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(procedure), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(published), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(published), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(ru), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(ru), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(www), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(www), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(x52x), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(x52x), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(x6472x), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(x8889660x), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(x8889660x), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(x99x), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(x99x), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(xx), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(xx), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(в), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(в), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(всех), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(всех), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(гагарина), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(гагарина), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(городе), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(городе), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(для), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(для), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(дорогу), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(дорогу), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(железную), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(железную), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(и), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(и), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(из), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(из), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(края), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(края), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(любых), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(любых), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(материалов), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(материалов), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(московская), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(московская), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(мосты), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(мосты), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(невинномысске), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(невинномысске), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(нэп), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(нэп), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(обл), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(обл), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(организация), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(организация), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(пешеходов), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(пешеходов), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(по), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(по), rowid=1473713999)
FAILED, rowid out of bounds (wordid=0(путепровода), rowid=1473627599)
FAILED, rowid out of bounds (wordid=0(путепровода), rowid=1473713999)
checking rows…
checking attribute blocks index…
checking kill-list…
checking dead row map…
checking doc-id lookup…
check FAILED, 99 of 204 failures reported, 2.0 sec elapsed

Повторные индексации delta и merge в основной - не исправляли ситуацию.
Только индексация основного индекса нормализовала ситуацию, но ситуация с merge повторяется, раз в 2-3 дня.

2

Здравствуйте. Можете нам на ftp заслать пару валидных индексов, которые при мердже дадут поломанный?

3

Проблема в том, что далеко не каждый merge некорректный.
Могу снять допустим текущее состояние, пару(дельту и основной), и при возникновении ошибки возьму также пару.
Отпишусь при повторном инциденте.

4

тогда вам нужно делать backup main и delta ПЕРЕД мержем и если мерж получился плохим - проверять индексы в backup и если они хорошие - выслать их нам

5

Понял, добавлю проверку.

6

Проблема была в последовательном, почти без задержки выполнении --rotate delta и --merge main delta.
В некоторых случаях merge портил индекс, это показала проверка indextool и последующая блокировка .lock файлом аналогичных операций.

Ниже показан результат выполнения bash скрипта, с ротацией, проверкой indextool, затем merge и снова проверка indextool . Также создавались backup-файлы индексов, перед каждой операцией и lock-файл для блокировки последующих ротейтов.
Можно увидеть, что после merge indextool сигнализирует об ошибке индекса.

1810×751

Решено установкой sleep 1; , между rotate и merge .