Как показано в части 1 — Ключевые метрики мониторинга Citkhouse — Настройка, настройка и операции Chickouse требуют глубоких представлений в показателях производительности, такие как замки, статус репликации, операции слияния, использование кэша и многое другое. Sematext предоставляет отличную альтернативу другим Инструменты мониторинга кликиуса , более всеобъемлющий — и простой в настройке — мониторинговое решение для билевы и других технологий в вашей инфраструктуре.
Сколько у вас волос?
Инструменты мониторинга с открытым исходным кодом бесплатны, но ваше время нет. Относительно говоря, это на самом деле довольно дорого. Таким образом, Sematext стремится сэкономить вам время, усилия …. И ваши волосы.
Вот несколько Вещи, которые вы будете Не ** должны делать при использовании Sematext для CliCkouse ** Мониторинг:
- выяснить, какие метрики собирают и какие из них игнорируют
- Дайте метрики значимые этикетки
- охота на метрические описания в документах, так что вы знаете, что каждый из них на самом деле показывает
- Создайте графики для группировки метрик, которые вы действительно хотите на одних и тех же диаграммах, а не отдельных диаграмм
- Выясните, для каждой метрики, агрегация к использованию (мин? Макс? avg? что-то другое?)
- Создайте приборные панели, чтобы объединить диаграммы с метриками, которые вы обычно хотите увидеть вместе
- Настройте основные правила оповещения
Вышесказанное даже не полная история. Хотите собрать журналы кликов? Хочу их структурировать? Подготовьтесь делать больше фонарных работ. Sematext делает все это автоматически для вас!
В этом посте мы посмотрим, как Sematext предоставляет более всеобъемлющие — и легко настроить — мониторинг для билевы и других технологий в вашей инфраструктуре, объединяя события, журналы и метрики вместе в одном интегрированном Полная платформа наблюдаемости стека Отказ Используя Sematext Агент мониторинга с открытым исходным кодом И его интеграции, которые также являются открытыми источниками, вы можете следить за всей всей инфраструктурой и приложениями, а не только в вашей биржевой основе. Вы также можете получить более глубокую видимость в свой полный стек, собирая обработку и анализ ваших журналов.
Мониторинг клики
Сбор биржевых метрик
Интеграция Sematext Citchouse собирает Более 70 различных биржевых метрик Для системы, запросов, слияния дерева, репликации, репликов, маркировки кеша, R/W буферы, словари, замки, распределенного двигателя, а также ошибок зоофирки и времени ожидания. Sematext поддерживает и поддерживает Официальная интеграция мониторинга кликиуса Отказ Более того, интеграция Chickhouse Sematext настраивается и открытый источник.
Итоги: Вам не нужно иметь дело с настройкой агента для коллекции метрики, которая является первым огромным временем!
Установка мониторинга агента
Настройка агента мониторинга занимает менее 5 минут:
- Создайте приложение для билевы в Интеграции/Обзор (или Sematext Cloud Europe ). Это позволит вам установить агент и контролировать доступ к вашему мониторингу и журналам данных. Короткий Что такое приложение в облаке Sematext видео имеет более подробную информацию.
- Назовите свой приложение для мониторинга кликов и, если вы хотите также собрать журналы кликов, создайте приложение журналов по пути.
- Установите агент Sematext в соответствии с Инструкция по настройке отображается в пользовательском интерфейсе.
Например, на Ubuntu добавьте пакеты Sematext Linux со следующей командой:
echo "deb http://pub-repo.sematext.com/ubuntu sematext main" | sudo tee /etc/apt/sources.list.d/sematext.list \> /dev/null wget -O - https://pub-repo.sematext.com/ubuntu/sematext.gpg.key | sudo apt-key add - sudo apt-get update sudo apt-get install spm-client
Затем установить мониторинг кликиуса, предоставляя данные подключения сервера Clickouse:
sudo bash /opt/spm/bin/setup-sematext --monitoring-token --app-type clickhouse --agent-type standalone --SPM\_MONITOR\_CLICKHOUSE\_DB\_USER '' --SPM\_MONITOR\_CLICKHOUSE\_DB\_PASSWORD '' --SPM\_MONITOR\_CLICKHOUSE\_DB\_HOST\_PORT 'localhost:8123'
Последний шаг, иди возьми напиток .. но спешите — Metrics Citchouse начнет появляться в своих графиках менее чем за минуту.
Пакет мониторинга мониторинга
Когда вы открываете приложение Chickouse, вы найдете предварительно определенный набор панелей мониторинга, которые организуют более 70 метрик клики и общее Сервер Мониторинг В предопределенных диаграммах сгруппированы в интуитивно организованный набор мониторинговых панелей.
- Обзор с диаграммами для всех ключевых метрик
- Метрики операционной системы, такие как CPU, память, сеть, использование диска и т. Д.
- Metrics Citchouse
- Запрос : время запроса, счет запроса, Запрос памяти
- Слияние : объединенные байты, счет слияния, объединенные ряды
- Статистика Мергетри : размер таблицы на диске, счетчик строки и счет активной части
- Репликация : Проверки деталей репликации, прошедшие проверки деталей репликации, потерянные реплицированные детали, распределенное соединение выходит на пенсию и распределенное соединение Не удается
- Zookeeper : Разбивка различных ошибок зоофирки, зоопарк ждать время и лидер выборов
- Реплики : Состояние репликации, детали реплики, размер очереди реплики, вставки очереди реплики, очередь реплики
- Система : Статистика распределительной памяти, активные подключения HTTP и TCP, сетевые ошибки и статистика словаря кеша
- R/W буфер : Читает/пишет, открытые файлы и сбои дескриптора файла
- Марк кеш : Марка кэш-Хиты и пропуги и размер кэша
- Замки : Замок приобретенные блоки чтения, RW Lock Reader ждать время, замок записывать время ожидания, заблокировать чтение ожидания времени ожидания
Клавичные метрики Клики в Sematext Cloud
Уведомления обложенных настроек
Чтобы сохранить вам Time Sematext автоматически создает набор правил оповещения по умолчанию, таких как оповещения для пробела с низким диском. Вы можете создавать дополнительные оповещения на любой метрике. Смотреть Оповещения в облаке сематестки Больше подробностей.
Оповещение на метрике билетов
Есть 3 типа оповещений В сематестке:
- Предупреждения о сердцебиениях , что уведомило вас, когда сервер биена CICKBOOSH DB
- Классика Пороговые оповещения на основе которые уведомили вас, когда метрическое значение пересекает заранее определенный порог
- Оповещения на основе статистической Обнаружение аномалии которые уведомили вас, когда метрические значения внезапно изменились и отклоняются от базовой линии
Давайте посмотрим, как на самом деле создать некоторые правила оповещения для метрик для билевы в анимации ниже. Диаграмма памяти обработки запросов показывает шип. Обычно у нас есть действительно низкая память запроса, близкая к 3 МБ, но видим, что она может прыгать до более 80 МБ. Чтобы создать правило оповещения на метрике, которую мы перейдем к расчету в правом верхнем углу графики и выберите «Создать предупреждение». Правило оповещения применяет фильтры с текущего представления, и вы можете выбрать различные параметры уведомления, такие как электронная почта или настроили Уведомление Крючки (Pagerduty, Slack, Victorops, Bigpanda, Opsgenie, Pusher, общие веб-капли и т. Д.). Оповещения запускаются либо путем обнаружения аномалии, наблюдая метрические изменения в заданном окне времени или с помощью использования классических пороговых предупреждений.
Создание предупреждения для памяти запроса клики
Logs для кликов
Логи для доставки
Так как имея Журналы и метрики в одной платформе Делает устранение неисправностей проще и быстрее. Вы можете использовать Многие грузоотправители журнала , но мы будем использовать Логин Потому что это легкий, простой в настройке, и потому что он может анализировать и структурировать журналы из коробки. Журнальный анализатор извлекает временной метку, тяжесть и сообщения. Для след запрос, анализатор журнала также извлекает уникальный идентификатор запроса для групповых журналов, связанных с выполнением запросов.
Шаг 1. Создать файлы приложения Чтобы получить токен приложения
Шаг 2. Установите пакет NPM Logagent NPM
sudo npm i -g @sematext/logagent
Если у вас нет узла, вы можете установить его легко. Например. На Debian/Ubuntu:
curl -sL https://deb.nodesource.com/setup\_10.x | sudo -E bash -sudo apt-get install -y nodejs
Шаг 3. Установите сервис Logagent, указав токен журналов и пути к файлам журнала Boghouse. Вы можете использовать -G ‘var/log/ /clickhouse*.log.log ` _ Доставка только в журналах с сервера Clickouse. Если вы запустите другие службы, такие как Zookeeker или MySQL на одном сервере, рассмотрите доставку всех журналов, используя _-g ‘var/log//*. Журнал’ Отказ Настройки по умолчанию отправляют все журналы из /var/log/**/*.log Когда -G Параметр не указан.
Logagent обнаруживает систему init и устанавливает SystemD или Script Services. На Mac OS X это создает службу запуска. Просто запустить:
sudo logagent-setup -i Ваш \ _Logs \ _token -g 'var/log/\ * \ */citkhouse \ *. Журнал # для региона ЕС: #sudo logagent-setup -i logs_token # -U logsene-receiver.eu.sematext.com # -G ‘var/log/* /citchouse .журнал
Сценарий настройки генерирует файл конфигурации в/etc/sematext/logagent.conf и запускает логин в качестве системного обслуживания.
Примечание, если вы запустите CICKHouse в контейнерах, Настройка Logagent для журналов контейнера Отказ Обратите внимание, что Сервер Clickouse не входит в консоль при запуске в контейнерах Отказ Вам необходимо установить модифицированный файл конфигурации сервера Clickhouse для/etc/clickhouse-server/config.xml в контейнере, чтобы включить ввение в консоль:
\
Поиск журнала и приборные панели
После того, как у вас есть журналы в Sematext, вы можете искать их при устранении неполадок, сохранить запросы, которые вы запускаете часто или Создайте свои индивидуальные журналы Dashboard Отказ
Поиск журналов клики
Log Search Syntax.
Если вы узнаете, как вы узнаете, как поискать с Google, вы будете знать Как искать ваши журналы В Sematext Cloud.
- Использовать И, или, не Операторы — например (Ошибка или предупреждение) не исключение
- Группа твоих И, или, не пункты — например Сообщение: (исключение или ошибка или время ожидания) и серьезность: (ошибка или предупреждение)
- Не люблю логические Используйте + и — включить и исключить- E.g. + Сообщение: Ошибка -Мессаж: Timeout -Host: db1.example.com
- Используйте явные полевые ссылки — E.g. сообщение : время ожидания
- Нужна поиск фразы? Используйте кавычки — например сообщение : » фатальная ошибка»
При копании через журналы вы можете найти одинаковых поисков снова и снова. Чтобы решить эту раздражение, Sematext позволяет сохранять запросы, чтобы вы могли быстро выполнить их, без необходимости выводить их. Пожалуйста, посмотрите, как Использование журналов для устранения неполадок упрощает вашу работу.
Оповещение в журналах билетов
Чтобы создать предупреждение о журналах, мы начнем с помощью запроса, который точно соответствует тем, что мы хотим быть предупрежденным. Чтобы создать предупреждение, просто нажмите на значок дискеты.
Аналогично настройке правил метрических предупреждений, мы можем определить оповещения на основе пороговых или аномалий, основанные на количестве сопоставления событий журнала. Возврат запроса предупреждения.
Пожалуйста, смотрите Оповещения в облаке сематестки Больше подробностей.
Metrics Citchouse Metrics и корреляция журнала
Типичный рабочий процесс устранения неполадок начинается от обнаружения медлительности в метриках, затем копаться в журналы, чтобы найти корневую причину проблемы. Sematext делает это действительно просто и быстро. Ваши метрики и бревна живут под одной крышей. Журналы централизованы, поиск быстро, и мощный Синтаксис поиска журнала прост в использовании. Корреляция метрик и бревн буквально щелчка.
Клицевые журналы и метрики на одном представлении
Полный стек наблюдаемости для клики и друзей
Лучшие друзья Chickouse — Zookeeper, Mysql и Kafka. В то время как Zookeeker необходим для операций кластера Clickhouse другие интеграции, необязательно используются для доступа к данным из внешних хранилищ.
- Zookeeper : Clickouse полагается на Zookeeper для синхронизации распределенных рабочих нагрузок в кластерах Clickhouse.
- MySQL : Кликсос поддерживает MySQL как внешний механизм хранения для кликиуса таблицы. Кроме того, MySQL может служить внешним словаре Chickouse для поиска ключей/значения.
- Кафка : Apache Кафка Может использоваться как внешний механизм хранения для таблиц билей.
- Другие : Существует несколько других интеграций для Внешние словари (поиск данных), такие как универсальные интерфейсы ODBC или MongoDB или PostgreSQL (3-го вечеринки).
Клицей и Zookeeper.
Поскольку устойчивость кластера Clickhouse зависит от зоопарка, выполняющего хорошо, мы рекомендуем настроить Zookeeper Мониторинг и журнал коллекции для соответствующих журналов. Как показано на приборной панели ниже, это позволяет нам, например, коррелировать время ожидания высокого зоопарка в метрике Clickhouse, с метриками сбора мусора JVM в зоофильоне.
Распределенная система требует, чтобы зоофирки были быстрыми откликами, поэтому любые задержки, вызванные медленной коллекцией мусора JVM, могут вызывать проблемы со стабильностью производительности и кластера. Наличие способности легко коррелировать зоофилью и метрики клики, как в Пользовательская панель мониторинга мониторинга Citkhouse Ниже приведено легче исправить корневую причину плохих характеристик быстрее.
Соотношение между Zookeeker/JVM Коллекция мусора и Zookeeper Zookeher ждать
Во многих случаях проблема производительности может быть решена путем анализа «связанных» метрик, а также метрики, которая была подозрительной в начале расследования. Для Ad-Hoc Metric Correlation Analyse используйте Автоматическая корреляция метрики Чтобы найти все метрики, чьи шаблоны коррелируют к любой базовой метрике по вашему выбору.
Метрическая корреляция мусора сбора времени и Запрос задержки в зоотьере
Интеграция с MySQL ** или кафка **
Citchouse интегрируется с MySQL. MySQL может использоваться в качестве внешнего двигателя хранения для запроса данных из таблиц MySQL в запросах билевы. Кроме того, CliCkouse поддерживает MySQL для поиска данных как внешний словарь. Словарь — это отображение (ключ -> атрибуты), которые удобны для различных типов ссылочных списков. Clickhouse поддерживает специальные функции для работы с словарями, которые можно использовать в запросах. Это проще и эффективно использовать словари с функциями, чем присоединение к эталонным таблицам. Если вы запускаете MySQL, посмотрите MySQL мониторинг для получения дополнительной информации.
Apache Kafka интегрирован только как внешний механизм хранения. После того, как Clickhouse сталкивается с высокой задержкой при запрашивании данных из внешних источников данных, таких как MySQL или KAFKA, мы должны выяснить, что замедляет внешние источники данных. Настройка MySQL и Кафка мониторинг Вы можете извлечь выгоду из большой наблюдеемости, имеющих свой любимый Zookeeker, MySQL, KAFKA и Metrics, совместно с соответствующими журналами для более быстрого устранения неполадок. Посмотреть Мониторинг кафки и потребительского отставания Узнать больше.
Контроль монитора с сематестом
Комплексный мониторинг для Clickouse включает в себя идентификацию ключевых метрик для кластера кликина, так и для Zookeeper, собирая метрики и журналы и соединяя все значимым образом. В этом посте мы показали вам, как отслеживать Metrics Citkhouse Metrics в одном месте. Мы использовали OOTB и настраиваемые панели инструментов, корреляцию метрик, корреляцию журнала, обнаружение аномалии и оповещения. И с другими Интеграции с открытым исходным кодом , Как и MySQL или KAFKA, вы можете легко начать мониторинг билевы вместе с метриками, журналами и распределенным запросом следов из всех других технологий в вашей инфраструктуре. Получите более глубокую видимость в Citchouse сегодня с Бесплатное испытание Sematext Отказ
Пост Контроль мониторинга с сематестом появился первым на Сематест Отказ
Оригинал: «https://dev.to/sematext/monitoring-clickhouse-with-sematext-2pab»