Поиск (ключи):  ПРОГРАММЫ СТАТЬИ СОВЕТЫ ФОРУМ ССЫЛКИ НОВОСТИ (+) MAN'ы ДОКУМЕНТАЦИЯ

<< Предыдущая ИНДЕКС Поиск в статьях src Установить закладку Перейти на закладку Следующая >>

Ключевые слова: freebsd, traffic, bdf,  (найти похожие документы)

From: Дмитрий Новиков <dmn@nnz.ru>
Newsgroups: http://www.artmagic.ru/labs/
Date: Mon, 4 Dec 2002 13:01:37 +0000 (UTC)
Subject: Подсчет трафика в FreeBSD через trafd

Оригинал: http://www.artmagic.ru/labs/trafd.shtml

                                                          Дмитрий Новиков
                                                             (dmn@nnz.ru)

   Простая и эффективная система подсчета трафика в ОС FreeBSD

   Очень часто в качестве Интернет-шлюза администраторы устанавливают
   PC-совместимый компьютер с ОС FreeBSD. Одной из замечательных
   особенностей этой системы является простая возможгость практически
   автоматического учета и оперативного контроля всего трафика. Делается
   это с помощью специализированного пакетного фильтра bpf (Berkley
   Packet Filter). Этот механизм работает независимо от работы файрволла
   (ipfw) и способен "запоминать" все пакеты, идущие через интерфейсы.
   Ниже описано как эффективно воспользоваться возможностями bpf для
   учета трафика.

   1. Средство оперативного контроля трафика.

   Итак, предположим, что сервер на основе FreeBSD успешно установлен и
   настроен. Для оперативного контроля трафика служит очень удобная
   утилита trafshow. Рекомендуется установить ее из дерева портов:

     cd /usr/ports/net/trafshow
     make install

   Далее можно сразу же переходить к просмотру текущего трафика на
   интерфейсах. Допустим, на нашем шлюзе два интерфейса: внутренний
   (ed0), к которому присоеденена локальная сеть и внешний (xl1), через
   который осуществляется выход в Интернет. Для того, чтобы увидеть
   трафик на внутреннем интерфейсе, нужно выполнить команду:

     trafshow -i ed0

   Эта команда покажет весь трафик, проходящий через интерфейс ed0.
   Команда будет работать быстрее, если отключить ресолвинг ip адресов в
   имена (ключ -n). При этом весь трафик будет выдан в виде удобной
   таблицы, в которой видны адреса источникков и приемников, скорости
   соединений, количество переданных и принятых байт и т.п. (рис 1).
   Соотвественно, чтобы увидеть трафик на внешнем интерфейсе, нужно
   ввести команду trafshow -i xl1.

   Если нужно увидеть не весь, а только нужный администратору трафик, то
   можно ограничить облать просмотра программы trafshow. Например, если
   нас интересует трафик из интернет в сеть 10.128.0.0/16, то нужно
   набрать команду вида:

     trafshow -i ed0 -n dst net 10.128.0.0 mask 255.255.0.0

   Полный синтаксис описания правил для trafshow можно узнать по
   документации команды tcpdump (man tcpdump), т.к. команда trafshow
   интерпритируют вывод именно этой программы). Вообще, команда trafshow
   имеет множество дополнительных параметров и ключей для более тонкой
   настройки работы. Все параметры работы можно узнать по команде man
   trafshow.

   ПРИМЕЧАНИЕ.
   Часто для вывода локальной сети в Интернет через FreeBSD
   администраторы используют систему NAT. Тогда команда trafshow на
   внешнем интерфейсе не будет "видеть" внутренних адресов (потому что
   они уже "собраны" системой NAT во внешний интерфейс). Для того, чтобы
   увидеть трафик корпоративной сети, нужно "просматривать" внутренний
   интерфейс.

   2. Средство сбора и учета трафика
   Для сбора трафика и построения отчетов, применяется пакет trafd.
   Рекомендуется ставить его через дерево портов.
   cd /usr/ports/net/trafd
   make install

   2.1 Сбор статистики

   Демон trafd собирает трафик на определенном интерфейсе. Для начала
   сбора трафика на интерфейсе ed0, необходимо:
     * создать файл, где trafd будет хранить статистику:
       touch '/var/trafd/trafd.ed0'
     * запустить сбор статистики на интерфейсе:
       /usr/local/bin/trafd -i ed0
       (рекомендуем сразу прописать эту строчку в /etc/rc.local)
     * проверить работу демона: ps ax | grep trafd
     * при необходимости собирать статистику на других интерфейсах,
       повторить действия, аналогичные описанным.

   Демон trafd коллекционирует статистику в оперативной памяти. Для того,
   чтобы статистика не "потерялась" и счетчики не переполнились,
   необходимо периодически "скидывать" наполненную информацию из
   оперативной памяти на диск (в файл, который был создан). Эту процедуру
   выполняет специальная программа: trafsave. Периодичность выполнения
   этой команды выбирает сам системный администратор.

   Для UNIX систем выполнение периодических команд применяется демон
   crontab. Например, для того, чтобы команда trafsave выполнялась каждые
   4 часа, необходимо выполнить команду crontab -e и ввысти строчку .

     0 0,4,8,12,16,20 * * 1-7 /usr/local/bin/trafsave

   PS. Для тех, кто не знаком с vi: нажать i, ввести строчку приведенную
   выше, нажать ESCAPE, ':', 'wq'.

   PS. Кроме того, рекомендуется каждый месяц "обнулять" файл сбора
   статистики, т.к. количество записей в одном файле ограничено 1000,
   после чего traflog перестает отображать отчеты по номеру записи. Это
   можно сделать с помощью короткой программки на языке sh:

   #!/bin/sh

   PATH=/bin:/usr/bin:/sbin:/usr/sbin:/usr/local/bin
   LOG_FILE=/var/log/traffic.log

   if [ $# = 0 ]; then
   # Get List of Listening IFaces
   . /etc/rc.conf
   else
   IFF_LISTEN=$*
   fi

   for iface in $IFF_LISTEN; do
   rotate /var/trafd/trafd.$iface `date -v-1m +%b`
   echo "Rotate Logs For $iface" > $LOG_FILE
   done

   Нужно разместить эту программку в файле /usr/local/bin/trafrotate. Для
   ее работы необходимо установить утилиту rotate:

   cd /usr/ports/sysutils/rotate
   make install

   Для того, чтобы эта программа запускалась каждый месяц, нужно записать
   еще одну строчку в crontab:

     20 2 1 * * /usr/local/bin/trafrotate

   Теперь можно быть уверенным, что ни один байт мимо не пройдет !

   2.2 Построение отчетов

   Система trafd способна строить удобные отчеты на основе собранных
   данных. Отчеты строятся с помощью программы traflog. Для того, чтобы
   посмотреть результаты последней сохраненной записи демона trafd, нужно
   набрать команду:

     traflog -n -i ed0
     (флаг -n указывает не ресолвить ip-адреса)

   Программа traflog "умеет" строить отчеты на основе заданных правил.
   Например, для того, чтобы увидеть отчет по трафику сети 10.128.0.0/16,
   необходимо набрать команду:

     traflog -i ed0 -n from all to 10.128.0.0 mask 255.255.0.0

   Авторы trafd приводят такие примеры фильтров:

   Pattern examples

   from turbo.nsk.su to ns.nsk.su port domain
   to all port ftp port ftp-data
   from TURBONET to all
   from 192.188.187.127 mask 255.255.255.224 port all
   from all to 144.206.0.0 proto tcp
   from turbo.nsk.su to ns.nsk.su port domain
   to all port ftp port ftp-data
   from TURBONET to all
   from 192.188.187.127 mask 255.255.255.224 port all
   from all to 144.206.0.0 proto tcp

   Кроме применения фильтров, traflog позволяет формировать отчеты,
   суммируя информацию из записей trafd. Для того, чтобы увидесть список
   записей (а это нужно для того, чтобы потом построить отчет на основе
   диапазона правил), нужно вызвать trafd с ключом -l. Например, вызов
   traflog -i ed0 -l выдаст результат:


   Теперь, для того чтобы построить отчет за определенный период, нужно
   указать первую и последнюю запись для отчета (параметры -b <первая
   запись> -e <последняя запись>). Например, для того чтобы получить
   отчет за 2 декабря 2002 годя для сети 10.128.0.0/16, нужно ввести
   команду:

   traflog -n -i ed0 -b7 -e12 -s from all to 10.128.0.0 mask 255.255.0.0
   (параметр -s указывает посчитать суммарный трафик, т.е. trflog
   автоматически суммирует трафик по одинаковым адресам и портам).

   Кроме того, команде traflog можно указать файл вместо интерфейса.
   Например, для построения сентябрьского отчета по всему файлу,
   сохраненному за месяц программой trafrotate, нужно вызвать trfloglog:
   traflog -i /var/log/var/trafd.ed0.Sep -n.

   Еще в пакете программ trafd, есть 2 команды, которые используются не
   очень часто: trafstat (показывает статистику, хранящуюся в оперативной
   памяти), команда trafdump (сохраняет данные из памяти во временном
   файле) и еще набор программ, с которыми можно познакомиться из
   документации к trafd.

   Выводы.

   Итак, как видно система trafd позволяет эффективно учитывать трафик и
   строить разнообразные отчеты. На основе результатов отчетов программы
   traflog с помощью достаточно простых скриптов отчеты можно отправлять
   по почте, переводить их в нужный формат, строить графики и т.п.

   Основное преимущество trafd - законченность решения и простота
   использования. Решение готово к работе практически сразу: весь трафик
   сохраняется автоматически, имеется готовая система построения гибких
   отчетов. Строго говоря, администратору не нужно думать, как хранить
   информацию о трафике, как ее обрабатывать, как потом строить отчеты.
   Несомненно в этом смысле trafd очень удобная и продвинутая система.

   Однако, применяя эту систему в сети с каналами большой пропускной
   способности и интенсивным трафиком, были замечены проблемы и ошибки в
   работе системы. Основной недостаток: переполняются счетчики в отчетах.
   При этом, traflog выдает отрицательный результат и теряется все
   мощность пакета (приходиться разбивать отчет по сделанным записям и
   суммировать трафик самостоятельно). Также trafd требует достаточно
   много памяти, занимет много процессорного времени и достаточно долго
   строит отчеты по трафику. Кроме того, на очень интенсивном трафике
   теряются пакеты. Надеюсь, что готовящаяся к выпуску версия 4.0 не
   будет обладать приведенными недостатками.

   Поэтому рекомендуем trafd для администраторов небольших сетей (до 50
   рабочих мест) с не очень интенсивным трафиком (менее 2 Гб в день).
   Система очень хорошо показала себя как универсальное решение для учета
   трафика в мелких и средних сетях. Авторы статьи успешно применяют эту
   систему на серверах вывода сетей в Интернет. В настоящее время
   реализовано более 10 таких проектов.

   С гордостью можно сказать, что система trafd была сделана в России, в
   Новосибирске. Но опять же, к сожалению, развивается она вяло и
   медленно. В этой статье применялась версия 3.0.1, а сейчас к выпуску
   готовиться 4.0. Время покажет, как новая версия приспособлена к
   большим объемам информации.

   Ссылки:
     * Документация по trafd (файл /usr/local/share/doc/trafd/README)
     * Сайт по trafd 4: http://bpft4.sourceforge.net
     * man trafshow

   * Перепечатка только с согласия автора.

<< Предыдущая ИНДЕКС Поиск в статьях src Установить закладку Перейти на закладку Следующая >>