Страница 1 из 1

Загрузка системы interrupt

Добавлено: 2016-05-15 13:30:01
alexsimm
Стоит шлюз freebsd
версия FreeBSD gate1 10.1-RELEASE-p5 FreeBSD 10.1-RELEASE-p5

Проблема:
временами выпростает загрузка процессора interrupt до 40 процентов и выше и сеть во внешку падает.
Подозреваю что кто-то меня спамит но пока не могу разобраться как с этим бороться.
Если кто сталкивался, помогите.

top
last pid: 41956; load averages: 2.16, 2.42, 2.33 up 0+00:43:41 00:16:50
56 processes: 1 running, 55 sleeping
CPU: 0.0% user, 0.0% nice, 18.0% system, 34.5% interrupt, 47.4% idle
Mem: 93M Active, 244M Inact, 560M Wired, 501M Buf, 3043M Free
Swap: 3840M Total, 3840M Free

PID USERNAME THR PRI NICE SIZE RES STATE C TIME WCPU COMMAND
643 bind 7 20 0 95680K 62336K kqread 2 0:44 0.00% named
1032 root 1 20 0 72744K 10772K select 2 0:04 0.00% snmpd
3876 root 1 52 0 17064K 3100K wait 2 0:03 0.00% sh
18574 root 1 20 0 45708K 9744K select 2 0:02 0.00% mc
1259 root 1 20 0 21916K 3164K CPU2 2 0:01 0.00% top
41939 root 1 20 0 12336K 2120K sbwait 1 0:00 0.00% phttpget
17408 alexus 1 20 0 86476K 8036K select 1 0:00 0.00% sshd
1254 root 1 20 0 45708K 9864K select 1 0:00 0.00% mc
1091 mrtg 1 22 0 57740K 22192K nanslp 2 0:00 0.00% perl
1063 root 1 20 0 14468K 1936K select 1 0:00 0.00% powerd
1242 alexus 1 20 0 86476K 7160K select 2 0:00 0.00% sshd
1237 alexus 1 20 0 86476K 7132K select 2 0:00 0.00% sshd
18575 root 1 20 0 23572K 4128K ttyin 1 0:00 0.00% csh
908 root 1 20 0 14500K 2144K select 2 0:00 0.00% syslogd
1248 root 1 20 0 45708K 9068K select 1 0:00 0.00% mc
1125 root 1 20 0 79808K 4976K select 2 0:00 0.00% httpd
1255 root 1 20 0 23572K 4056K pause 1 0:00 0.00% csh
16212 root 1 21 0 86476K 8028K select 1 0:00 0.00% sshd
1157 root 1 20 0 47868K 4424K bpf 1 0:00 0.00% bandwidthd
1141 root 1 20 0 24108K 5372K select 1 0:00 0.00% sendmail
1160 root 1 20 0 47868K 4424K bpf 1 0:00 0.00% bandwidthd
1158 root 1 20 0 47868K 4424K bpf 1 0:00 0.00% bandwidthd
1159 root 1 20 0 47868K 4436K bpf 1 0:00 0.00% bandwidthd
1232 root 1 20 0 86476K 7052K select 0 0:00 0.00% sshd
1227 root 1 20 0 23572K 4208K ttyin 2 0:00 0.00% csh

Борюсь с этим уж два дня

Отправлено спустя 42 минуты 42 секунды:
Загрузка

Код: Выделить всё

last pid: 46454;  load averages:  2.37,  1.76,  1.45                                            up 0+01:25:36  00:58:45
141 processes: 9 running, 106 sleeping, 26 waiting
CPU:  0.2% user,  0.0% nice, 23.5% system, 35.3% interrupt, 40.9% idle
Mem: 89M Active, 335M Inact, 497M Wired, 418M Buf, 3020M Free
Swap: 3840M Total, 3840M Free

  PID USERNAME   PRI NICE   SIZE    RES STATE   C   TIME    WCPU COMMAND
   12 root       -56    -     0K   448K CPU3    3  68:20 100.00% intr{swi5: fast taskq}
   11 root       155 ki31     0K    64K RUN     1  79:23  99.85% idle{idle: cpu1}
    0 root       -92    0     0K   192K CPU0    0  55:26  91.26% kernel{dummynet}
   11 root       155 ki31     0K    64K RUN     2  50:19  56.88% idle{idle: cpu2}
   12 root       -92    -     0K   448K CPU1    1  33:35  43.07% intr{irq264: re2}
   11 root       155 ki31     0K    64K RUN     0  30:21  16.36% idle{idle: cpu0}
   11 root       155 ki31     0K    64K RUN     3  19:23   0.00% idle{idle: cpu3}
    0 root       -16    0     0K   192K swapin  1   0:57   0.00% kernel{swapper}
   15 root       -16    -     0K    16K -       1   0:37   0.00% rand_harvestq
  643 bind        20    0 99776K 63484K uwait   1   0:14   0.00% named{named}
  643 bind        20    0 99776K 63484K uwait   1   0:14   0.00% named{named}
  643 bind        20    0 99776K 63484K uwait   2   0:14   0.00% named{named}
  643 bind        20    0 99776K 63484K uwait   0   0:14   0.00% named{named}
   12 root       -60    -     0K   448K WAIT    2   0:07   0.00% intr{swi4: clock}
 1032 root        20    0 72744K 10772K select  1   0:07   0.00% snmpd
  643 bind        20    0 99776K 63484K kqread  1   0:07   0.00% named{named}
 1259 root        20    0 21916K  3164K select  2   0:03   0.00% top
18574 root        20    0 45708K  9776K select  1   0:02   0.00% mc
   17 root        16    -     0K    16K syncer  2   0:01   0.00% syncer
  643 bind        20    0 99776K 63484K uwait   1   0:01   0.00% named{named}
 1091 mrtg        21    0 57740K 22192K nanslp  1   0:00   0.00% perl
17408 alexus      20    0 86476K  8080K select  2   0:00   0.00% sshd
 1063 root        20    0 14468K  1936K select  1   0:00   0.00% powerd
 1254 root        20    0 45708K  9864K select  0   0:00   0.00% mc
    4 root        -8    -     0K    16K RUN     1   0:00   0.00% g_raid NVIDIA-1
Отправлено спустя 18 секунд:
Загрузка

Код: Выделить всё

last pid: 46454;  load averages:  2.37,  1.76,  1.45                                            up 0+01:25:36  00:58:45
141 processes: 9 running, 106 sleeping, 26 waiting
CPU:  0.2% user,  0.0% nice, 23.5% system, 35.3% interrupt, 40.9% idle
Mem: 89M Active, 335M Inact, 497M Wired, 418M Buf, 3020M Free
Swap: 3840M Total, 3840M Free

  PID USERNAME   PRI NICE   SIZE    RES STATE   C   TIME    WCPU COMMAND
   12 root       -56    -     0K   448K CPU3    3  68:20 100.00% intr{swi5: fast taskq}
   11 root       155 ki31     0K    64K RUN     1  79:23  99.85% idle{idle: cpu1}
    0 root       -92    0     0K   192K CPU0    0  55:26  91.26% kernel{dummynet}
   11 root       155 ki31     0K    64K RUN     2  50:19  56.88% idle{idle: cpu2}
   12 root       -92    -     0K   448K CPU1    1  33:35  43.07% intr{irq264: re2}
   11 root       155 ki31     0K    64K RUN     0  30:21  16.36% idle{idle: cpu0}
   11 root       155 ki31     0K    64K RUN     3  19:23   0.00% idle{idle: cpu3}
    0 root       -16    0     0K   192K swapin  1   0:57   0.00% kernel{swapper}
   15 root       -16    -     0K    16K -       1   0:37   0.00% rand_harvestq
  643 bind        20    0 99776K 63484K uwait   1   0:14   0.00% named{named}
  643 bind        20    0 99776K 63484K uwait   1   0:14   0.00% named{named}
  643 bind        20    0 99776K 63484K uwait   2   0:14   0.00% named{named}
  643 bind        20    0 99776K 63484K uwait   0   0:14   0.00% named{named}
   12 root       -60    -     0K   448K WAIT    2   0:07   0.00% intr{swi4: clock}
 1032 root        20    0 72744K 10772K select  1   0:07   0.00% snmpd
  643 bind        20    0 99776K 63484K kqread  1   0:07   0.00% named{named}
 1259 root        20    0 21916K  3164K select  2   0:03   0.00% top
18574 root        20    0 45708K  9776K select  1   0:02   0.00% mc
   17 root        16    -     0K    16K syncer  2   0:01   0.00% syncer
  643 bind        20    0 99776K 63484K uwait   1   0:01   0.00% named{named}
 1091 mrtg        21    0 57740K 22192K nanslp  1   0:00   0.00% perl
17408 alexus      20    0 86476K  8080K select  2   0:00   0.00% sshd
 1063 root        20    0 14468K  1936K select  1   0:00   0.00% powerd
 1254 root        20    0 45708K  9864K select  0   0:00   0.00% mc
    4 root        -8    -     0K    16K RUN     1   0:00   0.00% g_raid NVIDIA-1
Отправлено спустя 19 секунд:
Загрузка :

Код: Выделить всё

last pid: 46454;  load averages:  2.37,  1.76,  1.45                                            up 0+01:25:36  00:58:45
141 processes: 9 running, 106 sleeping, 26 waiting
CPU:  0.2% user,  0.0% nice, 23.5% system, 35.3% interrupt, 40.9% idle
Mem: 89M Active, 335M Inact, 497M Wired, 418M Buf, 3020M Free
Swap: 3840M Total, 3840M Free

  PID USERNAME   PRI NICE   SIZE    RES STATE   C   TIME    WCPU COMMAND
   12 root       -56    -     0K   448K CPU3    3  68:20 100.00% intr{swi5: fast taskq}
   11 root       155 ki31     0K    64K RUN     1  79:23  99.85% idle{idle: cpu1}
    0 root       -92    0     0K   192K CPU0    0  55:26  91.26% kernel{dummynet}
   11 root       155 ki31     0K    64K RUN     2  50:19  56.88% idle{idle: cpu2}
   12 root       -92    -     0K   448K CPU1    1  33:35  43.07% intr{irq264: re2}
   11 root       155 ki31     0K    64K RUN     0  30:21  16.36% idle{idle: cpu0}
   11 root       155 ki31     0K    64K RUN     3  19:23   0.00% idle{idle: cpu3}
    0 root       -16    0     0K   192K swapin  1   0:57   0.00% kernel{swapper}
   15 root       -16    -     0K    16K -       1   0:37   0.00% rand_harvestq
  643 bind        20    0 99776K 63484K uwait   1   0:14   0.00% named{named}
  643 bind        20    0 99776K 63484K uwait   1   0:14   0.00% named{named}
  643 bind        20    0 99776K 63484K uwait   2   0:14   0.00% named{named}
  643 bind        20    0 99776K 63484K uwait   0   0:14   0.00% named{named}
   12 root       -60    -     0K   448K WAIT    2   0:07   0.00% intr{swi4: clock}
 1032 root        20    0 72744K 10772K select  1   0:07   0.00% snmpd
  643 bind        20    0 99776K 63484K kqread  1   0:07   0.00% named{named}
 1259 root        20    0 21916K  3164K select  2   0:03   0.00% top
18574 root        20    0 45708K  9776K select  1   0:02   0.00% mc
   17 root        16    -     0K    16K syncer  2   0:01   0.00% syncer
  643 bind        20    0 99776K 63484K uwait   1   0:01   0.00% named{named}
 1091 mrtg        21    0 57740K 22192K nanslp  1   0:00   0.00% perl
17408 alexus      20    0 86476K  8080K select  2   0:00   0.00% sshd
 1063 root        20    0 14468K  1936K select  1   0:00   0.00% powerd
 1254 root        20    0 45708K  9864K select  0   0:00   0.00% mc
    4 root        -8    -     0K    16K RUN     1   0:00   0.00% g_raid NVIDIA-1

[size=85][color=green]Отправлено спустя  1 минуту 8 секунд:[/color][/size]
извините за двойную отправку.
п.с. надо сначала понять из-за чего загрузка прет

Загрузка системы interrupt

Добавлено: 2016-05-15 15:16:01
guest
alexsimm писал(а):Стоит шлюз freebsd
версия FreeBSD gate1 10.1-RELEASE-p5 FreeBSD 10.1-RELEASE-p5

Проблема:
временами выпростает загрузка процессора interrupt до 40 процентов и выше и сеть во внешку падает.
Подозреваю что кто-то меня спамит но пока не могу разобраться как с этим бороться.
Если кто сталкивался, помогите.

Борюсь с этим уж два дня

Отправлено спустя 42 минуты 42 секунды:
Загрузка

Код: Выделить всё

last pid: 46454;  load averages:  2.37,  1.76,  1.45                                            up 0+01:25:36  00:58:45
141 processes: 9 running, 106 sleeping, 26 waiting
CPU:  0.2% user,  0.0% nice, 23.5% system, 35.3% interrupt, 40.9% idle
Mem: 89M Active, 335M Inact, 497M Wired, 418M Buf, 3020M Free
Swap: 3840M Total, 3840M Free

  PID USERNAME   PRI NICE   SIZE    RES STATE   C   TIME    WCPU COMMAND
   12 root       -56    -     0K   448K CPU3    3  68:20 100.00% intr{swi5: fast taskq}
   11 root       155 ki31     0K    64K RUN     1  79:23  99.85% idle{idle: cpu1}
    0 root       -92    0     0K   192K CPU0    0  55:26  91.26% kernel{dummynet}
   11 root       155 ki31     0K    64K RUN     2  50:19  56.88% idle{idle: cpu2}
   12 root       -92    -     0K   448K CPU1    1  33:35  43.07% intr{irq264: re2}
   11 root       155 ki31     0K    64K RUN     0  30:21  16.36% idle{idle: cpu0}
   11 root       155 ki31     0K    64K RUN     3  19:23   0.00% idle{idle: cpu3}
    0 root       -16    0     0K   192K swapin  1   0:57   0.00% kernel{swapper}
   15 root       -16    -     0K    16K -       1   0:37   0.00% rand_harvestq
  643 bind        20    0 99776K 63484K uwait   1   0:14   0.00% named{named}
  643 bind        20    0 99776K 63484K uwait   1   0:14   0.00% named{named}
  643 bind        20    0 99776K 63484K uwait   2   0:14   0.00% named{named}
  643 bind        20    0 99776K 63484K uwait   0   0:14   0.00% named{named}
   12 root       -60    -     0K   448K WAIT    2   0:07   0.00% intr{swi4: clock}
 1032 root        20    0 72744K 10772K select  1   0:07   0.00% snmpd
  643 bind        20    0 99776K 63484K kqread  1   0:07   0.00% named{named}
 1259 root        20    0 21916K  3164K select  2   0:03   0.00% top
18574 root        20    0 45708K  9776K select  1   0:02   0.00% mc
   17 root        16    -     0K    16K syncer  2   0:01   0.00% syncer
  643 bind        20    0 99776K 63484K uwait   1   0:01   0.00% named{named}
 1091 mrtg        21    0 57740K 22192K nanslp  1   0:00   0.00% perl
17408 alexus      20    0 86476K  8080K select  2   0:00   0.00% sshd
 1063 root        20    0 14468K  1936K select  1   0:00   0.00% powerd
 1254 root        20    0 45708K  9864K select  0   0:00   0.00% mc
    4 root        -8    -     0K    16K RUN     1   0:00   0.00% g_raid NVIDIA-1
Отправлено спустя 18 секунд:
Загрузка

Код: Выделить всё

last pid: 46454;  load averages:  2.37,  1.76,  1.45                                            up 0+01:25:36  00:58:45
141 processes: 9 running, 106 sleeping, 26 waiting
CPU:  0.2% user,  0.0% nice, 23.5% system, 35.3% interrupt, 40.9% idle
Mem: 89M Active, 335M Inact, 497M Wired, 418M Buf, 3020M Free
Swap: 3840M Total, 3840M Free

  PID USERNAME   PRI NICE   SIZE    RES STATE   C   TIME    WCPU COMMAND
   12 root       -56    -     0K   448K CPU3    3  68:20 100.00% intr{swi5: fast taskq}
   11 root       155 ki31     0K    64K RUN     1  79:23  99.85% idle{idle: cpu1}
    0 root       -92    0     0K   192K CPU0    0  55:26  91.26% kernel{dummynet}
   11 root       155 ki31     0K    64K RUN     2  50:19  56.88% idle{idle: cpu2}
   12 root       -92    -     0K   448K CPU1    1  33:35  43.07% intr{irq264: re2}
   11 root       155 ki31     0K    64K RUN     0  30:21  16.36% idle{idle: cpu0}
   11 root       155 ki31     0K    64K RUN     3  19:23   0.00% idle{idle: cpu3}
    0 root       -16    0     0K   192K swapin  1   0:57   0.00% kernel{swapper}
   15 root       -16    -     0K    16K -       1   0:37   0.00% rand_harvestq
  643 bind        20    0 99776K 63484K uwait   1   0:14   0.00% named{named}
  643 bind        20    0 99776K 63484K uwait   1   0:14   0.00% named{named}
  643 bind        20    0 99776K 63484K uwait   2   0:14   0.00% named{named}
  643 bind        20    0 99776K 63484K uwait   0   0:14   0.00% named{named}
   12 root       -60    -     0K   448K WAIT    2   0:07   0.00% intr{swi4: clock}
 1032 root        20    0 72744K 10772K select  1   0:07   0.00% snmpd
  643 bind        20    0 99776K 63484K kqread  1   0:07   0.00% named{named}
 1259 root        20    0 21916K  3164K select  2   0:03   0.00% top
18574 root        20    0 45708K  9776K select  1   0:02   0.00% mc
   17 root        16    -     0K    16K syncer  2   0:01   0.00% syncer
  643 bind        20    0 99776K 63484K uwait   1   0:01   0.00% named{named}
 1091 mrtg        21    0 57740K 22192K nanslp  1   0:00   0.00% perl
17408 alexus      20    0 86476K  8080K select  2   0:00   0.00% sshd
 1063 root        20    0 14468K  1936K select  1   0:00   0.00% powerd
 1254 root        20    0 45708K  9864K select  0   0:00   0.00% mc
    4 root        -8    -     0K    16K RUN     1   0:00   0.00% g_raid NVIDIA-1
Отправлено спустя 19 секунд:
Загрузка :

Код: Выделить всё

last pid: 46454;  load averages:  2.37,  1.76,  1.45                                            up 0+01:25:36  00:58:45
141 processes: 9 running, 106 sleeping, 26 waiting
CPU:  0.2% user,  0.0% nice, 23.5% system, 35.3% interrupt, 40.9% idle
Mem: 89M Active, 335M Inact, 497M Wired, 418M Buf, 3020M Free
Swap: 3840M Total, 3840M Free

  PID USERNAME   PRI NICE   SIZE    RES STATE   C   TIME    WCPU COMMAND
   12 root       -56    -     0K   448K CPU3    3  68:20 100.00% intr{swi5: fast taskq}
   11 root       155 ki31     0K    64K RUN     1  79:23  99.85% idle{idle: cpu1}
    0 root       -92    0     0K   192K CPU0    0  55:26  91.26% kernel{dummynet}
   11 root       155 ki31     0K    64K RUN     2  50:19  56.88% idle{idle: cpu2}
   12 root       -92    -     0K   448K CPU1    1  33:35  43.07% intr{irq264: re2}
   11 root       155 ki31     0K    64K RUN     0  30:21  16.36% idle{idle: cpu0}
   11 root       155 ki31     0K    64K RUN     3  19:23   0.00% idle{idle: cpu3}
    0 root       -16    0     0K   192K swapin  1   0:57   0.00% kernel{swapper}
   15 root       -16    -     0K    16K -       1   0:37   0.00% rand_harvestq
  643 bind        20    0 99776K 63484K uwait   1   0:14   0.00% named{named}
  643 bind        20    0 99776K 63484K uwait   1   0:14   0.00% named{named}
  643 bind        20    0 99776K 63484K uwait   2   0:14   0.00% named{named}
  643 bind        20    0 99776K 63484K uwait   0   0:14   0.00% named{named}
   12 root       -60    -     0K   448K WAIT    2   0:07   0.00% intr{swi4: clock}
 1032 root        20    0 72744K 10772K select  1   0:07   0.00% snmpd
  643 bind        20    0 99776K 63484K kqread  1   0:07   0.00% named{named}
 1259 root        20    0 21916K  3164K select  2   0:03   0.00% top
18574 root        20    0 45708K  9776K select  1   0:02   0.00% mc
   17 root        16    -     0K    16K syncer  2   0:01   0.00% syncer
  643 bind        20    0 99776K 63484K uwait   1   0:01   0.00% named{named}
 1091 mrtg        21    0 57740K 22192K nanslp  1   0:00   0.00% perl
17408 alexus      20    0 86476K  8080K select  2   0:00   0.00% sshd
 1063 root        20    0 14468K  1936K select  1   0:00   0.00% powerd
 1254 root        20    0 45708K  9864K select  0   0:00   0.00% mc
    4 root        -8    -     0K    16K RUN     1   0:00   0.00% g_raid NVIDIA-1

[size=85][color=green]Отправлено спустя  1 минуту 8 секунд:[/color][/size]
извините за двойную отправку.
п.с. надо сначала понять из-за чего загрузка прет[/quote]

из верхнего не видно загрузки, cpu - явно не в напряге, прерывания на сетевых реалтеках.

Смотрите сеть, сетевые буфера, firewall с nat'ом, собирайте статистику и думайте.

На вскидку:
- re для gw хавно, правда зависит от трафика и нагрузки
- firewall - кол-во правил + nat/dummynet

# vmstat -i
# netstat -m
...

так, к слову, на кой хрен powerd? ну понимаю еще на буках, а на серверах и десктопах - нафик не нужен.

Загрузка системы interrupt

Добавлено: 2016-05-15 16:26:56
alexsimm
так долгое время всё работало без напряга, нагрузка была та же. И тут на те. позже буду систему обновлять и шаманить.

Отправлено спустя 3 минуты 57 секунд:
vmstat -i

Код: Выделить всё

 
interrupt                          total       rate
irq1: atkbd0                         206          0
irq14: ata0                        10578          0
irq16: re0                     108915028       6875
cpu0:timer                      16650579       1051
irq258: ahci0:ch2                  62447          3
irq259: ahci0:ch3                  61351          3
irq264: re2                    130499156       8238
cpu1:timer                        790588         49
cpu2:timer                      17169689       1083
cpu3:timer                      17254130       1089
Total                          291413752      18397
netstat -m

Код: Выделить всё

767/4048/4815 mbufs in use (current/cache/total)
765/2535/3300/252204 mbuf clusters in use (current/cache/total/max)
765/2524 mbuf+clusters out of packet secondary zone in use (current/cache)
0/8/8/126101 4k (page size) jumbo clusters in use (current/cache/total/max)
0/0/0/37363 9k jumbo clusters in use (current/cache/total/max)
0/0/0/21016 16k jumbo clusters in use (current/cache/total/max)
1778K/6114K/7892K bytes allocated to network (current/cache/total)
0/0/0 requests for mbufs denied (mbufs/clusters/mbuf+clusters)
0/0/0 requests for mbufs delayed (mbufs/clusters/mbuf+clusters)
0/0/0 requests for jumbo clusters delayed (4k/9k/16k)
0/0/0 requests for jumbo clusters denied (4k/9k/16k)
0 requests for sfbufs denied
0 requests for sfbufs delayed
0 requests for I/O initiated by sendfile
дамминет почему то грузит по полной

Код: Выделить всё

last pid: 48588;  load averages:  2.27,  1.42,  1.26                                                         up 0+04:25:07  03:58:16
169 processes: 8 running, 135 sleeping, 26 waiting
CPU 0:  0.0% user,  0.0% nice, 75.3% system,  0.4% interrupt, 24.3% idle
CPU 1:  0.4% user,  0.0% nice,  1.2% system,  0.0% interrupt, 98.4% idle
CPU 2:  0.4% user,  0.0% nice,  2.0% system, 51.0% interrupt, 46.7% idle
CPU 3:  0.0% user,  0.0% nice,  0.0% system, 95.7% interrupt,  4.3% idle
Mem: 34M Active, 942M Inact, 401M Wired, 425M Buf, 2564M Free
Swap: 3840M Total, 3840M Free

  PID USERNAME   PRI NICE   SIZE    RES STATE   C   TIME    WCPU COMMAND
   11 root       155 ki31     0K    64K RUN     1 253:40 100.00% idle{idle: cpu1}
   12 root       -56    -     0K   448K CPU3    3 161:21  94.29% intr{swi5: fast taskq}
    0 root       -92    0     0K   192K CPU0    0 121:12  59.08% kernel{dummynet}
   12 root       -92    -     0K   448K CPU1    1  75:10  52.39% intr{irq264: re2}
   11 root       155 ki31     0K    64K RUN     2 186:32  50.98% idle{idle: cpu2}
   11 root       155 ki31     0K    64K RUN     0 144:05  45.75% idle{idle: cpu0}
   11 root       155 ki31     0K    64K RUN     3 108:04   8.59% idle{idle: cpu3}

Загрузка системы interrupt

Добавлено: 2016-05-15 20:43:42
guest
alexsimm писал(а):так долгое время всё работало без напряга, нагрузка была та же. И тут на те. позже буду систему обновлять и шаманить.

Отправлено спустя 3 минуты 57 секунд:
vmstat -i

Код: Выделить всё

 
interrupt                          total       rate
...
irq16: re0                     108915028       6875
...
irq264: re2                    130499156       8238
...
Total                          291413752      18397
дамминет почему то грузит по полной
по interrupt rate: re0 и re2 лидеры, но это не страшно, лишь бы справлялись,
по сетевым буферам на момент среза - тоже нет проблем, но это на момент среза, так что не факт.

значит смотреть: ipfw + dummy + попробовать cpuset для re0/re2 и посмотреть
что можно сделать с тюнингом ipfw - уменьшить кол-во правил и тюнинг tcp/ip,
кроме того последить нет ли ошибок на сетевых интерфейсах: re0/re2.

Загрузка системы interrupt

Добавлено: 2016-05-15 22:57:56
snorlov
Где то читал, что на многопроцессорных системах dummynet из-за нагрузки прыгает с одного процессора на другой вызывая соответственно interrupt, но поскольку это было давно, точно не помню всю историю, может там проблемы были и не с dummnet, но точно с ipfw...

Загрузка системы interrupt

Добавлено: 2016-05-16 3:21:19
Гость
что именно надо делать с cpuset ?

Загрузка системы interrupt

Добавлено: 2016-05-17 0:06:22
alexsimm
ДОстал из загашника серверную машинку на двух ксеонах по 4 ядра.
Поставил сетевуху 4х гига портовую фуджитсу.
Заменил в общем на тот что был(амд 4х ядерных обычный комп).
Сейчас картинка по загрузке просто красава

Код: Выделить всё

last pid:  2909;  load averages:  0.52,  0.30,  0.25                       up 0+00:13:20  07:00:06
226 processes: 9 running, 155 sleeping, 62 waiting
CPU:  0.1% user,  0.0% nice,  0.5% system,  0.7% interrupt, 98.7% idle
Mem: 71M Active, 59M Inact, 175M Wired, 1280K Cache, 49M Buf, 7607M Free
Swap: 3749M Total, 3749M Free

  PID USERNAME   PRI NICE   SIZE    RES STATE   C   TIME    WCPU COMMAND
   11 root       155 ki31     0K   128K CPU2    2  13:09 100.00% idle{idle: cpu2}
   11 root       155 ki31     0K   128K RUN     5  13:09 100.00% idle{idle: cpu5}
   11 root       155 ki31     0K   128K CPU3    3  13:08 100.00% idle{idle: cpu3}
   11 root       155 ki31     0K   128K CPU1    1  13:07 100.00% idle{idle: cpu1}
   11 root       155 ki31     0K   128K CPU6    6  13:05 100.00% idle{idle: cpu6}
   11 root       155 ki31     0K   128K CPU4    4  13:05 100.00% idle{idle: cpu4}
   11 root       155 ki31     0K   128K CPU7    7  13:02 100.00% idle{idle: cpu7}
   11 root       155 ki31     0K   128K CPU0    0  12:43 100.00% idle{idle: cpu0}
   12 root       -92    -     0K   992K WAIT    7   0:06   0.59% intr{irq281: igb2:que}
   12 root       -92    -     0K   992K WAIT    7   0:04   0.29% intr{irq290: igb3:que}
   12 root       -92    -     0K   992K WAIT    1   0:04   0.29% intr{irq275: igb2:que}
   12 root       -92    -     0K   992K WAIT    6   0:05   0.20% intr{irq280: igb2:que}
   12 root       -92    -     0K   992K WAIT    4   0:05   0.20% intr{irq278: igb2:que}
   12 root       -92    -     0K   992K WAIT    3   0:04   0.10% intr{irq277: igb2:que}
   12 root       -92    -     0K   992K WAIT    4   0:03   0.10% intr{irq287: igb3:que}
   12 root       -92    -     0K   992K WAIT    0   0:02   0.10% intr{irq283: igb3:que}
Как видно даже прерывания на сетевухах распределяются по процессорам.
Будем теперь поглядеть как новое железо справится с нагрузкой.
Есть момент, когда тестил прокачку сквозную через шлюз, выдало макс 600 Мегабит.
А почему не гиг?

Загрузка системы interrupt

Добавлено: 2016-05-18 20:37:36
mmvds
В свое время тоже намучились с софтовым роутером на Фре (http://forum.lissyara.su/viewtopic.php?f=8&t=31297) также получили потолок в 600Мбит после всех припарок, когда дошли до этого порога пришлось ставить еще софт-роутер на фре (еще 600Мбит) и распределять нагрузку трафика на них (через маршрутизацию диапазонов подсетей), а затем еще 1 сервер :)
А затем перешли на vyatta, которая переваривала весь трафик > 3 Гбит на одной машине.

Загрузка системы interrupt

Добавлено: 2016-05-19 2:35:57
alexsimm
mmvds писал(а):В свое время тоже намучились с софтовым роутером на Фре (http://forum.lissyara.su/viewtopic.php?f=8&t=31297) также получили потолок в 600Мбит после всех припарок, когда дошли до этого порога пришлось ставить еще софт-роутер на фре (еще 600Мбит) и распределять нагрузку трафика на них (через маршрутизацию диапазонов подсетей), а затем еще 1 сервер :)
А затем перешли на vyatta, которая переваривала весь трафик > 3 Гбит на одной машине.
Спасибо за информацию. Будем иметь ввиду.

Отправлено спустя 30 секунд:
что за сетевуху используете?

Отправлено спустя 29 секунд:
mmvds писал(а):В свое время тоже намучились с софтовым роутером на Фре (http://forum.lissyara.su/viewtopic.php?f=8&t=31297) также получили потолок в 600Мбит после всех припарок, когда дошли до этого порога пришлось ставить еще софт-роутер на фре (еще 600Мбит) и распределять нагрузку трафика на них (через маршрутизацию диапазонов подсетей), а затем еще 1 сервер :)
А затем перешли на vyatta, которая переваривала весь трафик > 3 Гбит на одной машине.
Что за сетевуху используете и остальное железо?

Загрузка системы interrupt

Добавлено: 2016-05-19 10:35:42
mmvds
Железо тоже самое было что и в моем посте
2X5620/3GR1066T/SATA6/2T500G7/6HSA/DVD±RWT/2GLAN/1C/2US/IPMI+/2PS500/4PCIe/RMK/CAR3S
единственное карточку заменили на Intel 4 Гбит
к сожалению точно посмотреть не могу, т.к уже несколько лет работаю в другой компании

Загрузка системы interrupt

Добавлено: 2016-05-28 20:08:03
alexsimm
mmvds писал(а):Железо тоже самое было что и в моем посте
2X5620/3GR1066T/SATA6/2T500G7/6HSA/DVD±RWT/2GLAN/1C/2US/IPMI+/2PS500/4PCIe/RMK/CAR3S
единственное карточку заменили на Intel 4 Гбит
к сожалению точно посмотреть не могу, т.к уже несколько лет работаю в другой компании
У меня почему то на этом серваке фрибсд 10.3 не видит комп порты, даже на внешней карточке писиай.
в ядре нет поддержки?

Загрузка системы interrupt

Добавлено: 2016-06-07 0:53:35
alexsimm
Опять ни с того ни с сего понеслась загрузка dummynet ом процессора.
Опытным путём выяснил, какое правило pipe это делало :

${fwcmd} pipe 105 config mask src-ip 0xFFFFFFFF bw 30000Kbit/s
${fwcmd} add pipe 105 all from 172.20.21.0:255.255.255.0 to any in

Только вот с чего вдруг?

Загрузка системы interrupt

Добавлено: 2016-06-07 6:37:36
alexsimm
Пошли дальше:
проблема даже непонятно в чем.
Вдруг ни с того ни с сего загрузка по сетевой карте, которая смотрит во внешку вырастает под 100 процентов.
И всё, связи почти нет.
Что делать?
Нужна срочная помощь. Если найдётся тот кто быстро найдёт решение, вознагражу

Загрузка системы interrupt

Добавлено: 2016-06-07 9:14:50
LBV
У тебя машина в роли шлюза или еще что на внешнем интерфейсе висит? Тюнинг делалй какой (loader.conf, sysctl.conf)? Есть возможность сдампить трафик во время загрузки? Было бы неплохо увидеть правила фаера.

Загрузка системы interrupt

Добавлено: 2016-06-07 11:23:39
alexsimm
LBV писал(а):У тебя машина в роли шлюза или еще что на внешнем интерфейсе висит? Тюнинг делалй какой (loader.conf, sysctl.conf)? Есть возможность сдампить трафик во время загрузки? Было бы неплохо увидеть правила фаера.
Только шлюз и больше ничего
из тюнинга
net.inet.ip.fw.one_pass=0
net.inet.tcp.blackhole=2
net.inet.udp.blackhole=1
net.inet.ip.dummynet.hash_size=1024
net.isr.maxthreads=6

Сдампить трафик во время перегруза нет возможности, ибо сервер сам по себе жутко тупит.
Просил спеца ростелекома посмотреть в мою сторону на его оборрудовании.
Ничего криминального не увидели.
При нормальном режиме работы когда допустим загрузка 100 мегабит, пакетов проходит до 11 тыс.
КОгда сервер уже в тупняке, вообще на канале никакой загрузки нет.
Отключение кабеля от локального интерфейса на шлюзе не помогает.
Отключаем кабель от внешнего - и загрузка сетевой карты падает резко.
какие идеи?

Отправлено спустя 57 секунд:
По части правил файервола : я пробовал делать воообще без правил, открыто для всех. Были правила только для nat, но всё равно не помогло.

Загрузка системы interrupt

Добавлено: 2016-06-07 11:35:15
LBV
Ну если пров говорит, что ниче криминального в твою сторону нет, может все же железо/кабель/патч-корд? Но я бы попытался как нибудь сдампить траф дабы увидеть что шло до/в момент затыка.

Загрузка системы interrupt

Добавлено: 2016-06-07 11:36:04
snorlov
Посмотри может поможет http://muff.kiev.ua/content/dummynet-pr ... ssa-k-cpu0

Загрузка системы interrupt

Добавлено: 2016-06-07 14:17:17
alexsimm
snorlov писал(а):Посмотри может поможет http://muff.kiev.ua/content/dummynet-pr ... ssa-k-cpu0
Благодарю за ссылку, ТОлько я бы лучше бы его привязал к любому другому процу, но только не к нулевому.

Отправлено спустя 1 минуту 4 секунды:
С дамминетом пока проблем нет, есть проблема с загрузкой сетевой карты по прерываниям.
И есть ещё одна проблема, которая была после установки системы http://forum.lissyara.su/viewtopic.php?f=8&t=44118, но к этой теме не относится.

Отправлено спустя 2 минуты 54 секунды:
LBV писал(а):Ну если пров говорит, что ниче криминального в твою сторону нет, может все же железо/кабель/патч-корд? Но я бы попытался как нибудь сдампить траф дабы увидеть что шло до/в момент затыка.
Кабель не менял, но менял медиаконвертор и даже у прова на другой порт пересел.
Как то не помогло.
И менял уже сетевуху, что блин только не делал

Загрузка системы interrupt

Добавлено: 2016-07-25 14:41:25
alexsimm
Проблема решена переходом на pf nat