Squid катастрофические тормоза
Правила форума
Убедительная просьба юзать теги [code] при оформлении листингов.
Сообщения не оформленные должным образом имеют все шансы быть незамеченными.
Убедительная просьба юзать теги [code] при оформлении листингов.
Сообщения не оформленные должным образом имеют все шансы быть незамеченными.
- skaaraje
- рядовой
- Сообщения: 38
- Зарегистрирован: 2009-10-21 8:40:40
- Откуда: nyagan
- Контактная информация:
Squid катастрофические тормоза
Работает squid 2.7 stable9 под FreeBSD 8 на железе Q8400 2.66 ггц + 8 гб мозга + 5 WD Raptor 10K rpm в ZFS просто без raidz, сама система на UFS на отдельном винте.
Накгрузка примерно 3 тыщ клиентов при хранилище в 100 гиг, траф на интерфейсе от 20 до 120 мбит. Регулярно, в 6 часов вечера, начинаются катастрофические тормоза. Если смотреть SquidStat-от то резко возрастает HTTP service time до 3-4 секунд , при этом DNS service time так же резко возрастает за 200. За DNS отвечает PowerDNS - находится на другом серве, поверднсная статистика в обычное время показывает 150-250 запросов в сек, на момент тормозов сквида гораздо более 1000.
Вот уже который день мучаю моск вопросом - куда копать? в сторону сквидового сеова, дык там по логам вроде все в порядке, железо справляется, мозга постоянно 400 мб свободныз есть, gstat говорит что винты в массиве zfs нагружены не запредельно. Pdns пока сильно не мучал, какие у народа будут начальные рекомендации? Может какие логи выложить?
Накгрузка примерно 3 тыщ клиентов при хранилище в 100 гиг, траф на интерфейсе от 20 до 120 мбит. Регулярно, в 6 часов вечера, начинаются катастрофические тормоза. Если смотреть SquidStat-от то резко возрастает HTTP service time до 3-4 секунд , при этом DNS service time так же резко возрастает за 200. За DNS отвечает PowerDNS - находится на другом серве, поверднсная статистика в обычное время показывает 150-250 запросов в сек, на момент тормозов сквида гораздо более 1000.
Вот уже который день мучаю моск вопросом - куда копать? в сторону сквидового сеова, дык там по логам вроде все в порядке, железо справляется, мозга постоянно 400 мб свободныз есть, gstat говорит что винты в массиве zfs нагружены не запредельно. Pdns пока сильно не мучал, какие у народа будут начальные рекомендации? Может какие логи выложить?
Последний раз редактировалось f_andrey 2010-06-15 7:14:52, всего редактировалось 1 раз.
Причина: Автору, выбирайте пожалуйста раздел соответствуюший тематике вашего сообщения.
Причина: Автору, выбирайте пожалуйста раздел соответствуюший тематике вашего сообщения.
When Hell is full, the dead will walk the Earth
Услуги хостинговой компании Host-Food.ru
Тарифы на хостинг в России, от 12 рублей: https://www.host-food.ru/tariffs/hosting/
Тарифы на виртуальные сервера (VPS/VDS/KVM) в РФ, от 189 руб.: https://www.host-food.ru/tariffs/virtualny-server-vps/
Выделенные сервера, Россия, Москва, от 2000 рублей (HP Proliant G5, Intel Xeon E5430 (2.66GHz, Quad-Core, 12Mb), 8Gb RAM, 2x300Gb SAS HDD, P400i, 512Mb, BBU):
https://www.host-food.ru/tariffs/vydelennyi-server-ds/
Недорогие домены в популярных зонах: https://www.host-food.ru/domains/
Тарифы на виртуальные сервера (VPS/VDS/KVM) в РФ, от 189 руб.: https://www.host-food.ru/tariffs/virtualny-server-vps/
Выделенные сервера, Россия, Москва, от 2000 рублей (HP Proliant G5, Intel Xeon E5430 (2.66GHz, Quad-Core, 12Mb), 8Gb RAM, 2x300Gb SAS HDD, P400i, 512Mb, BBU):
https://www.host-food.ru/tariffs/vydelennyi-server-ds/
Недорогие домены в популярных зонах: https://www.host-food.ru/domains/
-
- проходил мимо
Re: Squid катастрофические тормоза
та же самая проблема, тока железо поскромнее. Свободно 1,5 Гб мозга и тормоза просто жуткие. Я думаю копать надо в сторону связки squid+zfs...
- skaaraje
- рядовой
- Сообщения: 38
- Зарегистрирован: 2009-10-21 8:40:40
- Откуда: nyagan
- Контактная информация:
Re: Squid катастрофические тормоза
как раз с zfs полнейший телемаркет, при datasize=1k размер отображает нормально т.е. глюков с пониманием фс вроде как нет, у меня при тормозах была загрузка процессора 130-170% (хз как, top так показывал) при этом что systat что gstat не показывали перегрузки массива ( кратковременные 100% на разных винтах думаю нельзя считать перегрузом, вот когда был массив из двух дисков на 7.2 крпм, тогда 100% загрузки было непрерывно) - при этом в top не zio занимало проц , сейчас поделил разные сети на два процесса т.к. сквид не использует SMP - теперь все стало ровнее и стабильнее, все выходные простояло без увеличения service time больше 0.5 сек. не что то все равно иногда сервис тайм выпирает за 5 сек при чем связано не с количеством клиентов и трафиком от них, когда траф за 110 мбит то работает нормально, а хз с чем, пока буду дальше логи рыть. имха все происходит когда подключается кто то из клиентов на большом канале и у него злые животные в винде начинают досить или подобно гадить в сеть, или ботнет местный какой включается, вобщем надо снорта или еще какой IDS заюзать ужеegrad писал(а):та же самая проблема, тока железо поскромнее. Свободно 1,5 Гб мозга и тормоза просто жуткие. Я думаю копать надо в сторону связки squid+zfs...
When Hell is full, the dead will walk the Earth
- skaaraje
- рядовой
- Сообщения: 38
- Зарегистрирован: 2009-10-21 8:40:40
- Откуда: nyagan
- Контактная информация:
Re: Squid катастрофические тормоза
pdns_recursor запустил на другом серве - тормоза почти прошли. Теперь другая проблема - некоторая часть сайтов не открывается через squid, прямо открывается ( один, но клиент требует, можно ipfw конечно его прямо пропустить, но решение не продакшн так сказать) - про Squid Linux ECN много читалось, в FreeBSD 8 итак net.inet.tcp.ecn.enable=0 дефолтно. Где еще рыть кто подсказать может?
ЗЫ. после редактирования модером - не могу изменить первое сообщение, хотел бы тему с Squid катастрофические тормоза изменить на Squid под очень большой нагрузкой имха на 2010г. нагрузка в 100 мбит и 4 килоюзера еще может считаться очень большой.
ЗЫ. после редактирования модером - не могу изменить первое сообщение, хотел бы тему с Squid катастрофические тормоза изменить на Squid под очень большой нагрузкой имха на 2010г. нагрузка в 100 мбит и 4 килоюзера еще может считаться очень большой.
When Hell is full, the dead will walk the Earth
- Alex Keda
- стреляли...
- Сообщения: 35466
- Зарегистрирован: 2004-10-18 14:25:19
- Откуда: Made in USSR
- Контактная информация:
Re: Squid катастрофические тормоза
юзайте UFS лучше
периодически натыкался на zfs на подобное
лечилось тока перезагрузкой, ито ненадолго
периодически натыкался на zfs на подобное
лечилось тока перезагрузкой, ито ненадолго
Убей их всех! Бог потом рассортирует...
- skaaraje
- рядовой
- Сообщения: 38
- Зарегистрирован: 2009-10-21 8:40:40
- Откуда: nyagan
- Контактная информация:
Re: Squid катастрофические тормоза
не считаю что проблема неоткрываемости сайтов связана с zfs, скоро будет серв с 14 sas винтами и RHEL где будет btrfs или ext4 при невозможности бтр-а из политики корпоративной, имха неоткрываемость сайтов как раз связяна с кривизной этих сайтов которые как написано в майловых архивах сквида - находятся за туннелем или кривым фиревалом. но клиентам пофиг что сайт на кривом хостинге, мне то как это исправить?
When Hell is full, the dead will walk the Earth
- gonzo111
- лейтенант
- Сообщения: 648
- Зарегистрирован: 2007-11-15 16:32:33
- Откуда: China
- Контактная информация:
Re: Squid катастрофические тормоза
какаие сайты ? логи по ним в студию..
может для вылавлиния проблем
разбить на несколько серверов нагрузку и/или сделать че то типа parent proxy
может для вылавлиния проблем
разбить на несколько серверов нагрузку и/или сделать че то типа parent proxy
Тяжело в учении легко в РАЮ!
беру зарплату гречкой и сахаром...
Наша комната - lissyara.su@conference.jabber.ru
беру зарплату гречкой и сахаром...
Наша комната - lissyara.su@conference.jabber.ru
- ADRE
- майор
- Сообщения: 2645
- Зарегистрирован: 2007-07-26 8:53:49
- Контактная информация:
Re: Squid катастрофические тормоза
такой не скромный вопрос в строке кеша в squid.conf настройки какие?
//del
- skaaraje
- рядовой
- Сообщения: 38
- Зарегистрирован: 2009-10-21 8:40:40
- Откуда: nyagan
- Контактная информация:
Re: Squid катастрофические тормоза
запустил 3 сквида на разные сетки, стало гораздо веселее, щаз буду делать как по правильному - один парент для 6 сквидов на разные сети, чтоб хранилища не размножать
пока прицепляю конфиги для посмотреть и пальцем показать где я неправ
сам sqid.conf
sysctl.conf
loader.conf
пока прицепляю конфиги для посмотреть и пальцем показать где я неправ
сам sqid.conf
Код: Выделить всё
acl all src all
acl manager proto cache_object
acl localhost src 127.0.0.1/32
acl to_localhost dst 127.0.0.1/32
acl localnet src 91.143.56.0/22 87.226.187.0/24 87.226.188.0/22 92.246.208.0/22 192.168.30.0/24 192.168.100.0/24 178.72.84.0/22 10.7.249.0/24
acl SSL_ports port 443
acl Safe_ports port 80 # http
acl Safe_ports port 81 # http_81
acl Safe_ports port 21 # ftp
#acl Safe_ports port 443 # https
#acl Safe_ports port 70 # gopher
#acl Safe_ports port 210 # wais
#acl Safe_ports port 1025-65535 # unregistered ports
#acl Safe_ports port 280 # http-mgmt
#acl Safe_ports port 488 # gss-http
#acl Safe_ports port 591 # filemaker
#acl Safe_ports port 777 # multiling http
acl CONNECT method CONNECT
http_access allow manager localhost
http_access deny manager
http_access deny !Safe_ports
http_access deny CONNECT !SSL_ports
http_access allow localnet
http_access deny all
icp_access allow localnet
icp_access deny all
http_port 3456 transparent
cache_mem 512 MB
maximum_object_size_in_memory 512 KB
#memory_replacement_policy lru
memory_replacement_policy heap GDSF
#memory_pools off
#cache_replacement_policy lru
#cache_replacement_policy heap LRU
#cache_replacement_policy heap GDSF
cache_replacement_policy heap LFUDA
cache_dir aufs /tank/store01 100000 64 256
#cache_dir aufs /tank/store02 100000 64 256
#cache_dir aufs /tank/store03 100000 64 256
#cache_dir aufs /tank/store04 100000 64 256
#store_dir_select_algorithm least-load
store_dir_select_algorithm round-robin
minimum_object_size 0 KB
maximum_object_size 16384 KB
cache_swap_low 95
cache_swap_high 98
update_headers off
#access_log /usr/local/squid/logs/access.log squid
access_log /tank/logs/access.log squid
access_log none
#cache_log /usr/local/squid/logs/cache.log
cache_log /tank/logs/cache.log
cache_store_log none
logfile_rotate 5
pid_filename /usr/local/squid/logs/squid.pid
#debug_options ALL,1
client_netmask 255.255.255.255
hierarchy_stoplist cgi-bin ? amahrov.ru
refresh_pattern \.bz2$ 10080 100% 10080 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.exe$ 10080 100% 10080 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.gif$ 10080 100% 10080 override-lastmod override-expire ignore-no-cache
refresh_pattern \.gz$ 10080 100% 10080 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.ico$ 10080 100% 10080 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.jpg$ 10080 100% 10080 override-lastmod override-expire ignore-no-cache
refresh_pattern \.mid$ 10080 100% 10080 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.mp3$ 10080 100% 10080 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.pdf$ 10080 100% 10080 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.swf$ 10080 100% 10080 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.tar$ 10080 100% 10080 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.tgz$ 10080 100% 10080 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.zip$ 10080 100% 10080 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.rar$ 10080 100% 10080 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.7z$ 10080 100% 10080 override-lastmod override-expire ignore-reload ignore-no-cache
#
refresh_pattern http://ad\. 43200 100% 43200 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern http://ads\. 43200 100% 43200 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern http://adv\. 43200 100% 43200 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern http://click\. 43200 100% 43200 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern http://count\. 43200 100% 43200 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern http://counter\. 43200 100% 43200 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern http://engine\. 43200 100% 43200 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern http://img\.readme\.ru 43200 100% 43200 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern http://userpic\.livejournal\.com 43200 100% 43200 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.ru/bf-analyze 43200 100% 43200 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.ru/bf-si 43200 100% 43200 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern /advs/ 43200 100% 43200 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern /banners/ 43200 100% 43200 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern /cgi-bin/iframe/ 43200 100% 43200 override-lastmod override-expire ignore-reload ignore-no-cache
#
refresh_pattern ^ftp: 1440 20% 10080
refresh_pattern ^gopher: 1440 0% 1440
refresh_pattern -i (/cgi-bin/|\?) 0 0% 0
refresh_pattern . 0 80% 4320
quick_abort_pct 50
read_ahead_gap 512 KB
positive_dns_ttl 6 hours
negative_dns_ttl 5 minute
range_offset_limit 0 KB
minimum_expiry_time 120 seconds
store_avg_object_size 333 KB
store_objects_per_bucket 66
refresh_stale_hit 30 seconds
vary_ignore_expire on
#header_replace User-Agent Nutscrape/1.0 (CP/M; 8-bit)
#server_http11 on
forward_timeout 1 minutes
connect_timeout 1 minute
request_timeout 1 minutes
persistent_request_timeout 30 minutes
client_lifetime 300 minutes
half_closed_clients off
cache_effective_user squid
visible_hostname tank.nyagan.su
client_persistent_connections off
server_persistent_connections off
persistent_connection_after_error on
detect_broken_pconn on
acl snmp_host src 127.0.0.1 91.143.58.3 87.226.187.4
snmp_port 3401
acl snmppublic snmp_community public
snmp_access allow snmppublic snmp_host
snmp_access deny all
error_directory /usr/local/etc/squid/errors/Russian-1251
max_filedescriptors 0
accept_filter httpready
tcp_recv_bufsize 0 bytes
#incoming_rate 50
check_hostnames off
allow_underscore off
#dns_retransmit_interval 5 seconds
#dns_timeout 1 minutes
#dns_nameservers 127.0.0.1
dns_children 150
dns_nameservers 91.143.58.10
#dns_nameservers 91.143.48.42
hosts_file /etc/hosts
ignore_unknown_nameservers on
dns_testnames nyagan.su
ipcache_size 32768
ipcache_low 95
ipcache_high 98
fqdncache_size 32768
memory_pools off
#memory_pools_limit 256 MB
forwarded_for off
cachemgr_passwd ********** all
client_db off
reload_into_ims on
maximum_single_addr_tries 3
retry_on_error on
pipeline_prefetch on
coredump_dir /usr/local/squid/cache
mail_program none
Код: Выделить всё
security.bsd.see_other_uids=0
security.bsd.see_other_gids=0
net.inet.tcp.recvspace=78840
net.inet.tcp.sendspace=78840
net.inet.udp.recvspace=78840
net.inet.udp.maxdgram=78840
net.inet.tcp.delayed_ack=1
net.inet.tcp.delacktime=100
net.local.stream.sendspace=82320
net.local.stream.recvspace=82320
net.inet.tcp.inflight.enable=1
net.inet.tcp.inflight.min=6144
net.inet.tcp.local_slowstart_flightsize=10
net.inet.tcp.slowstart_flightsize=54
net.inet.tcp.nolocaltimewait=1
net.inet.tcp.hostcache.expire=3900
net.inet.ip.ttl=111
net.inet.ip.stealth=1
net.inet.ip.redirect=0
net.inet.ip.portrange.randomized=0
net.inet.ip.sourceroute=0
net.inet.ip.accept_sourceroute=0
net.inet.ip.portrange.first=1024
net.inet.ip.portrange.last=65535
net.inet.tcp.blackhole=2
net.inet.udp.blackhole=1
net.inet.icmp.maskrepl=0
net.inet.icmp.log_redirect=0
net.inet.icmp.drop_redirect=1
net.inet.tcp.msl=3000
net.inet.tcp.drop_synfin=1
net.inet.tcp.recvbuf_auto=0
loader.conf
Код: Выделить всё
loader_logo="beastie"
zfs.load=YES
vfs.zfs.prefetch_disable=0
#accf_data_load=YES
#accf_http_load=YES
kern.hz=2000
kern.maxvnodes=800000
kern.ipc.maxsockets=204800
kern.ipc.shm_use_phys=1
kern.ipc.nmbclusters=98304
kern.ipc.somaxconn=4096
kern.maxfiles=379465
kern.maxfilesperproc=252977
net.inet.tcp.tcbhashsize=4096
net.inet.tcp.hostcache.hashsize=1024
vm.pmap.pv_entry_max=8524834
vm.pmap.shpgperproc=2000
When Hell is full, the dead will walk the Earth
- ADRE
- майор
- Сообщения: 2645
- Зарегистрирован: 2007-07-26 8:53:49
- Контактная информация:
Re: Squid катастрофические тормоза
Код: Выделить всё
cache_dir aufs /tank/store01 100000 64 256
//del
- skaaraje
- рядовой
- Сообщения: 38
- Зарегистрирован: 2009-10-21 8:40:40
- Откуда: nyagan
- Контактная информация:
Re: Squid катастрофические тормоза
cache_dir количество первого ми второго уровня даже считал по avg_size и размеру по какой то формуле найденой в тырнетах. тем более учитывая что массив zfs из 5 винтов на 10krpm , от этого и store_dir_select_algorithm round-robin для распределения нагрузки на весь массив дисков. все ИМХА естессно, шас буду делать один парент и все сиблинги для имеющихся сетей с одним общим хранилищем. пока сотавлюб как есть т.к. 200 гиг хочу , дальше попробую менять.
When Hell is full, the dead will walk the Earth
- ADRE
- майор
- Сообщения: 2645
- Зарегистрирован: 2007-07-26 8:53:49
- Контактная информация:
Re: Squid катастрофические тормоза
если на 5 винтах - странно ... должно шуршать тогда, а если делать squid -k reconfig оно изменения стразу вносит или тупит секунд 30? Можешь сейчас поставить 200гиг...
//del
- skaaraje
- рядовой
- Сообщения: 38
- Зарегистрирован: 2009-10-21 8:40:40
- Откуда: nyagan
- Контактная информация:
Re: Squid катастрофические тормоза
при reconfigure все проходит сразу но еще минут 3 подтормаживает сама система пока идет store rebuild
щаз как раз доделываю на 6 процессов + 1 парент на 200гиг, как прикручу squidstat ( ну любит руководство картинки смотреть) - всех переключу на ipfw по портам, там видно будет. хранилище заполнит примерно за 2-3 часа
щаз как раз доделываю на 6 процессов + 1 парент на 200гиг, как прикручу squidstat ( ну любит руководство картинки смотреть) - всех переключу на ipfw по портам, там видно будет. хранилище заполнит примерно за 2-3 часа
When Hell is full, the dead will walk the Earth
- skaaraje
- рядовой
- Сообщения: 38
- Зарегистрирован: 2009-10-21 8:40:40
- Откуда: nyagan
- Контактная информация:
Re: Squid катастрофические тормоза
кстате, поповоду неоткрываемости сайтов ( а я в отпуске и пивандрий невозбранно пиецца ) - одмин цисков руками выставил mss меньше чем mtu и заработали же!
но тормоза сквидов ( уже нескольких) не закончились - теперь видимо надо пилить конфу у парента и остальных на работу по специальности, кто то уже каскадом сквиды настраивал? подскажите где подкрутить чтоб быстро стало
но тормоза сквидов ( уже нескольких) не закончились - теперь видимо надо пилить конфу у парента и остальных на работу по специальности, кто то уже каскадом сквиды настраивал? подскажите где подкрутить чтоб быстро стало
When Hell is full, the dead will walk the Earth
- gonzo111
- лейтенант
- Сообщения: 648
- Зарегистрирован: 2007-11-15 16:32:33
- Откуда: China
- Контактная информация:
Re: Squid катастрофические тормоза
Тяжело в учении легко в РАЮ!
беру зарплату гречкой и сахаром...
Наша комната - lissyara.su@conference.jabber.ru
беру зарплату гречкой и сахаром...
Наша комната - lissyara.su@conference.jabber.ru
-
- проходил мимо
Re: Squid катастрофические тормоза
vm.kmem_size = ???
vm.kmem_size_max="???M"
vfs.zfs.arc_max="???M"
vfs.zfs.vdev.cache.size="??M"
vm.kmem_size_max="???M"
vfs.zfs.arc_max="???M"
vfs.zfs.vdev.cache.size="??M"
- skaaraje
- рядовой
- Сообщения: 38
- Зарегистрирован: 2009-10-21 8:40:40
- Откуда: nyagan
- Контактная информация:
Re: Squid катастрофические тормоза
"Пилим squid и sams в примерах и задачках. Установка SqStat." непонятно как оно вобще ко мне относится!?
у меня задача не нарезать траф или ограничивать ресурсы а наоборот сделать для 3000 юзверей интернет по http быстрее, чем они имеют через канал в 200 мбит.
И что то кагбе уже разрыв мозга, практически неделю уже вокруг серва со сквидом пляски с бубнами, курение манов и гугление! Не могу разобраться где копать
Ситуация такова - запущено 6 процессов сквида с разными конфигами, первый сквид это parent для всех остальных, у всех остальных newer_direct
Пока нагрузка на любой из процессов сквида меньше 25-30 % в top , все работает на ура, как только переваливает за 35 % начинаются тормоза у клиентов, причем заметные тормоза, ютуб постоянно тормозит на буферизацию, speedtest.net начинает показывать в три раза больше ping и в три раза меньше скорость, выростает service_time на графиках squidstat
Какие будут идеи?
это конфиги parent-а
это конфиги у newer_direct
у меня задача не нарезать траф или ограничивать ресурсы а наоборот сделать для 3000 юзверей интернет по http быстрее, чем они имеют через канал в 200 мбит.
И что то кагбе уже разрыв мозга, практически неделю уже вокруг серва со сквидом пляски с бубнами, курение манов и гугление! Не могу разобраться где копать
Ситуация такова - запущено 6 процессов сквида с разными конфигами, первый сквид это parent для всех остальных, у всех остальных newer_direct
Пока нагрузка на любой из процессов сквида меньше 25-30 % в top , все работает на ура, как только переваливает за 35 % начинаются тормоза у клиентов, причем заметные тормоза, ютуб постоянно тормозит на буферизацию, speedtest.net начинает показывать в три раза больше ping и в три раза меньше скорость, выростает service_time на графиках squidstat
Какие будут идеи?
это конфиги parent-а
Код: Выделить всё
acl all src all
acl manager proto cache_object
acl localhost src 127.0.0.1/32
acl to_localhost dst 127.0.0.1/32
acl localnet src 91.143.56.0/22 87.226.187.0/24 87.226.188.0/22 92.246.208.0/22 192.168.30.0/24 192.168.100.0/24 178.72.84.0/22 10.7.249.0/24
acl SSL_ports port 443
acl CONNECT method CONNECT
http_access allow manager localhost localnet
http_access allow localhost
http_access allow localnet
http_access deny manager
http_access deny !Safe_ports
http_access deny CONNECT !SSL_ports
icp_access allow localnet localhost
icp_access deny all
http_port 9000 transparent
cache_mem 512 MB
maximum_object_size_in_memory 1 MB
memory_replacement_policy heap GDSF
cache_replacement_policy heap LFUDA
cache_dir aufs /tank/store00 200000 64 256
store_dir_select_algorithm least-load
minimum_object_size 0 KB
maximum_object_size 128 MB
cache_swap_low 95
cache_swap_high 98
update_headers off
access_log /tank/logs/access0.log squid
cache_log /tank/logs/cache0.log
cache_store_log none
logfile_rotate 3
pid_filename /usr/local/squid0/logs/squid.pid
client_netmask 255.255.255.255
hierarchy_stoplist cgi-bin ?
refresh_pattern ^ftp: 1440 20% 10080
refresh_pattern ^gopher: 1440 0% 1440
refresh_pattern -i (/cgi-bin/|\?) 0 0% 0
refresh_pattern . 1440 40% 4320
positive_dns_ttl 6 hours
negative_dns_ttl 5 minute
range_offset_limit 0 KB
minimum_expiry_time 120 seconds
store_avg_object_size 333 KB
store_objects_per_bucket 66
refresh_stale_hit 30 seconds
vary_ignore_expire on
forward_timeout 1 minutes
connect_timeout 1 minute
request_timeout 1 minutes
persistent_request_timeout 30 minutes
client_lifetime 300 minutes
half_closed_clients off
cache_effective_user squid
visible_hostname tank.nyagan.su
client_persistent_connections off
server_persistent_connections off
persistent_connection_after_error on
detect_broken_pconn on
acl snmp_host src 127.0.0.1 91.143.58.3 87.226.187.4
snmp_port 3440
acl snmppublic snmp_community public
snmp_access allow snmppublic snmp_host
snmp_access deny all
icp_port 3130
error_directory /usr/local/etc/squid/errors/Russian-1251
max_filedescriptors 0
accept_filter httpready
tcp_recv_bufsize 0 bytes
check_hostnames off
allow_underscore off
dns_children 160
dns_nameservers 91.143.58.10
hosts_file /etc/hosts
ignore_unknown_nameservers on
dns_testnames nyagan.su
ipcache_size 32768
ipcache_low 95
ipcache_high 98
fqdncache_size 32768
memory_pools off
forwarded_for off
cachemgr_passwd password all
client_db off
reload_into_ims on
retry_on_error on
coredump_dir /usr/local/squid0/cache
mail_program none
Код: Выделить всё
acl all src all
acl manager proto cache_object
acl localhost src 127.0.0.1/32
acl to_localhost dst 127.0.0.1/32
acl localnet src 91.143.56.0/22 87.226.187.0/24 87.226.188.0/22 92.246.208.0/22 192.168.30.0/24 192.168.100.0/24 178.72.84.0/22 10.7.249.0/24
acl SSL_ports port 443
acl CONNECT method CONNECT
http_access allow manager localhost
http_access allow localhost
http_access allow localnet
http_access deny manager all
http_access deny !Safe_ports
http_access deny CONNECT !SSL_ports
icp_access allow localnet
icp_access deny all
http_port 9001 transparent
cache_peer 91.143.58.1 parent 9000 3130 no-query default
never_direct allow all
cache_mem 256 MB
maximum_object_size_in_memory 512 KB
memory_replacement_policy heap GDSF
cache_replacement_policy heap LFUDA
cache_dir null /tmp
minimum_object_size 0 KB
maximum_object_size 256 MB
cache_swap_low 95
cache_swap_high 98
update_headers off
access_log /tank/logs/access1.log squid
cache_log /tank/logs/cache1.log
cache_store_log none
logfile_rotate 5
pid_filename /usr/local/squid1/logs/squid.pid
client_netmask 255.255.255.255
hierarchy_stoplist cgi-bin ?
refresh_pattern ^ftp: 1440 20% 10080
refresh_pattern ^gopher: 1440 0% 1440
refresh_pattern -i (/cgi-bin/|\?) 0 0% 0
refresh_pattern . 0 20% 4320
vary_ignore_expire on
cache_effective_user squid
visible_hostname tank.nyagan.su
acl snmp_host src 127.0.0.1 91.143.58.3 87.226.187.4
snmp_port 3441
acl snmppublic snmp_community public
snmp_access allow snmppublic snmp_host
snmp_access deny all
icp_port 3131
error_directory /usr/local/etc/squid/errors/Russian-1251
max_filedescriptors 0
accept_filter httpready
dns_children 160
dns_nameservers 91.143.58.10
hosts_file /etc/hosts
ignore_unknown_nameservers on
dns_testnames nyagan.su
ipcache_size 32768
ipcache_low 95
ipcache_high 98
fqdncache_size 32768
memory_pools off
forwarded_for off
cachemgr_passwd password all
client_db off
reload_into_ims on
retry_on_error on
coredump_dir /usr/local/squid1/cache
mail_program none
When Hell is full, the dead will walk the Earth
- skaaraje
- рядовой
- Сообщения: 38
- Зарегистрирован: 2009-10-21 8:40:40
- Откуда: nyagan
- Контактная информация:
Re: Squid катастрофические тормоза
по ZFS gstat говорит от нагрузке в 15-35 % и не более
при этом
vm.kmem_size: 2771111936
vm.kmem_size_max: 329853485
vfs.zfs.arc_max: 1731944960
vfs.zfs.vdev.cache.size: 10485760
имха более чем предостаточно
при этом
vm.kmem_size: 2771111936
vm.kmem_size_max: 329853485
vfs.zfs.arc_max: 1731944960
vfs.zfs.vdev.cache.size: 10485760
имха более чем предостаточно
When Hell is full, the dead will walk the Earth
-
- проходил мимо
Re: Squid катастрофические тормоза
поставте как вам говорят ради експеримента на UFS
и отпишитесь о результатах
и отпишитесь о результатах
- skaaraje
- рядовой
- Сообщения: 38
- Зарегистрирован: 2009-10-21 8:40:40
- Откуда: nyagan
- Контактная информация:
Re: Squid катастрофические тормоза
почти не изменилось
вот строчки из IPFW
коментирую 178 сетку ( заполнена вся на 22 маску) - становится более приемлемо, ютуб не тормозит. хранилище сквида конечно еще пустое
винты слил через gstripe
в логах очень много мусора
как например
где еще подкрутить ? кто чего думает?
вот строчки из IPFW
Код: Выделить всё
# ${fwcmd} add fwd 127.0.0.1,9000 tcp from 92.246.208.0/24 to any 80 in via vlan800
${fwcmd} add fwd 127.0.0.1,9001 tcp from 92.246.208.0/24, 92.246.209.0/24, 192.168.100.0/24 to any 80 in via vlan800
${fwcmd} add fwd 127.0.0.1,9002 tcp from 92.246.210.0/24 to any 80 in via vlan800
# ${fwcmd} add fwd 127.0.0.1,9003 tcp from 178.72.84.0/22 to any 80 in via vlan800
${fwcmd} add fwd 127.0.0.1,9004 tcp from 91.143.56.0/22 to any 80 in via vlan800
${fwcmd} add fwd 127.0.0.1,9005 tcp from 92.246.211.0/24, 92.246.208.0/24 to any 80 in via vlan800
винты слил через gstripe
в логах очень много мусора
как например
Код: Выделить всё
2010/08/13 16:23:43| clientTryParseRequest: FD 583 (92.246.208.185:4217) Invalid Request
2010/08/13 16:23:44| clientTryParseRequest: FD 1034 (92.246.208.99:25065) Invalid Request
2010/08/13 16:23:44| parseHttpRequest: Unsupported method '..х>..'
2010/08/13 16:23:44| clientTryParseRequest: FD 1134 (92.246.208.185:4219) Invalid Request
2010/08/13 16:23:44| parseHttpRequest: Unsupported method '..F?б.'
2010/08/13 16:23:44| clientTryParseRequest: FD 1206 (92.246.208.99:25066) Invalid Request
2010/08/13 16:23:45| parseHttpRequest: Unsupported method '..F?ь.'
2010/08/13 16:23:45| clientTryParseRequest: FD 1271 (92.246.208.99:25067) Invalid Request
2010/08/13 16:23:45| parseHttpRequest: Unsupported method '..F?u.'
2010/08/13 16:23:45| clientTryParseRequest: FD 508 (92.246.208.99:25068) Invalid Request
2010/08/13 16:23:46| parseHttpRequest: Unsupported method '..F?ъ.'
2010/08/13 16:23:46| clientTryParseRequest: FD 873 (92.246.208.99:25069) Invalid Request
2010/08/13 16:23:46| parseHttpRequest: Unsupported method '..F?Д.'
2010/08/13 16:23:46| clientTryParseRequest: FD 625 (92.246.208.99:25070) Invalid Request
2010/08/13 16:23:47| parseHttpRequest: Unsupported method '..F?..'
2010/08/13 16:23:47| clientTryParseRequest: FD 850 (92.246.208.99:25071) Invalid Request
2010/08/13 16:23:47| parseHttpRequest: Unsupported method '.'
2010/08/13 16:23:47| clientTryParseRequest: FD 265 (92.246.208.189:3520) Invalid Request
2010/08/13 16:23:48| parseHttpRequest: Unsupported method '..F?В.'
2010/08/13 16:23:48| clientTryParseRequest: FD 368 (92.246.208.99:25072) Invalid Request
When Hell is full, the dead will walk the Earth
-
- проходил мимо
Re: Squid катастрофические тормоза
http://www.google.com/search?hl=ru&q=sq ... =&gs_rfai=
очень дельные советы если сходить и почитать по линкам
очень дельные советы если сходить и почитать по линкам
- skaaraje
- рядовой
- Сообщения: 38
- Зарегистрирован: 2009-10-21 8:40:40
- Откуда: nyagan
- Контактная информация:
Re: Squid катастрофические тормоза
как вариант продолжать гонку вооружений на очереди SunFire с 16 SAS 15кRPM дисками, 16 га мозга и шестиведерным амд камнем.
When Hell is full, the dead will walk the Earth
-
- проходил мимо
Re: Squid катастрофические тормоза
ну та понятно, читать вы не хотите
- skaaraje
- рядовой
- Сообщения: 38
- Зарегистрирован: 2009-10-21 8:40:40
- Откуда: nyagan
- Контактная информация:
Re: Squid катастрофические тормоза
ЫЫЫ,.. я думал тут посерьезнее чем постоянное отсылание к гугулу!
это уже читано давно - что обозначают записи в логах я в курсе - на 80 порт прилетает не HTTP - от вириев, от криво настроеных программ, от кривых OS-ей
конструктивное есть что нить?
вобще во многих случаях подобные записи в логах обзываются not a bug и на них рекомендуется просто забить, в моем случае подобные записи говорят только о большом количестве мусора в общем HTTP трафике имха, из мыслей пока заюзать IDS и динамикой блокировать гадких клиентов кои мешают остальным
это уже читано давно - что обозначают записи в логах я в курсе - на 80 порт прилетает не HTTP - от вириев, от криво настроеных программ, от кривых OS-ей
конструктивное есть что нить?
вобще во многих случаях подобные записи в логах обзываются not a bug и на них рекомендуется просто забить, в моем случае подобные записи говорят только о большом количестве мусора в общем HTTP трафике имха, из мыслей пока заюзать IDS и динамикой блокировать гадких клиентов кои мешают остальным
When Hell is full, the dead will walk the Earth
-
- проходил мимо
Re: Squid катастрофические тормоза
а вы тоже будте последовательныskaaraje писал(а):ЫЫЫ,.. я думал тут посерьезнее чем постоянное отсылание к гугулу!
вы на UFS проверили?поставте как вам говорят ради експеримента на UFS
и отпишитесь о результатах
это считать проверкой на UFS? и к чему тогда был ipfw вывод?skaaraje
почти не изменилось
вот строчки из IPFW
zfs как уже сказали не для быстрых операций, и я бы его не рекомнедовал