Squid катастрофические тормоза

Проблемы с установкой, настройкой и работой системных и сетевых программ.

Модераторы: GRooVE, alexco

Правила форума
Убедительная просьба юзать теги [code] при оформлении листингов.
Сообщения не оформленные должным образом имеют все шансы быть незамеченными.
Аватара пользователя
skaaraje
рядовой
Сообщения: 38
Зарегистрирован: 2009-10-21 8:40:40
Откуда: nyagan
Контактная информация:

Squid катастрофические тормоза

Непрочитанное сообщение skaaraje » 2010-06-15 7:10:51

Работает squid 2.7 stable9 под FreeBSD 8 на железе Q8400 2.66 ггц + 8 гб мозга + 5 WD Raptor 10K rpm в ZFS просто без raidz, сама система на UFS на отдельном винте.
Накгрузка примерно 3 тыщ клиентов при хранилище в 100 гиг, траф на интерфейсе от 20 до 120 мбит. Регулярно, в 6 часов вечера, начинаются катастрофические тормоза. Если смотреть SquidStat-от то резко возрастает HTTP service time до 3-4 секунд , при этом DNS service time так же резко возрастает за 200. За DNS отвечает PowerDNS - находится на другом серве, поверднсная статистика в обычное время показывает 150-250 запросов в сек, на момент тормозов сквида гораздо более 1000.
Вот уже который день мучаю моск вопросом - куда копать? в сторону сквидового сеова, дык там по логам вроде все в порядке, железо справляется, мозга постоянно 400 мб свободныз есть, gstat говорит что винты в массиве zfs нагружены не запредельно. Pdns пока сильно не мучал, какие у народа будут начальные рекомендации? Может какие логи выложить?
Последний раз редактировалось f_andrey 2010-06-15 7:14:52, всего редактировалось 1 раз.
Причина: Автору, выбирайте пожалуйста раздел соответствуюший тематике вашего сообщения.
When Hell is full, the dead will walk the Earth

Хостинговая компания Host-Food.ru
Хостинг HostFood.ru
 

Услуги хостинговой компании Host-Food.ru

Хостинг HostFood.ru

Тарифы на хостинг в России, от 12 рублей: https://www.host-food.ru/tariffs/hosting/
Тарифы на виртуальные сервера (VPS/VDS/KVM) в РФ, от 189 руб.: https://www.host-food.ru/tariffs/virtualny-server-vps/
Выделенные сервера, Россия, Москва, от 2000 рублей (HP Proliant G5, Intel Xeon E5430 (2.66GHz, Quad-Core, 12Mb), 8Gb RAM, 2x300Gb SAS HDD, P400i, 512Mb, BBU):
https://www.host-food.ru/tariffs/vydelennyi-server-ds/
Недорогие домены в популярных зонах: https://www.host-food.ru/domains/

egrad
проходил мимо

Re: Squid катастрофические тормоза

Непрочитанное сообщение egrad » 2010-06-16 22:14:07

та же самая проблема, тока железо поскромнее. Свободно 1,5 Гб мозга и тормоза просто жуткие. Я думаю копать надо в сторону связки squid+zfs...

Аватара пользователя
skaaraje
рядовой
Сообщения: 38
Зарегистрирован: 2009-10-21 8:40:40
Откуда: nyagan
Контактная информация:

Re: Squid катастрофические тормоза

Непрочитанное сообщение skaaraje » 2010-06-17 5:25:47

egrad писал(а):та же самая проблема, тока железо поскромнее. Свободно 1,5 Гб мозга и тормоза просто жуткие. Я думаю копать надо в сторону связки squid+zfs...
как раз с zfs полнейший телемаркет, при datasize=1k размер отображает нормально т.е. глюков с пониманием фс вроде как нет, у меня при тормозах была загрузка процессора 130-170% (хз как, top так показывал) при этом что systat что gstat не показывали перегрузки массива ( кратковременные 100% на разных винтах думаю нельзя считать перегрузом, вот когда был массив из двух дисков на 7.2 крпм, тогда 100% загрузки было непрерывно) - при этом в top не zio занимало проц , сейчас поделил разные сети на два процесса т.к. сквид не использует SMP - теперь все стало ровнее и стабильнее, все выходные простояло без увеличения service time больше 0.5 сек. не что то все равно иногда сервис тайм выпирает за 5 сек :( при чем связано не с количеством клиентов и трафиком от них, когда траф за 110 мбит то работает нормально, а хз с чем, пока буду дальше логи рыть. имха все происходит когда подключается кто то из клиентов на большом канале и у него злые животные в винде начинают досить или подобно гадить в сеть, или ботнет местный какой включается, вобщем надо снорта или еще какой IDS заюзать уже
When Hell is full, the dead will walk the Earth

Аватара пользователя
skaaraje
рядовой
Сообщения: 38
Зарегистрирован: 2009-10-21 8:40:40
Откуда: nyagan
Контактная информация:

Re: Squid катастрофические тормоза

Непрочитанное сообщение skaaraje » 2010-06-23 5:57:12

pdns_recursor запустил на другом серве - тормоза почти прошли. Теперь другая проблема - некоторая часть сайтов не открывается через squid, прямо открывается ( один, но клиент требует, можно ipfw конечно его прямо пропустить, но решение не продакшн так сказать) - про Squid Linux ECN много читалось, в FreeBSD 8 итак net.inet.tcp.ecn.enable=0 дефолтно. Где еще рыть кто подсказать может?

ЗЫ. после редактирования модером - не могу изменить первое сообщение, хотел бы тему с Squid катастрофические тормоза изменить на Squid под очень большой нагрузкой имха на 2010г. нагрузка в 100 мбит и 4 килоюзера еще может считаться очень большой.
When Hell is full, the dead will walk the Earth

Аватара пользователя
Alex Keda
стреляли...
Сообщения: 35262
Зарегистрирован: 2004-10-18 14:25:19
Откуда: Made in USSR
Контактная информация:

Re: Squid катастрофические тормоза

Непрочитанное сообщение Alex Keda » 2010-06-23 11:53:51

юзайте UFS лучше
периодически натыкался на zfs на подобное
лечилось тока перезагрузкой, ито ненадолго
Убей их всех! Бог потом рассортирует...

Аватара пользователя
skaaraje
рядовой
Сообщения: 38
Зарегистрирован: 2009-10-21 8:40:40
Откуда: nyagan
Контактная информация:

Re: Squid катастрофические тормоза

Непрочитанное сообщение skaaraje » 2010-06-23 13:48:21

не считаю что проблема неоткрываемости сайтов связана с zfs, скоро будет серв с 14 sas винтами и RHEL где будет btrfs или ext4 при невозможности бтр-а из политики корпоративной, имха неоткрываемость сайтов как раз связяна с кривизной этих сайтов которые как написано в майловых архивах сквида - находятся за туннелем или кривым фиревалом. но клиентам пофиг что сайт на кривом хостинге, мне то как это исправить?
When Hell is full, the dead will walk the Earth

Аватара пользователя
gonzo111
лейтенант
Сообщения: 648
Зарегистрирован: 2007-11-15 16:32:33
Откуда: China
Контактная информация:

Re: Squid катастрофические тормоза

Непрочитанное сообщение gonzo111 » 2010-06-23 13:57:55

какаие сайты ? логи по ним в студию..
может для вылавлиния проблем
разбить на несколько серверов нагрузку и/или сделать че то типа parent proxy
Тяжело в учении легко в РАЮ!
беру зарплату гречкой и сахаром...
Наша комната - lissyara.su@conference.jabber.ru

Аватара пользователя
ADRE
майор
Сообщения: 2641
Зарегистрирован: 2007-07-26 8:53:49
Контактная информация:

Re: Squid катастрофические тормоза

Непрочитанное сообщение ADRE » 2010-06-23 18:43:37

такой не скромный вопрос в строке кеша в squid.conf настройки какие?
//del

Аватара пользователя
skaaraje
рядовой
Сообщения: 38
Зарегистрирован: 2009-10-21 8:40:40
Откуда: nyagan
Контактная информация:

Re: Squid катастрофические тормоза

Непрочитанное сообщение skaaraje » 2010-06-24 5:15:27

запустил 3 сквида на разные сетки, стало гораздо веселее, щаз буду делать как по правильному - один парент для 6 сквидов на разные сети, чтоб хранилища не размножать
пока прицепляю конфиги для посмотреть и пальцем показать где я неправ ;)



сам sqid.conf

Код: Выделить всё


acl all src all
acl manager proto cache_object
acl localhost src 127.0.0.1/32
acl to_localhost dst 127.0.0.1/32
acl localnet src 91.143.56.0/22 87.226.187.0/24 87.226.188.0/22 92.246.208.0/22 192.168.30.0/24 192.168.100.0/24 178.72.84.0/22 10.7.249.0/24
    
acl SSL_ports port 443
acl Safe_ports port 80		# http
acl Safe_ports port 81		# http_81
acl Safe_ports port 21		# ftp
#acl Safe_ports port 443		# https
#acl Safe_ports port 70		# gopher
#acl Safe_ports port 210		# wais
#acl Safe_ports port 1025-65535	# unregistered ports
#acl Safe_ports port 280		# http-mgmt
#acl Safe_ports port 488		# gss-http
#acl Safe_ports port 591		# filemaker
#acl Safe_ports port 777		# multiling http
acl CONNECT method CONNECT

http_access allow manager localhost
http_access deny manager
http_access deny !Safe_ports
http_access deny CONNECT !SSL_ports


http_access allow localnet
http_access deny all
icp_access allow localnet
icp_access deny all

http_port 3456 transparent

cache_mem 512 MB
maximum_object_size_in_memory 512 KB
#memory_replacement_policy lru
memory_replacement_policy heap GDSF
#memory_pools off


#cache_replacement_policy lru
#cache_replacement_policy heap LRU
#cache_replacement_policy heap GDSF
cache_replacement_policy heap LFUDA
cache_dir aufs /tank/store01 100000 64 256
#cache_dir aufs /tank/store02 100000 64 256
#cache_dir aufs /tank/store03 100000 64 256
#cache_dir aufs /tank/store04 100000 64 256
#store_dir_select_algorithm least-load
store_dir_select_algorithm round-robin

minimum_object_size 0 KB
maximum_object_size 16384 KB
cache_swap_low 95
cache_swap_high 98

update_headers off

#access_log /usr/local/squid/logs/access.log squid
access_log /tank/logs/access.log squid
access_log none
#cache_log /usr/local/squid/logs/cache.log
cache_log /tank/logs/cache.log
cache_store_log none
logfile_rotate 5
pid_filename /usr/local/squid/logs/squid.pid
#debug_options ALL,1

client_netmask 255.255.255.255
hierarchy_stoplist cgi-bin ? amahrov.ru

refresh_pattern \.bz2$          10080   100%    10080 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.exe$          10080   100%    10080 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.gif$          10080   100%    10080 override-lastmod override-expire ignore-no-cache
refresh_pattern \.gz$           10080   100%    10080 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.ico$          10080   100%    10080 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.jpg$          10080   100%    10080 override-lastmod override-expire ignore-no-cache
refresh_pattern \.mid$          10080   100%    10080 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.mp3$          10080   100%    10080 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.pdf$          10080   100%    10080 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.swf$          10080   100%    10080 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.tar$          10080   100%    10080 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.tgz$          10080   100%    10080 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.zip$          10080   100%    10080 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.rar$          10080   100%    10080 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.7z$          10080   100%    10080 override-lastmod override-expire ignore-reload ignore-no-cache
#
refresh_pattern http://ad\.                        43200   100%    43200 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern http://ads\.                       43200   100%    43200 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern http://adv\.                       43200   100%    43200 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern http://click\.                     43200   100%    43200 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern http://count\.                     43200   100%    43200 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern http://counter\.                   43200   100%    43200 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern http://engine\.                    43200   100%    43200 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern http://img\.readme\.ru             43200   100%    43200 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern http://userpic\.livejournal\.com   43200   100%    43200 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.ru/bf-analyze                    43200   100%    43200 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern \.ru/bf-si                         43200   100%    43200 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern /advs/                             43200   100%    43200 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern /banners/                          43200   100%    43200 override-lastmod override-expire ignore-reload ignore-no-cache
refresh_pattern /cgi-bin/iframe/                   43200   100%    43200 override-lastmod override-expire ignore-reload ignore-no-cache
#
refresh_pattern ^ftp:		1440	20%	10080
refresh_pattern ^gopher:	1440	0%	1440
refresh_pattern -i (/cgi-bin/|\?) 0	0%	0
refresh_pattern .		0	80%	4320


quick_abort_pct 50
read_ahead_gap 512 KB

positive_dns_ttl 6 hours
negative_dns_ttl 5 minute
range_offset_limit 0 KB
minimum_expiry_time 120 seconds
store_avg_object_size 333 KB
store_objects_per_bucket 66
refresh_stale_hit 30 seconds
vary_ignore_expire on
#header_replace User-Agent Nutscrape/1.0 (CP/M; 8-bit)

#server_http11 on

forward_timeout 1 minutes
connect_timeout 1 minute
request_timeout 1 minutes
persistent_request_timeout 30 minutes
client_lifetime 300 minutes
half_closed_clients off

cache_effective_user squid
visible_hostname tank.nyagan.su

client_persistent_connections off
server_persistent_connections off
persistent_connection_after_error on
detect_broken_pconn on

acl snmp_host src 127.0.0.1 91.143.58.3 87.226.187.4 
snmp_port 3401
acl snmppublic snmp_community public
snmp_access allow snmppublic snmp_host
snmp_access deny all

error_directory /usr/local/etc/squid/errors/Russian-1251
max_filedescriptors 0
accept_filter httpready
tcp_recv_bufsize 0 bytes
#incoming_rate 50
check_hostnames off
allow_underscore off
#dns_retransmit_interval 5 seconds
#dns_timeout 1 minutes
#dns_nameservers 127.0.0.1
dns_children 150
dns_nameservers 91.143.58.10
#dns_nameservers 91.143.48.42
hosts_file /etc/hosts
ignore_unknown_nameservers on
dns_testnames nyagan.su
ipcache_size 32768
ipcache_low 95
ipcache_high 98
fqdncache_size 32768
memory_pools off
#memory_pools_limit 256 MB
forwarded_for off
cachemgr_passwd ********** all
client_db off
reload_into_ims on
maximum_single_addr_tries 3
retry_on_error on
pipeline_prefetch on 
coredump_dir /usr/local/squid/cache
mail_program none

sysctl.conf

Код: Выделить всё


security.bsd.see_other_uids=0
security.bsd.see_other_gids=0
net.inet.tcp.recvspace=78840
net.inet.tcp.sendspace=78840
net.inet.udp.recvspace=78840
net.inet.udp.maxdgram=78840
net.inet.tcp.delayed_ack=1
net.inet.tcp.delacktime=100
net.local.stream.sendspace=82320
net.local.stream.recvspace=82320
net.inet.tcp.inflight.enable=1
net.inet.tcp.inflight.min=6144
net.inet.tcp.local_slowstart_flightsize=10
net.inet.tcp.slowstart_flightsize=54
net.inet.tcp.nolocaltimewait=1
net.inet.tcp.hostcache.expire=3900
net.inet.ip.ttl=111
net.inet.ip.stealth=1
net.inet.ip.redirect=0
net.inet.ip.portrange.randomized=0
net.inet.ip.sourceroute=0
net.inet.ip.accept_sourceroute=0
net.inet.ip.portrange.first=1024
net.inet.ip.portrange.last=65535
net.inet.tcp.blackhole=2
net.inet.udp.blackhole=1
net.inet.icmp.maskrepl=0
net.inet.icmp.log_redirect=0
net.inet.icmp.drop_redirect=1
net.inet.tcp.msl=3000
net.inet.tcp.drop_synfin=1
net.inet.tcp.recvbuf_auto=0


loader.conf

Код: Выделить всё


loader_logo="beastie"
zfs.load=YES
vfs.zfs.prefetch_disable=0
#accf_data_load=YES
#accf_http_load=YES
kern.hz=2000
kern.maxvnodes=800000
kern.ipc.maxsockets=204800
kern.ipc.shm_use_phys=1
kern.ipc.nmbclusters=98304
kern.ipc.somaxconn=4096
kern.maxfiles=379465
kern.maxfilesperproc=252977
net.inet.tcp.tcbhashsize=4096
net.inet.tcp.hostcache.hashsize=1024
vm.pmap.pv_entry_max=8524834
vm.pmap.shpgperproc=2000

When Hell is full, the dead will walk the Earth

Аватара пользователя
ADRE
майор
Сообщения: 2641
Зарегистрирован: 2007-07-26 8:53:49
Контактная информация:

Re: Squid катастрофические тормоза

Непрочитанное сообщение ADRE » 2010-06-24 9:39:09

Код: Выделить всё

cache_dir aufs /tank/store01 100000 64 256
бедный хард, стоит подумать хотябы о 64 128 либо 64 64 либо 32 64 (разницу можете проверить) ... скорость поиска долго, шибко много папок, количество папок не добавляет скорости.
//del

Аватара пользователя
skaaraje
рядовой
Сообщения: 38
Зарегистрирован: 2009-10-21 8:40:40
Откуда: nyagan
Контактная информация:

Re: Squid катастрофические тормоза

Непрочитанное сообщение skaaraje » 2010-06-28 5:13:15

cache_dir количество первого ми второго уровня даже считал по avg_size и размеру по какой то формуле найденой в тырнетах. тем более учитывая что массив zfs из 5 винтов на 10krpm , от этого и store_dir_select_algorithm round-robin для распределения нагрузки на весь массив дисков. все ИМХА естессно, шас буду делать один парент и все сиблинги для имеющихся сетей с одним общим хранилищем. пока сотавлюб как есть т.к. 200 гиг хочу , дальше попробую менять.
When Hell is full, the dead will walk the Earth

Аватара пользователя
ADRE
майор
Сообщения: 2641
Зарегистрирован: 2007-07-26 8:53:49
Контактная информация:

Re: Squid катастрофические тормоза

Непрочитанное сообщение ADRE » 2010-06-28 6:35:15

если на 5 винтах - странно ... должно шуршать тогда, а если делать squid -k reconfig оно изменения стразу вносит или тупит секунд 30? Можешь сейчас поставить 200гиг...
//del

Аватара пользователя
skaaraje
рядовой
Сообщения: 38
Зарегистрирован: 2009-10-21 8:40:40
Откуда: nyagan
Контактная информация:

Re: Squid катастрофические тормоза

Непрочитанное сообщение skaaraje » 2010-06-28 8:40:49

при reconfigure все проходит сразу но еще минут 3 подтормаживает сама система пока идет store rebuild

щаз как раз доделываю на 6 процессов + 1 парент на 200гиг, как прикручу squidstat ( ну любит руководство картинки смотреть) - всех переключу на ipfw по портам, там видно будет. хранилище заполнит примерно за 2-3 часа
When Hell is full, the dead will walk the Earth

Аватара пользователя
skaaraje
рядовой
Сообщения: 38
Зарегистрирован: 2009-10-21 8:40:40
Откуда: nyagan
Контактная информация:

Re: Squid катастрофические тормоза

Непрочитанное сообщение skaaraje » 2010-06-30 5:32:36

кстате, поповоду неоткрываемости сайтов ( а я в отпуске и пивандрий невозбранно пиецца :) ) - одмин цисков руками выставил mss меньше чем mtu и заработали же!

но тормоза сквидов ( уже нескольких) не закончились - теперь видимо надо пилить конфу у парента и остальных на работу по специальности, кто то уже каскадом сквиды настраивал? подскажите где подкрутить чтоб быстро стало
When Hell is full, the dead will walk the Earth

Аватара пользователя
gonzo111
лейтенант
Сообщения: 648
Зарегистрирован: 2007-11-15 16:32:33
Откуда: China
Контактная информация:

Re: Squid катастрофические тормоза

Непрочитанное сообщение gonzo111 » 2010-06-30 9:05:21

Тяжело в учении легко в РАЮ!
беру зарплату гречкой и сахаром...
Наша комната - lissyara.su@conference.jabber.ru

yeaa
проходил мимо

Re: Squid катастрофические тормоза

Непрочитанное сообщение yeaa » 2010-08-08 18:23:52

vm.kmem_size = ???

vm.kmem_size_max="???M"
vfs.zfs.arc_max="???M"
vfs.zfs.vdev.cache.size="??M"

Аватара пользователя
skaaraje
рядовой
Сообщения: 38
Зарегистрирован: 2009-10-21 8:40:40
Откуда: nyagan
Контактная информация:

Re: Squid катастрофические тормоза

Непрочитанное сообщение skaaraje » 2010-08-13 11:08:51

"Пилим squid и sams в примерах и задачках. Установка SqStat." непонятно как оно вобще ко мне относится!?
у меня задача не нарезать траф или ограничивать ресурсы а наоборот сделать для 3000 юзверей интернет по http быстрее, чем они имеют через канал в 200 мбит.

И что то кагбе уже разрыв мозга, практически неделю уже вокруг серва со сквидом пляски с бубнами, курение манов и гугление! Не могу разобраться где копать :(

Ситуация такова - запущено 6 процессов сквида с разными конфигами, первый сквид это parent для всех остальных, у всех остальных newer_direct
Пока нагрузка на любой из процессов сквида меньше 25-30 % в top , все работает на ура, как только переваливает за 35 % начинаются тормоза у клиентов, причем заметные тормоза, ютуб постоянно тормозит на буферизацию, speedtest.net начинает показывать в три раза больше ping и в три раза меньше скорость, выростает service_time на графиках squidstat :(

Какие будут идеи?

это конфиги parent-а

Код: Выделить всё

acl all src all
acl manager proto cache_object
acl localhost src 127.0.0.1/32
acl to_localhost dst 127.0.0.1/32
acl localnet src 91.143.56.0/22 87.226.187.0/24 87.226.188.0/22 92.246.208.0/22 192.168.30.0/24 192.168.100.0/24 178.72.84.0/22 10.7.249.0/24
    
acl SSL_ports port 443
acl CONNECT method CONNECT

http_access allow manager localhost localnet
http_access allow localhost
http_access allow localnet
http_access deny manager
http_access deny !Safe_ports
http_access deny CONNECT !SSL_ports


icp_access allow localnet localhost
icp_access deny all

http_port 9000 transparent

cache_mem 512 MB
maximum_object_size_in_memory 1 MB
memory_replacement_policy heap GDSF


cache_replacement_policy heap LFUDA
cache_dir aufs /tank/store00 200000 64 256
store_dir_select_algorithm least-load

minimum_object_size 0 KB
maximum_object_size 128 MB
cache_swap_low 95
cache_swap_high 98

update_headers off

access_log /tank/logs/access0.log squid
cache_log /tank/logs/cache0.log
cache_store_log none
logfile_rotate 3
pid_filename /usr/local/squid0/logs/squid.pid

client_netmask 255.255.255.255
hierarchy_stoplist cgi-bin ?


refresh_pattern ^ftp:		1440	20%	10080
refresh_pattern ^gopher:	1440	0%	1440
refresh_pattern -i (/cgi-bin/|\?) 0	0%	0
refresh_pattern .		1440	40%	4320

positive_dns_ttl 6 hours
negative_dns_ttl 5 minute
range_offset_limit 0 KB
minimum_expiry_time 120 seconds
store_avg_object_size 333 KB
store_objects_per_bucket 66
refresh_stale_hit 30 seconds
vary_ignore_expire on

forward_timeout 1 minutes
connect_timeout 1 minute
request_timeout 1 minutes
persistent_request_timeout 30 minutes
client_lifetime 300 minutes
half_closed_clients off

cache_effective_user squid
visible_hostname tank.nyagan.su

client_persistent_connections off
server_persistent_connections off
persistent_connection_after_error on
detect_broken_pconn on

acl snmp_host src 127.0.0.1 91.143.58.3 87.226.187.4 
snmp_port 3440
acl snmppublic snmp_community public
snmp_access allow snmppublic snmp_host
snmp_access deny all

icp_port 3130

error_directory /usr/local/etc/squid/errors/Russian-1251
max_filedescriptors 0
accept_filter httpready
tcp_recv_bufsize 0 bytes
check_hostnames off
allow_underscore off
dns_children 160
dns_nameservers 91.143.58.10
hosts_file /etc/hosts
ignore_unknown_nameservers on
dns_testnames nyagan.su
ipcache_size 32768
ipcache_low 95
ipcache_high 98
fqdncache_size 32768
memory_pools off
forwarded_for off
cachemgr_passwd password all
client_db off
reload_into_ims on
retry_on_error on
coredump_dir /usr/local/squid0/cache
mail_program none
это конфиги у newer_direct

Код: Выделить всё

acl all src all
acl manager proto cache_object
acl localhost src 127.0.0.1/32
acl to_localhost dst 127.0.0.1/32
acl localnet src 91.143.56.0/22 87.226.187.0/24 87.226.188.0/22 92.246.208.0/22 192.168.30.0/24 192.168.100.0/24 178.72.84.0/22 10.7.249.0/24
    
acl SSL_ports port 443
acl CONNECT method CONNECT

http_access allow manager localhost 
http_access allow localhost
http_access allow localnet
http_access deny manager all
http_access deny !Safe_ports
http_access deny CONNECT !SSL_ports

icp_access allow localnet
icp_access deny all

http_port 9001 transparent
cache_peer 91.143.58.1 parent 9000 3130 no-query default
never_direct allow all


cache_mem 256 MB
maximum_object_size_in_memory 512 KB
memory_replacement_policy heap GDSF


cache_replacement_policy heap LFUDA
cache_dir null /tmp

minimum_object_size 0 KB
maximum_object_size 256 MB
cache_swap_low 95
cache_swap_high 98

update_headers off

access_log /tank/logs/access1.log squid
cache_log /tank/logs/cache1.log
cache_store_log none
logfile_rotate 5
pid_filename /usr/local/squid1/logs/squid.pid

client_netmask 255.255.255.255
hierarchy_stoplist cgi-bin ?


refresh_pattern ^ftp:		1440	20%	10080
refresh_pattern ^gopher:	1440	0%	1440
refresh_pattern -i (/cgi-bin/|\?) 0	0%	0
refresh_pattern .		0	20%	4320




vary_ignore_expire on



cache_effective_user squid
visible_hostname tank.nyagan.su

acl snmp_host src 127.0.0.1 91.143.58.3 87.226.187.4 
snmp_port 3441
acl snmppublic snmp_community public
snmp_access allow snmppublic snmp_host
snmp_access deny all

icp_port 3131

error_directory /usr/local/etc/squid/errors/Russian-1251
max_filedescriptors 0
accept_filter httpready
dns_children 160
dns_nameservers 91.143.58.10
hosts_file /etc/hosts
ignore_unknown_nameservers on
dns_testnames nyagan.su
ipcache_size 32768
ipcache_low 95
ipcache_high 98
fqdncache_size 32768
memory_pools off
forwarded_for off
cachemgr_passwd password all
client_db off
reload_into_ims on
retry_on_error on
coredump_dir /usr/local/squid1/cache
mail_program none
When Hell is full, the dead will walk the Earth

Аватара пользователя
skaaraje
рядовой
Сообщения: 38
Зарегистрирован: 2009-10-21 8:40:40
Откуда: nyagan
Контактная информация:

Re: Squid катастрофические тормоза

Непрочитанное сообщение skaaraje » 2010-08-13 11:15:10

по ZFS gstat говорит от нагрузке в 15-35 % и не более

при этом
vm.kmem_size: 2771111936
vm.kmem_size_max: 329853485
vfs.zfs.arc_max: 1731944960
vfs.zfs.vdev.cache.size: 10485760

имха более чем предостаточно
When Hell is full, the dead will walk the Earth

Гость
проходил мимо

Re: Squid катастрофические тормоза

Непрочитанное сообщение Гость » 2010-08-13 11:40:14

поставте как вам говорят ради експеримента на UFS
и отпишитесь о результатах

Аватара пользователя
skaaraje
рядовой
Сообщения: 38
Зарегистрирован: 2009-10-21 8:40:40
Откуда: nyagan
Контактная информация:

Re: Squid катастрофические тормоза

Непрочитанное сообщение skaaraje » 2010-08-13 13:24:33

почти не изменилось
вот строчки из IPFW

Код: Выделить всё


#       ${fwcmd} add fwd 127.0.0.1,9000 tcp from 92.246.208.0/24 to any 80 in via vlan800
        ${fwcmd} add fwd 127.0.0.1,9001 tcp from 92.246.208.0/24, 92.246.209.0/24, 192.168.100.0/24 to any 80 in via vlan800
        ${fwcmd} add fwd 127.0.0.1,9002 tcp from 92.246.210.0/24 to any 80 in via vlan800
#       ${fwcmd} add fwd 127.0.0.1,9003 tcp from 178.72.84.0/22 to any 80 in via vlan800
        ${fwcmd} add fwd 127.0.0.1,9004 tcp from 91.143.56.0/22 to any 80 in via vlan800
        ${fwcmd} add fwd 127.0.0.1,9005 tcp from 92.246.211.0/24, 92.246.208.0/24 to any 80 in via vlan800

коментирую 178 сетку ( заполнена вся на 22 маску) - становится более приемлемо, ютуб не тормозит. хранилище сквида конечно еще пустое
винты слил через gstripe

в логах очень много мусора
как например

Код: Выделить всё

2010/08/13 16:23:43| clientTryParseRequest: FD 583 (92.246.208.185:4217) Invalid Request
2010/08/13 16:23:44| clientTryParseRequest: FD 1034 (92.246.208.99:25065) Invalid Request
2010/08/13 16:23:44| parseHttpRequest: Unsupported method '..х>..'
2010/08/13 16:23:44| clientTryParseRequest: FD 1134 (92.246.208.185:4219) Invalid Request
2010/08/13 16:23:44| parseHttpRequest: Unsupported method '..F?б.'
2010/08/13 16:23:44| clientTryParseRequest: FD 1206 (92.246.208.99:25066) Invalid Request
2010/08/13 16:23:45| parseHttpRequest: Unsupported method '..F?ь.'
2010/08/13 16:23:45| clientTryParseRequest: FD 1271 (92.246.208.99:25067) Invalid Request
2010/08/13 16:23:45| parseHttpRequest: Unsupported method '..F?u.'
2010/08/13 16:23:45| clientTryParseRequest: FD 508 (92.246.208.99:25068) Invalid Request
2010/08/13 16:23:46| parseHttpRequest: Unsupported method '..F?ъ.'
2010/08/13 16:23:46| clientTryParseRequest: FD 873 (92.246.208.99:25069) Invalid Request
2010/08/13 16:23:46| parseHttpRequest: Unsupported method '..F?Д.'
2010/08/13 16:23:46| clientTryParseRequest: FD 625 (92.246.208.99:25070) Invalid Request
2010/08/13 16:23:47| parseHttpRequest: Unsupported method '..F?..'
2010/08/13 16:23:47| clientTryParseRequest: FD 850 (92.246.208.99:25071) Invalid Request
2010/08/13 16:23:47| parseHttpRequest: Unsupported method '.'
2010/08/13 16:23:47| clientTryParseRequest: FD 265 (92.246.208.189:3520) Invalid Request
2010/08/13 16:23:48| parseHttpRequest: Unsupported method '..F?В.'
2010/08/13 16:23:48| clientTryParseRequest: FD 368 (92.246.208.99:25072) Invalid Request
где еще подкрутить ? кто чего думает?
When Hell is full, the dead will walk the Earth


Аватара пользователя
skaaraje
рядовой
Сообщения: 38
Зарегистрирован: 2009-10-21 8:40:40
Откуда: nyagan
Контактная информация:

Re: Squid катастрофические тормоза

Непрочитанное сообщение skaaraje » 2010-08-13 13:47:46

как вариант продолжать гонку вооружений ;) на очереди SunFire с 16 SAS 15кRPM дисками, 16 га мозга и шестиведерным амд камнем.
When Hell is full, the dead will walk the Earth


Аватара пользователя
skaaraje
рядовой
Сообщения: 38
Зарегистрирован: 2009-10-21 8:40:40
Откуда: nyagan
Контактная информация:

Re: Squid катастрофические тормоза

Непрочитанное сообщение skaaraje » 2010-08-13 14:04:04

ЫЫЫ,.. я думал тут посерьезнее чем постоянное отсылание к гугулу!
это уже читано давно - что обозначают записи в логах я в курсе - на 80 порт прилетает не HTTP - от вириев, от криво настроеных программ, от кривых OS-ей
конструктивное есть что нить?

вобще во многих случаях подобные записи в логах обзываются not a bug и на них рекомендуется просто забить, в моем случае подобные записи говорят только о большом количестве мусора в общем HTTP трафике имха, из мыслей пока заюзать IDS и динамикой блокировать гадких клиентов кои мешают остальным
When Hell is full, the dead will walk the Earth

Гость
проходил мимо

Re: Squid катастрофические тормоза

Непрочитанное сообщение Гость » 2010-08-13 14:17:45

skaaraje писал(а):ЫЫЫ,.. я думал тут посерьезнее чем постоянное отсылание к гугулу!
а вы тоже будте последовательны
поставте как вам говорят ради експеримента на UFS
и отпишитесь о результатах
вы на UFS проверили?
skaaraje
почти не изменилось
вот строчки из IPFW
это считать проверкой на UFS? и к чему тогда был ipfw вывод?

zfs как уже сказали не для быстрых операций, и я бы его не рекомнедовал