SQUID: автобан пользователей по превышении квоты

Проблемы с установкой, настройкой и работой системных и сетевых программ.

Модераторы: GRooVE, alexco

Правила форума
Убедительная просьба юзать теги [code] при оформлении листингов.
Сообщения не оформленные должным образом имеют все шансы быть незамеченными.
dm07
сержант
Сообщения: 222
Зарегистрирован: 2008-07-27 19:58:25
Откуда: Уфа
Контактная информация:

SQUID: автобан пользователей по превышении квоты

Непрочитанное сообщение dm07 » 2008-11-19 21:01:21

Здравствуйте. Собственно задача: есть SQUID. Нужно настроить автобан для различных категории пользователей по превышении ими объема скачанной информации за день. Чем решить задачу, если не использовать SARG, SAMS?

Хостинговая компания Host-Food.ru
Хостинг HostFood.ru
 

Услуги хостинговой компании Host-Food.ru

Хостинг HostFood.ru

Тарифы на хостинг в России, от 12 рублей: https://www.host-food.ru/tariffs/hosting/
Тарифы на виртуальные сервера (VPS/VDS/KVM) в РФ, от 189 руб.: https://www.host-food.ru/tariffs/virtualny-server-vps/
Выделенные сервера, Россия, Москва, от 2000 рублей (HP Proliant G5, Intel Xeon E5430 (2.66GHz, Quad-Core, 12Mb), 8Gb RAM, 2x300Gb SAS HDD, P400i, 512Mb, BBU):
https://www.host-food.ru/tariffs/vydelennyi-server-ds/
Недорогие домены в популярных зонах: https://www.host-food.ru/domains/

zg
полковник
Сообщения: 5845
Зарегистрирован: 2007-12-07 13:51:33
Откуда: Верх-Нейвинск

Re: SQUID: автобан пользователей по превышении квоты

Непрочитанное сообщение zg » 2008-11-19 21:45:45

сквид не самый лучший способ контролировать трафик, но вообще можно на авк состругать скрипт, либо на шелле.

opt1k
лейтенант
Сообщения: 966
Зарегистрирован: 2007-12-05 9:45:18
Откуда: Mytischi

Re: SQUID: автобан пользователей по превышении квоты

Непрочитанное сообщение opt1k » 2008-11-22 4:19:11

помнится lightsquid умел подобное. Если не нужна статистика то даже веб сервер ставить не обязательно.


BlitzKrieg
ст. прапорщик
Сообщения: 538
Зарегистрирован: 2008-03-13 12:02:59

Re: SQUID: автобан пользователей по превышении квоты

Непрочитанное сообщение BlitzKrieg » 2008-11-26 18:15:38

Ихму проще распихать лог сквида в mysql, скриптом по крону обсчитывать для каждого и добавлять в бан лист если первосходит квоту.

zg
полковник
Сообщения: 5845
Зарегистрирован: 2007-12-07 13:51:33
Откуда: Верх-Нейвинск

Re: SQUID: автобан пользователей по превышении квоты

Непрочитанное сообщение zg » 2008-11-26 19:14:29

BlitzKrieg писал(а):распихать лог сквида в mysql
есть одна трабла, лог - это неструктурированные данные, поэтому для их обработки мусе потребуются значительно большие ресурсы, чем если бы обрабатывать просто текстовый файл.

opt1k
лейтенант
Сообщения: 966
Зарегистрирован: 2007-12-05 9:45:18
Откуда: Mytischi

Re: SQUID: автобан пользователей по превышении квоты

Непрочитанное сообщение opt1k » 2008-11-27 1:02:56

нууу, вобще мона по вгонять в мусю данные по трафику, а через крон, скажем, каждые 10 секунд проверять народ на превышение квоты. Может быть я чего то и не понимаю...

zg
полковник
Сообщения: 5845
Зарегистрирован: 2007-12-07 13:51:33
Откуда: Верх-Нейвинск

Re: SQUID: автобан пользователей по превышении квоты

Непрочитанное сообщение zg » 2008-11-27 7:55:00

нафига муся, если на авк можно накатать скрипт, который будет кушать килобайты, сидеть резидентно и лочить всех как только лимит исчерпан?

BlitzKrieg
ст. прапорщик
Сообщения: 538
Зарегистрирован: 2008-03-13 12:02:59

Re: SQUID: автобан пользователей по превышении квоты

Непрочитанное сообщение BlitzKrieg » 2008-11-27 11:54:04

C какого это хрена лог сквида не структурированные данные? Тем более потом с логом в бд можно делать чего хочешь. Например тупо при логине проверять квоту, просматривать статистику накатав не шибко замороченые скрипты на пхп скажем, вощем не придумывайте лесапед с треугольными колесами... это решение убого в принципе.
тупо для разборки лога сквида авк тратит куда больше времени нежели чем перл. сравнивал два скрипта с аналогичными функциями один из них писан лисом, чтобы распихать лог тратил времени раза в 3-4 больше чем перл.

zg
полковник
Сообщения: 5845
Зарегистрирован: 2007-12-07 13:51:33
Откуда: Верх-Нейвинск

Re: SQUID: автобан пользователей по превышении квоты

Непрочитанное сообщение zg » 2008-11-27 12:24:06

BlitzKrieg писал(а):C какого это хрена лог сквида не структурированные данные?
уууу.... как всё печально :smile:
BlitzKrieg писал(а):Тем более потом с логом в бд можно делать чего хочешь.
ну да, делать выборку из таблицы, в которой двести миллионов записей очень практично ;-)
BlitzKrieg писал(а):Например тупо при логине проверять квоту, просматривать статистику накатав не шибко замороченые скрипты на пхп скажем
ну а лог то на кой хранить? ну будет там у тебя база расти на 50 метров в день, через месяц тупо упадёт. Для статистики лог в базе не нужен, нужны лишь данные его обработки.
BlitzKrieg писал(а):тупо для разборки лога сквида авк тратит куда больше времени нежели чем перл. сравнивал два скрипта с аналогичными функциями один из них писан лисом, чтобы распихать лог тратил времени раза в 3-4 больше чем перл.
что-то меня мутит от объективности теста. Проведём свой тест? :smile:

BlitzKrieg
ст. прапорщик
Сообщения: 538
Зарегистрирован: 2008-03-13 12:02:59

Re: SQUID: автобан пользователей по превышении квоты

Непрочитанное сообщение BlitzKrieg » 2008-11-27 12:45:11

zg писал(а):
BlitzKrieg писал(а):C какого это хрена лог сквида не структурированные данные?
уууу.... как всё печально :smile:
Ты утверждаешь что нет структуры? Тогда как его разбирать если никакой структуры нет? :-D Хаос йопта
BlitzKrieg писал(а):Тем более потом с логом в бд можно делать чего хочешь.
ну да, делать выборку из таблицы, в которой двести миллионов записей очень практично ;-)
Бугага что тебе мешает делать табличку только для сумму трафика и юзера ? :-) ТАкже кто тебе мешает не хранить полный лог или тереть его раз в мес?

BlitzKrieg писал(а):Например тупо при логине проверять квоту, просматривать статистику накатав не шибко замороченые скрипты на пхп скажем
ну а лог то на кой хранить? ну будет там у тебя база расти на 50 метров в день, через месяц тупо упадёт. Для статистики лог в базе не нужен, нужны лишь данные его обработки.
Ну дык я разве призывал хранить лог в бД? :-) Не поверишь, кстати, больше полугода лог полностью в базу кладецо и ничо не упало :-) Странно...
Даж самому интересно человек подойдет со старой работы спрошу скока файл бд весит.
BlitzKrieg писал(а):тупо для разборки лога сквида авк тратит куда больше времени нежели чем перл. сравнивал два скрипта с аналогичными функциями один из них писан лисом, чтобы распихать лог тратил времени раза в 3-4 больше чем перл.
что-то меня мутит от объективности теста. Проведём свой тест? :smile:
Проведи столько тестов сколько считаешь нужным, я свой тест уже провел и проводил его не ради того чтобы сейчас тут тебе чего-то доказывать.
За основу перлового скрипта брался скрипт на tmeter.ru awk из статьи лисяры если не ошибаюсь к trafd морда.
Все вводные у тебя есть, жду "объективных" результатов. а также готовых скриптов для проверки у себя с последующим воздвижением памятника и присвоением титула "Мистер объективность 2008" :roll:

zg
полковник
Сообщения: 5845
Зарегистрирован: 2007-12-07 13:51:33
Откуда: Верх-Нейвинск

Re: SQUID: автобан пользователей по превышении квоты

Непрочитанное сообщение zg » 2008-11-27 13:19:43

BlitzKrieg писал(а):я свой тест уже провел и проводил его не ради того чтобы сейчас тут тебе чего-то доказывать
а на кой тогда ты это писал?
BlitzKrieg писал(а):чтобы распихать лог тратил времени раза в 3-4 больше чем перл.
BlitzKrieg писал(а):брался скрипт на tmeter.ru
8) жаль, иногда получаются инетерсные тесты....
BlitzKrieg писал(а):и присвоением титула "Мистер объективность 2008"
если нет тестов, то никто не доказал, что авк справится в обработке сквидового лога хуже чем перл. 8)

opt1k
лейтенант
Сообщения: 966
Зарегистрирован: 2007-12-05 9:45:18
Откуда: Mytischi

Re: SQUID: автобан пользователей по превышении квоты

Непрочитанное сообщение opt1k » 2008-11-27 15:06:34

сдаётся мне что авк справиться лучше

BlitzKrieg
ст. прапорщик
Сообщения: 538
Зарегистрирован: 2008-03-13 12:02:59

Re: SQUID: автобан пользователей по превышении квоты

Непрочитанное сообщение BlitzKrieg » 2008-11-27 15:45:56

zg писал(а):
BlitzKrieg писал(а):я свой тест уже провел и проводил его не ради того чтобы сейчас тут тебе чего-то доказывать
а на кой тогда ты это писал?
BlitzKrieg писал(а):чтобы распихать лог тратил времени раза в 3-4 больше чем перл.
Я писал это так как видел результат работы и того и другого, и оставил именно перловый скрипт для этой задачи. В результат сразу не поверил, даже несколько раз перезапускал скрипты. То есть я это говорю на основании чего-то, может я и ошибаюсь, но мне есть на чем основываться. Чо воду в ступе толоч, давай скрипт на авке я проверю, раз уж ты не в состоянии.
BlitzKrieg писал(а):брался скрипт на tmeter.ru
8) жаль, иногда получаются инетерсные тесты....
BlitzKrieg писал(а):и присвоением титула "Мистер объективность 2008"
если нет тестов, то никто не доказал, что авк справится в обработке сквидового лога хуже чем перл. 8)

BlitzKrieg
ст. прапорщик
Сообщения: 538
Зарегистрирован: 2008-03-13 12:02:59

Re: SQUID: автобан пользователей по превышении квоты

Непрочитанное сообщение BlitzKrieg » 2008-11-27 15:51:17

opt1k писал(а):сдаётся мне что авк справиться лучше
Эт ты сделал такой вывод по числу сообщений на этом форуме участвуйщих в дискуссии? :ROFL:

BlitzKrieg
ст. прапорщик
Сообщения: 538
Зарегистрирован: 2008-03-13 12:02:59

Re: SQUID: автобан пользователей по превышении квоты

Непрочитанное сообщение BlitzKrieg » 2008-11-27 15:54:25

BlitzKrieg писал(а):
zg писал(а):
BlitzKrieg писал(а):я свой тест уже провел и проводил его не ради того чтобы сейчас тут тебе чего-то доказывать
а на кой тогда ты это писал?
BlitzKrieg писал(а):чтобы распихать лог тратил времени раза в 3-4 больше чем перл.
Я писал это так как видел результат работы и того и другого, и оставил именно перловый скрипт для этой задачи. В результат сразу не поверил, даже несколько раз перезапускал скрипты. То есть я это говорю на основании чего-то, может я и ошибаюсь, но мне есть на чем основываться. Чо воду в ступе толоч, давай скрипт на авке я проверю, раз уж ты не в состоянии.
BlitzKrieg писал(а):брался скрипт на tmeter.ru
8) жаль, иногда получаются инетерсные тесты....
BlitzKrieg писал(а):и присвоением титула "Мистер объективность 2008"
если нет тестов, то никто не доказал, что авк справится в обработке сквидового лога хуже чем перл. 8)
Кстати вопрос, если я протестирую и скажу опять что перл быстрее, что тебе мешает по прежнему утверждать что авк быстрее и отказываться от проведения тестов :-)

zg
полковник
Сообщения: 5845
Зарегистрирован: 2007-12-07 13:51:33
Откуда: Верх-Нейвинск

Re: SQUID: автобан пользователей по превышении квоты

Непрочитанное сообщение zg » 2008-11-27 18:18:49

BlitzKrieg писал(а):если я протестирую и скажу опять что перл быстрее
исходники не забудь и опиши условия теста так, чтобы и мы могли его воспроизвести и протестить у себя на серваках.

opt1k
лейтенант
Сообщения: 966
Зарегистрирован: 2007-12-05 9:45:18
Откуда: Mytischi

Re: SQUID: автобан пользователей по превышении квоты

Непрочитанное сообщение opt1k » 2008-11-27 20:24:03

BlitzKrieg писал(а):
opt1k писал(а):сдаётся мне что авк справиться лучше
Эт ты сделал такой вывод по числу сообщений на этом форуме участвуйщих в дискуссии? :ROFL:
к такому выводу пол года назад меня толкнул мой препод по системному программированию.

Аватара пользователя
manefesto
Группенфюррер
Сообщения: 6934
Зарегистрирован: 2007-07-20 8:27:30
Откуда: Пермь
Контактная информация:

Re: SQUID: автобан пользователей по превышении квоты

Непрочитанное сообщение manefesto » 2008-11-28 15:14:07

opt1k писал(а):сдаётся мне что авк справиться лучше
perl лучше.
Ибо awk это отдельная программа, отдельный запуск процесса.
А перл это один процесс и функция распарсивания будет только функцией но не как ни прогой.
перл реактивный как панос....оглянутся не успеешь как обос**лся
я такой яростный шо аж пиздеЦ
Изображение

zg
полковник
Сообщения: 5845
Зарегистрирован: 2007-12-07 13:51:33
Откуда: Верх-Нейвинск

Re: SQUID: автобан пользователей по превышении квоты

Непрочитанное сообщение zg » 2008-11-29 16:32:14

manefesto писал(а):и функция распарсивания будет только функцией но не как ни прогой.
ты просто не умеешь их готовить... :smile: