[MySQL] странности с использованием памяти

MySQL/PostgreSQL/SQLite/Oracle/M$SQL/....

Модератор: terminus

Правила форума
Убедительная просьба юзать теги [code] при оформлении листингов.
Сообщения не оформленные должным образом имеют все шансы быть незамеченными.
Аватара пользователя
Alex Keda
стреляли...
Сообщения: 35056
Зарегистрирован: 2004-10-18 14:25:19
Откуда: Made in USSR
Контактная информация:

[MySQL] странности с использованием памяти

Непрочитанное сообщение Alex Keda » 2010-04-19 13:28:07

имею вот такой конфиг:

Код: Выделить всё

srv1# grep -v ^# /usr/local/etc/my.cnf | grep -v ^\$
[client]
port            = 3306
socket          = /tmp/mysql.sock
default-character-set   = cp1251
[mysqld]
default-character-set   = cp1251
character-set-server    = cp1251
collation-server        = cp1251_general_ci
init-connect            = "SET NAMES cp1251"
long_query_time         = 20
skip-external-locking
old_passwords
bind-address           = 127.0.0.1
skip-bdb
innodb_file_per_table=1
max_connections         = 2000
connect_timeout         = 10
interactive_timeout     = 15
wait_timeout            = 15
net_read_timeout        = 30
net_write_timeout       = 30
max_connect_errors      = 10
max_tmp_tables          = 64
max_user_connection     = 32
port            = 3306
socket          = /tmp/mysql.sock
skip-locking
key_buffer = 512M
max_allowed_packet = 4M
table_cache = 512
sort_buffer_size = 2M
read_buffer_size = 2M
read_rnd_buffer_size = 8M
myisam_sort_buffer_size = 64M
thread_cache_size = 16
query_cache_size= 32M
thread_concurrency = 6
server-id       = 1
[mysqldump]
quick
skip-extended-insert
max_allowed_packet = 16M
[mysql]
no-auto-rehash
default-character-set   = cp1251
[isamchk]
key_buffer = 128M
sort_buffer_size = 128M
read_buffer = 2M
write_buffer = 2M
[myisamchk]
key_buffer = 128M
sort_buffer_size = 128M
read_buffer = 2M
write_buffer = 2M
[mysqlhotcopy]
interactive-timeout
srv1#   
в итоге сервер рамы юзает 155-160 мегов, резервирует 600.
но больше 160 чтоб использовал - такого не бывает.
немогу понять где я яего запилил, что не хочет раму кушать...
Убей их всех! Бог потом рассортирует...

Хостинговая компания Host-Food.ru
Хостинг HostFood.ru
 

Услуги хостинговой компании Host-Food.ru

Хостинг HostFood.ru

Тарифы на хостинг в России, от 12 рублей: https://www.host-food.ru/tariffs/hosting/
Тарифы на виртуальные сервера (VPS/VDS/KVM) в РФ, от 189 руб.: https://www.host-food.ru/tariffs/virtualny-server-vps/
Выделенные сервера, Россия, Москва, от 2460 рублей (8 CPU, 8Gb RAM, 2x500Gb HDD, RAID 3ware 9750):
https://www.host-food.ru/tariffs/vydelennyi-server-ds/
Недорогие домены в популярных зонах: https://www.host-food.ru/domains/

Аватара пользователя
thefree
лейтенант
Сообщения: 980
Зарегистрирован: 2008-12-29 9:23:19
Откуда: Весёлая Страна

Re: [MySQL] странности с использованием памяти

Непрочитанное сообщение thefree » 2010-04-20 9:49:46

_http://www.mysqlperformanceblog.com/2006/05/17 ... ory-usage/

Код: Выделить всё

key_buffer_size + (read_buffer_size + sort_buffer_size) * max_connections = K bytes of memory 
Не судите меня строго, Я не волшебник, а только учусь!
http://planetbsd.ru - RSS-агрегатор *BSD по Рунету

Аватара пользователя
thefree
лейтенант
Сообщения: 980
Зарегистрирован: 2008-12-29 9:23:19
Откуда: Весёлая Страна

Re: [MySQL] странности с использованием памяти

Непрочитанное сообщение thefree » 2010-04-21 16:05:14

Ну что? решилось как-то?
Не судите меня строго, Я не волшебник, а только учусь!
http://planetbsd.ru - RSS-агрегатор *BSD по Рунету

Аватара пользователя
Alex Keda
стреляли...
Сообщения: 35056
Зарегистрирован: 2004-10-18 14:25:19
Откуда: Made in USSR
Контактная информация:

Re: [MySQL] странности с использованием памяти

Непрочитанное сообщение Alex Keda » 2010-04-21 16:13:24

не ковырял даже...
пеернёс директорию для временных файлов в /tmp - там tmpfs - стал прилично меньше тупить и перестало совсем пилить диск (раньше на /var/tmp смотрело).
но глобально пока не занимался
Убей их всех! Бог потом рассортирует...

Аватара пользователя
LMik
капитан
Сообщения: 1852
Зарегистрирован: 2007-07-17 9:14:39
Откуда: МО
Контактная информация:

Re: [MySQL] странности с использованием памяти

Непрочитанное сообщение LMik » 2010-04-21 17:07:34

ааа, ты все еще не на innodb?

Вообще кол-во выделенной памяти - это то

innodb_pool + key_buffer_size + (read_buffer_size + sort_buffer_size) * max_connections

А кол-во используемой - занятый_innodb_pool + заняный_key_buffer_size + (read_buffer_size + sort_buffer_size) * текущие коннекты.
BSD... Join the dark side.
Виpус детям не игpушка, не товаpищ и не дpуг!

Аватара пользователя
Alex Keda
стреляли...
Сообщения: 35056
Зарегистрирован: 2004-10-18 14:25:19
Откуда: Made in USSR
Контактная информация:

Re: [MySQL] странности с использованием памяти

Непрочитанное сообщение Alex Keda » 2010-04-21 18:00:56

я чё обкумаренный чтоли - и так медлено работает, а с этим кривым поделием будет вообще финиш
Убей их всех! Бог потом рассортирует...

Аватара пользователя
hizel
дядя поня
Сообщения: 9031
Зарегистрирован: 2007-06-29 10:05:02
Откуда: Выборг

Re: [MySQL] странности с использованием памяти

Непрочитанное сообщение hizel » 2010-04-21 18:16:15

>версия 5.5 MySQL будет по умолчанию использовать созданный в Oracle движок хранения данных InnoDB
:roll:
В дурацкие игры он не играет. Он просто жуткий, чу-чу, паровозик, и зовут его Блейн. Блейн --- это Боль.

Аватара пользователя
Alex Keda
стреляли...
Сообщения: 35056
Зарегистрирован: 2004-10-18 14:25:19
Откуда: Made in USSR
Контактная информация:

Re: [MySQL] странности с использованием памяти

Непрочитанное сообщение Alex Keda » 2010-04-21 18:41:39

да пофигу
до 5.5 ещё как до луны пешком
Убей их всех! Бог потом рассортирует...

Аватара пользователя
LMik
капитан
Сообщения: 1852
Зарегистрирован: 2007-07-17 9:14:39
Откуда: МО
Контактная информация:

Re: [MySQL] странности с использованием памяти

Непрочитанное сообщение LMik » 2010-04-21 20:13:13

lissyara писал(а):да пофигу
до 5.5 ещё как до луны пешком
Отлично работает на продакшене 5.5. А про иннодб я уже говорил - ты просто не умеешь их готовить.
BSD... Join the dark side.
Виpус детям не игpушка, не товаpищ и не дpуг!

Аватара пользователя
Alex Keda
стреляли...
Сообщения: 35056
Зарегистрирован: 2004-10-18 14:25:19
Откуда: Made in USSR
Контактная информация:

Re: [MySQL] странности с использованием памяти

Непрочитанное сообщение Alex Keda » 2010-04-21 20:22:47

а ну да... не умею...
а чем больше сталкиваюсь тем больше понимаю кривизну.
последний мелкий глюк - квота у юзера на хостинге кончилась - стоила мне 3 часов моего времени с 12 до 3 ночи - задампить все базы и зарестоить их обратно.
на MyISAM это мне стоило бы 10-15 секунд на набор

Код: Выделить всё

repair table...
Убей их всех! Бог потом рассортирует...

Аватара пользователя
hizel
дядя поня
Сообщения: 9031
Зарегистрирован: 2007-06-29 10:05:02
Откуда: Выборг

Re: [MySQL] странности с использованием памяти

Непрочитанное сообщение hizel » 2010-04-21 20:55:21

myisam это не БД, тебя кто-то в детстве абманул ;]
В дурацкие игры он не играет. Он просто жуткий, чу-чу, паровозик, и зовут его Блейн. Блейн --- это Боль.

Аватара пользователя
Alex Keda
стреляли...
Сообщения: 35056
Зарегистрирован: 2004-10-18 14:25:19
Откуда: Made in USSR
Контактная информация:

Re: [MySQL] странности с использованием памяти

Непрочитанное сообщение Alex Keda » 2010-04-21 21:33:26

меня целиком и полностью устраивает.
огребать новых глюков - не хочется
Убей их всех! Бог потом рассортирует...

Аватара пользователя
hizel
дядя поня
Сообщения: 9031
Зарегистрирован: 2007-06-29 10:05:02
Откуда: Выборг

Re: [MySQL] странности с использованием памяти

Непрочитанное сообщение hizel » 2010-04-21 21:39:49

постарел, заматерел :roll:
В дурацкие игры он не играет. Он просто жуткий, чу-чу, паровозик, и зовут его Блейн. Блейн --- это Боль.

Аватара пользователя
Alex Keda
стреляли...
Сообщения: 35056
Зарегистрирован: 2004-10-18 14:25:19
Откуда: Made in USSR
Контактная информация:

Re: [MySQL] странности с использованием памяти

Непрочитанное сообщение Alex Keda » 2010-04-21 22:09:15

нет. просто выводы из собственного опыта.
на InnoDB проблем было больше, решались они тяжелей и дольше.
последняя проблема что писывал - уж извнини но на MyISAM докатиться до состояния когда придётся дампить/ресторить все базы - это нонсенс...
(мера, правда, вынужденная - разбирать какая таблица в чём и дёргать тока InnoDB - было бы дольше)
Убей их всех! Бог потом рассортирует...

odiemus
мл. сержант
Сообщения: 78
Зарегистрирован: 2008-11-24 12:49:11
Откуда: Moscow
Контактная информация:

Re: [MySQL] странности с использованием памяти

Непрочитанное сообщение odiemus » 2010-04-22 12:46:59

lissyara писал(а):нет. просто выводы из собственного опыта.
на InnoDB проблем было больше, решались они тяжелей и дольше.
последняя проблема что писывал - уж извнини но на MyISAM докатиться до состояния когда придётся дампить/ресторить все базы - это нонсенс...
(мера, правда, вынужденная - разбирать какая таблица в чём и дёргать тока InnoDB - было бы дольше)
Во первых InnoDB надо юзать с

Код: Выделить всё

innodb_file_per_table = 1
и не хранить, таким образом, все яйца в одной корзине и все таблицы в одном большущем файле ibdata.
Бакапить и ресторить всегда можно всего одну таблицу, не обязательно всю/все БД разом, это вам не Sybase с его бинарными дампами.
Кроме того, думать надо, перед тем как создавать таблицы в MyISAM или в InnoDB.
Если всяких foreign key и транзакций не надо то вполне себе myisam подходит.
А если надо транзакции... тут от InnoDB почти не отвертеться.
У нас большущие таблицы с кучей сырых данных в MyISAM, а вот то что поменьше и всякие справочники в InnoDB.
Мало кто говорит, но я уже с этим сталкивался, что innodb тож может побиться, или может слететь sequence версии бд таблицы... в общем у каждого engine свои сюрпризы :(

Аватара пользователя
Alex Keda
стреляли...
Сообщения: 35056
Зарегистрирован: 2004-10-18 14:25:19
Откуда: Made in USSR
Контактная информация:

Re: [MySQL] странности с использованием памяти

Непрочитанное сообщение Alex Keda » 2010-04-22 13:46:37

Код: Выделить всё

innodb_file_per_table = 1
юзаю... но на том сервере не с рождения =))
Убей их всех! Бог потом рассортирует...

Аватара пользователя
ADRE
майор
Сообщения: 2640
Зарегистрирован: 2007-07-26 8:53:49
Контактная информация:

Re: [MySQL] странности с использованием памяти

Непрочитанное сообщение ADRE » 2010-04-22 17:40:34

lissyara писал(а):нет. просто выводы из собственного опыта.
на InnoDB проблем было больше, решались они тяжелей и дольше.
последняя проблема что писывал - уж извнини но на MyISAM докатиться до состояния когда придётся дампить/ресторить все базы - это нонсенс...
(мера, правда, вынужденная - разбирать какая таблица в чём и дёргать тока InnoDB - было бы дольше)
оно бронировеннее хоть и не много другое... ссцылки там хоть как у нормального скуля пашут а не только в пхп майадмин ) эм я что путатю?, блокируются же записи в данной бд построчно, а на сколько помню в майсам колоночками, нет?
//del

Аватара пользователя
LMik
капитан
Сообщения: 1852
Зарегистрирован: 2007-07-17 9:14:39
Откуда: МО
Контактная информация:

Re: [MySQL] странности с использованием памяти

Непрочитанное сообщение LMik » 2010-04-22 19:52:56

ADRE писал(а): оно бронировеннее хоть и не много другое... ссцылки там хоть как у нормального скуля пашут а не только в пхп майадмин ) эм я что путатю?, блокируются же записи в данной бд построчно, а на сколько помню в майсам колоночками, нет?
Именно так. +скорость давно на уровне isam.
BSD... Join the dark side.
Виpус детям не игpушка, не товаpищ и не дpуг!

Аватара пользователя
Alex Keda
стреляли...
Сообщения: 35056
Зарегистрирован: 2004-10-18 14:25:19
Откуда: Made in USSR
Контактная информация:

Re: [MySQL] странности с использованием памяти

Непрочитанное сообщение Alex Keda » 2010-04-23 0:14:36

LMik писал(а):
ADRE писал(а): оно бронировеннее хоть и не много другое... ссцылки там хоть как у нормального скуля пашут а не только в пхп майадмин ) эм я что путатю?, блокируются же записи в данной бд построчно, а на сколько помню в майсам колоночками, нет?
Именно так. +скорость давно на уровне isam.
ага.
а теперь эмулируем падение сервера БД и удаляем... ну например ibdata1
использовались innodb_file_per_table = 1
ваши действия и бубны по подцеплянию всех пяти сотен баз в рабочем виде обратно?
==========
в myisam, я просто разложу то что уцелело обратно по папочкам.
минуты две это заёмёт.
вы же с вашим иннодб будете ебаться прилично дольше - ибо будете получать ругань на то что нумер таблеспейса станный, и рекомендацию убрать файл, создать нужную таблицу, дропнуть её, подсунуть нужный файл =))
уж не помню точный набор плясок с бубном, но нифига не впечатлило =))
Убей их всех! Бог потом рассортирует...

Аватара пользователя
ADRE
майор
Сообщения: 2640
Зарегистрирован: 2007-07-26 8:53:49
Контактная информация:

Re: [MySQL] странности с использованием памяти

Непрочитанное сообщение ADRE » 2010-04-23 13:33:26

lissyara писал(а):
LMik писал(а):
ADRE писал(а): оно бронировеннее хоть и не много другое... ссцылки там хоть как у нормального скуля пашут а не только в пхп майадмин ) эм я что путатю?, блокируются же записи в данной бд построчно, а на сколько помню в майсам колоночками, нет?
Именно так. +скорость давно на уровне isam.
ага.
а теперь эмулируем падение сервера БД и удаляем... ну например ibdata1
использовались innodb_file_per_table = 1
ваши действия и бубны по подцеплянию всех пяти сотен баз в рабочем виде обратно?
==========
в myisam, я просто разложу то что уцелело обратно по папочкам.
минуты две это заёмёт.
вы же с вашим иннодб будете ебаться прилично дольше - ибо будете получать ругань на то что нумер таблеспейса станный, и рекомендацию убрать файл, создать нужную таблицу, дропнуть её, подсунуть нужный файл =))
уж не помню точный набор плясок с бубном, но нифига не впечатлило =))
а зачем тогда бэкап?
//del

Аватара пользователя
Alex Keda
стреляли...
Сообщения: 35056
Зарегистрирован: 2004-10-18 14:25:19
Откуда: Made in USSR
Контактная информация:

Re: [MySQL] странности с использованием памяти

Непрочитанное сообщение Alex Keda » 2010-04-23 13:43:22

действительно
зачем бэкап с прошлой ночи, когда уже нынешняя? =)
Убей их всех! Бог потом рассортирует...

Аватара пользователя
thefree
лейтенант
Сообщения: 980
Зарегистрирован: 2008-12-29 9:23:19
Откуда: Весёлая Страна

Re: [MySQL] странности с использованием памяти

Непрочитанное сообщение thefree » 2010-04-24 9:23:15

какой результат то?
===
в другой теми мертись у кого доразвитая база у кого нет
Не судите меня строго, Я не волшебник, а только учусь!
http://planetbsd.ru - RSS-агрегатор *BSD по Рунету

Аватара пользователя
Alex Keda
стреляли...
Сообщения: 35056
Зарегистрирован: 2004-10-18 14:25:19
Откуда: Made in USSR
Контактная информация:

Re: [MySQL] странности с использованием памяти

Непрочитанное сообщение Alex Keda » 2010-04-24 9:40:12

ну, сказать нечего по сабжу, вот и начали
Убей их всех! Бог потом рассортирует...

Аватара пользователя
LMik
капитан
Сообщения: 1852
Зарегистрирован: 2007-07-17 9:14:39
Откуда: МО
Контактная информация:

Re: [MySQL] странности с использованием памяти

Непрочитанное сообщение LMik » 2010-04-24 9:46:46

Как нечего? Все сказал же. У тебя макс конектов 2000 в конфиге, поэтому он выделяет памяти 600 метров под них. Посчитай. Когда все конекты будут подключены будет использована вся выделенная память.
LMik писал(а):ааа, ты все еще не на innodb?

Вообще кол-во выделенной памяти - это то

innodb_pool + key_buffer_size + (read_buffer_size + sort_buffer_size) * max_connections

А кол-во используемой - занятый_innodb_pool + заняный_key_buffer_size + (read_buffer_size + sort_buffer_size) * текущие коннекты.
BSD... Join the dark side.
Виpус детям не игpушка, не товаpищ и не дpуг!

Аватара пользователя
LMik
капитан
Сообщения: 1852
Зарегистрирован: 2007-07-17 9:14:39
Откуда: МО
Контактная информация:

Re: [MySQL] странности с использованием памяти

Непрочитанное сообщение LMik » 2010-04-24 9:49:50

Хотя странно что 600 скушал, должен был много больше... Видимо какие то новые механизмы выделения стали работать. А посчитай размер индексов на всех базах, мож они как раз 160?
BSD... Join the dark side.
Виpус детям не игpушка, не товаpищ и не дpуг!