ZFS зависает с большим количеством файлов в директории.

Простые/общие вопросы по UNIX системам. Спросите здесь, если вы новичок

Модераторы: vadim64, terminus

Правила форума
Убедительная просьба юзать теги [cоde] при оформлении листингов.
Сообщения не оформленные должным образом имеют все шансы быть незамеченными.
sasha181
сержант
Сообщения: 169
Зарегистрирован: 2008-02-04 17:02:30
Откуда: Краснодар

ZFS зависает с большим количеством файлов в директории.

Непрочитанное сообщение sasha181 » 2011-02-01 7:10:11

В одной папке у меня 45 гигов картинок. Количество файлов огромное. При попытке войти в директорию в mc или посчитать занимаемое место с помощью du , зависает весьма надолго. Видно , что процесс идёт, но конца я так и не дождался.
В top вот такой статус всё это время висит

Код: Выделить всё

  PID USERNAME  THR PRI NICE   SIZE    RES STATE   C   TIME   WCPU COMMAND
 1432 root        1  46    0 78664K 62344K zio->i  1   0:25  3.47% mc
 1051 root        5  44    0  5804K   992K rpcsvc  2   1:07  0.00% nfsd
Подскажите пожалуйста, что подкрутить?
zil выключен
Последний раз редактировалось terminus 2011-02-01 10:21:01, всего редактировалось 2 раза.
Причина: Автору, выбирайте пожалуйста раздел соответствуюший тематике вашего сообщения. приводите полную диагностику, больше логов больше вероятности ответа, а не флуда

Хостинговая компания Host-Food.ru
Хостинг HostFood.ru
 

Услуги хостинговой компании Host-Food.ru

Хостинг HostFood.ru

Тарифы на хостинг в России, от 12 рублей: https://www.host-food.ru/tariffs/hosting/
Тарифы на виртуальные сервера (VPS/VDS/KVM) в РФ, от 189 руб.: https://www.host-food.ru/tariffs/virtualny-server-vps/
Выделенные сервера, Россия, Москва, от 2000 рублей (HP Proliant G5, Intel Xeon E5430 (2.66GHz, Quad-Core, 12Mb), 8Gb RAM, 2x300Gb SAS HDD, P400i, 512Mb, BBU):
https://www.host-food.ru/tariffs/vydelennyi-server-ds/
Недорогие домены в популярных зонах: https://www.host-food.ru/domains/

Аватара пользователя
vadim64
майор
Сообщения: 2101
Зарегистрирован: 2009-09-17 15:15:26
Откуда: Засратовец

Re: ZFS зависает с большим количеством файлов в лиректории.

Непрочитанное сообщение vadim64 » 2011-02-01 8:54:57

железо? dmesg -a чё нить кажет?
Люди не делятся на национальности, партии, фракции и религии. Люди делятся на умных и дураков, а вот дураки делятся на национальности, партии, фракции и религии.

sasha181
сержант
Сообщения: 169
Зарегистрирован: 2008-02-04 17:02:30
Откуда: Краснодар

Re: ZFS зависает с большим количеством файлов в директории.

Непрочитанное сообщение sasha181 » 2011-02-02 0:01:22

платформа Intel 5000P
проц xeon E5405
винты Seagate ST32000644NS (новые) , 3 шт.
памяти 2 Gb
pool raidz

Код: Выделить всё

Copyright (c) 1992-2010 The FreeBSD Project.
Copyright (c) 1979, 1980, 1983, 1986, 1988, 1989, 1991, 1992, 1993, 1994
        The Regents of the University of California. All rights reserved.
FreeBSD is a registered trademark of The FreeBSD Foundation.
FreeBSD 8.1-RELEASE #0: Mon Jul 19 02:36:49 UTC 2010
    root@mason.cse.buffalo.edu:/usr/obj/usr/src/sys/GENERIC amd64
Timecounter "i8254" frequency 1193182 Hz quality 0
CPU: Intel(R) Xeon(R) CPU           E5405  @ 2.00GHz (2002.99-MHz K8-class CPU)
  Origin = "GenuineIntel"  Id = 0x10676  Family = 6  Model = 17  Stepping = 6
  Features=0xbfebfbff<FPU,VME,DE,PSE,TSC,MSR,PAE,MCE,CX8,APIC,SEP,MTRR,PGE,MCA,CMOV,PAT,PSE36,CLFLUSH,DTS,ACPI,MMX,FXSR,SSE,SSE2,SS,HTT,TM,PBE>
  Features2=0xce33d<SSE3,DTES64,MON,DS_CPL,VMX,TM2,SSSE3,CX16,xTPR,PDCM,DCA,SSE4.1>
  AMD Features=0x20100800<SYSCALL,NX,LM>
  AMD Features2=0x1<LAHF>
  TSC: P-state invariant
real memory  = 2147483648 (2048 MB)
avail memory = 2048606208 (1953 MB)
ACPI APIC Table: <INTEL  S5000PAL>
FreeBSD/SMP: Multiprocessor System Detected: 4 CPUs
FreeBSD/SMP: 1 package(s) x 4 core(s)
 cpu0 (BSP): APIC ID:  0
 cpu1 (AP): APIC ID:  1
 cpu2 (AP): APIC ID:  2
 cpu3 (AP): APIC ID:  3
ioapic0 <Version 2.0> irqs 0-23 on motherboard
ioapic1 <Version 2.0> irqs 24-47 on motherboard
lapic0: Forcing LINT1 to edge trigger
kbd1 at kbdmux0
acpi0: <INTEL S5000PAL> on motherboard
acpi0: [ITHREAD]
acpi0: Power Button (fixed)
Timecounter "ACPI-fast" frequency 3579545 Hz quality 1000
acpi_timer0: <24-bit timer at 3.579545MHz> port 0x408-0x40b on acpi0
cpu0: <ACPI CPU> on acpi0
cpu1: <ACPI CPU> on acpi0
cpu2: <ACPI CPU> on acpi0
cpu3: <ACPI CPU> on acpi0
acpi_hpet0: <High Precision Event Timer> iomem 0xfed00000-0xfed003ff on acpi0
Timecounter "HPET" frequency 14318180 Hz quality 900
acpi_button0: <Power Button> on acpi0
pcib0: <ACPI Host-PCI bridge> port 0xca2,0xca3,0xcf8-0xcff on acpi0
pci0: <ACPI PCI bus> on pcib0
pcib1: <ACPI PCI-PCI bridge> at device 2.0 on pci0
pci1: <ACPI PCI bus> on pcib1
pcib2: <ACPI PCI-PCI bridge> irq 16 at device 0.0 on pci1
pci2: <ACPI PCI bus> on pcib2
pcib3: <ACPI PCI-PCI bridge> irq 16 at device 0.0 on pci2
pci3: <ACPI PCI bus> on pcib3
pcib4: <ACPI PCI-PCI bridge> irq 16 at device 1.0 on pci2
pci4: <ACPI PCI bus> on pcib4
pcib5: <ACPI PCI-PCI bridge> irq 16 at device 2.0 on pci2
pci5: <ACPI PCI bus> on pcib5
em0: <Intel(R) PRO/1000 Network Connection 7.0.5> port 0x3020-0x303f mem 0xb8820000-0xb883ffff,0xb8400000-0xb87fffff irq 18 at device 0.0 on pci5
em0: Using MSI interrupt
em0: [FILTER]
em0: Ethernet address: 00:15:17:79:95:88
em1: <Intel(R) PRO/1000 Network Connection 7.0.5> port 0x3000-0x301f mem 0xb8800000-0xb881ffff,0xb8000000-0xb83fffff irq 19 at device 0.1 on pci5
em1: Using MSI interrupt
em1: [FILTER]
em1: Ethernet address: 00:15:17:79:95:89
pcib6: <ACPI PCI-PCI bridge> at device 0.3 on pci1
pci6: <ACPI PCI bus> on pcib6
pcib7: <PCI-PCI bridge> at device 3.0 on pci0
pci7: <PCI bus> on pcib7
pcib8: <ACPI PCI-PCI bridge> at device 4.0 on pci0
pci8: <ACPI PCI bus> on pcib8
em2: <Intel(R) PRO/1000 Network Connection 7.0.5> port 0x2020-0x203f mem 0xb8b60000-0xb8b7ffff,0xb8b40000-0xb8b5ffff irq 16 at device 0.0 on pci8
em2: Using MSI interrupt
em2: [FILTER]
em2: Ethernet address: 00:15:17:7b:83:6c
em3: <Intel(R) PRO/1000 Network Connection 7.0.5> port 0x2000-0x201f mem 0xb8b20000-0xb8b3ffff,0xb8b00000-0xb8b1ffff irq 17 at device 0.1 on pci8
em3: Using MSI interrupt
em3: [FILTER]
em3: Ethernet address: 00:15:17:7b:83:6d
pcib9: <ACPI PCI-PCI bridge> at device 5.0 on pci0
pci9: <ACPI PCI bus> on pcib9
pcib10: <ACPI PCI-PCI bridge> at device 6.0 on pci0
pci10: <ACPI PCI bus> on pcib10
pcib11: <ACPI PCI-PCI bridge> at device 7.0 on pci0
pci11: <ACPI PCI bus> on pcib11
pci0: <base peripheral> at device 8.0 (no driver attached)
uhci0: <Intel 631XESB/632XESB/3100 USB controller USB-1> port 0x40a0-0x40bf irq 23 at device 29.0 on pci0
uhci0: [ITHREAD]
uhci0: LegSup = 0x2f00
usbus0: <Intel 631XESB/632XESB/3100 USB controller USB-1> on uhci0
uhci1: <Intel 631XESB/632XESB/3100 USB controller USB-2> port 0x4080-0x409f irq 22 at device 29.1 on pci0
uhci1: [ITHREAD]
uhci1: LegSup = 0x2f00
usbus1: <Intel 631XESB/632XESB/3100 USB controller USB-2> on uhci1
uhci2: <Intel 631XESB/632XESB/3100 USB controller USB-3> port 0x4060-0x407f irq 23 at device 29.2 on pci0
uhci2: [ITHREAD]
uhci2: LegSup = 0x2f00
usbus2: <Intel 631XESB/632XESB/3100 USB controller USB-3> on uhci2
uhci3: <Intel 631XESB/632XESB/3100 USB controller USB-4> port 0x4040-0x405f irq 22 at device 29.3 on pci0
uhci3: [ITHREAD]
uhci3: LegSup = 0x2f00
usbus3: <Intel 631XESB/632XESB/3100 USB controller USB-4> on uhci3
ehci0: <Intel 63XXESB USB 2.0 controller> mem 0xb8c00400-0xb8c007ff irq 23 at device 29.7 on pci0
ehci0: [ITHREAD]
usbus4: EHCI version 1.0
usbus4: <Intel 63XXESB USB 2.0 controller> on ehci0
pcib12: <ACPI PCI-PCI bridge> at device 30.0 on pci0
pci12: <ACPI PCI bus> on pcib12
vgapci0: <VGA-compatible display> port 0x1000-0x10ff mem 0xb0000000-0xb7ffffff,0xb8a00000-0xb8a0ffff irq 17 at device 12.0 on pci12
isab0: <PCI-ISA bridge> at device 31.0 on pci0
isa0: <ISA bus> on isab0
atapci0: <Intel 63XXESB2 UDMA100 controller> port 0x1f0-0x1f7,0x3f6,0x170-0x177,0x376,0x40c0-0x40cf irq 20 at device 31.1 on pci0
ata0: <ATA channel 0> on atapci0
ata0: [ITHREAD]
atapci1: <Intel 63XXESB2 SATA300 controller> port 0x40d8-0x40df,0x40f4-0x40f7,0x40d0-0x40d7,0x40f0-0x40f3,0x4020-0x403f mem 0xb8c00000-0xb8c003ff irq 20 at device 31.2 on pci0
atapci1: [ITHREAD]
atapci1: AHCI called from vendor specific driver
atapci1: AHCI v1.10 controller with 6 3Gbps ports, PM supported
ata2: <ATA channel 0> on atapci1
ata2: [ITHREAD]
ata3: <ATA channel 1> on atapci1
ata3: [ITHREAD]
ata4: <ATA channel 2> on atapci1
ata4: [ITHREAD]
ata5: <ATA channel 3> on atapci1
ata5: [ITHREAD]
ata6: <ATA channel 4> on atapci1
ata6: [ITHREAD]
ata7: <ATA channel 5> on atapci1
ata7: [ITHREAD]
pci0: <serial bus, SMBus> at device 31.3 (no driver attached)
atrtc0: <AT realtime clock> port 0x70-0x71,0x74-0x77 irq 8 on acpi0
uart0: <16550 or compatible> port 0x3f8-0x3ff irq 4 flags 0x10 on acpi0
uart0: [FILTER]
atkbdc0: <Keyboard controller (i8042)> port 0x60,0x64 irq 1 on acpi0
atkbd0: <AT Keyboard> irq 1 on atkbdc0
kbd0 at atkbd0
atkbd0: [GIANT-LOCKED]
atkbd0: [ITHREAD]
orm0: <ISA Option ROMs> at iomem 0xc0000-0xc8fff,0xc9000-0xcafff,0xcb000-0xcbfff,0xcc000-0xccfff on isa0
sc0: <System console> at flags 0x100 on isa0
sc0: VGA <16 virtual consoles, flags=0x300>
vga0: <Generic ISA VGA> at port 0x3c0-0x3df iomem 0xa0000-0xbffff on isa0
ppc0: cannot reserve I/O port range
uart1: <16550 or compatible> at port 0x2f8-0x2ff irq 3 on isa0
uart1: [FILTER]
device_attach: acpi_perf0 attach returned 6
device_attach: acpi_perf1 attach returned 6
device_attach: acpi_perf2 attach returned 6
device_attach: acpi_perf3 attach returned 6
device_attach: acpi_perf0 attach returned 6
p4tcc0: <CPU Frequency Thermal Control> on cpu0
device_attach: acpi_perf1 attach returned 6
p4tcc1: <CPU Frequency Thermal Control> on cpu1
device_attach: acpi_perf2 attach returned 6
p4tcc2: <CPU Frequency Thermal Control> on cpu2
device_attach: acpi_perf3 attach returned 6
p4tcc3: <CPU Frequency Thermal Control> on cpu3
ZFS NOTICE: Prefetch is disabled by default if less than 4GB of RAM is present;
            to enable, add "vfs.zfs.prefetch_disable=0" to /boot/loader.conf.
ZFS filesystem version 3
ZFS storage pool version 14
RTC BIOS diagnostic error 4<invalid_time>
Timecounters tick every 1.000 msec
usbus0: 12Mbps Full Speed USB v1.0
usbus1: 12Mbps Full Speed USB v1.0
usbus2: 12Mbps Full Speed USB v1.0
usbus3: 12Mbps Full Speed USB v1.0
usbus4: 480Mbps High Speed USB v2.0
ugen0.1: <Intel> at usbus0
uhub0: <Intel UHCI root HUB, class 9/0, rev 1.00/1.00, addr 1> on usbus0
ugen1.1: <Intel> at usbus1
uhub1: <Intel UHCI root HUB, class 9/0, rev 1.00/1.00, addr 1> on usbus1
ugen2.1: <Intel> at usbus2
uhub2: <Intel UHCI root HUB, class 9/0, rev 1.00/1.00, addr 1> on usbus2
ugen3.1: <Intel> at usbus3
uhub3: <Intel UHCI root HUB, class 9/0, rev 1.00/1.00, addr 1> on usbus3
ugen4.1: <Intel> at usbus4
uhub4: <Intel EHCI root HUB, class 9/0, rev 2.00/1.00, addr 1> on usbus4
acd0: DVDR <Optiarc DVD RW AD-5540A/2.01> at ata0-master UDMA33
ad4: 1907729MB <Seagate ST32000644NS SN11> at ata2-master UDMA100 SATA 3Gb/s
ad6: 1907729MB <Seagate ST32000644NS SN11> at ata3-master UDMA100 SATA 3Gb/s
ad8: 1907729MB <Seagate ST32000644NS SN11> at ata4-master UDMA100 SATA 3Gb/s
lapic1: Forcing LINT1 to edge trigger
SMP: AP CPU #1 Launched!
lapic3: Forcing LINT1 to edge trigger
SMP: AP CPU #3 Launched!
lapic2: Forcing LINT1 to edge trigger
SMP: AP CPU #2 Launched!
uhub0: 2 ports with 2 removable, self powered
uhub1: 2 ports with 2 removable, self powered
uhub2: 2 ports with 2 removable, self powered
uhub3: 2 ports with 2 removable, self powered
uhub4: 8 ports with 8 removable, self powered
ugen4.2: <Intel(R)> at usbus4
umass0: <Intel(R) Multidevice, class 0/0, rev 2.00/0.01, addr 2> on usbus4
umass0:  SCSI over Bulk-Only; quirks = 0x0000
umass0:0:0:-1: Attached to scbus0
umass1: <Intel(R) Multidevice, class 0/0, rev 2.00/0.01, addr 2> on usbus4
umass1:  SCSI over Bulk-Only; quirks = 0x0000
(probe0:umass-sim0:0:0:0): TEST UNIT READY. CDB: 0 0 0 0 0 0
(probe0:umass-sim0:0:0:0): CAM status: SCSI Status Error
(probe0:umass-sim0:0:0:0): SCSI status: Check Condition
(probe0:umass-sim0:0:0:0): SCSI sense: UNIT ATTENTION asc:29,0 (Power on, reset, or bus device reset occurred)
(probe0:umass-sim0:0:0:0): TEST UNIT READY. CDB: 0 0 0 0 0 0 umass1:1:1:-1: Attached to scbus1
(probe0:umass-sim0:0:0:0): CAM status: SCSI Status Error

(probe0:umass-sim0:0:0:0): SCSI status: Check Condition
(probe0:umass-sim0:0:0:0): SCSI sense: NOT READY asc:3a,0 (Medium not present)
cd0 at umass-sim0 bus 0 scbus0 target 0 lun 0
cd0: <Intel(R) RMM2 VDrive 1 0.01> Removable CD-ROM SCSI-3 device
cd0: 40.000MB/s transfers
cd0: Attempt to query device size failed: NOT READY, Medium not presentumass2:
<Intel(R) Multidevice, class 0/0, rev 2.00/0.01, addr 2> on usbus4
umass2:  SCSI over Bulk-Only; quirks = 0x0000
(probe1:umass-sim1:1:0:0): TEST UNIT READY. CDB: 0 0 0 0 0 0
(probe1:umass-sim1:1:0:0): CAM status: SCSI Status Error
(probe1:umass-sim1:1:0:0): SCSI status: Check Condition
(probe1:umass-sim1:1:0:0): SCSI sense: UNIT ATTENTION asc:29,0 (Power on, reset, or bus device reset occurred)
umass2:2:2:-1: Attached to scbus2
(probe1:umass-sim1:1:0:0): TEST UNIT READY. CDB: 0 0 0 0 0 0
(probe1:umass-sim1:1:0:0): CAM status: SCSI Status Error
(probe1:umass-sim1:1:0:0): SCSI status: Check Condition
(probe1:umass-sim1:1:0:0): SCSI sense: NOT READY asc:3a,0 (Medium not present)
cd1 at umass-sim1 bus 1 scbus1 target 0 lun 0umass3:
cd1: <Intel(R) Multidevice, class 0/0, rev 2.00/0.01, addr 2> on usbus4<Intel(R) RMM2 VDrive 2 0.01> Removable CD-ROM SCSI-3 device
umass3:
cd1: 40.000MB/s transfers SCSI
cd1: Attempt to query device size failed: NOT READY, Medium not present over
Bulk-Only; quirks = 0x0000
(probe0:umass-sim2:2:0:0): TEST UNIT READY. CDB: 0 0 0 0 0 0
(probe0:umass-sim2:2:0:0): CAM status: SCSI Status Error
(probe0:umass-sim2:2:0:0): SCSI status: Check Condition
(probe0:umass-sim2:2:0:0): SCSI sense: UNIT ATTENTION asc:29,0 (Power on, reset, or bus device reset occurred)
umass3:3:3:-1: Attached to scbus3
(probe0:umass-sim2:2:0:0): TEST UNIT READY. CDB: 0 0 0 0 0 0
(probe0:umass-sim2:2:0:0): CAM status: SCSI Status Error
(probe0:umass-sim2:2:0:0): SCSI status: Check Conditionums0:
(probe0:umass-sim2:2:0:0): SCSI sense: NOT READY asc:3a,0 (Medium not present)<Intel(R) Multidevice, class 0/0, rev 2.00/0.01, addr 2> on usbus4

ums0: 3 buttons and [XYZ] coordinates ID=0
cd2 at umass-sim2 bus 2 scbus2 target 0 lun 0
cd2: <Intel(R) RMM2 VDrive 3 0.01> Removable CD-ROM SCSI-3 device
cd2: 40.000MB/s transfers
cd2: Attempt to query device size failed: NOT READY, Medium not present
ukbd0: <Intel(R) Multidevice, class 0/0, rev 2.00/0.01, addr 2> on usbus4
kbd2 at ukbd0
(probe1:umass-sim3:3:0:0): TEST UNIT READY. CDB: 0 0 0 0 0 0
(probe1:umass-sim3:3:0:0): CAM status: SCSI Status Error
(probe1:umass-sim3:3:0:0): SCSI status: Check Condition
(probe1:umass-sim3:3:0:0): SCSI sense: UNIT ATTENTION asc:29,0 (Power on, reset, or bus device reset occurred)
(probe1:umass-sim3:3:0:0): TEST UNIT READY. CDB: 0 0 0 0 0 0
(probe1:umass-sim3:3:0:0): CAM status: SCSI Status Error
(probe1:umass-sim3:3:0:0): SCSI status: Check Condition
(probe1:umass-sim3:3:0:0): SCSI sense: NOT READY asc:3a,0 (Medium not present)
cd3 at umass-sim3 bus 3 scbus3 target 0 lun 0
cd3: <Intel(R) RMM2 VDrive 4 0.01> Removable CD-ROM SCSI-3 device
cd3: 40.000MB/s transfers
cd3: Attempt to query device size failed: NOT READY, Medium not present
Trying to mount root from zfs:zroot
Setting hostuuid: f334505f-2113-11dd-abcd-000bab086eb6.
Setting hostid: 0x4cb9e488.
Entropy harvesting:
 interrupts
 ethernet
 point_to_point
 kickstart
.
eval: cannot open /etc/fstab: No such file or directory
eval: cannot open /etc/fstab: No such file or directory
fstab:
/etc/fstab
:
0:
No such file or directory

Warning! No /etc/fstab: skipping disk checks.
fstab:
/etc/fstab
:
0:
No such file or directory

Mounting local file systems:
fstab:
/etc/fstab
:
0:
No such file or directory

.
Setting hostname: server4.rufox.ru
.
Starting Network: lo0 em0 em1.
lo0: flags=8049<UP,LOOPBACK,RUNNING,MULTICAST> metric 0 mtu 16384
        options=3<RXCSUM,TXCSUM>
        inet6 fe80::1%lo0 prefixlen 64 scopeid 0x5
        inet6 ::1 prefixlen 128
        inet 127.0.0.1 netmask 0xff000000
        nd6 options=3<PERFORMNUD,ACCEPT_RTADV>
em0: flags=8843<UP,BROADCAST,RUNNING,SIMPLEX,MULTICAST> metric 0 mtu 1500
        options=219b<RXCSUM,TXCSUM,VLAN_MTU,VLAN_HWTAGGING,VLAN_HWCSUM,TSO4,WOL_MAGIC>
        ether 00:15:17:79:95:88
        inet 85.175.153.146 netmask 0xfffffffc broadcast 85.175.153.147
        media: Ethernet autoselect
        status: no carrier
em1: flags=8843<UP,BROADCAST,RUNNING,SIMPLEX,MULTICAST> metric 0 mtu 1500
        options=219b<RXCSUM,TXCSUM,VLAN_MTU,VLAN_HWTAGGING,VLAN_HWCSUM,TSO4,WOL_MAGIC>
        ether 00:15:17:79:95:89
        inet 192.168.1.2 netmask 0xffffff00 broadcast 192.168.1.255
        media: Ethernet autoselect
        status: no carrier
add net default: gateway 85.175.153.145
Starting devd.
Starting ums0 moused
.
fstab:
/etc/fstab
:
0:
No such file or directory

fstab:
/etc/fstab
:
0:
No such file or directory

fstab:
/etc/fstab
:
0:
No such file or directory

fstab:
/etc/fstab
:
0:
No such file or directory

fstab:
/etc/fstab
:
0:
No such file or directory

ELF ldconfig path: /lib /usr/lib /usr/lib/compat /usr/local/lib /usr/local/lib/compat/pkg /usr/local/lib/compat/pkg /usr/local/lib/mysql
32-bit compatibility ldconfig path: /usr/lib32
Creating and/or trimming log files
.
Starting syslogd.
Setting date via ntp.
em0: link state changed to UP
em1: link state changed to UP
Error : hostname nor servname provided, or not known
 1 Feb 06:05:23
ntpdate[910]: can't find host ntp.psn.ru

Error : hostname nor servname provided, or not known
 1 Feb 06:05:23
ntpdate[910]: can't find host 0.freebsd.pool.ntp.org

Error : hostname nor servname provided, or not known
 1 Feb 06:05:23
ntpdate[910]: can't find host 1.freebsd.pool.ntp.org

Error : hostname nor servname provided, or not known
 1 Feb 06:05:23
ntpdate[910]: can't find host 2.freebsd.pool.ntp.org

 1 Feb 06:05:23
ntpdate[910]: no servers can be used, exiting
Starting rpcbind.
Clearing /tmp (X related).
Starting mountd.
Starting nfsd.
Updating motd:
.
fstab:
/etc/fstab
:
0:
No such file or directory

Starting ntpd.
Configuring syscons:
 blanktime
.
Starting sshd.
Starting cron.
eval: cannot open /etc/fstab: No such file or directory
Starting background file system checks in 60 seconds.

Tue Feb  1 06:05:24 MSK 2011
Feb  1 06:05:26 server4 ntpd_initres[1158]: host name not found: 0.freebsd.pool.ntp.org
Feb  1 06:05:26 server4 ntpd_initres[1158]: couldn't resolve `0.freebsd.pool.ntp.org', giving up on it
Feb  1 06:05:26 server4 ntpd_initres[1158]: host name not found: 1.freebsd.pool.ntp.org
Feb  1 06:05:26 server4 ntpd_initres[1158]: couldn't resolve `1.freebsd.pool.ntp.org', giving up on it
Feb  1 06:05:26 server4 ntpd_initres[1158]: host name not found: 2.freebsd.pool.ntp.org
Feb  1 06:05:26 server4 ntpd_initres[1158]: couldn't resolve `2.freebsd.pool.ntp.org', giving up on it

Аватара пользователя
ADRE
майор
Сообщения: 2641
Зарегистрирован: 2007-07-26 8:53:49
Контактная информация:

Re: ZFS зависает с большим количеством файлов в директории.

Непрочитанное сообщение ADRE » 2011-02-02 7:31:27

Памяти мало шибко =(
//del

Аватара пользователя
BlackCat
прапорщик
Сообщения: 469
Зарегистрирован: 2007-10-16 22:40:42

Re: ZFS зависает с большим количеством файлов в директории.

Непрочитанное сообщение BlackCat » 2011-02-02 15:58:19

sasha181, выключите mc и зайдите в каталог обычным shell'ом (csh, sh и т.д. - на ваш выбор), а далее уже считайте занимаемый объём с помощью du(1).

sasha181
сержант
Сообщения: 169
Зарегистрирован: 2008-02-04 17:02:30
Откуда: Краснодар

Re: ZFS зависает с большим количеством файлов в директории.

Непрочитанное сообщение sasha181 » 2011-02-08 9:05:13

BlackCat писал(а):sasha181, выключите mc и зайдите в каталог обычным shell'ом (csh, sh и т.д. - на ваш выбор), а далее уже считайте занимаемый объём с помощью du(1).
Результат тот же :( .

А что за параметр

Код: Выделить всё

vfs.zfs.zio.use_uma: 0
Он не может как-то повлиять на это поведение ?

Аватара пользователя
BlackCat
прапорщик
Сообщения: 469
Зарегистрирован: 2007-10-16 22:40:42

Re: ZFS зависает с большим количеством файлов в директории.

Непрочитанное сообщение BlackCat » 2011-03-03 1:19:50

Попробуйте отключить atime:

Код: Выделить всё

zfs set atime=off <filesystem|volume>

Аватара пользователя
ProFTP
подполковник
Сообщения: 3388
Зарегистрирован: 2008-04-13 1:50:04
Откуда: %&й
Контактная информация:

Re: ZFS зависает с большим количеством файлов в директории.

Непрочитанное сообщение ProFTP » 2011-03-03 12:44:12

почитайте, что такое ZFS:

http://ru.wikipedia.org/wiki/Zettabyte_File_System
Ограничения

ZFS не является изначально кластерной, распределенной или параллельной файловой системой и не предоставляет конкурирующего доступа к данным с различных хостов — ZFS это локальная файловая система.
Pеrl FAQ
perl -e 'print join"",map $$_[rand@$_],([0..9,'a'..'z','A'..'Z'])x30'
ИзображениеИзображение

sasha181
сержант
Сообщения: 169
Зарегистрирован: 2008-02-04 17:02:30
Откуда: Краснодар

Re: ZFS зависает с большим количеством файлов в директории.

Непрочитанное сообщение sasha181 » 2011-03-03 13:08:05

ProFTP писал(а):почитайте, что такое ZFS:

http://ru.wikipedia.org/wiki/Zettabyte_File_System
Ограничения

ZFS не является изначально кластерной, распределенной или параллельной файловой системой и не предоставляет конкурирующего доступа к данным с различных хостов — ZFS это локальная файловая система.

А для чего тогда в ней возможности расшарить по nfs, smb и , тем более, iscsi ? И для чего удалённая real-time репликация? Может в википедии просто устаревшие данные?

atime=off не помогло :(

Аватара пользователя
vadim64
майор
Сообщения: 2101
Зарегистрирован: 2009-09-17 15:15:26
Откуда: Засратовец

Re: ZFS зависает с большим количеством файлов в директории.

Непрочитанное сообщение vadim64 » 2011-03-03 13:17:29

sasha181 писал(а): А для чего тогда в ней возможности расшарить по nfs, smb и , тем более, iscsi ? И для чего удалённая real-time репликация? Может в википедии просто устаревшие данные?
э! э! стоп, стоп, стоп! это службы узерлэнда, а не файловой системы, не путайте
Люди не делятся на национальности, партии, фракции и религии. Люди делятся на умных и дураков, а вот дураки делятся на национальности, партии, фракции и религии.

sasha181
сержант
Сообщения: 169
Зарегистрирован: 2008-02-04 17:02:30
Откуда: Краснодар

Re: ZFS зависает с большим количеством файлов в директории.

Непрочитанное сообщение sasha181 » 2011-03-03 13:24:04

vadim64 писал(а): э! э! стоп, стоп, стоп! это службы узерлэнда, а не файловой системы, не путайте
Да, но возможность управлять этими службами ведь встроена в инструментарий управления zfs .

Код: Выделить всё

zfs set sharenfs=on 
например
Если так рассуждать, то и ext3 и ufs2 тоже локальные fs . Но это же не мешает работать с ними по сети.
Да и я пытаюсь посчитать занимаемое место не по сети, а локально.

Аватара пользователя
ProFTP
подполковник
Сообщения: 3388
Зарегистрирован: 2008-04-13 1:50:04
Откуда: %&й
Контактная информация:

Re: ZFS зависает с большим количеством файлов в директории.

Непрочитанное сообщение ProFTP » 2011-03-03 13:42:10

sasha181 писал(а):
ProFTP писал(а):почитайте, что такое ZFS:

http://ru.wikipedia.org/wiki/Zettabyte_File_System
Ограничения

ZFS не является изначально кластерной, распределенной или параллельной файловой системой и не предоставляет конкурирующего доступа к данным с различных хостов — ZFS это локальная файловая система.

А для чего тогда в ней возможности расшарить по nfs, smb и , тем более, iscsi ? И для чего удалённая real-time репликация? Может в википедии просто устаревшие данные?

atime=off не помогло :(

есть MogileFS написанная на perl, она как раз: многоуровневая, кластерная, распределенная и параллельная
репликая Master -> Slave

есть другие, на счет: бэкапов, отказоустойчивости и т.д. у них это по разному

===

короче, в вашем случае файлы надо разделить по каталогам!
по 1000 штук в каталог
Pеrl FAQ
perl -e 'print join"",map $$_[rand@$_],([0..9,'a'..'z','A'..'Z'])x30'
ИзображениеИзображение

sasha181
сержант
Сообщения: 169
Зарегистрирован: 2008-02-04 17:02:30
Откуда: Краснодар

Re: ZFS зависает с большим количеством файлов в директории.

Непрочитанное сообщение sasha181 » 2011-03-04 10:58:01

Неужели для одной из самой продвинутых FS нашего времени, 500 000 тыс. файлов в одном каталоге - это непомерная ноша? Странно, как тогда ext3 с этим справляется ? :) Да и ufs2 тоже справляется на тестовом сервере... :unknown:
То, что лучше поделить, согласен. Но программисты, к сожалению, нередко сначала делают, а потом выяснеется, что так делать не надо. А потом переписывать нет времени, т.к. стоят новые задачи :(

Аватара пользователя
ProFTP
подполковник
Сообщения: 3388
Зарегистрирован: 2008-04-13 1:50:04
Откуда: %&й
Контактная информация:

Re: ZFS зависает с большим количеством файлов в директории.

Непрочитанное сообщение ProFTP » 2011-03-04 11:41:56

если не хочешь движок переделывать, то возьми gluster или что нибудь такое...
погугли какие там есть и другие аналогичные
Pеrl FAQ
perl -e 'print join"",map $$_[rand@$_],([0..9,'a'..'z','A'..'Z'])x30'
ИзображениеИзображение

dreamer_alex
проходил мимо

Re: ZFS зависает с большим количеством файлов в директории.

Непрочитанное сообщение dreamer_alex » 2011-04-29 18:11:07

При создании dataset и самого zpool можно выставить recordsize=16kb,что реально помогает ZFS при куче маленьких файлов - пытаемся понять накой мы создаем ZFS pool что там будет складироваться и рисуем dataset по этому разумению.
Дефолтовый recordsize=128kb, что приятно при огромных хранилищах, но сильно грузит ресурсы системы в частности память.
Кроме оптимизации, дробление на датасеты (в том числе иерархические - для хоть сколько-нибудь сложных либо продвинутых систем хранения) - отличная административная практика. Снапшоты, клонирование, горячее реструктурирование, выборочные бэкапы итп. Собственно, все то же самое, для чего и предназначены отдельные файловые системы с точками монтирования. Кстати говоря, точки монтирования в ZFS допускают абсолютно гибкое жонглирование, хоть вообще не задавай для родительских ФС маунтпойнты.

sasha181
сержант
Сообщения: 169
Зарегистрирован: 2008-02-04 17:02:30
Откуда: Краснодар

Re: ZFS зависает с большим количеством файлов в директории.

Непрочитанное сообщение sasha181 » 2011-05-16 8:34:11

Уменьшение recordsize помого, хотя всё же zfs в результате гораздо медленне работаает с такими каталогами, чем например ext3 . Такое ощущение, что в zfs нет индексации дирректорий, как в той же ext3 .
Что примечательно. Создал для эксперимента ещё одну FS и скопировал туда всю папку с картинками . После сравнил скорость работы du на обоих разделах (с recordsize=4kb и с дефолтным значением) . На втором разделе du отработал быстрее. (14 мин на первом, 4:30 на втором). Повторный прогон показал примерно одинаковое время. Напрашивается вывод, что zfs действительно умеет сам оптимизировать recordsize . Просто в моём начальном варианте на одном разделе лежали файлы разного размера от нескольких килобайт до гигобайта. Вычислить оптимальный recordsize в данном случае zfs конечно не могла.

Спасибо большое Вам за помощь.

Аватара пользователя
iZEN
ст. лейтенант
Сообщения: 1089
Зарегистрирован: 2007-09-15 16:45:26
Контактная информация:

Re: ZFS зависает с большим количеством файлов в директории.

Непрочитанное сообщение iZEN » 2011-05-17 23:34:52

sasha181 писал(а):Неужели для одной из самой продвинутых FS нашего времени, 500 000 тыс. файлов в одном каталоге - это непомерная ноша? Странно, как тогда ext3 с этим справляется ? :) Да и ufs2 тоже справляется на тестовом сервере... :unknown:
Правда что ли? :shock: Как обошли ограничение в 32000 inode в одном каталоге?
GNU/Linux — это не Unix и даже никогда им не был, и, что самое смешное, никогда им не станет — GNU's Not Unix

sasha181
сержант
Сообщения: 169
Зарегистрирован: 2008-02-04 17:02:30
Откуда: Краснодар

Re: ZFS зависает с большим количеством файлов в директории.

Непрочитанное сообщение sasha181 » 2011-05-18 10:04:02

iZEN писал(а):
sasha181 писал(а):Неужели для одной из самой продвинутых FS нашего времени, 500 000 тыс. файлов в одном каталоге - это непомерная ноша? Странно, как тогда ext3 с этим справляется ? :) Да и ufs2 тоже справляется на тестовом сервере... :unknown:
Правда что ли? :shock: Как обошли ограничение в 32000 inode в одном каталоге?
А откуда такая информация?

Аватара пользователя
manefesto
Группенфюррер
Сообщения: 6934
Зарегистрирован: 2007-07-20 8:27:30
Откуда: Пермь
Контактная информация:

Re: ZFS зависает с большим количеством файлов в директории.

Непрочитанное сообщение manefesto » 2011-05-18 11:02:35

почитай спецификацию файловых систем, сам не читал, но iZEN бородатый дядька, дело говорит
я такой яростный шо аж пиздеЦ
Изображение

Аватара пользователя
iZEN
ст. лейтенант
Сообщения: 1089
Зарегистрирован: 2007-09-15 16:45:26
Контактная информация:

Re: ZFS зависает с большим количеством файлов в директории.

Непрочитанное сообщение iZEN » 2011-05-18 12:32:52

sasha181 писал(а):
iZEN писал(а):
sasha181 писал(а):Неужели для одной из самой продвинутых FS нашего времени, 500 000 тыс. файлов в одном каталоге - это непомерная ноша? Странно, как тогда ext3 с этим справляется ? :) Да и ufs2 тоже справляется на тестовом сервере... :unknown:
Правда что ли? :shock: Как обошли ограничение в 32000 inode в одном каталоге?
А откуда такая информация?
Отсюда: http://www.google.com/search?q=ext3%2032000
http://www.google.com/search?q=ufs2+32000
GNU/Linux — это не Unix и даже никогда им не был, и, что самое смешное, никогда им не станет — GNU's Not Unix

sasha181
сержант
Сообщения: 169
Зарегистрирован: 2008-02-04 17:02:30
Откуда: Краснодар

Re: ZFS зависает с большим количеством файлов в директории.

Непрочитанное сообщение sasha181 » 2011-05-18 14:20:56

Так там речь идёт о количестве субдиректорий, а не файлов. А у меня все файлы лежат в одной директории.

Аватара пользователя
iZEN
ст. лейтенант
Сообщения: 1089
Зарегистрирован: 2007-09-15 16:45:26
Контактная информация:

Re: ZFS зависает с большим количеством файлов в директории.

Непрочитанное сообщение iZEN » 2011-05-18 15:08:45

sasha181 писал(а):Так там речь идёт о количестве субдиректорий, а не файлов. А у меня все файлы лежат в одной директории.
Чем принципиально отличаются файлы от каталогов, знаете?
GNU/Linux — это не Unix и даже никогда им не был, и, что самое смешное, никогда им не станет — GNU's Not Unix

Аватара пользователя
vadim64
майор
Сообщения: 2101
Зарегистрирован: 2009-09-17 15:15:26
Откуда: Засратовец

Re: ZFS зависает с большим количеством файлов в директории.

Непрочитанное сообщение vadim64 » 2011-05-18 21:01:16

и про иноды спросите, спросите)))
Люди не делятся на национальности, партии, фракции и религии. Люди делятся на умных и дураков, а вот дураки делятся на национальности, партии, фракции и религии.

sasha181
сержант
Сообщения: 169
Зарегистрирован: 2008-02-04 17:02:30
Откуда: Краснодар

Re: ZFS зависает с большим количеством файлов в директории.

Непрочитанное сообщение sasha181 » 2011-05-20 8:32:25

Код: Выделить всё

[root@local test]# for i in $(seq 64002); do touch $i; done
[root@local test]# ls -l | wc -l
64004
это на ext3

Код: Выделить всё

[root@local test]# uname -a
Linux local.local 2.6.18-238.5.1.el5.028stab085.3 #1 SMP Mon Mar 21 20:05:12 MSK 2011 x86_64 x86_64 x86_64 GNU/Linux