OpenVZ Forum


Home » International » Russian » *SOLVED* Ошибка "out of vmalloc space" при запуске VPS
*SOLVED* Ошибка "out of vmalloc space" при запуске VPS [message #23224] Wed, 14 November 2007 13:49 Go to next message
msolovyev is currently offline  msolovyev
Messages: 29
Registered: August 2007
Location: Russia, Novosibirsk
Junior Member

Не удаётся запустить больше 3 VPS одновременно. При запуске 4-й вот такая ошибка:

/var/log/messages:
Nov 14 16:46:25 xxxxxx kernel: allocation failed: out of vmalloc space - use vmalloc=<size> to increase size.
Nov 14 16:46:25 xxxxxx kernel: VE: 103: stopped
Nov 14 16:46:25 xxxxxx kernel: VE: 103: failed to start with err=-12


2.6.18-8.1.8.el5.028stab039.1
CentOS-4.5


Подскажите, куда копать?

[Updated on: Mon, 19 November 2007 07:32]

Report message to a moderator

Re: Ошибка "out of vmalloc space" при запуске VPS [message #23228 is a reply to message #23224] Wed, 14 November 2007 14:14 Go to previous messageGo to next message
vaverin is currently offline  vaverin
Messages: 708
Registered: September 2005
Senior Member
памяти поди на ноде маловато?
Покажите пожалуйста dmesg (через attach или приватно)
Re: Ошибка "out of vmalloc space" при запуске VPS [message #23231 is a reply to message #23224] Wed, 14 November 2007 14:30 Go to previous messageGo to next message
msolovyev is currently offline  msolovyev
Messages: 29
Registered: August 2007
Location: Russia, Novosibirsk
Junior Member

Отправил в PM
Re: Ошибка "out of vmalloc space" при запуске VPS [message #23233 is a reply to message #23224] Wed, 14 November 2007 14:40 Go to previous messageGo to next message
msolovyev is currently offline  msolovyev
Messages: 29
Registered: August 2007
Location: Russia, Novosibirsk
Junior Member

[root@xxxxxxxx ~]# cat /proc/meminfo
MemTotal: 1032136 kB
MemFree: 31060 kB
Buffers: 42404 kB
Cached: 640392 kB
SwapCached: 0 kB
Active: 498268 kB
Inactive: 439648 kB
HighTotal: 128896 kB
HighFree: 252 kB
LowTotal: 903240 kB
LowFree: 30808 kB
SwapTotal: 2008116 kB
SwapFree: 2008116 kB
Dirty: 444 kB
Writeback: 0 kB
AnonPages: 255132 kB
Mapped: 53252 kB
Slab: 46048 kB
PageTables: 3116 kB
NFS_Unstable: 0 kB
Bounce: 0 kB
CommitLimit: 2524184 kB
Committed_AS: 806292 kB
VmallocTotal: 110584 kB <=====
VmallocUsed: 110444 kB <=====
VmallocChunk: 72 kB
HugePages_Total: 0
HugePages_Free: 0
HugePages_Rsvd: 0
Hugepagesize: 4096 kB


Похоже вот тут он корень зла... Вопрос в том, как обойти это? Ведь несмотря на то, что памяти всего гиг, используется она менее чем на треть...

[root@xxxxxxxx ~]# free
total used free shared buffers cached
Mem: 1032136 1001224 30912 0 42636 640436
-/+ buffers/cache: 318152 713984
Swap: 2008116 0 2008116
Re: Ошибка "out of vmalloc space" при запуске VPS [message #23234 is a reply to message #23233] Wed, 14 November 2007 14:58 Go to previous messageGo to next message
khorenko is currently offline  khorenko
Messages: 533
Registered: January 2006
Location: Moscow, Russia
Senior Member
Можно попробовать 'vmalloc' kernel option (добавляется в /etc/grub.conf)

Documentation/kernel-parameters.txt:
...
vmalloc=nn[KMG] [KNL,BOOT] Forces the vmalloc area to have an exact
size of <nn>. This can be used to increase the
minimum size (128MB on x86). It can also be used to
decrease the size and leave more room for directly
mapped kernel RAM.
...


If your problem is solved - please, report it!
It's even more important than reporting the problem itself...
Re: Ошибка "out of vmalloc space" при запуске VPS [message #23238 is a reply to message #23224] Wed, 14 November 2007 15:29 Go to previous messageGo to next message
msolovyev is currently offline  msolovyev
Messages: 29
Registered: August 2007
Location: Russia, Novosibirsk
Junior Member

Вообщем что-то странное творится с этими параметрами.

Проверил на нескольких других серверах:

1) 2.6.18-8.1.8.el5.028stab039.1, 4GB RAM
VmallocTotal: 110584 kB
VmallocUsed: 9068 kB
VmallocChunk: 101460 kB

2) 2.6.18-8.1.8.el5.028stab039.1, 2GB RAM
VmallocTotal: 110584 kB
VmallocUsed: 6860 kB
VmallocChunk: 103652 kB

3) linux-image-2.6.18-028stab035.1-ovz-smp, 4GB RAM
VmallocTotal: 34359738364 kB
VmallocUsed: 273628 kB
VmallocChunk: 34359464696 kB

4) 2.6.18-openvz-13-1etch4-686, 512MB RAM
VmallocTotal: 540664 kB
VmallocUsed: 5788 kB
VmallocChunk: 534548 kB

5) И на том, где проблема
2.6.18-8.1.8.el5.028stab039.1, 1GB RAM
VmallocTotal: 110584 kB
VmallocUsed: 110444 kB
VmallocChunk: 72 kB


Может кто-нибудь пояснить, откуда берётся VmallocUsed? Как понять, куда эта память ушла?


И вообще, странно как-то, на ядре 2.6.18-8.1.8.el5.028stab039.1 вне зависимости от количества оперативки одинаковый лимит на vmalloc.


2finist, фокус не проходит, по крайней мере с обычным ядром Sad

[Updated on: Wed, 14 November 2007 15:31]

Report message to a moderator

Re: Ошибка "out of vmalloc space" при запуске VPS [message #23258 is a reply to message #23238] Thu, 15 November 2007 05:56 Go to previous messageGo to next message
vaverin is currently offline  vaverin
Messages: 708
Registered: September 2005
Senior Member
msolovyev wrote on Wed, 14 November 2007 18:29

1) 2.6.18-8.1.8.el5.028stab039.1, 4GB RAM
VmallocTotal: 110584 kB
VmallocUsed: 9068 kB
VmallocChunk: 101460 kB

2) 2.6.18-8.1.8.el5.028stab039.1, 2GB RAM
VmallocTotal: 110584 kB
VmallocUsed: 6860 kB
VmallocChunk: 103652 kB


более-менее нормальная ситуация
msolovyev wrote on Wed, 14 November 2007 18:29

3) linux-image-2.6.18-028stab035.1-ovz-smp, 4GB RAM
VmallocTotal: 34359738364 kB
VmallocUsed: 273628 kB
VmallocChunk: 34359464696 kB


полный бред
msolovyev wrote on Wed, 14 November 2007 18:29

4) 2.6.18-openvz-13-1etch4-686, 512MB RAM
VmallocTotal: 540664 kB
VmallocUsed: 5788 kB
VmallocChunk: 534548 kB


тоже что-то странное
msolovyev wrote on Wed, 14 November 2007 18:29

5) И на том, где проблема
2.6.18-8.1.8.el5.028stab039.1, 1GB RAM
VmallocTotal: 110584 kB
VmallocUsed: 110444 kB
VmallocChunk: 72 kB


необычно большое потребление
msolovyev wrote on Wed, 14 November 2007 18:29

Может кто-нибудь пояснить, откуда берётся VmallocUsed? Как понять, куда эта память ушла?


- грузите ядро, не стартуя Virtuozzo service и смотрите vmalloc consumption
- смотрите как меняется ситуация после старта сервиса
- смотрите что меняется при старте каждой VE
msolovyev wrote on Wed, 14 November 2007 18:29

И вообще, странно как-то, на ядре 2.6.18-8.1.8.el5.028stab039.1 вне зависимости от количества оперативки одинаковый лимит на vmalloc.


Это нормально. Разве что я ожидал что размер vmalloc area будет несколько повыше -- 128 или 192 Мб...
vmalloc используется ядром для выделения памяти под быльшие структуры (больше 1 pages). Таких объектов в принципе не так уж много, например разного рода hash tables.

Если память съели еще до vz service -- ищите какой-нить необычный драйвер. Если это VE отъедают -- сравнивайте конфиги.

С уважением,
Василий Аверин
Re: Ошибка "out of vmalloc space" при запуске VPS [message #23259 is a reply to message #23224] Thu, 15 November 2007 06:10 Go to previous messageGo to next message
msolovyev is currently offline  msolovyev
Messages: 29
Registered: August 2007
Location: Russia, Novosibirsk
Junior Member

Вчера проапгрейдил ядро до 2.6.18-8.1.15.el5.028stab047.1, не помогло Sad

Гружу виртуозное ядро, сервис vz отключен:
VmallocTotal: 110584 kB
VmallocUsed: 109240 kB
VmallocChunk: 868 kB


Однако когда гружу дефолтное ядро CentOS (2.6.9-55.EL), всё нормально:
VmallocTotal: 106488 kB
VmallocUsed: 3696 kB
VmallocChunk: 102456 kB
Re: Ошибка "out of vmalloc space" при запуске VPS [message #23263 is a reply to message #23259] Thu, 15 November 2007 06:30 Go to previous messageGo to next message
vaverin is currently offline  vaverin
Messages: 708
Registered: September 2005
Senior Member
Тогда надо модуль искать (подозреваю что это intelfb)
Добивайте проверки в initscripts.
Re: Ошибка "out of vmalloc space" при запуске VPS [message #23264 is a reply to message #23263] Thu, 15 November 2007 06:33 Go to previous messageGo to next message
vaverin is currently offline  vaverin
Messages: 708
Registered: September 2005
Senior Member
кроме того -- попробуйте просто сравинить списки модулей на нашем ядре и на CentOS. (Хотя конечно с centos5 kernel сравнить было бы получше)
Re: Ошибка "out of vmalloc space" при запуске VPS [message #23332 is a reply to message #23224] Thu, 15 November 2007 14:56 Go to previous message
msolovyev is currently offline  msolovyev
Messages: 29
Registered: August 2007
Location: Russia, Novosibirsk
Junior Member

Это production-сервер, так что часто экспериментировать не получается Sad

Вообщем откатился на ядро 2.6.9-023stab044.11, и там всё нормально:

[root@xxxxxxxx ~]# cat /proc/meminfo | grep Vmalloc
VmallocTotal: 106488 kB
VmallocUsed: 5664 kB
VmallocChunk: 100760 kB
Previous Topic: iptables_32bit in VE_32bit on x86_64 VE0, kernel Oops occurs
Next Topic: Масштабирование Openvz
Goto Forum:
  


Current Time: Thu Dec 12 16:35:21 GMT 2024

Total time taken to generate the page: 0.02771 seconds