#!/usr/bin/perl
use strict;
use warnings;
use File::Temp ();

while (1) {
    my $tmp_fh    = File::Temp->new();
    my $tmp_fname = $tmp_fh->filename(); 
    my @tmp_stat  = stat $tmp_fname;
    unlink $tmp_fname;
}

dcache считается в ресурсы dcachesize и kmemsize, а kmemsize поделённый на 4096 считается в physpages.
Так что поставьте лимит на dcachesize или kmemsize, скажем в 1Gb.
В том ядре был баг что лимит на physpages не очень хорошо лимитирует dcache и ядро может постреливать OOM-килами время от времени.