Das könntest du im VDRSTARTUP-Callback machen. Oh, hat die veröffentlichte Version ja noch nicht. Oh, hat ja noch nicht mal meine Entwicklungsversion. Hmmm, müsste ich endlich mal rein programmieren. 
Scherz beiseite, was sich anbieten würde, wäre die DVBLoad-Funktion, da die vor dem VDR-Start auf jeden Fall aufgerufen wird. Alternativ könne man es auch direkt in die runvdr.conf hinein schreiben, die wird ja auch ausgeführt. Beide laufen nicht in einer Subshell, daher sollte das ulimit Gültigkeit haben.
Zu --userdump: Ich reiche die Option auch nur an VDR durch. Wenn ich mich recht erinnere, gab es irgend ein Problem mit core dumps, wenn VDR selbst von root in den Usermodus wechselt. Das ganze geht wohl auf -> einen Beitrag von 2006 zurück, dessen finaler Änderungsvorschlag 2008 in 1.5.15 umgesetzt wurde, zusammen mit der Option --userdump, um ihn zu aktivieren. Vorher war die Funktion immer aktiv.
Gruß,
Udo