Der Effekt ist mir vage bekannt. Das scheint aufzutreten, wenn der VDR direkt aus einem Startscript, hm, nun ja, ohne konkreten Usernamen gestartet wird, woraufhin die Auflösung von "~" schief zu gehen scheint.
Lösung: In der 'mplayrc' den Parameter MPLAY_PLAY auf einen absoluten Pfad setzen (z.B. MPLAY_PLAY=/video/mplay.play). Der User, mit dem 'mplay.sh' schlußendlich läuft (steht im Log ganz am Anfang "mplay.sh ... started ...") muß natürlich Rechte haben, dort zu schreiben und zu ändern.