Muy buenas.
Efectivamente. Existe un comando que más o menos te puede ayudar en lo que pides:
ulimit.
Aplica unos límites a todo proceso ejecutado por el usuario, en cuanto ese usuario ejecuta el comando ulimit con las opciones necesarias, y lo aplica sólo a la terminal desde donde se ha ejecutado ulimit.
Los límites que soporta, con los parámetros, así como los valores que tiene el usuario en ese momento, se puede visualizar ejecutando ulimit -a bajo ese usuario.
Si es momentaneo, lo puedes ejecutar antes del programa que quieras limitar. El límite no afectará a otras terminales, y en cuanto cierres la terminal que estás usando, desaparecerá.
Si lo quieres permanente, y a todas las terminales, sólo tienes que poner el comando ulimit con los parámetros a usar en el fichero ~/.bashrc del usuario al que quieres aplicarle los límites, o al fichero bashrc que está en /etc para aplicar los límites a todos los usuarios.
ulimit tiene un fichero de configuración: /etc/security/limits.conf, donde podremos aplicar límites a determinados usuarios, e incluso grupos, en el inicio y a todo de manera más sencilla y segura.
ulimit no posee (de momento) una página del manual. Tampoco tiene un parámetro de ayuda, por lo que toda la información y ejemplos que necesites tendrás que sacarla de la red.
Algo parecido a una ayuda, sería el parámetro -a que mencioné arriba.
Otro comando que también te podría servir es
sysctl, que se utiliza para ver y modificar parámetros del kernel en tiempo real. De este hay mucha documentación y ejemplos por la red, y tiene página de manual y ayuda.
Perdón por el tocho, y espero que te sea útil.
Saludos