Una observacion, la informacion que te da el EM del OAS es respecto a la memoria que esta consumiendo el OC4J si estas analizando tus programas en Java.
Sobre esto una aclaracion, los parametros XMX y XMS determinan la memoria maxima y minima que consumira el OC4J para todas tus aplicaciones, sin importar cuanta memoria fisica tengas, por tanto si las estadisticas del OAS te indican que esta consumiendo memoria, es probable que la este "swapeando" (esto lo controla el jvm)
para modificar esto en la seccion Java options, debes indicar los parametros que te mensiono, debiendo ir primero el parametros -Server.
Para un mejor analisis recomiendo analizar los reportes "Metrics" que trae el EM del OAS
saludos