Hm, qué extraño. Nunca me pasó que Hypersonic se quedara sin memoria.
Probá editando el archivo "<bi-server>/data/start_hypersonic.bat", y modifica la línea que empieza con "SET command", añadiéndole "-Xmx512m". Quedaría así:
Code:
SET command=java -Xmx512m -cp %tempclasspath% org.hsqldb.Server -database.0 hsqldb\sampledata -dbname.0 sampledata -database.1 hsqldb\hibernate -dbname.1 hibernate -database.2 hsqldb\quartz -dbname.2 quartz
Ahí le asigarías 512MB de espacio en memoria a Hypersonic.
¡Saludos!