Mam dojem, ze jste se zminil,ze FreeBSD provozujete na amd64, nejsem si ted uplne jisty, jestli existuje i 64b portpro javu a nebo jestli jede v 32b emulaci. Pokud ano,urcite se zamerte na
compat.ia32.maxvmem: 0
compat.ia32.maxssiz: 67108864
compat.ia32.maxdsiz: 536870912
Mozna si VM alokuje vice jak 536870912B pro data, tak je jasne, ze dojde k out of memory.