Cache pro rychlý přístup, nebo konfiguráky jako backup DB, to je vcelku jedno. Prostě autoři té své DB asi moc nevěří ;)
Pokud provedete odinstalaci aplikace, typicky se odstraní jen věci, které byly součástí instalace. Například nastavení uživatelů v jejich home se typicky neodstraňuje (někdy to ani nejde - když mají šifrovaný home, mají ho na síťovém disku, nebo tam mají permissions jen oni). Navíc se podívejte, co zbyde v systému po odinstalaci Oracle. Předpokládám, že odinstalace Apache také zanechá řadu věcí (konfiguráky, logy). Další otázkou je, jestli dojde k odstranění balíčků, které byly nutné jen a pouze pro odinstalovávanou aplikaci.
Ještě upozorňuji, že APT je jen jeden z package management systémů.