Java虛擬機在執行Java程序的過程中會把它所管理的內存劃分爲若干個不同的數據區域，這些區域都有各自的用途，以及創建和銷燬的時間，有的區域隨着虛擬機進程的啓動而存在，有些區域則依賴用戶的線程和結束建立和銷燬。根據《Java虛擬機規範》的規定，Java虛擬機運行時將會包括以下幾個運行時數據區。
1.程序計數器：
程序計數器是一塊較小的內存空間，他可以看作是當前線程所執行的字節碼的行號指示器。在虛擬機的概念模型（僅僅是概念模型，各個虛擬機可能會通過更高效的方式去實現），字節碼解釋器工作時就是通過改變這個計數器的值來選取下一條需要執行的字節碼指令，分支、循環、跳轉、異常處理、線程恢復等基礎功能都需要依賴這個程序計數器。
由於Java虛擬機的多線程是通過線程輪流切換並分配處理器執行時間的方式來實現的，在任何一個確定的時刻，一個處理器（對於多核處理來說是一個內核）都只會執行一條線程中的指令。因此，爲了線程切換後能回到正確的位置，每條線程都需要有一個獨立的程序計數器，各條線程之間的計數器互不影響，獨立存儲，我們稱這類區域爲“線程私有”的內存。
如果一個線程正在執行一個Java方法，這個計數器記錄的是正在執行的虛擬機字節碼指令的地址；如果正在執行的Native方法，這個計數器的值爲空（Undefined）。此內存區域是唯一一在Java虛擬機規範中沒有規定任何的OutOfMemoryError情況的區域。
2. Java虛擬機棧
與程序計數器一樣，Java虛擬機棧（Java VirtualMachine Stacks）也是線程私有的，它的生命週期與線程相同。虛擬機描述的是Java方法執行的內存模型：每個方法在執行的同時都會創建一個棧幀（Stack Frame）用於存儲局部變量表、操作數棧、動態鏈接、方法出口等信息。每一個方法從調用至執行完的過程，就對應着一個棧幀在虛擬機棧中入棧到出棧的過程。
經常有人把Java內存區域分爲堆內存和棧內存，這種分法比較粗略，Java內存區域的劃分實際上比這複雜。這種劃分方式的流行只能說明大多數程序員最關注的、與對象內存分配關係最密切的內存區域就是這兩塊。其中所指的“棧”就是虛擬機棧，或者說是虛擬機棧中的局部變量表部分。
局部變量表存儲了編譯器可知的各種基本數據類型（boolean、byte、char、short、float、int、long、double）、對象引用（reference類型，它不用於對象本身，可能是一個執行對象起始地址的引用指針，也可能是一個代表對象句柄或其他與此對象相關的位置）和returnAddress類型（指向了一條字節碼指令的地址）。
其中64位長度的long和double類型都會佔用2個局部變量空間（slot），其餘的數據類型佔用一個。局部變量表所需的內存空間在編譯器完成分配，當進入一個方法時，這個方法需要在幀中分配多大的局部變量空間是完全確定的，在方法的運行期間不會改變局部變量表的大小。
在Java虛擬機規範中，對這個區域規定了兩種異常狀況：如果線程請求的站深度大於虛擬機所允許的深度，將拋出StackOverflowError異常；如果虛擬機棧可以動態擴展（當前大部分的Java虛擬機都可動態擴展，只不過Java虛擬機規範中也允許固定長度的虛擬機棧），如果擴展時無法申請到足夠的內存，就會拋出OutOfMemoryError異常。
3. 本地方法棧
本地方法棧（Native MethodStack）與虛擬機棧所發揮的作用是非常相似的沒他們之間的區別只不過是虛擬機棧爲虛擬機執行Java方法（也就是字節碼）服務，而本地方法棧則爲虛擬機使用到的native方法服務。在虛擬機規範中對本地方法棧中方法使用的語言、使用方式與數據結構並沒有強制的規定，因此具體的虛擬機可以自由的實現它。甚至有的虛擬機（譬如Sun HotSpot虛擬機）直接就把本地方法棧與虛擬機棧合二爲一。與虛擬機棧一樣，本地方法棧區域也會拋出StackOverflowError與OutOfMemoryError異常。
4.Java堆
對於大多數應用來說，Java堆（Java Heap）是Java虛擬機所管理的內存中最大的一塊。Java堆是被所有線程共享的一塊內存區域，在虛擬機啓動時創建。此內存區域的唯一目的就是存放對象實例，幾乎所有的對象實例都在這裏分配內存。這一點在Java虛擬機規範中的描述是：所有的對象實例以及數組都要在堆上分配。但是隨着JIT編譯器器的發展與逃逸分析技術主鍵成熟，棧上分配、標量替換優化技術將會導致一些微妙的變化發生，所有的對象都分配在堆上也漸漸地不是那麼絕對了。
Java 堆是垃圾回收管理的主要區域，因此很多時候也被稱爲“GC堆”。從內存回收的角度來看，有現在收集器基本採用分代收集算法，所以Java堆中還可以細分爲：新生代與老年代；再細緻一點的有：Eden空間、From Survivor空間、To Survivor空間等。從內存的分配角度來看，線程共享的Java堆種可能劃分出多個線程私有的分配緩存（Thread LocalAllocation Buffer, TLAB）。不過無論如何劃分，都有存放的內容無關，無論哪個區域，存儲的仍然是對象實例，進一步劃分的目的是爲了更好的回收內存，或者更快的分配內存。
根據Java虛擬機規範的規定，Java堆可以處於物理位置上不連續的內存空間中，只要邏輯上是連續的即可，就像我們的磁盤空間一樣。在實現時，既可以實現成固定大小的，也可以是可擴展的，不過當前主流的虛擬機都是按照可擴展來實現的（通過-Xms和-Xmx控制）。如果在堆中沒有內存完成示例分配，並且堆也無法在擴展時，將會拋出OutOfMemoryError異常。
5．方法區
方法區（Method Area）與Java 堆一樣，是各個線程共享的內存區域，它用於存儲已被虛擬機加載的類信息、常量、靜態變量、即時編譯器編譯後的代碼等數據。雖然Java虛擬機規範把方法區描述爲堆的一個邏輯部分，但是它卻有一個別名叫Non-Heap（非堆），目的是爲了與Java堆區分。
對於習慣在HotSpot虛擬機上開發、部署程序的開發者來說，很多人都更願意吧方法區稱爲“永久代”（PermanentGeneration），本質上兩者並不等價，僅僅是因爲HotSpot虛擬機的設計團隊選擇把GC分代收集擴展至方法區，或者說使用永久代來實現方法區而已，這樣HotSpot的垃圾收集器就可以像管理Java堆一樣管理這部分內存，能夠省去專門爲方法區編寫內存管理代碼的工作。對於其他虛擬機來說是不存在永久代的概念的。原則上，如何實現方法區屬於虛擬機實現的細節，不收虛擬機規範的約束，但是使用永久代來實現方法區，現在看來並不是一個好主意，因爲這樣更容易遇到內存溢出問題。JDK1.7的HotSpot已將原本在永久代中的字符串常量池移出，JDK1.8中已經移除永久代，使用MetaSpace代替。
Java虛擬機規範對方法區的限制非常寬鬆，除了和Java堆一樣不需要連續的內存可以選擇固定大小或者可擴展外，還可以選擇不實現垃圾收集。相對而言，垃圾收集行爲在這個區域是比較少出現的，但並非數據進入了方法區就如永久代的名字一樣“永久”存在了，這區域的內存回收目標主要是針對常量池的回收和對類型的卸載，一般來說，這部分區域的回收“成績”比較難以令人滿意，尤其是類型的卸載，條件相當苛刻，但是這部分的回收確實是必要的。
根據Java虛擬機的規範的規定，當方法區無法滿足內存分配需求時，將拋出OutOfMemoryError異常。
6．運行時常量池
運行時常量池（Runtime ConstantPool）是方法區的一部分。Class文件中除了有類的版本、字段、方法、接口等描述信息外，還有一項信息是常量池（Constant PoolTable），用於存放編譯器生成的各種字面量和符號引用，這部分內容將在類加載後進入方法區的運行時常量池中存放。
Java虛擬機對Class文件每一部分（自然也包括常量池）的格式都有嚴格的規定，每一個字節用於存儲哪一種數據都必須符合規範上的要求才會被虛擬機認可、裝載和執行，但對於運行時常量池，Java虛擬機規範沒有作任何細節上的要求，不同的提供商實現的虛擬機可以按照自己的需要來實現這個內存區域。不過，一般來說，除了保存Class文件中描述的符號引用外，還會把翻譯出來的直接引用也存儲在運行時常量池中。
運行時常量池相對於Class文件常量池的另外一個重要的特徵是具備動態性，Java語言並不要求常量一定只有編譯期才能產生，也就是並非預置入Class文件中常量池的內容才能進入方法區運行時常量池，運行期間也可能將新的常量放入池中，這種特性被開發人員利用得較多的便是String類的intern()方法。
既然運行時常量池是方法區的一部分，自然受到方法區內存限制，當常量池無法在申請到內存時將會拋出OutOfMemoryError異常。