計算機系統的層次結構，是由硬件和軟件兩大部分所構成，按功細分爲7個層次。
第零層：硬件邏輯層，可以直接完成每一條微指令的功能，這一層是計算機的計算內核，是實現計算機各種基本操作的實體。由門，觸發器等邏輯電路組成。
第一層：微代碼層，這級的機器語言是微指令集，程序員用微指令編寫的微程序，一般是直接由硬件執行的。常用微程序設計技術。
第二層：指令集架構層，這級的機器語言是該機的指令集，程序員用機器指令編寫的程序可以由微程序進行解釋。
第三層：操作系統，它提供了機器語言級所沒有的，但在彙編語言和高級語言的實現中所需要的某些基本操作。它由機器指令和廣義指令組成，機器指令由微程序直接解釋，廣義指令由操作系統來定義和解釋。
第四層：彙編語言，這級的機器語言是彙編語言，完成彙編語言翻譯的程序叫做彙編程序。
第五層：高級語言，這級的機器語言就是各種高級語言，如C++、Java等，通常用編譯程序來完成高級語言翻譯的工作。
第六層：應用程序，這一級是爲了使計算機滿足某種用途而專門設計的，因此這一級語言就是各種面向問題的應用語言。
其中指令集架構層爲軟硬件的分界線；值得我們注意的是不同用戶處於不同層次，不同層次具有不同的屬性，使用不同工具，且不同層次的代碼效率也不同，越往高層代碼效率越低。