嵌入式系統的硬件層的核心是嵌入式微處理器

嵌入式系統硬件層的核心是嵌入式微處理器，嵌入式微處理器與通用CPU最大的不同在于嵌入式微處理器大多工作在為特定用戶群所專用設計的系統中，它將通用CPU許多由板卡完成的任務集成在芯片內部，從而有利于嵌入式系統在設計時趨于小型化，同時還具有很高的效率和可靠性。

嵌入式微處理器的體系結構可以采用馮?諾依曼體系或哈佛體系結構;指令系統可以選用精簡指令系統(Reduced Instruction Set Computer，RISC)和復雜指令系統CISC(Complex Instruction Set Computer，CISC)。RISC計算機在通道中只包含最有用的指令，確保數據通道快速執行每一條指令，從而提高了執行效率并使CPU硬件結構設計變得更為簡單。

嵌入式微處理器有各種不同的體系，即使在同一體系中也可能具有不同的時鐘頻率和數據總線寬度，或集成了不同的外設和接口。據不完全統計，目前全世界嵌入式微處理器已經超過1000多種，體系結構有30多個系列，其中主流的體系有arm、MIPS、PowerPC、X86和SH等。但與全球PC市場不同的是，沒有一種嵌入式微處理器可以主導市場，僅以32位的產品而言，就有100種以上的嵌入式微處理器。嵌入式微處理器的選擇是根據具體的應用而決定的。