基于系統(tǒng)實(shí)時(shí)事件驅(qū)動(dòng)和時(shí)間驅(qū)動(dòng)相結(jié)合的調(diào)度方法

　引言

　　目前，虛擬化操作系統(tǒng)（hypervisor）廣泛應(yīng)用于服務(wù)器、PC機(jī)等，這些應(yīng)用領(lǐng)域?qū)?a class="contentlabel" href="http://www.104case.com/news/listbylabel/label/實(shí)時(shí)">實(shí)時(shí)性要求較低。隨著一些嵌入式實(shí)時(shí)應(yīng)用領(lǐng)域的發(fā)展，比如下一代手機(jī)對(duì)安全性、應(yīng)用聚合和云計(jì)算等方面的需求，需要采用虛擬化操作系統(tǒng)。傳統(tǒng)的虛擬化操作系統(tǒng)很難滿(mǎn)足這些應(yīng)用領(lǐng)域的實(shí)時(shí)性要求。經(jīng)過(guò)大量的測(cè)試與分析，發(fā)現(xiàn)虛擬化操作系統(tǒng)實(shí)時(shí)性差的主要源頭之一是調(diào)度算法實(shí)時(shí)性不佳。有必要對(duì)虛擬化操作系統(tǒng)的調(diào)度方法進(jìn)行實(shí)時(shí)性改造，使之可以應(yīng)用于實(shí)時(shí)性要求較高的場(chǎng)合。本文提出了一種基于系統(tǒng)事件驅(qū)動(dòng)和時(shí)間驅(qū)動(dòng)相結(jié)合的實(shí)時(shí)調(diào)度方法，經(jīng)實(shí)踐表明，該方法有效地解決了虛擬化操作系統(tǒng)在嵌入式系統(tǒng)應(yīng)用中帶來(lái)的實(shí)時(shí)性問(wèn)題。

　　1 問(wèn)題提出

　　基于虛擬化操作系統(tǒng)（hypervisor），可以實(shí)現(xiàn)單CPU上多個(gè)操作系統(tǒng)（GueSTOS）在相互隔離的內(nèi)存域（Domain）中同時(shí)運(yùn)行。如圖1所示，箭頭表示調(diào)度。其中的系統(tǒng)調(diào)度采用二級(jí)調(diào)度策略，虛擬化操作系統(tǒng)對(duì)GuestOS（Domain）進(jìn)行第一級(jí)調(diào)度，GuestOS對(duì)自身的任務(wù)進(jìn)行第二級(jí)調(diào)度，系統(tǒng)的實(shí)時(shí)性響應(yīng)很難保證。

圖1 虛擬化操作系統(tǒng)

　　對(duì)于第一級(jí)調(diào)度（Domain調(diào)度），傳統(tǒng)的調(diào)度策略都是基于時(shí)間片的調(diào)度方法（SEDF、BVT、ARR、Credit等），通常應(yīng)用于實(shí)時(shí)性要求較低的場(chǎng)合（網(wǎng)絡(luò)服務(wù)器等），對(duì)于實(shí)時(shí)性要求較高的場(chǎng)合（手機(jī)等），調(diào)度的實(shí)時(shí)性就很難滿(mǎn)足系統(tǒng)要求。具體表現(xiàn)為：CPU利用率低、中斷響應(yīng)緩慢、GuestOS之間數(shù)據(jù)通信速率不足等。為了改進(jìn)這些性能，必須設(shè)計(jì)一種新的滿(mǎn)足實(shí)時(shí)性應(yīng)用場(chǎng)合的調(diào)度方法。根據(jù)實(shí)際測(cè)試和分析，發(fā)現(xiàn)實(shí)時(shí)性響應(yīng)差的主要瓶頸在于GuestOS不能夠得到及時(shí)的調(diào)度。

　　本文的方法主要對(duì)第一級(jí)調(diào)度策略進(jìn)行改造，即改造虛擬化操作系統(tǒng)對(duì)GuestOS（Domain）的調(diào)度方法。

　　2 解決方法

　　本文的方法采用系統(tǒng)實(shí)時(shí)事件驅(qū)動(dòng)Domain調(diào)度器的策略。當(dāng)系統(tǒng)中有需要實(shí)時(shí)響應(yīng)的緊急或重要事件發(fā)生時(shí)，這些事件有機(jī)會(huì)驅(qū)動(dòng)Domain調(diào)度器產(chǎn)生調(diào)度行為，使之（緊急或重要事件）得到快速處理。當(dāng)沒(méi)有緊急或重要事件發(fā)生時(shí)，Domain調(diào)度器采用基于時(shí)間片（權(quán)重）的調(diào)度算法。

　　2.1 調(diào)度原則

　　圖2表示了調(diào)度原則。圖2中，系統(tǒng)硬件中斷、GuestOS事件發(fā)送、Guest Idle之類(lèi)的緊急或重要事件發(fā)生時(shí)，有機(jī)會(huì)通過(guò)強(qiáng)原則去驅(qū)動(dòng)Domain調(diào)度器，切換Domain使之得到快速處理。當(dāng)系統(tǒng)中沒(méi)有緊急或重要事件發(fā)生時(shí)，Domain調(diào)度器通過(guò)弱原則進(jìn)行調(diào)度（時(shí)間片等）。

圖2 調(diào)度原則

　　2.2 實(shí)時(shí)性分析

　　以中斷處理為例分析中斷響應(yīng)時(shí)間，如圖3所示。從圖3中可以看到，原調(diào)度策略的中斷響應(yīng)時(shí)間包含：“等待Domain調(diào)度時(shí)間片結(jié)束” + “Doamin切換”。新的調(diào)度策略，僅包含“Doamin切換”時(shí)間。可見(jiàn)，采用新的策略，中斷的實(shí)時(shí)性響應(yīng)得到了提高。

圖3 中斷實(shí)時(shí)響應(yīng)分析

　　虛擬操作系統(tǒng)應(yīng)用中常會(huì)有以下3類(lèi)事件的實(shí)時(shí)響應(yīng)需要考慮：

　　0類(lèi)事件--底層硬件中斷需要得到上層某個(gè)Domain的快速響應(yīng)處理；

　　1類(lèi)事件--Domain（GuestOS）之間的通信事件需要被另一個(gè)Doamin快速處理；

　　2 類(lèi)事件--Domain（GuetOS）中的任務(wù)空閑時(shí)，主動(dòng)放棄CPU，通知Domain調(diào)度器使其他Domain（GuestOS）得到運(yùn)行機(jī)會(huì)。

　　這些事件的實(shí)時(shí)性響應(yīng)時(shí)間分析和中斷響應(yīng)類(lèi)似。

　　在本方法中，如圖4所示，上述的3類(lèi)事件都以設(shè)置觸發(fā)事件的形式驅(qū)動(dòng)Domain調(diào)度器，Domain調(diào)度器可以根據(jù)這些事件組合、當(dāng)前的GuestOS狀態(tài)組合、當(dāng)前的Domain調(diào)度狀態(tài)來(lái)產(chǎn)生調(diào)度決策。

　　2.3 方法實(shí)施

　　2.3.1 事件定義

　　本方法具體實(shí)現(xiàn)時(shí)，根據(jù)實(shí)時(shí)系統(tǒng)的具體應(yīng)用情況，首先定義出緊急/重要事件（需要引發(fā)調(diào)度才能滿(mǎn)足實(shí)時(shí)響應(yīng)要求的事件），并按照2.2節(jié)所述的3類(lèi)實(shí)時(shí)事件劃分，對(duì)其分類(lèi)并設(shè)計(jì)優(yōu)先級(jí)排序。0類(lèi)事件優(yōu)先級(jí)最高，1類(lèi)事件優(yōu)先級(jí)居中，2類(lèi)事件優(yōu)先級(jí)最低，每類(lèi)事件自身也按照優(yōu)先級(jí)排序。

　　2.3.2 狀態(tài)定義

　　然后，根據(jù)系統(tǒng)設(shè)計(jì)和運(yùn)行情況列出Domain狀態(tài)組合、GuestOS狀態(tài)組合，如表1、表2所列。最后，根據(jù)系統(tǒng)運(yùn)行要求，設(shè)計(jì)出驅(qū)動(dòng)事件調(diào)度查詢(xún)表，如表3所列。

　　表1給出了GuestOS運(yùn)行狀態(tài)組合，表示每個(gè)guestOS中的任務(wù)運(yùn)行情況。每個(gè)GuestOS可以處于Run或Idle兩個(gè)狀態(tài)，多個(gè)GuestOS的狀態(tài)組合起來(lái)（本文用2個(gè)GuestOS說(shuō)明），就可以制作出GuestOS的狀態(tài)組合表。

表1 GuestOS狀態(tài)組合

圖4 基于事件驅(qū)動(dòng)的實(shí)時(shí)調(diào)度方法

表2 Domain狀態(tài)組合

　　表2表示了Domain狀態(tài)組合。表示Domain調(diào)度器的調(diào)度情況，每個(gè)Domain可以處于Run或Ready兩個(gè)狀態(tài)，多個(gè)Domain的狀態(tài)組合起來(lái)（本文采用2個(gè)Domain），就可以制作出Doamin的狀態(tài)組合表。

表3 調(diào)度查詢(xún)表

　　表3是調(diào)度查詢(xún)表。調(diào)度觸發(fā)事件可以通過(guò)它查詢(xún)到下一個(gè)需要被調(diào)度運(yùn)行的GuestOS.它是一個(gè)二維的數(shù)組，其中列的維度由調(diào)度觸發(fā)事件表示，優(yōu)先級(jí)從高向低排列，另一個(gè)行的維度由GuestOS狀態(tài)組合表示，包含表1的所有GuestOS狀態(tài)組合。通過(guò)這兩個(gè)維度的輸入，可以查詢(xún)到預(yù)期的需要被調(diào)度的GuestOS（Domain），作為調(diào)度器下一次調(diào)度決策的輸入。

　　2.3.3 事件置位與清除規(guī)則

　　2.2節(jié)圖4中表示了調(diào)度事件置位和清除規(guī)則，說(shuō)明了3種類(lèi)型的調(diào)度觸發(fā)事件是如何設(shè)置和清除的。

　　事件置位和清除規(guī)則時(shí)序如圖5所示。圖5表示了3種類(lèi)型的調(diào)度觸發(fā)事件的設(shè)置和清除時(shí)機(jī)，以及事件驅(qū)動(dòng)策略和時(shí)間片驅(qū)動(dòng)策略的切換時(shí)機(jī)，其中S_timer的關(guān)閉/打開(kāi)分別表示開(kāi)始事件驅(qū)動(dòng)調(diào)度/開(kāi)始時(shí)間片驅(qū)動(dòng)調(diào)度。圖中有5種事件置位/清除操作，其中虛線(xiàn)箭頭表示的5種操作是在GuestOS中進(jìn)行的，需要采用超級(jí)調(diào)用（hypercall）實(shí)現(xiàn)，其中的硬件中斷事件置位操作（實(shí)線(xiàn)箭頭）是在虛擬化操作系統(tǒng)特權(quán)空間中進(jìn)行的，可以直接操作。

　　2.3.4 事件優(yōu)先級(jí)處理策略

　　當(dāng)調(diào)度觸發(fā)事件到來(lái)時(shí)，首先設(shè)置事件標(biāo)識(shí)位，然后去檢查各類(lèi)事件組中的標(biāo)識(shí)位。如果有更高優(yōu)先級(jí)的事件存在，返回；如果沒(méi)有，再檢查自己是否是第一個(gè)觸發(fā)事件。如果是，關(guān)閉時(shí)間片驅(qū)動(dòng)調(diào)度策略，開(kāi)始事件驅(qū)動(dòng)調(diào)度策略 （關(guān)閉S_timer），然后去查詢(xún)事件驅(qū)動(dòng)調(diào)度表，對(duì)比當(dāng)前Domain判斷是否需要產(chǎn)生調(diào)度。

　　當(dāng)調(diào)度觸發(fā)事件響應(yīng)處理完成后，需要調(diào)用hypercall清除，清除該事件的標(biāo)識(shí)位后，要先去檢查一下是否有比自己優(yōu)先級(jí)低的事件存在。如果有，就去處理它，查詢(xún)事件驅(qū)動(dòng)調(diào)度表，判斷是否需要產(chǎn)生新的調(diào)度；如果沒(méi)有比自己優(yōu)先級(jí)低的事件的存在，表示事件組中沒(méi)有其他事件存在了，啟動(dòng)事件片調(diào)度策略，結(jié)束事件驅(qū)動(dòng)調(diào)度策略 （打開(kāi)S_timer）。

圖5 事件置位和清除規(guī)則時(shí)序圖

　　3 測(cè)試結(jié)果與分析

　　3.1 測(cè)試結(jié)果

　　硬件測(cè)試環(huán)境：ARM926EJS、主頻226 MHz、64 MB SDRAM、I/D Cache 16 KB/16 KB enable、MMU enable.軟件平臺(tái)：自研虛擬化操作系統(tǒng)（基于Xen）、Threadx、Linux（參考圖1）。測(cè)試軟件采用LMBench，以及根據(jù)實(shí)際應(yīng)用場(chǎng)景設(shè)計(jì)的大量測(cè)試用例。

　　對(duì)本文提出的調(diào)度方法和常用的BVT調(diào)度算法進(jìn)行對(duì)比測(cè)試，測(cè)試結(jié)果表明系統(tǒng)的實(shí)時(shí)性響應(yīng)和系統(tǒng)的運(yùn)行性能都有較大幅度的提升。根據(jù)對(duì)大量測(cè)試數(shù)據(jù)的統(tǒng)計(jì)，得到以下3個(gè)結(jié)果：

　　① GuestOS系統(tǒng)運(yùn)行性能的平均加速比為：threadx 1.82，Linux 1.94.

　　② 中斷響應(yīng)加速比為：?jiǎn)蝹€(gè)GuestOS運(yùn)行時(shí)為8474，兩個(gè)GuestOS同時(shí)運(yùn)行時(shí)為15.6015.且響應(yīng)時(shí)間平穩(wěn)，有良好的可預(yù)測(cè)性。

　　③ GuestOS之間的數(shù)據(jù)通信速度加速比為12.51，且速率穩(wěn)定。

　　3.2 測(cè)試分析

　　經(jīng)過(guò)實(shí)踐應(yīng)用表明，本文提出的方法有效地解決了虛擬化操作系統(tǒng)傳統(tǒng)調(diào)度方法帶來(lái)的CPU利用率低、中斷響應(yīng)緩慢、操作系統(tǒng)（GuestOS）之間數(shù)據(jù)通信速度慢等問(wèn)題。