<acronym id="cr5pu"></acronym>
  • <kbd id="cr5pu"><font id="cr5pu"></font></kbd>
  • <li id="cr5pu"><output id="cr5pu"></output></li>
    <del id="cr5pu"><li id="cr5pu"></li></del><center id="cr5pu"></center>
    <output id="cr5pu"><kbd id="cr5pu"></kbd></output>
  • <rp id="cr5pu"></rp>
    <var id="cr5pu"></var>
  • <nav id="cr5pu"></nav>
  • 上善若水
    In general the OO style is to use a lot of little objects with a lot of little methods that give us a lot of plug points for overriding and variation. To do is to be -Nietzsche, To bei is to do -Kant, Do be do be do -Sinatra
    posts - 146,comments - 147,trackbacks - 0

    高性能IO模型淺析

    轉自:http://www.cnblogs.com/fanzhidongyzby/p/4098546.html

    服務器端編程經常需要構造高性能的IO模型,常見的IO模型有四種:

    (1)同步阻塞IO(Blocking IO):即傳統的IO模型。

    (2)同步非阻塞IO(Non-blocking IO):默認創建的socket都是阻塞的,非阻塞IO要求socket被設置為NONBLOCK。注意這里所說的NIO并非Java的NIO(New IO)庫。

    (3)IO多路復用(IO Multiplexing):即經典的Reactor設計模式,有時也稱為異步阻塞IO,Java中的Selector和Linux中的epoll都是這種模型。

    (4)異步IO(Asynchronous IO):即經典的Proactor設計模式,也稱為異步非阻塞IO。

    同步和異步的概念描述的是用戶線程與內核的交互方式:同步是指用戶線程發起IO請求后需要等待或者輪詢內核IO操作完成后才能繼續執行;而異步是指用戶線程發起IO請求后仍繼續執行,當內核IO操作完成后會通知用戶線程,或者調用用戶線程注冊的回調函數。

    阻塞和非阻塞的概念描述的是用戶線程調用內核IO操作的方式:阻塞是指IO操作需要徹底完成后才返回到用戶空間;而非阻塞是指IO操作被調用后立即返回給用戶一個狀態值,無需等到IO操作徹底完成。

    另外,Richard Stevens 在《Unix 網絡編程》卷1中提到的基于信號驅動的IO(Signal Driven IO)模型,由于該模型并不常用,本文不作涉及。接下來,我們詳細分析四種常見的IO模型的實現原理。為了方便描述,我們統一使用IO的讀操作作為示例。

    一、同步阻塞IO

    同步阻塞IO模型是最簡單的IO模型,用戶線程在內核進行IO操作時被阻塞。

    1 同步阻塞IO

    如圖1所示,用戶線程通過系統調用read發起IO讀操作,由用戶空間轉到內核空間。內核等到數據包到達后,然后將接收的數據拷貝到用戶空間,完成read操作。

    用戶線程使用同步阻塞IO模型的偽代碼描述為:

    {
        read(socket, buffer);
        process(buffer);
    }

    即用戶需要等待read將socket中的數據讀取到buffer后,才繼續處理接收的數據。整個IO請求的過程中,用戶線程是被阻塞的,這導致用戶在發起IO請求時,不能做任何事情,對CPU的資源利用率不夠。

    二、同步非阻塞IO

    同步非阻塞IO是在同步阻塞IO的基礎上,將socket設置為NONBLOCK。這樣做用戶線程可以在發起IO請求后可以立即返回。

     

    圖2 同步非阻塞IO

    如圖2所示,由于socket是非阻塞的方式,因此用戶線程發起IO請求時立即返回。但并未讀取到任何數據,用戶線程需要不斷地發起IO請求,直到數據到達后,才真正讀取到數據,繼續執行。

    用戶線程使用同步非阻塞IO模型的偽代碼描述為:

    {
        
    while(read(socket, buffer) != SUCCESS) { }
        process(buffer);
    }

    即 用戶需要不斷地調用read,嘗試讀取socket中的數據,直到讀取成功后,才繼續處理接收的數據。整個IO請求的過程中,雖然用戶線程每次發起IO請 求后可以立即返回,但是為了等到數據,仍需要不斷地輪詢、重復請求,消耗了大量的CPU的資源。一般很少直接使用這種模型,而是在其他IO模型中使用非阻 塞IO這一特性。

    三、IO多路復用

    IO多路復用模型是建立在內核提供的多路分離函數select基礎之上的,使用select函數可以避免同步非阻塞IO模型中輪詢等待的問題。

    圖3 多路分離函數select

    如圖3所示,用戶首先將需要進行IO操作的socket添加到select中,然后阻塞等待select系統調用返回。當數據到達時,socket被激活,select函數返回。用戶線程正式發起read請求,讀取數據并繼續執行。

    從 流程上來看,使用select函數進行IO請求和同步阻塞模型沒有太大的區別,甚至還多了添加監視socket,以及調用select函數的額外操作,效 率更差。但是,使用select以后最大的優勢是用戶可以在一個線程內同時處理多個socket的IO請求。用戶可以注冊多個socket,然后不斷地調 用select讀取被激活的socket,即可達到在同一個線程內同時處理多個IO請求的目的。而在同步阻塞模型中,必須通過多線程的方式才能達到這個目的。

    用戶線程使用select函數的偽代碼描述為:

    {
        select(socket);
        
    while(1) {
            sockets 
    = select();
            
    for(socket in sockets) {
                
    if(can_read(socket)) {
                    read(socket, buffer);
                    process(buffer);
                }
            }
        }
    }

    其中while循環前將socket添加到select監視中,然后在while內一直調用select獲取被激活的socket,一旦socket可讀,便調用read函數將socket中的數據讀取出來。

    然 而,使用select函數的優點并不僅限于此。雖然上述方式允許單線程內處理多個IO請求,但是每個IO請求的過程還是阻塞的(在select函數上阻 塞),平均時間甚至比同步阻塞IO模型還要長。如果用戶線程只注冊自己感興趣的socket或者IO請求,然后去做自己的事情,等到數據到來時再進行處 理,則可以提高CPU的利用率。

    IO多路復用模型使用了Reactor設計模式實現了這一機制。

    圖4 Reactor設計模式

    如 圖4所示,EventHandler抽象類表示IO事件處理器,它擁有IO文件句柄Handle(通過get_handle獲?。?,以及對Handle的 操作handle_event(讀/寫等)。繼承于EventHandler的子類可以對事件處理器的行為進行定制。Reactor類用于管理 EventHandler(注冊、刪除等),并使用handle_events實現事件循環,不斷調用同步事件多路分離器(一般是內核)的多路分離函數 select,只要某個文件句柄被激活(可讀/寫等),select就返回(阻塞),handle_events就會調用與文件句柄關聯的事件處理器的 handle_event進行相關操作。

    5 IO多路復用

    如 圖5所示,通過Reactor的方式,可以將用戶線程輪詢IO操作狀態的工作統一交給handle_events事件循環進行處理。用戶線程注冊事件處理 器之后可以繼續執行做其他的工作(異步),而Reactor線程負責調用內核的select函數檢查socket狀態。當有socket被激活時,則通知 相應的用戶線程(或執行用戶線程的回調函數),執行handle_event進行數據讀取、處理的工作。由于select函數是阻塞的,因此多路IO復用 模型也被稱為異步阻塞IO模型。注意,這里的所說的阻塞是指select函數執行時線程被阻塞,而不是指socket。一般在使用IO多路復用模型 時,socket都是設置為NONBLOCK的,不過這并不會產生影響,因為用戶發起IO請求時,數據已經到達了,用戶線程一定不會被阻塞。

    用戶線程使用IO多路復用模型的偽代碼描述為:

    void UserEventHandler::handle_event() {
        
    if(can_read(socket)) {
            read(socket, buffer);
            process(buffer);
        }
    }

    {
        Reactor.register(
    new UserEventHandler(socket));
    }

    用戶需要重寫EventHandler的handle_event函數進行讀取數據、處理數據的工作,用戶線程只需要將自己的EventHandler注冊到Reactor即可。Reactor中handle_events事件循環的偽代碼大致如下。

    Reactor::handle_events() {
        
    while(1) {
           sockets 
    = select();
           
    for(socket in sockets) {
                get_event_handler(socket).handle_event();
           }
        }
    }

    事件循環不斷地調用select獲取被激活的socket,然后根據獲取socket對應的EventHandler,執行器handle_event函數即可。

    IO多路復用是最常使用的IO模型,但是其異步程度還不夠“徹底”,因為它使用了會阻塞線程的select系統調用。因此IO多路復用只能稱為異步阻塞IO,而非真正的異步IO。

    四、異步IO

    “真 正”的異步IO需要操作系統更強的支持。在IO多路復用模型中,事件循環將文件句柄的狀態事件通知給用戶線程,由用戶線程自行讀取數據、處理數據。而在異 步IO模型中,當用戶線程收到通知時,數據已經被內核讀取完畢,并放在了用戶線程指定的緩沖區內,內核在IO完成后通知用戶線程直接使用即可。

    異步IO模型使用了Proactor設計模式實現了這一機制。

    圖6 Proactor設計模式

    如 圖6,Proactor模式和Reactor模式在結構上比較相似,不過在用戶(Client)使用方式上差別較大。Reactor模式中,用戶線程通過 向Reactor對象注冊感興趣的事件監聽,然后事件觸發時調用事件處理函數。而Proactor模式中,用戶線程將 AsynchronousOperation(讀/寫等)、Proactor以及操作完成時的CompletionHandler注冊到 AsynchronousOperationProcessor。AsynchronousOperationProcessor使用Facade模式提 供了一組異步操作API(讀/寫等)供用戶使用,當用戶線程調用異步API后,便繼續執行自己的任務。 AsynchronousOperationProcessor 會開啟獨立的內核線程執行異步操作,實現真正的異步。當異步IO操作完成 時,AsynchronousOperationProcessor將用戶線程與AsynchronousOperation一起注冊的Proactor 和CompletionHandler取出,然后將CompletionHandler與IO操作的結果數據一起轉發給 Proactor,Proactor負責回調每一個異步操作的事件完成處理函數handle_event。雖然Proactor模式中每個異步操作都可以 綁定一個Proactor對象,但是一般在操作系統中,Proactor被實現為Singleton模式,以便于集中化分發操作完成事件。

    7 異步IO

    如 圖7所示,異步IO模型中,用戶線程直接使用內核提供的異步IO API發起read請求,且發起后立即返回,繼續執行用戶線程代碼。不過此時用戶線程已 經將調用的AsynchronousOperation和CompletionHandler注冊到內核,然后操作系統開啟獨立的內核線程去處理IO操 作。當read請求的數據到達時,由內核負責讀取socket中的數據,并寫入用戶指定的緩沖區中。最后內核將read的數據和用戶線程注冊的 CompletionHandler分發給內部Proactor,Proactor將IO完成的信息通知給用戶線程(一般通過調用用戶線程注冊的完成事件 處理函數),完成異步IO。

    用戶線程使用異步IO模型的偽代碼描述為:


    void UserCompletionHandler::handle_event(buffer) {
        process(buffer);
    }

    {
        aio_read(socket, 
    new UserCompletionHandler);
    }

    用戶需要重寫CompletionHandler的handle_event函數進行處理數據的工作,參數buffer表示Proactor已經準備好的數據,用戶線程直接調用內核提供的異步IO API,并將重寫的CompletionHandler注冊即可。

    相 比于IO多路復用模型,異步IO并不十分常用,不少高性能并發服務程序使用IO多路復用模型+多線程任務處理的架構基本可以滿足需求。況且目前操作系統對 異步IO的支持并非特別完善,更多的是采用IO多路復用模型模擬異步IO的方式(IO事件觸發時不直接通知用戶線程,而是將數據讀寫完畢后放到用戶指定的 緩沖區中)。Java7之后已經支持了異步IO,感興趣的讀者可以嘗試使用。

    本文從基本概念、工作流程和代碼示 例三個層次簡要描述了常見的四種高性能IO模型的結構和原理,理清了同步、異步、阻塞、非阻塞這些容易混淆的概念。通過對高性能IO模型的理解,可以在服 務端程序的開發中選擇更符合實際業務特點的IO模型,提高服務質量。希望本文對你有所幫助。


    相似的:
    http://www.cnblogs.com/nufangrensheng/p/3588690.html
    http://www.ibm.com/developerworks/cn/linux/l-async/

    posted on 2015-09-04 15:16 DLevin 閱讀(1764) 評論(0)  編輯  收藏 所屬分類: 收藏

    只有注冊用戶登錄后才能發表評論。


    網站導航:
     
    久久一级片
    <acronym id="cr5pu"></acronym>
  • <kbd id="cr5pu"><font id="cr5pu"></font></kbd>
  • <li id="cr5pu"><output id="cr5pu"></output></li>
    <del id="cr5pu"><li id="cr5pu"></li></del><center id="cr5pu"></center>
    <output id="cr5pu"><kbd id="cr5pu"></kbd></output>
  • <rp id="cr5pu"></rp>
    <var id="cr5pu"></var>
  • <nav id="cr5pu"></nav>