CH4 多執行緒(Multithreaded programming

thread

thread 是 cpu 使用時的基本單位，是一個由 thread id、program counter、一組 register、一個 stack 組成

動機(Motivation)

• 許多在桌上型 PC 執行的套裝軟體都是多執行緒。
• 應用程式通常都製作成有許多執行緒控制的個別行程。
• 網頁瀏覽器可能有一個執行緒顯示影像或文字，而另一執行緒則從網路擷取資料。文書處理器可能有一個執行緒在顯示圖形，另一個執行緒從使用者讀入按鍵，而第三個執行緒在背景下執行拼字和文法校正。

利益(Benefits)

1. 應答(Responsiveness): 和 user 的互動比較好，例如: 可以使某個程式在進行需時很久的操作同時依然可以處理 user 的要求(而不是一直算讓你以為他已經當掉了!)

2. 資源分享(Resource Sharing): 如果不用 thread 的話，resource 只能透過 memory share 或者 message passing 的方式來共享，可是如果用 thread 的話，process 本身就可以讓自己肚子裡不同的 thread 使用同一個 resource! (該 process 所有的 thread 都可以看到那些 resource)。

3. 經濟(Economy): 配置 process 消耗的 memory 與 resource 很高! 配置一個 Thread 比較沒那麼耗費資源 (Process 比較完整 => 比 thread 慢又耗記憶體)

4. 可擴展性(Scalability): 在多處理器的架構下，多執行緒的利益可以大幅提升，因為每一執行緒可以並行地在不同的處理器上執行。不論有多少 CPU 可以使用，單一執行緒只能在一個 CPU 上執行。 (增加 prarllelism(平行度))

多核心程式的撰寫(Multicore Programming)

在多核心系統中編寫程式，目前的挑戰有以下五個領域：

1. 切割活動(Dividing Activities)： 檢查應用程式來找出可以被切割成個別的、同時發生的任務，因此可以在個別的核心上平行地執行。

2. 平衡(Balance)： 當識別任務可以平行地執行時，程式員也必須保證任務執行為相等的工作。

3. 資料分裂(Data Splitting)： 正如同應用程式被分割成個別的任務，藉由任務來存取和運用的資料必須被分割到個別的核心上執行。

4. 資料相依性(Data Dependency)： 藉由任務存取的資料必須在兩個或多個任務之間檢查其相依性。在一個任務依靠另一個任務的情況下，程式員必須確認任務的執行與資料的相依性是同步的。

5. 測試與除錯(Testing & Debugging)： 當一個程式在多核心上平行地執行時，有許多不同的執行路徑。測試和除錯這類同步的程式原來就比測試和除錯單一執行緒的應用程式更加困難。

concurrency 和 parallelism

concurrency 執行在單核系統 parallelism 執行在多核系統

Amdahl’s law

• S is serial portion
• N processing cores
  • if application is 75% parallel / 25% serial, moving from 1 to 2 cores results in speedup of 1.6 times
• As N approaches infinity, speedup approaches 1 / S

User thread vs. kernel thread?

• user thread: 透過 app 手段做出來，kernel 不知道一個 process 有很多 thread(即使 kernel 不支援多核)
• kernel thread: 從 kernel 本身支援的 thread

Multithreading Model

多對一模式(Many-to-One Model)

• 很多 user thread 對應到一個 kernel thread
• 可以把 user thread 想成搶 cpu 的單位
• 只有一個 CPU，無法平行處理(阿就只有一個啊!)
• 其實…不會比較快

一對一模式(One-to-One Model)

• 一個 user thread 對應到一個 kernel thread
• 當一個 thread 被卡住(呼叫等待的 system call)的時候其他人會繼續處理
• 管理上的成本比較高: 當產生 user thread 的時候要產生相對應的 kernel thread

多對多模式(Many-to-Many Model)

• 自動建立 user thread 和 kernel thread 的 mapping
• 管理上的成本比較低

二層模式 (Two-level Model)

名詞解釋

1. 多重程式處理(Multiprogramming)是為了使得多個程式可以同時執行而發展的 技術，它可以使得 CPU 一直處於忙碌狀態，而不會等待程式進行週邊的運作， 進而提昇電腦系統的整體效率。在支援多重程式處理的系統中，多個程式都 會被載入到記憶體中，而當某一個程式進行 I/O 作業時，CPU 就會切換到另一 個工作，使得多個工作可以並行處理(concurrent)，達到類似同時執行多個程 式的效果。
2. Multitasking 指的是一個作業系統可以同時執行單一使用者的多個程式或程式 工作。而同時執行多個工作(輪流執行)是透過切換工作來完成，Multitasking 種類有 Cooperative 與 Preemptive。Cooperative 是多個程式之間共同合作，由 程式主動釋放 CPU 使用權，其他程式才能夠取得 CPU 使用權。Preemptive： 由作業系統強制分配 CPU 時間給各個程式，因此切換程式的工作，完全由作 業系統掌控。
3. Multiprocessing 是指計算機系統有多個 CPU，可同時執行一個或多個程式‧提 高計算機系統之可靠度，或分工執行以提升執行速度。