建站
咨詢
售后
建站咨詢
新聞中心
當(dāng)時發(fā)生了什么？
創(chuàng)新互聯(lián)基于成都重慶香港及美國等地區(qū)分布式IDC機(jī)房數(shù)據(jù)中心構(gòu)建的電信大帶寬，聯(lián)通大帶寬，移動大帶寬，多線BGP大帶寬租用,是為眾多客戶提供專業(yè)服務(wù)器托管報價，主機(jī)托管價格性價比高，為金融證券行業(yè)川西大數(shù)據(jù)中心，ai人工智能服務(wù)器托管提供bgp線路100M獨享，G口帶寬及機(jī)柜租用的專業(yè)成都idc公司。
這得從一個小故事說起。我在一個Java核心庫的郵件列表中提交了一個修改 ——重寫了一些本是 final 的方法。一石激起千層浪，這一改動引發(fā)了幾番討論。而其中一個討論的話題是：調(diào)用一個去除 final 標(biāo)記的方法，將導(dǎo)致哪種程度的性能下降（performance regression）。
我不能確定這一改變是否會導(dǎo)致性能下降，但當(dāng)我決定將此暫時擱置一邊，試著尋找在這個討論里是否有人公布過任何相關(guān)的完整基準(zhǔn)測試（sane benchmarks）時，結(jié)果空手而歸。我不能肯定地說有關(guān)的基準(zhǔn)測試是不存在的，或者說其他人沒做過這方面的探討。但我能肯定的是，在這里，連任何公 開的代碼評審都沒有。唉，看來是時候?qū)懸粋€基準(zhǔn)測試了。
基準(zhǔn)測試的方法論
我決定選用一個相當(dāng)不錯的框架 —— JMH 來構(gòu)建基準(zhǔn)測試。如果你質(zhì)疑它測試的準(zhǔn)確性，那么建議你看下對這個框架作者（Aleksey Shipilev）的訪談，或者閱讀一下由Nitsan Wakart撰寫的一篇彰顯此框架風(fēng)采的博文。
現(xiàn)在，我想知道哪些因素影響了Java方法調(diào)用的性能。所以我決定以不同方式調(diào)用方法，并測算它們的性能開銷。以單一變量為前提來構(gòu)造一套基準(zhǔn)測試，我便能逐個排除或確定，哪些因素或哪種組合會影響到方法調(diào)用的性能。
內(nèi)聯(lián)
讓我們把這些方法調(diào)用點壓扁
方法調(diào)用的有無，是一個影響程度既是最高又是最低的因素——對于編譯器來說，徹底優(yōu)化方法調(diào)用所帶來的開銷并非不可能，有兩種方法可以實現(xiàn)這樣的需 求：直接內(nèi)聯(lián)該方法本身和使用內(nèi)聯(lián)緩存（inline cache）。千萬別被引入的這些術(shù)語給嚇倒——它們都是通俗易懂的?，F(xiàn)在我們假設(shè)有一個叫Foo的類，該類定義了一個叫bar的方法：
class Foo {
void bar() { ... }
}
我們以如下的方式調(diào)用bar方法：
Foo foo = new Foo();
foo.bar();
這里有一個重要的知識點：實際調(diào)用 bar 的位置，即 foo.bar()，稱為調(diào)用點（callsite）。 當(dāng)我們說一個方法“被內(nèi)聯(lián)”，意指方法體被插入到了調(diào)用點的位置上，以代替方法調(diào)用。對于那些由許多短小的方法所構(gòu)成的程序——我稱之為被適當(dāng)分解的程序 ——內(nèi)聯(lián)可以有效地提升性能。這是因為結(jié)束以后可以發(fā)現(xiàn)，程序并沒有把所有時間用在方法調(diào)用上，實際上程序并沒有工作！我們在JMH中可以借由 CompilerControl 注釋控制一個方法是否被內(nèi)聯(lián)。關(guān)于內(nèi)聯(lián)緩存的概念，我稍后再來說明。
層次結(jié)構(gòu)深度與重寫子類方法
是因為父母讓孩子慢下來了嗎？
如果我們移除一個方法的 final 關(guān)鍵字，便意味著我們能夠重寫它。所以這是另一個在進(jìn)行測試我們需要考慮的情況。我會選擇在同一層次結(jié)構(gòu)中不同層次的子類里調(diào)用一些方法，并且在這些方法里有一些是會被不同層次的子類重寫的。這樣的測試能讓我們確定或排除深的層次結(jié)構(gòu)是否影響到重寫所帶來的性能開銷。
多態(tài)性
動物世界：多態(tài)是如何表現(xiàn)的
先前我提到調(diào)用點這一概念時，我偷偷地回避了一個相當(dāng)重要的問題——因為在子類中可以重寫一個非 final 方法，這使得調(diào)用點可以調(diào)用不同的方法?，F(xiàn)假設(shè)我傳入一個 Foo 的實例或一個重寫了 bar 子類—— Baz的實例，編譯器如何得知要調(diào)用哪一個 bar 方 法呢？在默認(rèn)情況下，方法將在Java中被虛擬化（可重寫）。對于任一調(diào)用點，編譯器需要在一個稱為虛擬表（vtable）的表中尋找與其對應(yīng)的方法。這 是個非常耗時的過程，所以，能進(jìn)行優(yōu)化的編譯器，總是會試圖減少這種查詢帶來的開銷。一種方法就是先前提到的內(nèi)聯(lián)，這的確是個良策，但前提是編譯器能證明 在給定的調(diào)用點上調(diào)用的方法唯一。而這樣的調(diào)用點我們稱為單態(tài)（monomorphic）調(diào)用點。
不幸的是，進(jìn)行這種分析需要耗費大量時間。所以在實際過程中，確定一個調(diào)用點是否單態(tài)是個不太可取的方法。對此，JIT編譯器傾向于使用一種替代方 法：列出哪些類可以在此調(diào)用點被調(diào)用，接著根據(jù)之前的N個相同的調(diào)用猜測此調(diào)用點是否是單態(tài)的。以假定某個調(diào)用點永遠(yuǎn)為單態(tài)，來進(jìn)行投機(jī)性質(zhì)的優(yōu)化往往是 可取的行為。因為這樣的優(yōu)化往往都是正確的，但也因它無法確保永遠(yuǎn)正確，編譯器需要在方法調(diào)用之前注入一個用于檢查方法類型的防護(hù)機(jī)制。
除了單態(tài)的調(diào)用點以外，還有兩種調(diào)用點我們希望對其進(jìn)行優(yōu)化。一種稱為雙態(tài)（bimorphic） 調(diào)用點，在該點上有兩個候選方法。對此你依然可以實現(xiàn)內(nèi)聯(lián)——借助防護(hù)代碼，讓其檢測應(yīng)調(diào)用哪一個方法，并引導(dǎo)程序跳轉(zhuǎn)至內(nèi)聯(lián)在調(diào)用點的兩個方法體中真正 對應(yīng)的那一個。這樣的方式還是比查看所有虛擬表的方式要快得多。但在某些情況下，我們得利用內(nèi)聯(lián)緩存來進(jìn)行優(yōu)化。內(nèi)聯(lián)緩存需要借助一張?zhí)囟ǖ奶D(zhuǎn)表 （ jump table），這種表類似于對虛擬表查找做的一份緩存。hotsopt JIT編譯器支持雙態(tài)內(nèi)聯(lián)緩存，并定義那些擁有三個及三個以上候選方法的調(diào)用點為超多狀態(tài)（megamorphic）調(diào)用點。
這就使得我在基準(zhǔn)測試與探究當(dāng)中，需要額外地把調(diào)用情況劃分為三類：單態(tài)、雙態(tài)、超多狀態(tài)。
結(jié)果
讓我們把結(jié)果分類組織，以便研究細(xì)節(jié)。我已經(jīng)提供了統(tǒng)計產(chǎn)生的原始數(shù)據(jù)。但我們的興 趣點不應(yīng)放在性能測試結(jié)果的具體數(shù)值上，而應(yīng)是不同類型的方法調(diào)用的性能開銷之間的比率以及各自的錯誤率是否夠低。如果最快與最慢的結(jié)果之間比率為 6.26，則說明這是一個顯著性差異。由于測試時使用的是空方法（詳見源代碼），所以在實際應(yīng)用中，這樣的差異會更大。
你可以在 github上查看此次基準(zhǔn)測試的源代碼。為了避免產(chǎn)生困惑，待會所有的結(jié)果將分塊顯示。最后顯示的多態(tài)的基準(zhǔn)測試是在 PolymorphicBenchmark 類中進(jìn)行，其它的則在 JavaFinalBenchmark 類中。
簡單調(diào)用點
最先看到的的一組結(jié)果，是比較調(diào)用一個 virtual 方法、一個 final 方法和一個擁有很深的層級結(jié)構(gòu)，同時被所有子類重寫的方法所帶來的開銷。注意，調(diào)用這些方法的時候我們都強(qiáng)制編譯器不要內(nèi)聯(lián)它們。我們可以看到：三者在時間花費上相差甚微，并且各自的誤差率都小到可以忽略。對此我們可以斷定，僅添加一個 final 關(guān)鍵字并不會大幅度提升調(diào)用性能，重寫一個方法也不見得會帶來什么影響。
內(nèi)聯(lián)簡單調(diào)用
現(xiàn)在，我們在開啟內(nèi)聯(lián)的情況下再來一次相同的測試。由結(jié)果可見，final 方 法和 virtual 方法的時間花費依舊相近，并比在沒有內(nèi)聯(lián)的情況下快了4倍，我將此歸功于內(nèi)聯(lián)優(yōu)化。相比而言，被所有子類重寫的方法的結(jié)果可就沒那么好看了。我推測這是由 于此方法有多個子類實現(xiàn)，使得編譯器必須插入一個類型保護(hù)。有關(guān)的細(xì)節(jié)我們將在研究多態(tài)性的結(jié)果時進(jìn)行闡述。
類層次結(jié)構(gòu)的影響
哇噢——這兒有好幾個的方法！方法名稱的編號（1~4）代表該方法調(diào)用的層次。因此，parentMethod4 表示我們調(diào)用的方法位于class的上面第四級。（譯注：在源代碼中該方法位于頂層的父類）。由此結(jié)果我們能斷定，結(jié)構(gòu)層次的深度對性能開銷沒有影響。在開啟內(nèi)聯(lián)的實例中，結(jié)論也是一樣。這個測試中，被內(nèi)聯(lián)的方法的性能與 inlinableAlwaysOverriddenMethod 相當(dāng)，但稍遜于 inlinableVirtualInvoke。我依舊認(rèn)為這與使用了類型保護(hù)有關(guān)。事實上JIT編譯器能剖析所有候選方法，從而只內(nèi)聯(lián)對應(yīng)的那一個，但這并不證明它總會這么干。
類的層級結(jié)構(gòu)對final方法的影響
該測試的結(jié)論與第一個測試一樣 —— final 關(guān)鍵字不會產(chǎn)生任何影響。我本以為該測試將證明 inlinableParentFinalMethod4 以無類型保護(hù)的方式進(jìn)行內(nèi)聯(lián)，但結(jié)果表明事實并非如此。
多態(tài)性
最后，我們來看涉及多態(tài)分派（polymorphic dispatch）的測試結(jié)果。單態(tài)調(diào)用的性能開銷與之前virtual方法相近。但對于雙態(tài)與超多狀態(tài)調(diào)用，由于需要在一張較大的虛擬表上面進(jìn)行查找， 所以需要更多的時間。而一旦我們開啟內(nèi)聯(lián)支持，類型分析（type profiling ）將會在單態(tài)或雙態(tài)的調(diào)用點啟用，使得在這些調(diào)用點上的方法調(diào)用的開銷減少。但與層級結(jié)構(gòu)的實例一樣，這只會減少少量的時間。相比而言，超多狀態(tài)的實例則 依舊耗時較長。記住，我并沒有說在這個測試中hotspot禁用了內(nèi)聯(lián)，它只是沒有實現(xiàn)多態(tài)調(diào)用點的多態(tài)內(nèi)聯(lián)緩存。
我們從中學(xué)到了什么？
我認(rèn)為，需要我們引起注意的是，很多人沒有認(rèn)識到不同方式的方法調(diào)用所花費的時間是不一樣的。即便有些人發(fā)現(xiàn)了這種問題，但他們不去證明是否真的如此。作為第一個吃螃蟹的人，我列出了各種壞的假設(shè)，因此我希望這份研究能夠幫助到大家。以下是我很樂于與大家分享的一些結(jié)論：
-
最快與最短的方法調(diào)用的類型之間存在巨大的性能差別。
-
在實際應(yīng)用中，添加或刪除
final關(guān)鍵字并不會真正影響性能。但如果除此以外，你還在層級結(jié)構(gòu)上進(jìn)行某些操作，那這些行為則可能導(dǎo)致性能下降。 -
更深的類的層次結(jié)構(gòu)并不會真正影響到調(diào)用的性能。
-
單態(tài)調(diào)用比雙態(tài)調(diào)用更快。
-
雙態(tài)調(diào)用比超多狀態(tài)調(diào)用更快。
-
我們在能夠進(jìn)行剖析（profile-ably），但是不能進(jìn)行查驗的單態(tài)調(diào)用點中看到類型保護(hù)，這種保護(hù)會使得這些調(diào)用點的調(diào)用性能低于那些能夠進(jìn)行查驗的單態(tài)調(diào)用點。
我想說的是，對我而言，類型保護(hù)帶來的性能開銷是一個“重大發(fā)現(xiàn)”。這是一個我之前很少提及，并且總是當(dāng)做無關(guān)事物忽視掉的因素。
注意事項與進(jìn)一步工作
本文不能囊括這個話題的全部內(nèi)容。因為：
-
這篇博文所關(guān)注的影響到方法調(diào)用的性能的因素，只與類型有關(guān)。所以，有一個因素我并未提及：方法的長短或者說調(diào)用棧的深度——如果方法太長，那么它將不會被內(nèi)聯(lián)，為此你必須承受方法調(diào)用所帶來的開銷。另外，為了使代碼具有易讀性，你也應(yīng)當(dāng)把方法寫得短小一些。
-
在本次測試的所有我并沒有嘗試引入接口。如果你對此有興趣的話，這里有一篇有關(guān)接口調(diào)用的性能的研究Mechanical Sympathy。
-
還有一個因素被我完全忽視了，那就是方法內(nèi)聯(lián)的優(yōu)化方式在不同編譯器上的效果差異。當(dāng)編譯器是僅關(guān)注某個方法（內(nèi)部過程優(yōu)化）時，它們需要足夠地信息才能有效優(yōu)化。內(nèi)聯(lián)的限制可以有效地減少其它優(yōu)化所需要關(guān)注的范圍。
-
試著站在匯編語言的層面進(jìn)行解釋的話，會涉及更多的細(xì)節(jié)內(nèi)容。
或許以上內(nèi)容已經(jīng)超出了本文的范疇，需要另寫博文進(jìn)行討論。
網(wǎng)站題目：哪些因素影響Java調(diào)用的性能？
文章源于：http://m.5511xx.com/article/cojsced.html
