建站
咨詢
售后
建站咨詢
新聞中心
最近，在研究 Gradle 和 Java 相關構建的實現(xiàn)，讓我對不同編程語言的應用構建燃起了一點點的興趣。
成都創(chuàng)新互聯(lián)公司公司2013年成立，是專業(yè)互聯(lián)網(wǎng)技術服務公司，擁有項目成都網(wǎng)站制作、成都網(wǎng)站設計、外貿營銷網(wǎng)站建設網(wǎng)站策劃，項目實施與項目整合能力。我們以讓每一個夢想脫穎而出為使命，1280元豐都做網(wǎng)站,已為上家服務,為豐都各地企業(yè)和個人服務,聯(lián)系電話:18980820575
不同編程語言編寫的應用，在它運行的狀態(tài)下，會有不同的運行機制，有的是以二進制的方式運行的，有運行在編程語言的虛擬機之上。而構建所做的事情呢，就是將那些我們寫給人類看的代碼，轉換為機器/程序能看懂的代碼。所以，構建的本質就是翻譯(~~復讀機~~)。
PS：本文旨在嘗試性的整理我所了解的構建知識。部分內容限于對某一些編程語言的理解有限，并非非常準確。如有偏頗之此，希望大家指正。
引子 1：從 Java 的編譯說起
絕大多數(shù)程序員都是從 hello, world! 開始自己復制、粘貼的人生生涯。對于那些剛上手 Java 的程序員也是類似的：
- javac HelloWorld.java
而當我們依賴于其它的軟件包時，就需要在編譯時和運行時加入 classpath 來加入依賴項。于是，對應的運行命令就如下所示：
- java -classpath .:libs/joda-time-2.10.6.jar HelloWorld
這樣，我們就能得到預期的結果了：
- Hello, World
- Millisecond time: in.getMillis(): 1599284014762
而如果我們需要打成 jar 包就需要一個復雜一點的過程：
- jar cvfm hello.jar manifest.txt HelloWorld.class libs/*
這個過程中，涉及到幾個關鍵的要素：
工具鏈。即 java 和 javac，以及對應的 Runtime 等。
構建過程。即我要先執(zhí)行 javac 進行編譯，再通過 java 命令來啟動應用。
依賴管理。即我們的 joda-time-2.10.6.jar 的位置獲取等問題，以及在打包時加入的過程。
源碼配置。即轉換過程中的 class 和 java
過程中的輸入和輸出。
引子 2：任務及任務的輸入和輸出
對于一個制品的構建來說，我們往往會把它拆分為一系列的任務，每個任務有自己的輸入和輸出。當輸入發(fā)生變化的時候，需要變化對應的輸出。緊接著，我們只需要對任務進行編排即可：
- exports.build = series(
- clean,
- parallel(
- cssTranspile,
- series(jsTranspile, jsBundle)
- ),
- parallel(cssMinify, jsMinify),
- publish
- );
如上展示的是：哪些任務可以并行，哪些任務需要按順序執(zhí)行——也可以認為是任務的依賴。
當然了，還有一種任務是 watch 任務，只用于開發(fā)時，而非構建時。如下是 Node.js 中的 Gulp 構建工具的文件監(jiān)控示例：
- function javascript(cb) {
- // body omitted
- cb();
- }
- function scss(cb) {
- // body omitted
- cb();
- }
- watch('src/*.scss', scss);
- watch('src/*.js', series(javascript));
兩間結合之下，我們就會看到增量任務的概念：只針對修改的部分進行編譯，以提升構建效率。在這方面做得比較好的就是 Gradle ，看個官方的示例InputChanges：
- abstract class IncrementalReverseTask extends DefaultTask {
- @Incremental
- @InputDirectory
- abstract DirectoryProperty getInputDir()
- @OutputDirectory
- abstract DirectoryProperty getOutputDir()
- @TaskAction
- void execute(InputChanges inputChanges) {
- inputChanges.getFileChanges(inputDir).each { change ->
- if (change.fileType == FileType.DIRECTORY) return
- def targetFile = outputDir.file(change.normalizedPath).get().asFile
- if (change.changeType == ChangeType.REMOVED) {
- targetFile.delete()
- } else {
- targetFile.text = change.file.text.reverse()
- }
- }
- }
- }
同樣的，它也需要我們監(jiān)控對應的輸入和輸出。稍有不同的是，Gradle 會對文件進行索引，每次只提供變化的部分，讓我們根據(jù)自己的實際需要進行處理。
增量構建相關資源：
- tup 是用于 Linux、OSX 和 Windows 的基于文件的構建系統(tǒng)。它輸入文件的更改列表和有向無環(huán)圖(DAG)，然后處理DAG 以執(zhí)行更新依賴文件所需的適當命令。
- ninja 是一個專注于速度的小型構建系統(tǒng)，類似于GNU Make。
- SCons 是一套由Python 語言編寫的開源構建系統(tǒng)，類似于GNU Make。
引子 3：可選的依賴管理(地獄)
關于依賴的管理槽點，我已經寫過一系列的文章，諸如于：管理依賴的 11 個策略、依賴孿生：低成本的依賴安全方案。
單純從構建這件事情上，對于依賴的管理是可有可無的。出現(xiàn)這個狀況的主要原因是：歷史上的編程語言都不考慮這個問題。所以，在古老的 C/C++ 語言中，構建系統(tǒng)就是一個頭疼的問題。當然了，新晉的 Golang 也缺少良好的設計。
好在，對于依賴管理來說，這個過程并不復雜：
- 包命名和版本機制
- 包管理服務器
- 構建和運行時的依賴管理
- 包沖突處理
- ……
構建的抽象
好了，有了上面的這一系列基礎知識之后，接下來我們就可以看看不同的構建系統(tǒng)里，對于同一概念的抽象，整合了 Bazel、Gradle、Cargo、NPM 等之后有了一個基礎的抽象層次：
- 工作空間(workspace)。工作空間是一個或者多個軟件包的集成，它們可以共享依賴、輸出目錄配置等等。典型的有 Java 中的 Gradle settings.gradle、Rust 中的 Cargo 的 Cargo.toml 等。
- 倉庫。倉庫可以映射到 Git 的 repository 中，代表一個可獨立構建的軟件。
- 包。最小的可執(zhí)行單位的項目結構。
- 包布局。對應于不同的語言、構建系統(tǒng)來說，它用于定義代碼的存放位置和結構。
- 制品。即構建產生的產物，可能是可復用的軟件包，也可能是可運行的應用。
- 任務。定義構建的規(guī)則，并執(zhí)行。
FAQ
為什么是沒有項目?在業(yè)務領域和技術領域，我們對于項目的定義存在著一定的歧義性。為了減少二義性，我們使用工作空間 + 倉庫來解決這個問題。工作空間可以視為一個完整的業(yè)務項目。而倉庫呢，則是單一個的代碼庫，可能是一個庫，也可能是包含庫的完整工程。
現(xiàn)有的最佳方案是 Bazel。
工作區(qū)
工作空間是一個或者多個軟件包的集成，它們可以共享依賴、輸出目錄配置等等。典型的有 Java 中的 Gradle settings.gradle、Rust 中的 Cargo 的 Cargo.toml 等。
我們可以將其視為最終的產物，如 Android 生成的 APK，Rust 最后生成的可執(zhí)行文件。過程中，生成的共享的包都是為了支持這個工程的一部分。
先看 CMakeLists.txt 的目錄，我們在工作區(qū)的根節(jié)點，定義了這個工程，并添加了 projectA 和 projectB。
- cmake_minimum_required(VERSION 3.2.2)
- project(globalProject)
- add_subdirectory(projectA)
- add_subdirectory(projectB)
以用于生成最后的構建產物。相似的還有 Rust 中的 workspace：
- [workspace]
- members = [
- "adder",
- ]
又或者是前端的 Yarn 中的工作區(qū)：
- {
- "private": true,
- "workspaces": ["workspace-a", "workspace-b"]
- }
它們做的都是相同的事情。
倉庫
這個概念的再提取是來源于 Bazel。倉庫是一系列包的合集，我們可以將其視為團隊的邊界，從某種意義上可以看作是代碼倉庫。對于一個龐大的工程來說，它的代碼來源是多種多樣的，來自組織內的其它團隊，來自組織外的其它團隊。每個獨立的部分，即是一個倉庫。
值得注意的是，從最終產物來看，每個團隊的產出都是倉庫，但是呢，在團隊內部，他們就是工作區(qū)。
讓我們看個 Gradle 的多項目構建示例(Android 工程)：
- .
- ├── README.md
- ├── library_a
- ├── app
- │ ├── build.gradle
- │ └── src
- ├── build.gradle
- ├── local.properties
- ├── settings.gradle
- └── third-partys
- ├── ...
- ├── build.gradle
- └── settings.gradle
從目錄結構來看，這個是一個工作區(qū)，而在工作區(qū)呢，它包含了一些三方的代碼倉庫(third-partys)，以及自身的庫 library_a 和應用 app。
因此，在這里的 library_a 和 third-partys 的各個項目都算是倉庫。
包
包是一系列代碼的合集，它可大可小。最主要的原因在于，因為構建時，我們可能會把一個倉庫(哪怕是最小的 Gradle 項目)產出多個包，如 Java 項目中的 src/main 和 src/test。
于是在諸如 bazel 這樣的構建工具中，支持自定義的包：
- src/my/app/BUILD
- src/my/app/app.cc
- src/my/app/data/input.txt
- src/my/app/tests/BUILD
- src/my/app/tests/test.cc
對于一個包來說，往往我們還需要定義一系列的相關信息，如包名、依賴信息、入口等等。如 Bazel 中對于 Java 構建的示例：
- java_binary(
- name = "ProjectRunner",
- srcs = ["src/main/java/com/phodal/ProjectRunner.java"],
- main_class = "com.phodal.ProjectRunner",
- deps = [":greeter"],
- )
這已經實現(xiàn)了對于不同包的信息抽象。順帶的再看個 Java 包中的 MANIFEST 的示例：
- Main-Class: HelloWorld
- Class-Path: libs/joda-time-2.10.6.jar
我們就可以知道之間的聯(lián)系。
包定義
在打包階段，我們以簡單的形式定義了這個包——因為它并非那么重要，我們也不關心。而當我們決定發(fā)布這個包到互聯(lián)網(wǎng)時，我們就需要好好定義這個包。對應的一些必要信息有：
- name
- version
- authors
- license
- description
- ……
這些信息用于在包管理中心展示，并向使用者提供包相關的信息等。不同的語言中使用的是不同的形式，Rust 使用了自定義的 toml，而諸如 Maven 倉庫中則使用了 XML：
... ... ... ... ... ... ...
類似的在 NPM 的 package.json 中也使用了類似的字段： name、 verison 等信息。
而在這些編程語言中，這個東西就設計得過于簡單了，如 Python 的 pip 中使用的 requirements.txt 來管理依賴，當你要發(fā)布包的時候使用 setup.py 進行配置。于是，你的應用如果不發(fā)布，那就沒有包名了……。
包布局
構建工具在設計的時候，會設計默認的軟件包分層結構，這個分層架構就是包布局(package layout)。構建工具通過這個布局，來獲取所需的輸入源和配置等信息。它也包含了一些默認的配置，如 src/main 指向了源碼的目錄， src/test 指向的是測試代碼(不會加入到制品中)
- ├── build.gradle
- └── src
- ├── main
- └── test
對于使用者來說，它們也可以針對于它們的需要擴展這個布局，如 Gradle 里的 SourceSets：
- sourceSets {
- main {
- output.resourcesDir = file('out/bin')
- java.outputDir = file('out/bin')
- }
- }
對于其它語言也是類似的。但是呢，對于某些語言來說，并非有這么強的關聯(lián)，如在 Golang 中，就沒有這么強的約束。只是呢，原先是默認值，現(xiàn)在需要開發(fā)人員來手動配置。
制品
制品是最終的構建產物。同樣的，在不同的語言中有不同的命名方式。在 Gradle 中稱為 artifacts，在 Rust 中稱為 targets……。制品，主要涉及到的是各種文件的流轉及其流轉規(guī)則。
舉個簡單的例子，一個 jar 文件中必須包含一個 MANIFEST.MF，以用于配置應用程序、擴展和類裝載器等相關信息。而相關的文件又會以 META-INF 的方式組織起來。
因此在整個制品的創(chuàng)建過程中，就是復制對應的文件，進行相應的轉換，如 java -> .class，再復制到對應的目錄，最后再打包在一起的過程。
任務：規(guī)則引擎 + DSL
在上述我們看到的例子中，很多就是創(chuàng)建了自身的 DSL，而后用于構建。只有這樣才能讓使用者得到最大的方便。這是一個相當復雜的過程，它相當于我們要設計一個和平臺、語言無關的 DSL。而這種演變方式有多種：
使用 API 抽象的內部 DSL。諸如于 Webpack、Gulp 等實現(xiàn)。
自制的外部 DSL 語言。如 Gradle 所使用的 Groovy、多語言的 Bazel。
規(guī)則引擎本身是一組關于任務的 DSL，看個 Gradle 的例子：
- task copyReportsDirForArchiving2(type: Copy) {
- from("$buildDir") {
- include "reports/**"
- }
- into "$buildDir/toArchive"
- }
它所做的事情就是復制。對應的 Gradle 打包示例也是蠻簡單的 DSL 抽象：
- task packageDistribution(type: Zip) {
- archiveFileName = "my-distribution.zip"
- destinationDirectory = file("$buildDir/dist")
- from "$buildDir/toArchive"
- }
Gradle 使用的就是外部 DSL。再看看 Webpack 的打包示例：
- module.exports = {
- entry: './path/to/my/entry/file.js',
- output: {
- filename: 'my-first-webpack.bundle.js',
- path: path.resolve(__dirname, 'dist')
- },
- module: {
- rules: [
- {
- test: /\.(js|jsx)$/,
- use: 'babel-loader'
- }
- ]
- },
- plugins: [
- new webpack.ProgressPlugin(),
- new HtmlWebpackPlugin({template: './src/index.html'})
- ]
- };
這里的 rules 就是一個簡單的規(guī)則引擎(使用正則表達式來匹配)
兩種模式各自有自己的優(yōu)缺點，復雜場景下，使用 DSL + 自定義的腳本更容易完成。
PS：看來有空，我也應該寫一個的規(guī)則引擎
構建的擴展
對于主流的構建系統(tǒng)來說，他們都支持不同形式的擴展支持：
- 外部 DSL 擴展
- 插件化的接口編程
- 項目內編程語言擴展
- 項目外編程語言擴展
大部分的東西，我們已經在文中的先前部分提到了，這里就不重復描述了。
結論
應用的構建是一個相當有意思的過程。
設計一個構建系統(tǒng)也變得頗為有趣的。
參考資料：
- Gradle vs Bazel for JVM Projects
- Bazel: Concepts and terminology
- Yarn: Workspaces
- Gradle: Authoring Multi-Project Builds
- Cargo: Workspaces
- Gulp: Tasks
相關目的開源庫：
- lerna A tool for managing JavaScript projects with multiple packages.
- bazel
- Blueprint is a meta-build system that reads in Blueprints files that describe modules that need to be built, and produces a Ninja manifest describing the commands that need to be run and their dependencies.
本文轉載自微信公眾號「phodal」，可以通過以下二維碼關注。轉載本文請聯(lián)系phodal公眾號。
名稱欄目：聊一聊構建的抽象
標題路徑：http://m.5511xx.com/article/dpgcojd.html
