網站首頁 編程語言 正文
引子
任務調度(Task Scheduling)是很多軟件系統中的重要組成部分,字面上的意思是按照一定要求分配運行一些通常時間較長的腳本或程序。在爬蟲管理平臺 Crawlab 中,任務調度是其中的核心模塊,相信不少朋友會好奇如何編寫一個任務調度系統。本篇文章會教讀者用 Go 語言編寫一個非常簡單的任務調度系統。
思路
我們首先理清一下思路,開發最小化任務調度器需要什么。
- 交互界面(API)
- 定時任務(Cron)
- 任務執行(Execute Tasks)
整個流程如下:
我們通過 API 創建定時任務,執行器根據定時任務標準定期執行腳本。
實戰
交互界面
首先我們來搭個架子。在項目目錄下創建一個 main.go
文件,并輸入以下內容。其中 gin
是非常流行的 Go 語言 API 引擎。
package main ? import ( "fmt" "github.com/gin-gonic/gin" "os" ) ? func main() { // api engine app := gin.New() ? // api routes app.GET("/jobs", GetJobs) app.POST("/jobs", AddJob) app.DELETE("/jobs", DeleteJob) ? // run api on port 9092 if err := app.Run(":9092"); err != nil { _, err = fmt.Fprintln(os.Stderr, err) os.Exit(1) } }
然后添加 api.go
文件,輸入以下內容,注意,這里沒有任何代碼實現,只是加入了占位區域。
package main ? import "github.com/gin-gonic/gin" ? func GetJobs(c *gin.Context) { // TODO: implementation here } ? func AddJob(c *gin.Context) { // TODO: implementation here } ? func DeleteJob(c *gin.Context) { // TODO: implementation here }
定時任務
然后是任務調度的核心,定時任務。這里我們使用 robfig/cron,Go 語言比較流行的定時任務庫。
現在創建 cron.go
文件,輸入以下內容。其中 Cron
就是 robfig/cron
庫中的 Cron
類生成的實例。
package main ? import "github.com/robfig/cron" ? func init() { // start to run Cron.Run() } ? // Cron create a new cron.Cron instance var Cron = cron.New()
現在創建好了主要定時任務實例,就可以將核心邏輯添加在剛才的 API 占位區域了。
同樣是 api.go
,將核心代碼添加進來。
package main ? import ( "github.com/gin-gonic/gin" "github.com/robfig/cron/v3" "net/http" "strconv" ) ? func GetJobs(c *gin.Context) { // return a list of cron job entries var results []map[string]interface{} for _, e := range Cron.Entries() { results = append(results, map[string]interface{}{ "id": e.ID, "next": e.Next, }) } c.JSON(http.StatusOK, Cron.Entries()) } ? func AddJob(c *gin.Context) { // post JSON payload var payload struct { Cron string `json:"cron"` Exec string `json:"exec"` } if err := c.ShouldBindJSON(&payload); err != nil { c.AbortWithStatus(http.StatusBadRequest) return } ? // add cron job eid, err := Cron.AddFunc(payload.Cron, func() { // TODO: implementation here }) if err != nil { c.AbortWithStatusJSON(http.StatusInternalServerError, map[string]interface{}{ "error": err.Error(), }) return } ? c.AbortWithStatusJSON(http.StatusOK, map[string]interface{}{ "id": eid, }) } ? func DeleteJob(c *gin.Context) { // cron job entry id id := c.Param("id") eid, err := strconv.Atoi(id) if err != nil { c.AbortWithStatus(http.StatusBadRequest) return } ? // remove cron job Cron.Remove(cron.EntryID(eid)) ? c.AbortWithStatus(http.StatusOK) }
在這段代碼中,我們實現了大部分邏輯,只在 AddJob
的 Cron.AddFunc
中第二個參數里,剩下最后一部分執行任務的代碼。下面將來實現一下。
任務執行
現在需要添加任務執行的代碼邏輯,咱們創建 exec.go
文件,輸入以下內容。這里我們用到了 Go 語言內置的 shell 運行管理庫 os/exec
,可以執行任何 shell 命令。
package main ? import ( "fmt" "os" "os/exec" "strings" ) ? func ExecuteTask(execCmd string) { // execute command string parts, delimited by space execParts := strings.Split(execCmd, " ") ? // executable name execName := execParts[0] ? // execute command parameters execParams := strings.Join(execParts[1:], " ") ? // execute command instance cmd := exec.Command(execName, execParams) ? // run execute command instance if err := cmd.Run(); err != nil { _, err = fmt.Fprintln(os.Stderr, err) fmt.Println(err.Error()) } }
好了,現在我們將這部分執行代碼邏輯放到之前的占位區域中。
... // add cron job eid, _ := Cron.AddFunc(payload.Cron, func() { ExecuteTask(payload.Exec) }) ...
代碼效果
OK,大功告成!現在我們可以試試運行這個極簡的任務調度器了。
在命令行中敲入 go run .
,API 引擎就啟動起來了。
[GIN-debug] [WARNING] Running in "debug" mode. Switch to "release" mode in production. - using env: export GIN_MODE=release - using code: gin.SetMode(gin.ReleaseMode) ? [GIN-debug] GET /jobs --> main.GetJobs (1 handlers) [GIN-debug] POST /jobs --> main.AddJob (1 handlers) [GIN-debug] DELETE /jobs/:id --> main.DeleteJob (1 handlers) [GIN-debug] [WARNING] You trusted all proxies, this is NOT safe. We recommend you to set a value. Please check https://pkg.go.dev/github.com/gin-gonic/gin#readme-don-t-trust-all-proxies for details. [GIN-debug] Listening and serving HTTP on :9092
現在打開另一個命令行窗口,輸入 curl -X POST -d '{"cron":"* * * * *","exec":"touch /tmp/hello.txt"}' http://localhost:9092/jobs
,會得到如下返回結果。表示已經生成了相應的定時任務,任務 ID 為 1,每分鐘跑一次,會更新一次 /tmp/hello.txt
。
{"id":1}
在這個命令行窗口中輸入 curl http://localhost:9092/jobs
。
[{"id":1,"next":"2022-10-03T12:46:00+08:00"}]
這表示下一次執行是 1 分鐘之后。
等待一分鐘,執行 ls -l /tmp/hello.txt
,得到如下結果。
-rw-r--r-- ?1 marvzhang ?wheel ? ? 0B Oct ?3 12:46 /tmp/hello.txt
也就是說,執行成功了,大功告成!
總結
本篇文章通過將 Go 語言幾個庫簡單組合,就開發出了一個極簡的任務調度系統。所用到的核心庫:
- gin
- robfig/cron
- os/exec
整個代碼示例倉庫在 GitHub 上: https://github.com/tikazyq/codao-code/tree/main/2022-10/go-task-scheduler
原文鏈接:https://juejin.cn/post/7150156954394951694
相關推薦
- 2023-01-02 Kotlin中空判斷與問號和感嘆號標識符使用方法_Android
- 2022-07-22 git倉庫的第一次上傳以及修改上傳項目
- 2023-07-08 QMessageBox顯示中文為亂碼
- 2024-01-12 如何理解 Elasticsearch 中的 Indices、Types、Documents、Fiel
- 2022-06-29 Oracle執行Update語句的幾種方式_oracle
- 2024-02-26 IDEA隱藏指定文件/文件夾
- 2023-01-02 Flutter?包管理器和資源管理使用學習_Android
- 2022-05-05 Python學習之字符串常用方法總結_python
- 最近更新
-
- window11 系統安裝 yarn
- 超詳細win安裝深度學習環境2025年最新版(
- Linux 中運行的top命令 怎么退出?
- MySQL 中decimal 的用法? 存儲小
- get 、set 、toString 方法的使
- @Resource和 @Autowired注解
- Java基礎操作-- 運算符,流程控制 Flo
- 1. Int 和Integer 的區別,Jav
- spring @retryable不生效的一種
- Spring Security之認證信息的處理
- Spring Security之認證過濾器
- Spring Security概述快速入門
- Spring Security之配置體系
- 【SpringBoot】SpringCache
- Spring Security之基于方法配置權
- redisson分布式鎖中waittime的設
- maven:解決release錯誤:Artif
- restTemplate使用總結
- Spring Security之安全異常處理
- MybatisPlus優雅實現加密?
- Spring ioc容器與Bean的生命周期。
- 【探索SpringCloud】服務發現-Nac
- Spring Security之基于HttpR
- Redis 底層數據結構-簡單動態字符串(SD
- arthas操作spring被代理目標對象命令
- Spring中的單例模式應用詳解
- 聊聊消息隊列,發送消息的4種方式
- bootspring第三方資源配置管理
- GIT同步修改后的遠程分支