淺析Quartz的集羣配置

1 基本信息

2 Quartz的集羣配置

  Quartz是一個開源的作業調度框架,它完全由java寫成,並設計用於J2SE和J2EE應用中。它提供了巨大的靈活性而不犧牲簡單性。你能夠用它來爲執行一個作業而創建簡單的或複雜的調度。它有很多特徵,如:數據庫支持,集羣,插件,EJB作業預構建,JavaMail及其它,支持cron-like表達式等等。其中集羣配置一般比較複雜,那麼在Quartz中如何配置它的集羣特性呢?

2.1 實現集羣的基本原理

  目前Quartz最新版本是1.6.0。Quartz是通過藉助關係數據庫和JDBC作業存儲來實現集羣管理的。


 
1. 原理

  集羣通過故障切換和負載平衡的功能,能給調度器帶來高可用性和伸縮性。目前集羣只能工作在JDBC-Jobstore (JobStoreTX 或者JobStoreCMT)方式下,從本質上來說,是使集羣上的每一個節點通過共享同一個數據庫來工作的(Quartz通過啓動兩個維護線程來維護數據庫狀態實現集羣管理,一個是檢測節點狀態線程,一個是恢復任務線程)。

  負載平衡是自動完成的,集羣的每個節點會盡快觸發任務。當一個觸發器的觸發時間到達時,第一個節點將會獲得任務(通過鎖定),成爲執行任務的節點。

  故障切換的發生是在當一個節點正在執行一個或者多個任務失敗的時候。當一個節點失敗了,其他的節點會檢測到並且標識在失敗節點上正在進行的數據庫中的任務。任何被標記爲可恢復(任務詳細信息的"requests recovery"屬性)的任務都會被其他的節點重新執行。沒有標記可恢復的任務只會被釋放出來,將會在下次相關觸發器觸發時執行。

2. 集羣管理用到的表

--任務詳細信息表

  1. CREATE TABLE qrtz_job_details
  2. (
  3. JOB_NAME VARCHAR2(80) NOT NULL,
  4. JOB_GROUP VARCHAR2(80) NOT NULL,
  5. DESCRIPTION VARCHAR2(120) NULL,
  6. JOB_CLASS_NAME VARCHAR2(128) NOT NULL,
  7. IS_DURABLE VARCHAR2(1) NOT NULL,
  8. IS_VOLATILE VARCHAR2(1) NOT NULL,
  9. IS_STATEFUL VARCHAR2(1) NOT NULL,
  10. REQUESTS_RECOVERY VARCHAR2(1) NOT NULL, --可恢復標記
  11. JOB_DATA BLOB NULL,
  12. PRIMARY KEY (JOB_NAME,JOB_GROUP)
  13. );

--觸發器與任務關聯表

  1. CREATE TABLE qrtz_fired_triggers
  2. (
  3. ENTRY_ID VARCHAR2(95) NOT NULL,
  4. TRIGGER_NAME VARCHAR2(80) NOT NULL,
  5. TRIGGER_GROUP VARCHAR2(80) NOT NULL,
  6. IS_VOLATILE VARCHAR2(1) NOT NULL,
  7. INSTANCE_NAME VARCHAR2(80) NOT NULL,
  8. FIRED_TIME NUMBER(13) NOT NULL,
  9. STATE VARCHAR2(16) NOT NULL,
  10. JOB_NAME VARCHAR2(80) NULL,
  11. JOB_GROUP VARCHAR2(80) NULL,
  12. IS_STATEFUL VARCHAR2(1) NULL,
  13. REQUESTS_RECOVERY VARCHAR2(1) NULL, --可恢復標記
  14. PRIMARY KEY (ENTRY_ID)
  15. );

--調度器狀態表

  1. TABLE qrtz_scheduler_state
  2. (
  3. INSTANCE_NAME VARCHAR2(80) NOT NULL, --調度器實例ID
  4. LAST_CHECKIN_TIME NUMBER(13) NOT NULL, --上次檢查時間
  5. CHECKIN_INTERVAL NUMBER(13) NOT NULL, --檢查時間間隔
  6. RECOVERER VARCHAR2(80) NULL, --恢復調度器
  7. PRIMARY KEY (INSTANCE_NAME)
  8. );

2.2 集羣配置

  通過設置"org.quartz.jobStore.isClustered"屬性爲"true"來激活集羣特性。在集羣中的每一個實例都必須有一個唯一的"instance id" ("org.quartz.scheduler.instanceId" 屬性), 但是應該有相同的"scheduler instance name" ("org.quartz.scheduler.instanceName"),也就是說集羣中的每一個實例都必須使用相同的quartz.properties 配置文件。除了以下幾種例外,配置文件的內容其他都必須相同:

 不同的線程池大小,
 不同的"org.quartz.scheduler.instanceId"屬性值(這個可以很容易做到,設定爲"AUTO"即可)。
 注意: 永遠不要在不同的機器上運行集羣,除非他們的時鐘是使用某種形式的同步服務(守護)非常有規律的運行(時鐘必須在一分一秒內)來達到同步。還有: 永遠不要觸發一個非集羣的實例,如果其他的實例正在同一個數據庫表上運行。你將使你的數據嚴重腐蝕,出現非預期行爲。
 示例及詳細配置說明,請參照附錄Quartz配置文件說明。

3 附錄

3.1 Quartz配置文件說明

3.1.1 Quartz配置文件基本說明

  文件名稱:默認文件名稱quartz.properties,可以通過更改系統屬性“org.quartz.properties”來加載自定義的配置。
  格式:屬性文件

3.1.2 Quartz配置文件詳細說明

3.1.2.1 Scheduler主要屬性的配置

 

  1. # Scheduler主要屬性的一般定義模式如下:
  2. #
  3. # org.quartz.scheduler.instanceName = SCHED_NAME
  4. # org.quartz.scheduler.instanceId = INSTANCE_ID
  5. # org.quartz.scheduler.threadName = THREAD_NAME
  6. # org.quartz.scheduler.rmi.export = false
  7. # org.quartz.scheduler.rmi.proxy = false
  8. # org.quartz.scheduler.rmi.registryHost = localhost
  9. # org.quartz.scheduler.rmi.registryPort = 1099
  10. # org.quartz.scheduler.rmi.createRegistry = never
  11. # org.quartz.scheduler.userTransactionURL = USER_TX_LOCATION
  12. # org.quartz.scheduler.wrapJobExecutionInUserTransaction = JOBS_IN_USER_TX
  13. # org.quartz.scheduler.idleWaitTime = IDLE_WAIT_TIME
  14. # org.quartz.scheduler.dbFailureRetryInterval = DB_FAILURE_RETRY_INTERVAL
  15. # org.quartz.scheduler.classLoadHelper.class = CLASS_LOAD_HELPER_CLASS
  16. # org.quartz.context.key.SOME_KEY = SOME_VALUE

 

下面是具體說明:



3.1.2.2 線程池(ThreadPool)的配置

下面是具體說明: 

  1. # 定製一個線程池的一般模式如下:
  2. #
  3. # org.quartz.threadPool.class = org.quartz.simpl.SimpleThreadPool
  4. # org.quartz.threadPool.threadCount = THREAD_COUNT
  5. # org.quartz.threadPool.threadPriority = THREAD_PRIO
  6. #
  7. # 簡單線程池(SimpleThreadPool)的選項參數:
  8. #
  9. # org.quartz.threadPool.makeThreadsDaemons = DAEMON_THREADS
  10. # org.quartz.threadPool.threadsInheritGroupOfInitializingThread = INHERIT_GRP
  11. # org.quartz.threadPool.threadsInheritContextClassLoaderOfInitializingThread = INHERIT_LDR
  12. #
  13. # or
  14. #
  15. # org.quartz.threadPool.class = com.mycompany.goo.FooThreadPool
  16. # org.quartz.threadPool.somePropOfFooThreadPool = someValue
  17. #

3.1.2.3 任務存儲(JobStore)的配置




  1. #
  2. # 定義一個任務存儲的一般模式如下:
  3. #
  4. # org.quartz.jobStore.class = org.quartz.simpl.RAMJobStore
  5. # org.quartz.jobStore.misfireThreshold = MISFIRE_THRESHOLD
  6. #
  7. # or
  8. #
  9. # org.quartz.jobStore.class = org.quartz.impl.jdbcjobstore.<JobStoreClass>
  10. # JobStoreClass 是下面其中的一個:
  11. # - JobStoreTX 用於單機(standalone-Quartz)實現
  12. # - JobStoreCMT 用於基於應用服務器容器管理事務(appserver-based container-managed transaction )的Quartz 實現
  13. #
  14. # org.quartz.jobStore.driverDelegateClass = org.quartz.impl.jdbcjobstore.<DriverDelegateClass>
  15. # DriverDelegateClass 是下面其中的一個:
  16. # - StdJDBCDelegate (用於許多 JDBC-compliant drivers)
  17. # - MSSQLDelegate (用於 Microsoft SQL Server drivers)
  18. # - PostgreSQLDelegate (用於 PostgreSQL drivers)
  19. # - WebLogicDelegate (用於 WebLogic drivers)
  20. # - oracle.OracleDelegate (用於 Oracle drivers)
  21. #
  22. # org.quartz.jobStore.useProperties = USE_PROPERTIES
  23. # org.quartz.jobStore.dataSource = DS_NAME
  24. # org.quartz.jobStore.tablePrefix = TABLE_PREFIX
  25. # org.quartz.jobStore.isClustered = IS_CLUSTERED
  26. # org.quartz.jobStore.selectWithLockSQL = LOCKING_SELECT_STATEMENT
  27. # org.quartz.jobStore.dontSetAutoCommitFalse = DONT_TURN_OFF_AUTO_COMMIT
  28. # org.quartz.jobStore.maxMisfiresToHandleAtATime = MAX_MISFIRE_HANDLE
  29. # org.quartz.jobStore.txIsolationLevelSerializable = SERIALIZABLE_ISOLATION
  30. #
  31. # 如果你使用JobStoreCMT,你還需要下面的參數:
  32. #
  33. # org.quartz.jobStore.nonManagedTXDataSource = NON_MANAGED_TX_DS_NAME
  34. #
  35. # 並且如果你使用JobStoreCMT,下面的參數是可選的:
  36. #
  37. # org.quartz.jobStore.dontSetNonManagedTXConnectionAutoCommitFalse = DONT_TURN_OFF_AUTO_COMMIT
  38. # org.quartz.jobStore.txIsolationLevelReadCommitted = READ_COMMITTED_ISOLATION
  39. #
  40. #
  41. # 或者,使用一個用戶自定義JobStore實現:
  42. #
  43. # org.quartz.jobStore.class = com.mycompany.goo.FooJobStore
  44. # org.quartz.jobStore.somePropOfFooJobStore = someValue
  45. #
  46. #


下面是具體說明:

 

3.1.2.4 數據源的配置


  1. # (只有當使用JDBCJobStore時需要, 或者一個插件需要JDBC)
  2. # -- 如果你的Scheduler非常忙碌,比如在一定的線程池內執行相同數目的任務,那麼你應讓數據源的連接數等於線程數 + 1
  3. #
  4. # 數據源定義的一般模式如下:
  5. #
  6. # org.quartz.dataSource.NAME.driver = DRIVER_CLASS_NAME
  7. # org.quartz.dataSource.NAME.URL = DB_URL
  8. # org.quartz.dataSource.NAME.user = DB_USER
  9. # org.quartz.dataSource.NAME.password = DB_PASSWORD
  10. # org.quartz.dataSource.NAME.maxConnections = DB_POOL_SIZE
  11. # org.quartz.dataSource.NAME.validationQuery= VALIDATION_QUERY
  12. #
  13. # or
  14. #
  15. # org.quartz.dataSource.NAME.jndiURL = DB_JNDI_URL
  16. #
  17. # or
  18. # org.quartz.dataSource.NAME.jndiURL = DB_JNDI_URL
  19. # org.quartz.dataSource.NAME.jndiAlwaysLookup = DB_JNDI_ALWAYS_LOOKUP
  20. # org.quartz.dataSource.NAME.java.naming.factory.initial = JNDI_CTXT_FACTORY
  21. # org.quartz.dataSource.NAME.java.naming.provider.url = JNDI_PROVIDER_URL
  22. # org.quartz.dataSource.NAME.java.naming.security.principal = JNDI_PRINCIPAL
  23. # org.quartz.dataSource.NAME.java.naming.security.credentials = JNDI_CREDENTIALS
  24. #
  25. #


上面顯示了兩種數據源定義方式:一個數據源可以用給定的數據庫連接信息創建,也可以是利用應用服務器管理生成的JNDI數據源的邏輯映射。
下面是具體說明:


3.1.2.5 Scheduler插件的配置


  1. # SchedulerPlugin定義的一般模式如下:
  2. #
  3. # org.quartz.plugin.NAME.class = PLUGIN_CLASS_NAME
  4. #
  5. # 如果這個插件類有一些屬性值需要通過"setter"方法設定, 名稱和值的屬性定義如下:
  6. #
  7. # org.quartz.plugin.NAME.propName = propValue
  8. #
  9. # ..."propName" 在插件類中會有一個"setPropName"方法.但是隻支持原始數據類型(包括 Strings)。
  10. #

配置插件的簡單示例:

  1. org.quartz.plugin.triggHistory.class = org.quartz.plugins.history.LoggingTriggerHistoryPlugin
  2. org.quartz.plugin.triggHistory.triggerFiredMessage = Trigger {1}.{0} fired job {6}.{5} at: {4, date, HH:mm:ss MM/dd/yyyy}
  3. org.quartz.plugin.triggHistory.triggerCompleteMessage = Trigger {1}.{0} completed firing job {6}.{5} at {4, date, HH:mm:ss MM/dd/yyyy} with resulting trigger instruction code: {9}
  4.  
  5. org.quartz.plugin.jobInitializer.class = org.quartz.plugins.xml.JobInitializationPlugin
  6. org.quartz.plugin.jobInitializer.fileName = data/my_job_data.xml
  7. org.quartz.plugin.jobInitializer.overWriteExistingJobs = false
  8. org.quartz.plugin.jobInitializer.failOnFileNotFound = true
  9.  
  10. org.quartz.plugin.shutdownhook.class = org.quartz.plugins.management.ShutdownHookPlugin
  11. org.quartz.plugin.shutdownhook.cleanShutdown = true

3.1.3 示例

  1. #============================================================
  2. # Configure Main Scheduler Properties
  3. #===========================================================
  4.  
  5. org.quartz.scheduler.instanceName = MyClusteredScheduler
  6. org.quartz.scheduler.instanceId = AUTO
  7.  
  8. #===========================================================
  9. # Configure ThreadPool
  10. #===========================================================
  11.  
  12. org.quartz.threadPool.class = org.quartz.simpl.SimpleThreadPool
  13. org.quartz.threadPool.threadCount = 25
  14. org.quartz.threadPool.threadPriority = 5
  15.  
  16. #===========================================================
  17. # Configure JobStore
  18. #===========================================================
  19.  
  20. org.quartz.jobStore.misfireThreshold = 60000
  21.  
  22. org.quartz.jobStore.class = org.quartz.impl.jdbcjobstore.JobStoreTX
  23. org.quartz.jobStore.driverDelegateClass = org.quartz.impl.jdbcjobstore.oracle.OracleDelegate
  24. org.quartz.jobStore.useProperties = false
  25. org.quartz.jobStore.dataSource = myDS
  26. org.quartz.jobStore.tablePrefix = QRTZ_
  27.  
  28. org.quartz.jobStore.isClustered = true
  29. org.quartz.jobStore.clusterCheckinInterval = 20000
  30.  
  31. #===========================================================
  32. # Configure Datasources
  33. #===========================================================
  34.  
  35. org.quartz.dataSource.myDS.driver = oracle.jdbc.driver.OracleDriver
  36. org.quartz.dataSource.myDS.URL = jdbc:oracle:thin:@cluster:1521:dev
  37. org.quartz.dataSource.myDS.user = quartz
  38. org.quartz.dataSource.myDS.password = quartz
  39. org.quartz.dataSource.myDS.maxConnections = 5
  40. org.quartz.dataSource.myDS.validationQuery=select 0 from dual

發佈了7 篇原創文章 · 獲贊 1 · 訪問量 3萬+
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章