多机调整
This commit is contained in:
@@ -67,6 +67,10 @@ multi_node:
|
||||
rank_env: RANK
|
||||
world_size_env: WORLD_SIZE
|
||||
local_rank_env: LOCAL_RANK
|
||||
aggregate_results: true
|
||||
sync_before_return: false
|
||||
destroy_process_group: true
|
||||
shard_strategy: round_robin
|
||||
|
||||
preload_wait:
|
||||
enabled: false
|
||||
|
||||
@@ -55,6 +55,10 @@ multi_node:
|
||||
rank_env: RANK
|
||||
world_size_env: WORLD_SIZE
|
||||
local_rank_env: LOCAL_RANK
|
||||
aggregate_results: true
|
||||
sync_before_return: false
|
||||
destroy_process_group: true
|
||||
shard_strategy: round_robin
|
||||
|
||||
preload_wait:
|
||||
enabled: false
|
||||
|
||||
@@ -56,6 +56,10 @@ multi_node:
|
||||
rank_env: RANK
|
||||
world_size_env: WORLD_SIZE
|
||||
local_rank_env: LOCAL_RANK
|
||||
aggregate_results: true
|
||||
sync_before_return: false
|
||||
destroy_process_group: true
|
||||
shard_strategy: round_robin
|
||||
|
||||
preload_wait:
|
||||
enabled: false
|
||||
|
||||
@@ -54,6 +54,10 @@ multi_node:
|
||||
rank_env: RANK
|
||||
world_size_env: WORLD_SIZE
|
||||
local_rank_env: LOCAL_RANK
|
||||
aggregate_results: true
|
||||
sync_before_return: false
|
||||
destroy_process_group: true
|
||||
shard_strategy: round_robin
|
||||
|
||||
preload_wait:
|
||||
enabled: false
|
||||
|
||||
Reference in New Issue
Block a user