我正在使用一个称为FLOW RL的框架。它使我能够将rllib和ray用于RL算法。我一直在尝试在张量板上绘制非学习数据。在ray文档(link之后,我尝试添加自定义指标。因此,我需要使用on_episode_step(info)
访问的info dict。该词典中应该有一个“ episode”元素。这使我可以访问自定义标量。
但是,每次尝试访问Episode元素时,都会出现一个错误,因为info dict中不存在该元素。这正常吗?
on_episode_start中的文件“ examples / rllib / newGreenWaveGrid2.py”,第295行 情节= info [“ episode”] KeyError:“剧集”
def on_episode_step(info):
episode = info["episode"]
whatever = abs(episode.last_observation_for()[2])
episode.user_data["whatever"].append(whatever)
if __name__ == '__main__':
alg_run,gym_name,config = setup_exps()
ray.init(num_cpus=N_CPUS + 1,redirect_output=False)
trials = run_experiments({
flow_params['exp_tag']: {
'run': alg_run,'env': gym_name,'config': {
**config,'callbacks': {
"on_episode_start": on_episode_start,"on_episode_step": on_episode_step,"on_episode_end": on_episode_end,}
},'checkpoint_freq': 20,'max_failures': 999,'stop': {
'training_iteration': 200,},})