type
status
date
slug
summary
tags
category
icon
password
创建基本环境
notion image
import numpy as np np.set_printoptions(threshold=np.inf) 可以打印全部数组
list(数组(210, 160, 3),生命值lives
  1. 'episode_frame_number':这个键对应的值是0,表示当前回合的帧数(或步数)为0。帧数可以用来跟踪环境中经过的时间步。
  1. 'frame_number':这个键对应的值也是0,表示整个训练的总帧数(或总步数)为0。这个值可以用来跟踪整个训练过程中的总步数。)

动作:

notion image

状态

notion image
notion image

走一步

notion image
环境终止指的是环境达到了某个终止条件,不再接受代理的动作,并且通常会重置到初始状态。终止可能是由于任务完成、游戏结束或者达到预设的时间步数限制等。当环境终止时,代理通常需要处理收集到的奖励并进行下一步决策。
截断是针对一些特殊情况而言的,例如在某些连续任务中,限制了最大时间步数或者最大轨迹长度。如果在试图执行完整轨迹之前达到了时间步限制或者轨迹长度限制,环境就会被截断。在这种情况下,环境不会重置到初始状态,而是保留当前状态,并返回一个截断标志。
区别在于,终止意味着环境已经完成或达到终止条件,需要进行重置处理,而截断则是在限制时间步或轨迹长度的情况下,环境仍然保持当前状态可以继续与代理进行交互。
在代码段中提到的 "final_observation""final_info" 用于存储在终止或截断之后最后一步的观测和信息,以便代理可以进一步处理或记录这些结果。 -AI
 
 
 
 
🌛
晚安 梦里见
读论文-A Visual Analytics Approach to Understand Deep Q-Networks神经网络