Methods, systems and apparatus, including computer programs encoded on computer storage media, for training an action selection neural network. One of the methods includes receiving an observation characterizing a current state of the environment; determining a target network output for the observation by performing a look ahead search of possible future states of the environment starting from the current state until the environment reaches a possible future state that satisfies one or more termination criteria, wherein the look ahead search is guided by the neural network in accordance with current values of the network parameters; selecting an action to be performed by the agent in response to the observation using the target network output generated by performing the look ahead search; and storing, in an exploration history data store, the target network output in association with the observation for use in updating the current values of the network parameters.

L'invention concerne des procédés, des systèmes et un appareil, y compris des programmes informatiques codés sur un support de stockage informatique, pour l'apprentissage d'un réseau neuronal de sélection d'action. L'un des procédés consiste à recevoir une observation caractérisant un état actuel de l'environnement ; à déterminer une sortie de réseau cible pour l'observation par réalisation d'une recherche anticipée d'états futurs possibles de l'environnement à partir de l'état actuel jusqu'à ce que l'environnement atteigne un état futur possible qui satisfait un ou plusieurs critères de terminaison, la recherche anticipée étant guidée par le réseau neuronal en fonction des valeurs actuelles des paramètres de réseau ; à sélectionner une action à exécuter par l'agent en réponse à l'observation à l'aide de la sortie de réseau cible générée par la réalisation de la recherche anticipée ; et à stocker, dans une mémoire de données d'historique d'exploration, la sortie de réseau cible en association avec l'observation pour une utilisation dans la mise à jour des valeurs actuelles des paramètres de réseau.