DRL Course 2023 Домашнее задание 5

Задания

После лекции 5 и практического занятия 5 требуется выполнить два домашних задания:

1. Обучить Агента решать Acrobot-v1, MountainCar-v0, или LunarLander-v2 (одну на выбор) методом DQN. Найти оптимальные гиперпараметры. Сравнить с алгоритмом Deep Cross-Entropy на графиках.
2. Реализовать с сравнить (на выбранной ранее среде) друг с другом и с обычным DQN следующие его модификации:
   • DQN с Hard Target Update; 
   • DQN с Soft Target Update;
   • Double DQN.

Оформление

Код каждого задания следует выполнить в отдельном .py файле с названием "(фамилия)_practice5_(номер задания).py". Результаты всех исследований по заданиям 1 и 2 следует оформить в отчет в виде одного .pdf файла с названием "(фамилия)_practice5.pdf". Отчеты оформляются в произвольной форме, однако должны содержать  

• оглавление,
• описание экспериментов,
• результаты экспериментов проиллюстрированные в виде графиков обучения (ось x - количество итераций обучения, ось y - результаты обучения),
• вывод.

Все файлы кладутся в папку с названием "(фамилия)_practice5" и предоставляется возможность скачать эту папке по ссылке (google.drive, yandex.disk и пр.). Задания отправляются в форме ниже в формате:

Фамилия Имя Отчество

Домашняя работа 5 - (ссылка на папку (фамилия)_practice5)

Оценка

Выполнение заданий оценивается в 10 баллов - 5 баллов на правильность выполнения и 5 за качество оформление отчета.