ИИ научили играть в старые игры
Новый подход помог создать систему, способную справиться с классическими играми Atari, такими как Montezuma’s Revenge и Pitfall
Ранее с подобными играми-платформерами ИИ не мог справиться. Тогда учёные использовали обучение с подкреплением – способ машинного обучения, который включает вознаграждение за успешное действие. Однако из-за сложности видеоигр и огромного количества препятствий и лабиринтов такой подход не работал.
К примеру, если ИИ нужно выполнить ряд сложных действий, чтобы достичь указанного места, и он получает вознаграждение только по прибытии в пункт назначения, тогда он не получает обратной связи относительно множества отдельных шагов, предпринятых на пути к цели. Другой способ: награждать ИИ за каждый шаг к цели. Однако из-за этого система будет игнорировать разветвления и другие пути.
В исследовании, опубликованном в журнале Nature, учёные разработали новый подход, основанный на создании архива областей, который ИИ уже посетил. Этот способ решает «две основные проблемы, которые препятствовали исследованию предыдущих алгоритмов».