<?xml version="1.0"?>
<article xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" dtd-version="1.4" xsi:noNamespaceSchemaLocation="https://jats.nlm.nih.gov/archiving/1.4/xsd/JATS-archivearticle1.xsd" xml:lang="ru">
  <front>
    <journal-meta>
      <journal-id journal-id-type="ojs">IE</journal-id>
      <journal-title-group>
        <journal-title xml:lang="ru">&#x421;&#x422;&#x420;&#x41E;&#x418;&#x422;&#x415;&#x41B;&#x42C;&#x41D;&#x42B;&#x415; &#x418; &#x414;&#x41E;&#x420;&#x41E;&#x416;&#x41D;&#x42B;&#x415; &#x41C;&#x410;&#x428;&#x418;&#x41D;&#x42B;</journal-title>
        <trans-title-group xml:lang="en">
          <trans-title>STROITEL'NYE I DOROZHNYE MASHINY</trans-title>
        </trans-title-group>
      </journal-title-group>
      <issn pub-type="ppub">0039-2391</issn>
      <publisher>
        <publisher-name>&#x418;&#x41F; &#x41F;&#x43E;&#x434;&#x43A;&#x43E;&#x43B;&#x437;&#x438;&#x43D; &#x41C;.&#x41C;.</publisher-name>
      </publisher>
      <self-uri xlink:href="https://iereview.ru/index.php/IE"/>
    </journal-meta>
    <article-meta>
      <article-id pub-id-type="publisher-id">235</article-id>
      <article-categories>
        <subj-group xml:lang="ru" subj-group-type="heading">
          <subject>&#x41F;&#x420;&#x418;&#x41A;&#x41B;&#x410;&#x414;&#x41D;&#x42B;&#x415; &#x418;&#x421;&#x421;&#x41B;&#x415;&#x414;&#x41E;&#x412;&#x410;&#x41D;&#x418;&#x42F;</subject>
        </subj-group>
      </article-categories>
      <title-group>
        <article-title xml:lang="ru">&#x420;&#x430;&#x437;&#x440;&#x430;&#x431;&#x43E;&#x442;&#x43A;&#x430; &#x438; &#x438;&#x441;&#x441;&#x43B;&#x435;&#x434;&#x43E;&#x432;&#x430;&#x43D;&#x438;&#x435; &#x430;&#x433;&#x435;&#x43D;&#x442;&#x430; &#x43D;&#x430; &#x43E;&#x441;&#x43D;&#x43E;&#x432;&#x435; &#x430;&#x43B;&#x433;&#x43E;&#x440;&#x438;&#x442;&#x43C;&#x430; deep q-network &#x434;&#x43B;&#x44F; &#x437;&#x430;&#x434;&#x430;&#x447; &#x443;&#x43F;&#x440;&#x430;&#x432;&#x43B;&#x435;&#x43D;&#x438;&#x44F; &#x432; &#x434;&#x438;&#x43D;&#x430;&#x43C;&#x438;&#x447;&#x435;&#x441;&#x43A;&#x438;&#x445; &#x441;&#x440;&#x435;&#x434;&#x430;&#x445;</article-title>
        <trans-title-group xml:lang="en">
          <trans-title>Development and investigation of an agent based on Deep Q-Network algorithm for control tasks in dynamic environments</trans-title>
        </trans-title-group>
      </title-group>
      <contrib-group content-type="author">
        <contrib contrib-type="author">
          <name-alternatives>
            <name name-style="western" specific-use="primary" xml:lang="ru">
              <surname>&#x41A;&#x443;&#x440;&#x442;&#x430;&#x448;</surname>
              <given-names>&#x41D;&#x438;&#x43A;&#x438;&#x442;&#x430; &#x421;&#x435;&#x440;&#x433;&#x435;&#x435;&#x432;&#x438;&#x447;</given-names>
            </name>
            <name name-style="western" xml:lang="en">
              <surname>Kurtash</surname>
              <given-names>Nikita S.</given-names>
            </name>
          </name-alternatives>
          <xref ref-type="aff" rid="aff-1"/>
          <email>nikitakurtash@gmail.com</email>
        </contrib>
        <contrib contrib-type="author">
          <name-alternatives>
            <name name-style="western" specific-use="primary" xml:lang="ru">
              <surname>&#x411;&#x440;&#x44E;&#x442;&#x43E;&#x432;&#x430;</surname>
              <given-names>&#x421;&#x43E;&#x444;&#x438;&#x44F; &#x414;&#x430;&#x43D;&#x438;&#x43B;&#x43E;&#x432;&#x43D;&#x430;</given-names>
            </name>
            <name name-style="western" xml:lang="en">
              <surname>Bryutova</surname>
              <given-names>Sofia D.</given-names>
            </name>
          </name-alternatives>
          <xref ref-type="aff" rid="aff-1"/>
          <email>britovasofia@gmail.com</email>
        </contrib>
      </contrib-group>
      <aff-alternatives id="aff-1">
        <aff xml:lang="ru">
          <institution content-type="orgname">&#x421;&#x430;&#x43D;&#x43A;&#x442;-&#x41F;&#x435;&#x442;&#x435;&#x440;&#x431;&#x443;&#x440;&#x433;&#x441;&#x43A;&#x438;&#x439; &#x43F;&#x43E;&#x43B;&#x438;&#x442;&#x435;&#x445;&#x43D;&#x438;&#x447;&#x435;&#x441;&#x43A;&#x438;&#x439; &#x443;&#x43D;&#x438;&#x432;&#x435;&#x440;&#x441;&#x438;&#x442;&#x435;&#x442; &#x41F;&#x435;&#x442;&#x440;&#x430; &#x412;&#x435;&#x43B;&#x438;&#x43A;&#x43E;&#x433;&#x43E;, 195251, &#x433;. &#x421;&#x430;&#x43D;&#x43A;&#x442;-&#x41F;&#x435;&#x442;&#x435;&#x440;&#x431;&#x443;&#x440;&#x433;, &#x41F;&#x43E;&#x43B;&#x438;&#x442;&#x435;&#x445;&#x43D;&#x438;&#x447;&#x435;&#x441;&#x43A;&#x430;&#x44F; &#x443;&#x43B;., &#x434;. 29</institution>
        </aff>
        <aff xml:lang="en">
          <institution content-type="orgname">Peter the Great St. Petersburg Polytechnic University, 195251, St. Petersburg, Polytekhnicheskaya str., 29</institution>
        </aff>
      </aff-alternatives>
      <pub-date date-type="pub" publication-format="epub">
        <day>30</day>
        <month>12</month>
        <year>2025</year>
      </pub-date>
      <volume>69</volume>
      <issue>12</issue>
      <fpage>136</fpage>
      <lpage>144</lpage>
      <permissions>
        <copyright-statement xml:lang="ru">&#xA9; 2025 &#x421;&#x422;&#x420;&#x41E;&#x418;&#x422;&#x415;&#x41B;&#x42C;&#x41D;&#x42B;&#x415; &#x418; &#x414;&#x41E;&#x420;&#x41E;&#x416;&#x41D;&#x42B;&#x415; &#x41C;&#x410;&#x428;&#x418;&#x41D;&#x42B;. &#x412;&#x441;&#x435; &#x43F;&#x440;&#x430;&#x432;&#x430; &#x437;&#x430;&#x449;&#x438;&#x449;&#x435;&#x43D;&#x44B;.</copyright-statement>
        <copyright-statement xml:lang="en">&#xA9; 2025 STROITEL'NYE I DOROZHNYE MASHINY. All rights reserved.</copyright-statement>
        <copyright-year>2025</copyright-year>
        <copyright-holder xml:lang="ru">&#x421;&#x422;&#x420;&#x41E;&#x418;&#x422;&#x415;&#x41B;&#x42C;&#x41D;&#x42B;&#x415; &#x418; &#x414;&#x41E;&#x420;&#x41E;&#x416;&#x41D;&#x42B;&#x415; &#x41C;&#x410;&#x428;&#x418;&#x41D;&#x42B;</copyright-holder>
        <copyright-holder xml:lang="en">STROITEL'NYE I DOROZHNYE MASHINY</copyright-holder>
        <license license-type="open-access" specific-use="metadata" xlink:href="https://creativecommons.org/publicdomain/zero/1.0/" xml:lang="ru">
          <license-p>&#x41C;&#x435;&#x442;&#x430;&#x434;&#x430;&#x43D;&#x43D;&#x44B;&#x435; &#x43D;&#x430;&#x441;&#x442;&#x43E;&#x44F;&#x449;&#x435;&#x439; &#x437;&#x430;&#x43F;&#x438;&#x441;&#x438; &#x440;&#x430;&#x441;&#x43F;&#x440;&#x43E;&#x441;&#x442;&#x440;&#x430;&#x43D;&#x44F;&#x44E;&#x442;&#x441;&#x44F; &#x43D;&#x430; &#x443;&#x441;&#x43B;&#x43E;&#x432;&#x438;&#x44F;&#x445; Creative Commons CC0 1.0 (&#x43F;&#x435;&#x440;&#x435;&#x434;&#x430;&#x447;&#x430; &#x432; &#x43E;&#x431;&#x449;&#x435;&#x441;&#x442;&#x432;&#x435;&#x43D;&#x43D;&#x43E;&#x435; &#x434;&#x43E;&#x441;&#x442;&#x43E;&#x44F;&#x43D;&#x438;&#x435;).</license-p>
        </license>
        <license license-type="open-access" specific-use="metadata" xlink:href="https://creativecommons.org/publicdomain/zero/1.0/" xml:lang="en">
          <license-p>The metadata of this record are distributed under the Creative Commons CC0 1.0 Universal Public Domain Dedication.</license-p>
        </license>
      </permissions>
      <self-uri xlink:href="https://iereview.ru/index.php/IE/article/view/235"/>
      <abstract xml:lang="ru">
        <p>&#x413;&#x43B;&#x443;&#x431;&#x43E;&#x43A;&#x43E;&#x435; &#x43E;&#x431;&#x443;&#x447;&#x435;&#x43D;&#x438;&#x435; &#x441; &#x43F;&#x43E;&#x434;&#x43A;&#x440;&#x435;&#x43F;&#x43B;&#x435;&#x43D;&#x438;&#x435;&#x43C; (Deep Reinforcement Learning, Deep RL) &#x44F;&#x432;&#x43B;&#x44F;&#x435;&#x442;&#x441;&#x44F; &#x43E;&#x434;&#x43D;&#x438;&#x43C; &#x438;&#x437; &#x43D;&#x430;&#x438;&#x431;&#x43E;&#x43B;&#x435;&#x435; &#x43F;&#x435;&#x440;&#x441;&#x43F;&#x435;&#x43A;&#x442;&#x438;&#x432;&#x43D;&#x44B;&#x445; &#x43D;&#x430;&#x43F;&#x440;&#x430;&#x432;&#x43B;&#x435;&#x43D;&#x438;&#x439; &#x43C;&#x430;&#x448;&#x438;&#x43D;&#x43D;&#x43E;&#x433;&#x43E; &#x43E;&#x431;&#x443;&#x447;&#x435;&#x43D;&#x438;&#x44F;. &#x413;&#x43B;&#x443;&#x431;&#x43E;&#x43A;&#x43E;&#x435; &#x43E;&#x431;&#x443;&#x447;&#x435;&#x43D;&#x438;&#x435; &#x441; &#x43F;&#x43E;&#x434;&#x43A;&#x440;&#x435;&#x43F;&#x43B;&#x435;&#x43D;&#x438;&#x435;&#x43C; &#x44F;&#x432;&#x43B;&#x44F;&#x435;&#x442;&#x441;&#x44F; &#x432;&#x430;&#x436;&#x43D;&#x44B;&#x43C; &#x43D;&#x430;&#x43F;&#x440;&#x430;&#x432;&#x43B;&#x435;&#x43D;&#x438;&#x435;&#x43C; &#x43C;&#x430;&#x448;&#x438;&#x43D;&#x43D;&#x43E;&#x433;&#x43E; &#x43E;&#x431;&#x443;&#x447;&#x435;&#x43D;&#x438;&#x44F;, &#x43D;&#x430;&#x445;&#x43E;&#x434;&#x44F;&#x449;&#x438;&#x43C; &#x43F;&#x440;&#x438;&#x43C;&#x435;&#x43D;&#x435;&#x43D;&#x438;&#x435; &#x432; &#x430;&#x432;&#x442;&#x43E;&#x43D;&#x43E;&#x43C;&#x43D;&#x43E;&#x43C; &#x443;&#x43F;&#x440;&#x430;&#x432;&#x43B;&#x435;&#x43D;&#x438;&#x438;, &#x440;&#x43E;&#x431;&#x43E;&#x442;&#x43E;&#x442;&#x435;&#x445;&#x43D;&#x438;&#x43A;&#x435; &#x438; &#x438;&#x433;&#x440;&#x43E;&#x432;&#x44B;&#x445; &#x441;&#x438;&#x441;&#x442;&#x435;&#x43C;&#x430;&#x445;. &#x412; &#x440;&#x430;&#x431;&#x43E;&#x442;&#x435; &#x43F;&#x440;&#x435;&#x434;&#x441;&#x442;&#x430;&#x432;&#x43B;&#x435;&#x43D;&#x430; &#x440;&#x435;&#x430;&#x43B;&#x438;&#x437;&#x430;&#x446;&#x438;&#x44F; &#x430;&#x43B;&#x433;&#x43E;&#x440;&#x438;&#x442;&#x43C;&#x430; Deep Q-Network (DQN) &#x434;&#x43B;&#x44F; &#x43E;&#x431;&#x443;&#x447;&#x435;&#x43D;&#x438;&#x44F; &#x430;&#x433;&#x435;&#x43D;&#x442;&#x430; &#x443;&#x43F;&#x440;&#x430;&#x432;&#x43B;&#x435;&#x43D;&#x438;&#x44E; &#x432; &#x438;&#x433;&#x440;&#x435; &#x417;&#x43C;&#x435;&#x439;&#x43A;&#x430;. &#x41C;&#x435;&#x442;&#x43E;&#x434;&#x438;&#x43A;&#x430; &#x432;&#x43A;&#x43B;&#x44E;&#x447;&#x430;&#x435;&#x442; &#x444;&#x43E;&#x440;&#x43C;&#x438;&#x440;&#x43E;&#x432;&#x430;&#x43D;&#x438;&#x435; &#x43A;&#x43E;&#x43C;&#x43F;&#x430;&#x43A;&#x442;&#x43D;&#x43E;&#x433;&#x43E; &#x432;&#x435;&#x43A;&#x442;&#x43E;&#x440;&#x43D;&#x43E;&#x433;&#x43E; &#x43F;&#x440;&#x435;&#x434;&#x441;&#x442;&#x430;&#x432;&#x43B;&#x435;&#x43D;&#x438;&#x44F; &#x441;&#x43E;&#x441;&#x442;&#x43E;&#x44F;&#x43D;&#x438;&#x44F; &#x441;&#x440;&#x435;&#x434;&#x44B; &#x438;&#x437; 11 &#x431;&#x438;&#x43D;&#x430;&#x440;&#x43D;&#x44B;&#x445; &#x43F;&#x440;&#x438;&#x437;&#x43D;&#x430;&#x43A;&#x43E;&#x432;, &#x43F;&#x440;&#x438;&#x43C;&#x435;&#x43D;&#x435;&#x43D;&#x438;&#x435; &#x43F;&#x43E;&#x43B;&#x43D;&#x43E;&#x441;&#x432;&#x44F;&#x437;&#x43D;&#x43E;&#x439; &#x43D;&#x435;&#x439;&#x440;&#x43E;&#x43D;&#x43D;&#x43E;&#x439; &#x441;&#x435;&#x442;&#x438; &#x434;&#x43B;&#x44F; &#x430;&#x43F;&#x43F;&#x440;&#x43E;&#x43A;&#x441;&#x438;&#x43C;&#x430;&#x446;&#x438;&#x438; Q-&#x444;&#x443;&#x43D;&#x43A;&#x446;&#x438;&#x438;, &#x438;&#x441;&#x43F;&#x43E;&#x43B;&#x44C;&#x437;&#x43E;&#x432;&#x430;&#x43D;&#x438;&#x435; &#x43C;&#x435;&#x445;&#x430;&#x43D;&#x438;&#x437;&#x43C;&#x430; &#x432;&#x43E;&#x441;&#x43F;&#x440;&#x43E;&#x438;&#x437;&#x432;&#x435;&#x434;&#x435;&#x43D;&#x438;&#x44F; &#x43E;&#x43F;&#x44B;&#x442;&#x430; (Experience Replay) &#x441; &#x431;&#x443;&#x444;&#x435;&#x440;&#x43E;&#x43C; &#x43D;&#x430; 100 000 &#x437;&#x430;&#x43F;&#x438;&#x441;&#x435;&#x439; &#x438; &#x441;&#x442;&#x440;&#x430;&#x442;&#x435;&#x433;&#x438;&#x438; &#x44D;&#x43F;&#x441;&#x438;&#x43B;&#x43E;&#x43D;-&#x436;&#x430;&#x434;&#x43D;&#x43E;&#x433;&#x43E; &#x432;&#x44B;&#x431;&#x43E;&#x440;&#x430; (&#x3B5;-greedy) &#x434;&#x43B;&#x44F; &#x43E;&#x431;&#x435;&#x441;&#x43F;&#x435;&#x447;&#x435;&#x43D;&#x438;&#x44F; &#x431;&#x430;&#x43B;&#x430;&#x43D;&#x441;&#x430; &#x43C;&#x435;&#x436;&#x434;&#x443; &#x438;&#x441;&#x441;&#x43B;&#x435;&#x434;&#x43E;&#x432;&#x430;&#x43D;&#x438;&#x435;&#x43C; &#x441;&#x440;&#x435;&#x434;&#x44B; &#x438; &#x44D;&#x43A;&#x441;&#x43F;&#x43B;&#x443;&#x430;&#x442;&#x430;&#x446;&#x438;&#x435;&#x439; &#x43F;&#x43E;&#x43B;&#x443;&#x447;&#x435;&#x43D;&#x43D;&#x44B;&#x445; &#x437;&#x43D;&#x430;&#x43D;&#x438;&#x439;. &#x412; &#x445;&#x43E;&#x434;&#x435; &#x438;&#x441;&#x441;&#x43B;&#x435;&#x434;&#x43E;&#x432;&#x430;&#x43D;&#x438;&#x44F; &#x43F;&#x440;&#x43E;&#x432;&#x435;&#x434;&#x435;&#x43D;&#x43E; &#x43E;&#x431;&#x443;&#x447;&#x435;&#x43D;&#x438;&#x435; &#x430;&#x433;&#x435;&#x43D;&#x442;&#x430; &#x43D;&#x430; &#x43F;&#x440;&#x43E;&#x442;&#x44F;&#x436;&#x435;&#x43D;&#x438;&#x438; 500 &#x438;&#x433;&#x440;&#x43E;&#x432;&#x44B;&#x445; &#x44D;&#x43F;&#x438;&#x437;&#x43E;&#x434;&#x43E;&#x432; &#x441; &#x440;&#x430;&#x437;&#x43B;&#x438;&#x447;&#x43D;&#x44B;&#x43C;&#x438; &#x43A;&#x43E;&#x43D;&#x444;&#x438;&#x433;&#x443;&#x440;&#x430;&#x446;&#x438;&#x44F;&#x43C;&#x438; &#x441;&#x440;&#x435;&#x434;&#x44B;. &#x420;&#x435;&#x437;&#x443;&#x43B;&#x44C;&#x442;&#x430;&#x442;&#x44B; &#x43F;&#x43E;&#x43A;&#x430;&#x437;&#x430;&#x43B;&#x438; &#x443;&#x441;&#x442;&#x43E;&#x439;&#x447;&#x438;&#x432;&#x44B;&#x439; &#x440;&#x43E;&#x441;&#x442; &#x441;&#x440;&#x435;&#x434;&#x43D;&#x435;&#x433;&#x43E; &#x441;&#x447;&#x451;&#x442;&#x430; &#x441; 0 &#x434;&#x43E; 23.7 &#x432; &#x43F;&#x440;&#x43E;&#x446;&#x435;&#x441;&#x441;&#x435; &#x43E;&#x431;&#x443;&#x447;&#x435;&#x43D;&#x438;&#x44F; &#x438; &#x434;&#x43E;&#x441;&#x442;&#x438;&#x436;&#x435;&#x43D;&#x438;&#x435; &#x441;&#x440;&#x435;&#x434;&#x43D;&#x435;&#x433;&#x43E; &#x441;&#x447;&#x451;&#x442;&#x430; 25.5 &#x43F;&#x440;&#x438; &#x442;&#x435;&#x441;&#x442;&#x438;&#x440;&#x43E;&#x432;&#x430;&#x43D;&#x438;&#x438;, &#x447;&#x442;&#x43E; &#x43D;&#x430; 7.6% &#x432;&#x44B;&#x448;&#x435; &#x444;&#x438;&#x43D;&#x430;&#x43B;&#x44C;&#x43D;&#x43E;&#x433;&#x43E; &#x43F;&#x43E;&#x43A;&#x430;&#x437;&#x430;&#x442;&#x435;&#x43B;&#x44F; &#x43E;&#x431;&#x443;&#x447;&#x435;&#x43D;&#x438;&#x44F;. &#x41C;&#x430;&#x43A;&#x441;&#x438;&#x43C;&#x430;&#x43B;&#x44C;&#x43D;&#x44B;&#x439; &#x434;&#x43E;&#x441;&#x442;&#x438;&#x433;&#x43D;&#x443;&#x442;&#x44B;&#x439; &#x441;&#x447;&#x451;&#x442; &#x441;&#x43E;&#x441;&#x442;&#x430;&#x432;&#x438;&#x43B; 74 &#x43E;&#x447;&#x43A;&#x430;. &#x420;&#x435;&#x437;&#x443;&#x43B;&#x44C;&#x442;&#x430;&#x442;&#x44B; &#x43F;&#x43E;&#x434;&#x442;&#x432;&#x435;&#x440;&#x436;&#x434;&#x430;&#x44E;&#x442; &#x43F;&#x440;&#x438;&#x43C;&#x435;&#x43D;&#x438;&#x43C;&#x43E;&#x441;&#x442;&#x44C; Deep RL &#x434;&#x43B;&#x44F; &#x440;&#x435;&#x448;&#x435;&#x43D;&#x438;&#x44F; &#x437;&#x430;&#x434;&#x430;&#x447; &#x443;&#x43F;&#x440;&#x430;&#x432;&#x43B;&#x435;&#x43D;&#x438;&#x44F; &#x432; &#x441;&#x442;&#x43E;&#x445;&#x430;&#x441;&#x442;&#x438;&#x447;&#x435;&#x441;&#x43A;&#x438;&#x445; &#x441;&#x440;&#x435;&#x434;&#x430;&#x445; &#x438; &#x434;&#x435;&#x43C;&#x43E;&#x43D;&#x441;&#x442;&#x440;&#x438;&#x440;&#x443;&#x44E;&#x442; &#x441;&#x43F;&#x43E;&#x441;&#x43E;&#x431;&#x43D;&#x43E;&#x441;&#x442;&#x44C; DQN-&#x430;&#x433;&#x435;&#x43D;&#x442;&#x430; &#x43A; &#x43E;&#x431;&#x43E;&#x431;&#x449;&#x435;&#x43D;&#x438;&#x44E; &#x432;&#x44B;&#x443;&#x447;&#x435;&#x43D;&#x43D;&#x43E;&#x439; &#x441;&#x442;&#x440;&#x430;&#x442;&#x435;&#x433;&#x438;&#x438;.</p>
      </abstract>
      <trans-abstract xml:lang="en">
        <p>Deep reinforcement learning (Deep RL) is one of the most promising areas of machine learning. Deep reinforcement learning is an important area of machine learning that finds application in autonomous control, robotics, and gaming systems. This paper presents the implementation of the Deep Q-Network (DQN) algorithm for training an agent to control the Snake game. The methodology includes the formation of a compact vector representation of the environment state from 11 binary features, the use of a fully connected neural network to approximate the Q-function, the use of an experience replay mechanism with a buffer of 100,000 records, and an &#x3B5;-greedy strategy to ensure a balance between exploring the environment and exploiting the knowledge gained. During the study, the agent was trained over 500 game episodes with different environment configurations. The results showed a steady increase in the average score from 0 to 23.7 during training and an average score of 25.5 during testing, which is 7.6% higher than the final training score. The maximum score achieved was 74 points. The results confirm the applicability of Deep RL for solving control problems in stochastic environments and demonstrate the ability of the DQN agent to generalize the learned strategy.</p>
      </trans-abstract>
      <kwd-group xml:lang="ru">
        <kwd>&#x43E;&#x431;&#x443;&#x447;&#x435;&#x43D;&#x438;&#x435; &#x441; &#x43F;&#x43E;&#x434;&#x43A;&#x440;&#x435;&#x43F;&#x43B;&#x435;&#x43D;&#x438;&#x435;&#x43C;</kwd>
        <kwd>Deep Q-Network</kwd>
        <kwd>&#x43D;&#x435;&#x439;&#x440;&#x43E;&#x43D;&#x43D;&#x44B;&#x435; &#x441;&#x435;&#x442;&#x438;</kwd>
        <kwd>Q-&#x43E;&#x431;&#x443;&#x447;&#x435;&#x43D;&#x438;&#x435;</kwd>
        <kwd>&#x438;&#x433;&#x440;&#x43E;&#x432;&#x44B;&#x435; &#x430;&#x433;&#x435;&#x43D;&#x442;&#x44B;</kwd>
        <kwd>&#x43C;&#x430;&#x448;&#x438;&#x43D;&#x43D;&#x43E;&#x435; &#x43E;&#x431;&#x443;&#x447;&#x435;&#x43D;&#x438;&#x435;</kwd>
      </kwd-group>
      <kwd-group xml:lang="en">
        <kwd>reinforcement learning</kwd>
        <kwd>Deep Q-Network</kwd>
        <kwd>neural networks</kwd>
        <kwd>Q-learning</kwd>
        <kwd>game agents</kwd>
        <kwd>machine learning</kwd>
      </kwd-group>
      <funding-group>
        <funding-statement xml:lang="ru">&#x418;&#x441;&#x441;&#x43B;&#x435;&#x434;&#x43E;&#x432;&#x430;&#x43D;&#x438;&#x435; &#x432;&#x44B;&#x43F;&#x43E;&#x43B;&#x43D;&#x435;&#x43D;&#x43E; &#x431;&#x435;&#x437; &#x432;&#x43D;&#x435;&#x448;&#x43D;&#x435;&#x433;&#x43E; &#x444;&#x438;&#x43D;&#x430;&#x43D;&#x441;&#x438;&#x440;&#x43E;&#x432;&#x430;&#x43D;&#x438;&#x44F;.</funding-statement>
        <funding-statement xml:lang="en">The study was conducted without external funding.</funding-statement>
      </funding-group>
      <counts>
        <page-count count="9"/>
      </counts>
      <custom-meta-group>
        <custom-meta>
          <meta-name>metadata-license</meta-name>
          <meta-value>
            <ext-link ext-link-type="uri" xlink:href="https://creativecommons.org/publicdomain/zero/1.0/">CC0 1.0</ext-link>
          </meta-value>
        </custom-meta>
      </custom-meta-group>
    </article-meta>
  </front>
  <back>
    <ref-list xml:lang="ru">
      <title>&#x421;&#x43F;&#x438;&#x441;&#x43E;&#x43A; &#x43B;&#x438;&#x442;&#x435;&#x440;&#x430;&#x442;&#x443;&#x440;&#x44B;</title>
      <ref id="R1">
        <mixed-citation>Chen C., Ying V., Laird D. &#x413;&#x43B;&#x443;&#x431;&#x43E;&#x43A;&#x43E;&#x435; Q-&#x43E;&#x431;&#x443;&#x447;&#x435;&#x43D;&#x438;&#x435; &#x441; &#x440;&#x435;&#x43A;&#x443;&#x440;&#x440;&#x435;&#x43D;&#x442;&#x43D;&#x44B;&#x43C;&#x438; &#x43D;&#x435;&#x439;&#x440;&#x43E;&#x43D;&#x43D;&#x44B;&#x43C;&#x438; &#x441;&#x435;&#x442;&#x44F;&#x43C;&#x438;: &#x43E;&#x442;&#x447;&#x435;&#x442; &#x43E; &#x43F;&#x440;&#x43E;&#x435;&#x43A;&#x442;&#x435; // CS229 Final Project Report. Stanford University. 2016. &#x421;. 1&#x2013;6. URL: http://cs229.stanford.edu/proj2016/report/ChenYingLairdDeepQLearningWithRecurrentNeuralNetwords-report.pdf (&#x434;&#x430;&#x442;&#x430; &#x43E;&#x431;&#x440;&#x430;&#x449;&#x435;&#x43D;&#x438;&#x44F;: 26.12.2025).</mixed-citation>
      </ref>
      <ref id="R2">
        <mixed-citation>Mnih V., Kavukcuoglu K., Silver D. &#x438; &#x434;&#x440;. &#x41E;&#x431;&#x443;&#x447;&#x435;&#x43D;&#x438;&#x435; &#x438;&#x433;&#x440;&#x435; Atari &#x441; &#x438;&#x441;&#x43F;&#x43E;&#x43B;&#x44C;&#x437;&#x43E;&#x432;&#x430;&#x43D;&#x438;&#x435;&#x43C; &#x433;&#x43B;&#x443;&#x431;&#x43E;&#x43A;&#x43E;&#x433;&#x43E; &#x43E;&#x431;&#x443;&#x447;&#x435;&#x43D;&#x438;&#x44F; &#x441; &#x43F;&#x43E;&#x434;&#x43A;&#x440;&#x435;&#x43F;&#x43B;&#x435;&#x43D;&#x438;&#x435;&#x43C; // arXiv.org. 2013. &#x421;. 1&#x2013;9. URL: https://arxiv.org/abs/1312.5602 (&#x434;&#x430;&#x442;&#x430; &#x43E;&#x431;&#x440;&#x430;&#x449;&#x435;&#x43D;&#x438;&#x44F;: 26.12.2025).</mixed-citation>
      </ref>
      <ref id="R3">
        <mixed-citation>Mnih V., Kavukcuoglu K., Silver D. &#x438; &#x434;&#x440;. &#x423;&#x43F;&#x440;&#x430;&#x432;&#x43B;&#x435;&#x43D;&#x438;&#x435; &#x43D;&#x430; &#x443;&#x440;&#x43E;&#x432;&#x43D;&#x435; &#x447;&#x435;&#x43B;&#x43E;&#x432;&#x435;&#x43A;&#x430; &#x441; &#x438;&#x441;&#x43F;&#x43E;&#x43B;&#x44C;&#x437;&#x43E;&#x432;&#x430;&#x43D;&#x438;&#x435;&#x43C; &#x433;&#x43B;&#x443;&#x431;&#x43E;&#x43A;&#x43E;&#x433;&#x43E; &#x43E;&#x431;&#x443;&#x447;&#x435;&#x43D;&#x438;&#x44F; &#x441; &#x43F;&#x43E;&#x434;&#x43A;&#x440;&#x435;&#x43F;&#x43B;&#x435;&#x43D;&#x438;&#x435;&#x43C; // Nature. 2015. &#x422;. 518. &#x2116; 7540. &#x421;. 529&#x2013;533. DOI: 10.1038/nature14236.</mixed-citation>
      </ref>
      <ref id="R4">
        <mixed-citation>Osband I., Blundell C., Pritzel A., Van Roy B. &#x413;&#x43B;&#x443;&#x431;&#x43E;&#x43A;&#x43E;&#x435; &#x438;&#x441;&#x441;&#x43B;&#x435;&#x434;&#x43E;&#x432;&#x430;&#x43D;&#x438;&#x435; &#x441;&#x440;&#x435;&#x434;&#x44B; &#x441; &#x438;&#x441;&#x43F;&#x43E;&#x43B;&#x44C;&#x437;&#x43E;&#x432;&#x430;&#x43D;&#x438;&#x435;&#x43C; Bootstrapped DQN // Advances in Neural Information Processing Systems (NeurIPS). 2016. &#x422;. 29. &#x421;. 4026&#x2013;4034. URL: https://arxiv.org/abs/1602.04621 (&#x434;&#x430;&#x442;&#x430; &#x43E;&#x431;&#x440;&#x430;&#x449;&#x435;&#x43D;&#x438;&#x44F;: 26.12.2025).</mixed-citation>
      </ref>
      <ref id="R5">
        <mixed-citation>Schaul T., Quan J., Antonoglou I., Silver D. &#x41F;&#x440;&#x438;&#x43E;&#x440;&#x438;&#x442;&#x435;&#x442;&#x43D;&#x43E;&#x435; &#x432;&#x43E;&#x441;&#x43F;&#x440;&#x43E;&#x438;&#x437;&#x432;&#x435;&#x434;&#x435;&#x43D;&#x438;&#x435; &#x43E;&#x43F;&#x44B;&#x442;&#x430; // arXiv.org. 2015. &#x421;. 1&#x2013;21. URL: https://arxiv.org/abs/1511.05952 (&#x434;&#x430;&#x442;&#x430; &#x43E;&#x431;&#x440;&#x430;&#x449;&#x435;&#x43D;&#x438;&#x44F;: 26.12.2025).</mixed-citation>
      </ref>
      <ref id="R6">
        <mixed-citation>Schulman J., Wolski F., Dhariwal P. &#x438; &#x434;&#x440;. &#x410;&#x43B;&#x433;&#x43E;&#x440;&#x438;&#x442;&#x43C;&#x44B; &#x43F;&#x440;&#x43E;&#x43A;&#x441;&#x438;&#x43C;&#x430;&#x43B;&#x44C;&#x43D;&#x43E;&#x439; &#x43E;&#x43F;&#x442;&#x438;&#x43C;&#x438;&#x437;&#x430;&#x446;&#x438;&#x438; &#x43F;&#x43E;&#x43B;&#x438;&#x442;&#x438;&#x43A;&#x438; // arXiv.org. 2017. &#x421;. 1&#x2013;12. URL: https://arxiv.org/abs/1707.06347 (&#x434;&#x430;&#x442;&#x430; &#x43E;&#x431;&#x440;&#x430;&#x449;&#x435;&#x43D;&#x438;&#x44F;: 26.12.2025).</mixed-citation>
      </ref>
      <ref id="R7">
        <mixed-citation>Sutton R.S., Barto A.G. &#x41E;&#x431;&#x443;&#x447;&#x435;&#x43D;&#x438;&#x435; &#x441; &#x43F;&#x43E;&#x434;&#x43A;&#x440;&#x435;&#x43F;&#x43B;&#x435;&#x43D;&#x438;&#x435;&#x43C;: &#x432;&#x432;&#x435;&#x434;&#x435;&#x43D;&#x438;&#x435;. 2-&#x435; &#x438;&#x437;&#x434;. &#x41A;&#x435;&#x43C;&#x431;&#x440;&#x438;&#x434;&#x436;: MIT Press, 2018. 548 &#x441;. URL: http://incompleteideas.net/book/the-book-2nd.html (&#x434;&#x430;&#x442;&#x430; &#x43E;&#x431;&#x440;&#x430;&#x449;&#x435;&#x43D;&#x438;&#x44F;: 26.12.2025).</mixed-citation>
      </ref>
      <ref id="R8">
        <mixed-citation>Van Hasselt H., Guez A., Silver D. &#x413;&#x43B;&#x443;&#x431;&#x43E;&#x43A;&#x43E;&#x435; &#x43E;&#x431;&#x443;&#x447;&#x435;&#x43D;&#x438;&#x435; &#x441; &#x43F;&#x43E;&#x434;&#x43A;&#x440;&#x435;&#x43F;&#x43B;&#x435;&#x43D;&#x438;&#x435;&#x43C; &#x441; &#x438;&#x441;&#x43F;&#x43E;&#x43B;&#x44C;&#x437;&#x43E;&#x432;&#x430;&#x43D;&#x438;&#x435;&#x43C; Double Q-learning // Proceedings of the AAAI Conference on Artificial Intelligence. 2016. &#x422;. 30. &#x2116; 1. &#x421;. 2094&#x2013;2100. URL: https://arxiv.org/abs/1509.06461 (&#x434;&#x430;&#x442;&#x430; &#x43E;&#x431;&#x440;&#x430;&#x449;&#x435;&#x43D;&#x438;&#x44F;: 26.12.2025).</mixed-citation>
      </ref>
      <ref id="R9">
        <mixed-citation>Watkins C.J.C.H., Dayan P. Q-learning // Machine Learning. 1992. &#x422;. 8. &#x2116; 3&#x2013;4. &#x421;. 279&#x2013;292. DOI: 10.1007/BF00992698.</mixed-citation>
      </ref>
      <ref id="R10">
        <mixed-citation>Yuwono F., Yen G.P., Christopher J. &#x413;&#x43E;&#x43D;&#x43E;&#x447;&#x43D;&#x44B;&#x435; &#x430;&#x432;&#x442;&#x43E;&#x43C;&#x43E;&#x431;&#x438;&#x43B;&#x438; &#x441; &#x430;&#x432;&#x442;&#x43E;&#x43F;&#x438;&#x43B;&#x43E;&#x442;&#x43E;&#x43C;: &#x43F;&#x440;&#x438;&#x43C;&#x435;&#x43D;&#x435;&#x43D;&#x438;&#x435; &#x433;&#x43B;&#x443;&#x431;&#x43E;&#x43A;&#x43E;&#x433;&#x43E; &#x43E;&#x431;&#x443;&#x447;&#x435;&#x43D;&#x438;&#x44F; &#x441; &#x43F;&#x43E;&#x434;&#x43A;&#x440;&#x435;&#x43F;&#x43B;&#x435;&#x43D;&#x438;&#x435;&#x43C; // arXiv.org. 2024. &#x421;. 1&#x2013;8. URL: https://arxiv.org/abs/2410.22766 (&#x434;&#x430;&#x442;&#x430; &#x43E;&#x431;&#x440;&#x430;&#x449;&#x435;&#x43D;&#x438;&#x44F;: 26.12.2025).</mixed-citation>
      </ref>
    </ref-list>
  </back>
</article>
