明日から実践!強化学習で強い対戦ゲームAIを作ろう 〜だれでも試せる状態をめざして〜

タグ:
日時:
2021年08月26日(木)16時10分〜17時10分
形式: レギュラーセッション(60分)
受講スキル:
・ゲーム開発、対戦AI開発に関わっている、もしくは興味のある方(エンジニア・プランナーどなたでも) ・強化学習を利用したことがある、もしく興味のある方 特別なスキルは不要ですが、強化学習や機械学習を単語レベルでも知っていると理解しやすいかもしれません。
受講者が得られるであろう知見:
・強化学習で作れる対戦AIとそのユースケース ・大規模な強化学習の実施に必要なテクニック・ノウハウ・情報 ・強化学習に必要なシミュレータに求められる要件と実現方法 ・強化学習を効率よく利用するために必要な開発環境
セッションの内容

プレイヤー同士が対戦するようなゲームでは、人間の相手をする対戦AIの開発が必要となることが多いでしょう。我々はAI技術の一種である強化学習を活用した対戦AIの作成に取り組んできました。強化学習を活用すると、手動で作るAIの行動ルールやプレイヤーの対戦ログを必要とせずに、対戦AIは自律的にゲームプレイを学習して強くなっていきます。一般的に強化学習の適用は簡単ではないと言われることが多いですが、安定して強い対戦AIを作れるようになってきました。

本セッションでは、長年の開発過程で得た強化学習を横展開するために必要なシミュレータやアルゴリズム、開発ノウハウについて紹介します。講演の終わりには受講者のみなさんが強化学習を試すことができる状態を目指し、DeNA で開発した強化学習ライブラリ「HandyRL」を軸として強い対戦ゲームAIを作るための実践的な方法を紹介します。

また、解説する内容はKaggleで開催されたゲームAIの世界大会の入賞時に使用した手法でもあります。
・「Google Research Football with Manchester City F.C.」5位入賞(サッカーゲーム)
・「Hungry Geese」2021年2月度優勝(4人対戦ヘビゲーム)


講演資料

  • CEDEC_DeNA_HandyRL.pdf

※資料のダウンロードにはログインが必要です。


講演者プロフィール

田中 一樹

田中 一樹
所属 : 株式会社ディー・エヌ・エー
部署 : システム本部 データ統括部 データサイエンス部 第二グループ
役職 : データサイエンティスト

2017 年に DeNA 入社後、データサイエンティストとしてアプリゲーム『逆転オセロニア』に関する AI 機能の開発に従事。現在は、多様な事業へのデータサイエンス活用を目指した開発や新たな課題発掘に従事。『速習 強化学習 −基礎理論とアルゴリズム−』(共著)『Practical Developers ――機械学習時代のソフトウェア開発[ゲームアプリ/インフラ/エッジ編]』(共著)を執筆。Kaggle Master。

《講演者からのメッセージ》
強化学習ってすごい!おもしろい!べんり!と思ってもらうために応募しました。
専門的な内容だけではなく、実務観点で強化学習を使って感じていることもお話します。
お気軽にお越しください!

大渡 勝己

大渡 勝己
所属 : 株式会社ディー・エヌ・エー、株式会社quantum

ゲームAIを初めとしたAIの研究開発を8年行なっています。

《講演者からのメッセージ》
強化学習は人間に解けない問題を解くことを目指す重要な基礎技術です。
最初は赤ちゃんのような失敗ばかりするAIは、いつの間にか我々の能力に追いつき、一瞬で抜き去っていきます。
今人間が解くのに苦心している大量の問題が、AIによって解かれ人類の成果が飛躍的に向上する未来。
賭けてみませんか。

共同研究・開発者

甲野 祐(株式会社ディー・エヌ・エー)