宮崎大学大学院 工学研究科 2017年度前期 授業科目：数理脳科学

単位数：2単位
対象：修士課程
日程：木 10:30〜12:00
教室：A-527
担当教員： 伊達 章
研究室番号： 工学部棟 A-333
メール：
ホームページ：http://www.cs.miyazaki-u.ac.jp/~date/lectures/neural/index.html
オフィスアワー： 木曜日 18:30--19:30 （事前連絡して頂ければ随時受け付けます）

概要

脳はどういう風に動いているのか． この講義では，その気分を数理モデルを使って味わうことが できることを示したい． 物事の断片から全体が想起される「連想記憶」， ニューロンが必要に応じて外界の環境に適応していく「自己組織地図」． そのような気分を感じることができる楽しい数理モデルを紹介する． これらのモデルは，1960年代後半から1970年代に発明（発見）されたモデルである． 研究が進んだとはいえ，現在でも，脳の情報処理は不明な点ばかりである． 数理脳科学は，脳の情報処理の「基本原理」の数学的に定式化，体系化することを目指している． 定式化できていない情報処理もたくさん残っており，これについても議論する． 講義全体を通してのテーマは『情報表現と計算』である．

授業計画

自分でコンピュータプログラムを書いて走らせること， 習った概念を，簡潔に口述説明できるようになること， などのトレーニングに重点を置く． 以下のスケジュールは予定で，課題レポートをこなしてもらうための 時間が足らないようなら途中で休憩の回をはさむかもしれない． スケジュールは1週間前には確定し，このページを更新する． 毎回，フル充電したノートパソコンを持参すること． 昨年度のページ

（これはあくまで予定であって，変更の可能性があります）

• 第1回. 4/13 (木) 講義全体の概論．脳とコンピュータ
  • プログラミング環境をインストールして，動作確認 （家で）． python, pip, PyCharm, NumPy, SciPy, matplotlib （それぞれ順に，プログラミング言語， パッケージ管理ツール，統合開発環境， 数値 計算用モジュール，科学計算用モジュール，グラフ表示用モジュール）
  • PyCharm CE のインス トール
• 第2回. 4/20 (木) ランダム結合の神経回路モデル その1
  • サンプルコード置き場 （github）
  • irl_utility.h, irl_utility.c， メモリの確保について （C言語のコードあり）
• 第3回. 4/27 (木) ランダム結合の神経回路モデル その2 （Coding しながら解説）
• --- 5/4 (木) は祝日（みどりの日）
• 第4,5回. 5/11 (木) 9:00開始 神経回路の連想記憶モデル その1, その2 （数学的解析，Coding）
  • 課題1 （締切 5/25）
• 第6回. 5/18 (木) 神経回路の自己組織化モデル： 連想記憶モデル その3
• 第7,8回. 5/25 (木) 9:00開始 神経回路の自己組織化モデル その1，その2：（Kohonen の自己組織化マップ，Coding しながら解説）
  • 課題2 （締切 6/8）
• 第9回. 6/1 (木) 神経回路の自己組織化モデル その3：高次元データの自己組織化
  • シミュレーションの準備．手書き数字データ MNIST の取り扱い方
• 第10回. 6/8 (木) 確率的生成モデル
  • 課題3 （締切 7/13）
  • 正規分布について
  • Python で乱数生成
• 第11回. 6/15 (木) 確率的生成モデル
  • composition_roc.h, irl_utility.h, irl_utility.c, Makefile
  • L.-B. Chang, Y. Jin, W. Zhang, E. Borenstein and S. Geman. Context, computation, and optimal ROC performance in hierarchical models, International Journal of Computer Vision, vol.93, pp.117-140, 2011. (pdf)
• 第12回 6/22 (木) 確率的生成モデル
• 第13回 6/29 (木) 深層学習（Deep Learning），3層回路の学習（バックプロパゲーション）
  • Grand Challenges by T.J. Sejnowski（動画）
  • 課題4
  • Cloud9 ： 演習室とほぼ同じ環境をクラウド上で実現．アカウント作成メモ
  • github 最低限の使用メモ
    • ファイルをダウンロードするときは，Raw を押して生ファイルの url を取得しておく．
    • hmm201.c，gp301png
  • Sony Neural Network Libraries (NNabla), (github), docs
  • Google TensorFlow: an Open Source Software Library for Machine Intelligence, (github)， 解説記事 1, 2, 3
  • Amazon DSSTNE: Deep Scalable Sparse Tensor Network Engine. 検索語の例「dsstne, mnist」（検索結果）
  • Nvidia DIGITS
• 第14回 7/6 (木) 総まとめ
• 第15回 7/14 (金) xxx

教科書・参考書

• S. Amari: Mathematical foundations of neurocomputing, Proceedings of the IEEE,vol. 78, pp.1443-1463, 1990. (pdf)
• 神経回路網モデルとコネクショニズム，甘利俊一，東京大学出版会，1989．
  （重要なことがとても分かりやすく書かれている．）
• 脳・心・人工知能 数理で脳を解き明かす (ブルーバックス) ，甘利俊一，講談社，2016.
  （「心と文明の法則」，「文明崩壊の危機」についてもまでも書かれている！）
• 人工知能の核心 (ＮＨＫ出版新書) ， 羽生善治， NHKスペシャル取材班，2017.
  （羽生さんの解説が，ため息が出るほどわかりやすい！）
• プログラミングのための確率統計， 平岡 和幸，堀 玄， オーム社 (2009/10)

成績の評価基準

レポート．口頭試問．

キーワード

• 伊達のHPへ