Last modified: Mon Jun 24 19:54:34 JST 2013
宮崎大学大学院 工学研究科 情報工学専攻 2013年度前期 授業科目：神経回路網特論
単位数：2単位
対象：修士課程
日程：火 10:30〜12:00
教室：A-527
担当教員：
伊達 章
研究室番号： 工学部棟 A-333
メール：
ホームページ：http://www.cs.miyazaki-u.ac.jp/~date/lectures/neural/index.html
講義中のコメント投稿先
オフィスアワー： 木曜日 18:30--19:30 （事前連絡して頂ければ随時受け付けます）
シラバス(wakaba)
概要
脳はどういう風に動いているのか．
この講義では，その気分を数理モデルを使って味わうことが
できることを示したい．
物事の断片から全体が想起される「連想記憶」，
ニューロンが必要に応じて外界の環境に適応していく「自己組織地図」．
そのような気分を感じることができる楽しい研究を，まず第一に，紹介する．
実は，これらの基本的な研究は，どちらも60年代後半から70年代の研究である．
研究が進んだとはいえ，現在でも，脳の情報処理には不明な点ばかりである．
実際の脳内から記録された実験データを解析する最近の研究を紹介し，
この現状を理解する．
そして，生物学的妥当性はともかく，目的論的立場から，
見るとか記憶することができる機械を作る基礎となる数理モデル研究の現状を紹介する．
講義全体を通してのテーマは情報表現と計算である．
授業計画
自分で簡単なプログラムを書いて走らせること，
習った新しい概念を，簡潔に口述説明できるようになること，
などのトレーニングに重点を置きます．
今年度は，これまでと講義方法を大幅に変更しています．
内容的には，ボルツマンマシンの回が増えています．
また，確率的生成モデルとその応用について，
最近の話題を麻生英樹先生が提供してくださいます．
ですので，いつもよりお得です．
* のついている回は，プログラミングをするため 9:00 開始とします．
以下のスケジュールは予定で，課題レポートをこなしてもらうための
時間が足らないようなら途中で休憩の回をはさむかもしれません．
スケジュールは1週間前には確定し，このページを更新します．
毎回，フル充電したノートパソコンを持参して参加するようにしてください．
昨年度のページ
- 第1回. 4/9 (火) 講義全体の概論．脳とコンピュータ
- *第2,3回. 4/16 (火) 神経回路の連想記憶モデル
- 第4回. 4/23 (火) 神経回路の連想記憶モデル
- *第5,6回. 5/7 (火)
確率的に動作する神経回路モデル：ボルツマン・マシン
- 第7回. 5/14 (火)
確率的に動作する神経回路モデル / 確率的生成モデル
- *第8,9回. 5/21 (火) 確率的生成モデル
- 正規分布について
- Python で乱数生成
- composition_roc.h, irl_utility.h, irl_utility.c, Makefile
- L.-B. Chang, Y. Jin, W. Zhang, E. Borenstein and S. Geman.
Context, computation, and optimal ROC performance in hierarchical models,
International Journal of Computer Vision, vol.93, pp.117-140, 2011.
(pdf)
- 5/28 (火) 休憩（自習）
- 6/4 (火) 休憩（自習）
- 第10回. 6/11 (火) 確率的生成モデル
- 第11回． 6/18 (火) 確率的生成モデル
-
H. Kunsch, S. Geman, and A. Kehagias,
Hidden Markov random fields,
Annals of Applied Probability, vol.5, no.3, pp.557-602, 1995.
(pdf)
-
S. Geman and K. Kochanek,
Dynamic programming and the graphical representation of
error-correcting codes,
IEEE Trans. Information Theory}, vol.47, no.2, pp.549-567, Feb. 2001.
(pdf)
- 課題データ：
その1： r2494294obs
その2： r7773obs；
-
パラメータ
データの読み方の例
- チェック用データセット:
アルゴリズムを理解していてプログラムにバグがなければ
Y から Xmap が得られる．
もとのデータ X：
r20070703true
観測データ Y：
r20070703obs
事後確率が最大になるよう推定した値 Xmap（+3）：
r20070703map
- 第12回． 6/25 (火) 確率的生成モデル
- 7/2 (火) 休憩（自習）
- 第13回. 7/5 (金) 15:00- 確率モデルからの記号の創発 （麻生英樹先生），教室： A-116
- *第14,15回. 7/6 (土) 10:00-15:00 パーティクルフィルタ，ノンパラメトリックベイズ，教室： A-116
教科書・参考書
- 神経回路網モデルとコネクショニズム，甘利俊一，東京大学出版会，1989．
（重要なことがとても分かりやすく書かれている．）
- C言語によるスーパーLinuxプログラミング，飯尾 淳，ソフトバンククリエイティブ (2011/6)
（とくに第III部 実践編：プログラミング開発事例が為になります．）
- プログラミングのための確率統計， 平岡 和幸，堀 玄， オーム社 (2009/10)
参考書籍・文献
- The Computational Brain,
Patricia S. Churchland, Terrence J. Sejnowski 著, MIT Press.
成績の評価基準
レポート．
キーワード
視覚，神経回路網，生成モデル，スパース符合化，自己組織マップ，連想記憶，