宮崎大学 工学部 情報システム工学科 2016年度前期 授業科目：最適化理論

対象：3年次 前期 （2単位 選択）
時間：金 13:00〜14:30
教室： A-116
講義コード：7B40， ナンバリングコード：330
担当教員： 伊達 章 （工学部棟 A-333）
メール：
ホームページ：http://www.cs.miyazaki-u.ac.jp/~date/lectures/optimization/index.html
オフィスアワー： 木曜日 16:30--17:30 （事前連絡して頂ければ随時受け付けます）

キーワード

制約条件，目的関数，最適解，問題の定式化，曲線と曲面，固有値・固有ベクトル，2次形式の標準形とその最小・最大化，ヘッセ行列，テイラー展開，ラグランジュの未定乗数法，勾配法（山登り法，最急降下法），ニュートン法，共役勾配法，最小二乗法，線形計画法，シンプレックス法，退化，人工変数，双対原理，動的計画法，機械学習

概要

最適化とは，与えられた情報をもとに， 目的を達成するための最もふさわしい手段を選び出すことである． 身近なものでは，電車の乗り換え案内システムがある． 出発地・目的地と，条件（飛行機を使うなど）を入力すると， もっとも早く目的地に到着できる経路， もっとも安く辿り着ける経路などを回答してくれる． 現在（2016年）では，コンピュータの性能技術の進歩により， 解きたい問題を数学的に表現し定式化することができれば， 数理最適化ソルバーと呼ばれるツール（ソフトウェア） を使って気軽に問題を解くことができる． ただし，ソルバーを使いこなすには， それ相応の最適化の理論とアルゴリズムの理解が必要である． 本講義では，その背後にある， 各種の最適化手法の原理と計算法について説明する． 驚くべきことに，近年，最適化理論は，工学のあらゆる分野で応用されるようになっている． 時間があれば， ベイズ推論を始めとする統計的最適化， 神経回路モデルやスパースモデリングによる機械学習法など最新の話題についても説明したい．

目標

本科目は，以下の本学科ディプロマポリシーに対応します．

• 情報工学の基礎知識を習得し，問題解決に応用する能力
• 急速に進歩する情報技術に対応する能力

授業計画

あくまで予定であって、変更の可能性があります．

教科書「これなら分かる最適化数学」に書かれている順に進む予定です． 時間の関係上， 第4章の最小二乗法（講義「データ解析」で説明）の一部， 第5章の統計的最適化（後期の講義「パターン認識」で説明） の一部，第7章非線形計画法は省略する予定です． 第1，2章は，既に1年次に習った線形代数や解析の復習が多く， 講義では1，2回で済ませますが重要です． 丁寧に書かれている教科書なので，何度か読んで 手を動かせば分かるようになるはずです． 分かるまで，各自で復習をしておいてください．

• 第1回. 4/8 （金）講義の概要
  • 経路探索： navitime, yahoo, ekitan, jorudan, mapfan, goo, 駅すぱあと,
  • 数式の可視化：wolfram, google
  • Python：WindowsにPyCharm CEを導入する, 速修 python
  • コードリポジトリ：github
  • 検索 → deep learnig, deepface, spase modeling
• 第2回. 4/15 （金）数学的準備：曲線と曲面
• 第3回. 4/22 （金）数学的準備：1次形式と2次形式
• 第4回. 5/6 （金） 数学的準備：2次形式の標準形
• 4/29（金） 祝日 （昭和の日）
• 第5回. 5/13 （金）関数の極値： 関数の勾配と等高線
• 第6回. 5/20 （金）関数の極値： ラグランジュの未定乗数法
• 第7回. 5/27 （金）関数の最適化：勾配法，ニュートン法 （講義資料）
• 第8回. 6/3 （金）関数の最適化： 共役勾配法
• 第9回. 6/10 （金） 統計的最適化（講義資料 ）
  • 正規分布（python）， ss105.py
• 第10回. 6/17 （金） 動的計画法（講義資料）
  • プログラミングメモ C言語， コード
• 第11回. 6/24（金） 動的計画法：
  • 講義資料： 動的計画法（課題説明）， プログラミングメモ, コード（github）
  • 締切：定期試験の一週間前（7/19 火）まで．1 人2 回まで挑戦可．最大10分/回．⇒ 成績に10〜20点を加算．
    • 口頭試問対応日： 7/4（月）．7/7,14（木）．7/18（金）午前，7/19（火）午前
    • ↑ メールであらかじめ連絡をください（希望する時間の候補をいくつか列挙）．
• 第12回. 7/1 （金） 最小二乗法：連立一次方程式，特異値分解と一般化逆行列 （講義資料）
• 第13回. 7/8 （金）最近の話題
  • Google TensorFlow: an Open Source Software Library for Machine Intelligence, (github)， 解説記事 1, 2, 3
  • Amazon DSSTNE: Deep Scalable Sparse Tensor Network Engine. 検索語の例「dsstne, mnist」（検索結果）
  • Nvidia DIGITS
• 第14回. 7/15 （金） 総まとめ
• 第15回. 7/22 （金） 定期試験
• 第16回. 7/29 （金） 返却・解説

教科書・参考書籍

• 教科書： これなら分かる最適化数学一基礎原理から計算手法まで一， 金谷健一，2005, 共立出版．
• 数学 II・B（図形と式・ベクトル） の復習： 総合的研究 数学II+B, 長岡亮介，旺文社．
• 線形代数の復習：プログラミングのための線形代数，平岡和幸，堀玄， オーム社．
• 数学の発想のしかた，秋山仁，森北出版
• ドットインストール: python, C,

成績の評価基準

定期試験(70%)と小テスト・レポート(30%) により判定する．再試験はおこなわない．

• 伊達のHPへ