第1次AIブーム
1950〜1960年代
推論と探索によるパズル・迷路・チェス。明確に定義された特定の問題しか対応できず"トイプロブレム"と呼ばれる。
第2次AIブーム
1980年代
エキスパートシステム、知識データベースから専門家のように返答。膨大な知識の管理や例外や矛盾に対処できず。知識獲得のボトルネック
DENDRAL:有機化合物の分子構造、MYCIN:感染症の診断・抗生物質処方、CASNET:緑内障の診断支援、PIP:腎臓病の診断支援
第3次AIブーム
2000年代
ディープラーニング、インターネット普及によりデータなどが集めやすくなった。
1982年
ネオコグニトロン
CNNの先駆けモデル。特徴抽出を行うS細胞層と位置ずれを許容するC細胞層を交互に重ねた多層構造をもつ神経回路モデル。
1998年
LeNet
ヤン・ルカンによってCNNの第一号。畳み込み層とプーリング層を交互に重ねたネットワーク。
ILSVRC CNNを用いた画像認識の誤差率を競うコンペティション。2017年以降はKaggleという機械学習のコンペティションの中で開催。
2012年
AlexNet
トロント大学のヒントン教授、前年の誤差率を10%以上改善。8層のネットワークでドロップアウト、データ拡張、バッチ正規化などのテクニックを取り入れている。
2013年
ZFNet
2013年ILSVRC優勝モデル,AlexNetの問題点を改良。小サイズのフィルタを利用した畳み込み演算を取り入れたアーキテクチャを用いたモデル
2014年
GoogLeNet
2014年ILSVRC優勝モデル,入力層から出力層まで一直線ではなく、異なるサイズの畳み込み層を並列に並べたインセプションモジュールを組み合わせた。
2014年
VGG
2014年ILSVRC準優勝モデル,オックスフォード大学のチームにより提案。シンプルで分かりやすいアーキテクチャであるため汎用的なモデルとして人気。典型的なCNNだが隠れ層が16層や19層のものがある。小さいフィルタを多数畳み込む。
2015年
ResNet
2015年ILSVRC優勝モデル,人間の認識精度と言われている5%を超えた。Microsoft Reserchにより提案。層を飛び越えた結合をもつスキップ結合という技術により最大1000層以上の深いニューラルネットワークを構築しても勾配消失が抑えられた。
2016年
DenseNet
2016年の優勝モデルはなし。研究の発表は2017? DenseNetは画像認識タスクに優れ、各層が前のすべての層と接続されており、情報を効率的に伝播させることができる。勾配消失問題を軽減し、モデルのパラメータ数を削減しつつも高い性能を発揮します。
2017年
SENet
2017年ILSVRC優勝モデル,深層学習モデルが特徴マップのチャネルごとの重要度を動的に調整できるように設計されています。これにより、重要な情報を強調し、不要な情報を抑制。
2019年
EfficientNet
ICML2019で発表された論文,Compound Coefficientに基づいて、小さなモデルで効率よく高い精度を達成。
1997年
Deep Blue
IBM社、チェスの世界チャンピオンを破った。
2009年
ワトソン(Watson)
米国のクイズ番組Jeopardy!に参戦し、2011年に史上最強のチャンピオンと対戦し勝利。ライトウェイトオントロジーを応用
2013年
Atari社、ゲームにおける攻略スコアが人間を超える。
2015年
AlphaGo
DeepMind社、囲碁のトップ棋士(イ・セドル九段)を打ち倒す。モンテカルロ木探索法とCNNを使用。人間の棋譜データを学習データとして教師あり学習を行なっている。
2017年
AlphaGo Zero
DeepMind社、完全自己対局で学習している。
2017年
Alpha Zero
DeepMind社、囲碁に限らず将棋やチェスなどの分野でも自己対戦のみで学習できる。
2019年
Alpha Star
DeepMind社、スタークラフトというゲームにおいてトップマスターを打倒。ResNet,LSTM,トランスフォーマーなどの手法を組み合わせて学習を行う。
2019年
OpenAI five
Open AI社、Dota2という対戦型リアルタイムストラテジーゲームで世界王者を破って勝利。