2019年3月13日水曜日

Tensorflow2.0

roadmap

roadmap和訳（ただし古い）

https://www.hellocybernetics.tech/entry/2018/09/20/001259

https://qiita.com/n_kats_/items/da69830a9c7e0b8259c6

https://qiita.com/n_kats_/items/d80dbb56f58e65da383b

2019年3月5日火曜日

計算論的精神医学: 情報処理過程から読み解く精神障害

計算論的精神医学―情報処理過程から読み解く精神障害

国里愛彦/片平健太郎/沖村宰/山下祐一【著】

価格 ¥3,780（本体¥3,500）

勁草書房（2019/01発売）

精神疾患のモデルに機械学習をモデルを適用したアプローチである。勁草書房から出ている

という点が面白い。ニューラルネットワークは神経細胞のをモデル化したものだが、それを精神疾患に適用できるのか？心の哲学に意識のハードプロブレムというものがある。心と脳の問題に及んでくる問題である。

計算論的精神医学: 情報処理過程から読み解く精神障害

研究室

出版社HP
目次

まえがき

第1部　理論編

第1章　精神医学の基本問題
　1.1 はじめに
　1.2 疾病分類学の問題
　1.3 バイオマーカーの問題
　1.4 説明のギャップ（異なるレベル間を橋渡しする理論の不在）の問題

第2章　計算論的アプローチ
　2.1 はじめに
　2.2 Marr の3つの水準
　2.3 計算論的精神医学
　2.4 計算論的アプローチの利点
　2.5 計算論的心身医学と計算論的臨床心理学

第3章　計算論的精神医学の方法
　3.1 計算論的精神医学と生成モデル
　3.2 計算論的精神医学で用いられる生成モデルと研究方法
　3.3 生物物理学的モデル
　3.4 ニューラルネットワークモデル
　3.5 強化学習モデル・ベイズ推論モデル
　3.6 計算論的精神医学の方法論の洗練化に向けて

第2部　方法論

第4章　生物物理学的モデル
　4.1 はじめに
　4.2 神経系，ニューロンの概要
　4.3 代表的な生物物理学的モデルの説明

第5章　ニューラルネットワークモデル
　5.1 はじめに
　5.2 ニューラルネットワークモデルの動作原理
　5.3 ニューラルネットワークモデルの学習
　5.4 時系列情報を扱うニューラルネットワークモデル：リカレント・ニューラルネットワーク（RNN）
　5.5 連続時間型リカレント・ニューラルネットワーク（CTRNN）
　5.6 多時間スケールリカレント・ニューラルネットワーク（MTRNN）
　5.7 初期値敏感性，パラメトリックバイアス，トップダウン的予測とボトムアップ的修正
　5.8 適応行動の計算理論「予測符号化」・神経ロボティクス

第6章　強化学習モデル
　6.1 はじめに
　6.2 行動価値にもとづく強化学習モデル
　6.3 行動データからの強化学習モデルのパラメータ推定
　6.4 状態価値に基づく強化学習モデル
　6.5 強化学習モデルにおけるモデル選択
　6.6 状態遷移，遅延報酬を扱う強化学習モデル
　6.7 TD 学習
　6.8 モデルフリー強化学習とモデルベース強化学習
　6.9 強化学習とその神経基盤

第7章　ベイズ推論モデル
　7.1 はじめに
　7.2 ベイズ推論
　7.3 カルマンフィルター
　7.4 階層ガウシアンフィルター
　7.5 自由エネルギー原理
　7.6 おわりに

第8章　疾病分類・研究方略への計算論的アプローチ
　8.1 はじめに
　8.2 現状の疾病分類・研究方略
　8.3 計算論的精神医学による疾病分類・研究方略への貢献
　8.4 展望

第3部　精神疾患への適用事例

第9章　計算論的精神医学の具体的研究事例
　9.1 統合失調症の計算モデル研究
　9.2 気分障害の計算モデル研究
　9.3 自閉スペクトラム症の計算モデル研究
　9.4 強迫性障害の計算モデル研究
　9.5 心的外傷後ストレス障害の計算モデル研究
　9.6 物質使用関連障害の計算モデル研究

第10章　生物物理学的モデルを用いた計算論的精神医学研究
　10.1 はじめに
　10.2 ニューロン群の持続的活動の解析研究
　10.3 Rolls らのアトラクターネットワークモデルによる研究
　10.4 脳のラージスケールシステムのモデル研究

第11章　ニューラルネットワークモデルを用いた計算論的精神医学研究
　11.1 はじめに
　11.2 ニューロン新生とうつ病
　11.3 シナプス刈り込みと幻覚・妄想
　11.4 ニューロンゲインと文脈的情報処理の異常とドーパミン
　11.5 階層的な神経回路の階層間の機能的結合の異常と統合失調症の病態メカニズム
　11.6 予測精度の推定とその失調としての精神障害

第12章　強化学習モデルを用いた計算論的精神医学研究
　12.1 統合失調症と強化学習モデル
　12.2 薬物依存と強化学習
　12.3 うつ病のアンヘドニアと強化学習
　12.4 双極性障害と強化学習
　12.5 モデルベース強化学習・モデルフリー強化学習のバランスと精神障害
　12.6 抑うつとモデルベース強化学習
　12.7 恐怖学習と強化学習モデル

第13章　ベイズ推論モデルを用いた計算論的精神医学研究
　13.1 ベイズ推論モデルの精神障害への適用
　13.2 統合失調症のベイズ推論モデル
　13.3 感覚の減衰と能動的推論
　13.4 幻聴と階層ガウシアンフィルター
　13.5 自閉スペクトラム症のベイズ推論モデル
　13.6 自閉スペクトラム症の視覚弁別と階層ガウシアンフィルター
　13.7 まとめ

付録
参考文献
索引
著者紹介

2019年2月19日火曜日

『死ぬまでに学びたい物理学』山口栄一著

(筑摩選書) 単行本 – 2014/5/13

山口栄一 (著)

死ぬまでに学びたい5つの物理学 (筑摩選書) ５つの物理学とは

1.万有引力の法則

2.統計力学

3.エネルギー量子仮説

4.相対性理論

5.量子力学

これらは高校や大学レベルの内容もあるが、内容は正確な内容の説明ではなく、著者の目

的は、これらの理論が産み出された物理学者の創発のプロセスである。

創発（この本ではabduction)が、科学の知の営みであり、帰納や演繹ではないとういう事

を最初に論じたのはチャールズ・パースである。

1.驚くべき事実がAが発見された。

2.ある仮説Cが正しければ事実Aは当然の帰結である。

3.よって仮説Cが正しいと信じる理由がある。

CからAを導く推論を「創発」と定義した。

ビッグデータなどの解析は帰納であり、創発にはならず、それゆえコンピュータは人間に

及ばないとも言っている。

そしてイノベーションダイアグラムという図を紹介する。

２次元の座標で、縦軸に「知の具現化」、横軸に「知の創造」をとる。

このイノベーションダイアグラムでは

・経済的、社会的に価値づけられている知（図の青の領域より上の領域）

・価値づけられていない知（図の青の領域）「土壌」ともよぶ。

にわけている。

以下、本書p.188からの引用

　「創発」はずべて土壌の下で行われている。知を創造するプロセスは「夜の科学」　　であって、真の闇のなかで行われる。真の闇の中はろうそくを持たず、マニュアルも教科書も持たずに進んでいく。ただただ暗黙知を頼りに前に進むしかありません。しかも土壌の上に住む人々や社会や市場には、土壌の下、「夜の科学」は見えません。

一方、土壌の上には燦々と太陽が降り注ぎ、どこまでも見渡せる市場の世界。「演繹」によって芽が土壌の上に芽吹いたとき、価値が産まれます。つまり、それは新製品、新サービスになって何らかの役にたつ価値をもたらします。そこで「知の具現化」はとりもなおさず「価値の創造」です。

　このイノベーションダイアグラムでは重要な仮説を含んでいます。それは「知の創造」行為としての「創発」は、かならず「帰納」が最初にないとおこらない、ということです。「帰納」のプロセスはいったん物事の本質に下りなければ「創発」はおきず、パラダイムを破壊するような新しい知は創造されない。「創発」はかくて土壌の下でしか起きない。

この考えで、本書は５つの物理理論の創発過程を説明しています。最後にはiPSの山中教授の創発プロセスが紹介されています。

個人的には、山中教授が２４個から絞り込んだ遺伝子から４つに遺伝子を選び抜く作業で助教の人の一個ずつ減らしていくアドバイスからこの作業から発見したとあるのですが、機械学習に興味あるものにとって、この特徴選択を深層学習で解析してみたいとも考えています。遺伝子のどの特徴が重要で４つに絞られていくのかに着目したい。４つだけではないかも...と夢想します。

2019年1月31日木曜日

RubyとRailsの学習ガイド2019年版

https://magazine.rubyist.net/articles/0059/0059-Ruby-Rails-Beginners-Guide.html

2019年1月29日火曜日

AlphaStar

How AlphaStar is trained

AlphaStar’s behaviour is generated by a deep neural network that receives input data from the raw game interface (a list of units and their properties), and outputs a sequence of instructions that constitute an action within the game. More specifically, the neural network architecture applies a transformertorso to the units (similar to relational deep reinforcement learning), combined with a deep LSTM core, an auto-regressive policy head with a pointer network, and a centralised value baseline. We believe that this advanced model will help with many other challenges in machine learning research that involve long-term sequence modelling and large output spaces such as translation, language modelling and visual representations.

AlphaStar also uses a novel multi-agent learning algorithm. The neural network was initially trained by supervised learning from anonymised human games released by Blizzard. This allowed AlphaStar to learn, by imitation, the basic micro and macro-strategies used by players on the StarCraft ladder. This initial agent defeated the built-in “Elite” level AI - around gold level for a human player - in 95% of games.