オッカムの剃刀

タイトルのオッカムの剃刀(≠オッカマの髭剃り)とはなにか？ 

 (研究なりしてて良く目にする言葉なのでこの際少し語ってみるかってかんじで書いてる。)

【オッカムの剃刀】

ある事柄を説明するために 、必要以上に多く 実体を仮定するべきでない (14世紀 哲学者Occam)

機械学習的には、(読み飛ばしていい)

あるデータが与えられたとき、モデルを複雑 にすればするほど、そのデータをうまく説明できなくなる。 しかし、そのようなモデルは不必要に複雑なモデルであり、計算が困難であるばかりでなく、 過去のデータに過剰に適合してしまい、未来のデータを説明できなくなってしまう。

つまりこんな感じ。

読者のハテナが増えてきた。

分かりやすく言うと、

「外から力がかからない物体は、神が等速でまっすぐに動かし続けている」

これには、(神が)というのは不必要だから剃り落とした方が実際を説明できる。

言いたいことはね、

色んなことを考慮に入れ過ぎたらそれは本質とかけ離れていくよ。肩の力抜こうぜ。

P.S. 肩の力を抜きすぎることをバイアスがかかる。次回こそは簡単なお話する。