高卒でもわかる機械学習 (6) 誤差逆伝播法 その2

これはITエンジニア向けの記事です。前置きはこちら
記事中に間違いなどがあれば何卒ご指摘お願いします。

今回書くこと

前回、多層パーセプトロンの重み更新の理論として、誤差逆伝播法の考え方の概要を、数式を使って説明しました。
しかし出てきた数式が出力層付近のみの式だったので、今回はすべての層に一般化した更新式を導きます。

続きを読む

高卒でもわかる機械学習 (5) 誤差逆伝播法 その1

これはITエンジニア向けの記事です。前置きはこちら
記事中に間違いなどがあれば何卒ご指摘お願いします。

はじめに

多層パーセプトロンの重みを更新する理論について解説します。
更新すべき重みがたくさんあるので単純パーセプトロンより難しいですが、ここがわかると近年流行したディープラーニングを理解するための基本ができあがります。
ただし、結構長いので、「理論はざっくりでいいから最終的に使える重み更新式が知りたい」という人は、別のサイトや本を読むのをお勧めします。

なお、記事中で使われる各種記号の定義は前回やりましたので、わからなくなったらそちらを参照してください。

続きを読む

高卒でもわかる機械学習 (4) 誤差逆伝播法の前置き

これはITエンジニア向けの記事です。前置きはこちら
記事中に間違いなどがあれば何卒ご指摘お願いします。

前回からだいぶ時間が空いてしまいました。
誰も見てないものかと…

多層パーセプトロンの学習法として使われる誤差逆伝播法について書いていきますが、この記事シリーズのルール「長いけど平易」を守るとけっこうな長さになったので、分割して掲載します。
今回は一言で言えば誤差逆伝播法の理論で使う記号の定義をするだけです。
しかし僕のような数式に慣れていない人間にとっては、実はここが一番の難関かも知れないとすら思っているので、腰をすえてじっくりやろうと思います。
正念場です。

続きを読む

高卒でもわかる機械学習 (3) 多層パーセプトロン

これはITエンジニア向けの記事です。前置きはこちら
記事中に間違いなどがあれば何卒ご指摘お願いします。

XOR問題:単純パーセプトロンの限界

単純パーセプトロンの学習によって論理演算(ANDやORなど)の役割を果たす識別器を作ることを考えます。
真 = 1, 偽 = 0 とおき、x_1, x_2 それぞれでいずれかを入力します。
パーセプトロンを通過した結果、それらを論理演算した値(0または1)が出力されるようにします。

論理演算パーセプトロン

続きを読む

高卒でもわかる機械学習 (2) 単純パーセプトロン

これはITエンジニア向けの記事です。前置きはこちら
記事中に間違いなどがあれば何卒ご指摘お願いします。

単純パーセプトロン

動物の神経細胞(ニューロン)は、樹状突起という部位で他の細胞から複数の入力を受け取り、入力が一定値以上に達すると信号を出力する(これを「発火する」と言ったりします)とされており、それをモデル化したものとして形式ニューロンというものが提案され、さらに応用してパーセプトロンというモデルが発明されました。1
と、難しそうなことを書きましたが、ざっくり絵にするとこんな感じです。

パーセプトロン

続きを読む

高卒でもわかる機械学習 (1) 識別関数の前知識

これはITエンジニア向けの記事です。前置きはこちら
記事中に間違いなどがあれば何卒ご指摘お願いします。

教師あり学習

大量のメールがあって、それぞれ人間の目でSPAMかどうかが判定済みであるとします。
それらのメールの何となくSPAMっぽい2単語「主人」「オオアリクイ」に注目し、各メールにそれらの単語が何回出てくるかを数えてグラフにプロットしたら下記のようになったとします。
(「主人」出現回数をx_1、「オオアリクイ」出現回数をx_2とおきます。)

SPAMグラフ

続きを読む

高卒でもわかる機械学習 (0) 前置き

これはITエンジニア向けの記事です。

はじめに

ディープラーニングとか熱いですよね。

ライブラリやネットサービスを使えばそういう技術を試すことはできるのですが、基本的な理論を知っておくのは大切なんじゃないかと思います。
しかし、本やネットの情報は大学初等レベルの数学の知識を前提としているものが多く、高卒の僕なんかには大変つらいです。
そこで、この記事シリーズでは、「こう言ってくれれば僕でもわかった」という観点で、機械学習の基本について説明みたいな事を書いていこうと思います。
「長いけど平易」な感じを目指します。

続きを読む

給与や報酬は「辛い思いをした対価」ではない

勘違いしている人をたまに見るが、給与や報酬は「辛い思いをした対価」ではない。

誤解を生む遠因として、労働力の需要と供給の関係があると思う。
「五体満足なら誰でもできるが、誰もやりたがらない仕事」というものがある。
学生時代に“危ないバイト”の噂で盛り上がった経験のある人も多いはずだ。
果敢にもそれらを実践したことのある人もいるだろう。
そういった仕事には労働者が集まらないので、雇用者は報酬をできる限り高く設定するしかない。
つまり、労働力の供給が需要に対して少ないために価格が上がるというものである。
続きを読む

Future Sync vol.3 の参加登録がグイグイ伸びてる

Future Sync vol.3

2013/5/11(土)に、福岡でFuture Sync vol.3というイベントが開催されます!
ITを中心として、デザインや、技術や、コンテンツについてのカンファレンスを大量に聞くことができる、熱の籠もったごちゃ混ぜイベントです。
一昨年の第1回から運営のコアな部分に関わらせて頂いており、それも今回で3回目ということになります。

タイムテーブルを見ると分かるとおり、セッションが全部で20もあります。
この錚々たる登壇者の方々をどのようにピックアップさせて頂いたかというと、「コアスタッフが是非とも講演を聞きたい人!」という基準だったりします。(もちろん、その上で全体のシナリオやバランスを考慮するのですが。)
自分たち自身がお話を聞きたくてたまらない方々だから、スタッフ一同、自信を持ってお勧めできるのです。
(そんな運営をやってみたい方、歓迎しますので、ぜひご連絡下さい!)

何よりセッションのラインナップが素晴らしいのは、「それ1人で家で勉強できるじゃん」というようなコンテンツではないという点だと思っています。
そして、クラウドや、プロジェクションマッピングや、ゲーム、アニメ制作、不動産のリノベーションに至るまで、様々なセッションが終わった後は、それらを“Sync”する場として、スタンディング形式での懇親会が行われます。
これも重要なコンテンツの1つです。
※4/28現在、懇親会は定員をオーバーしております。

会場は、前回もお世話になった九産大。
無線LANや電源が完備され、大人数を収容でき、全員に見やすいスクリーンの揃った、IT系カンファレンスの会場としては最高の環境です!

 日時:2013年5月11日(土)
 会場:九州産業大学 情報科学部(12号館)
 入場料:1,000円(学生 無料)
 申し込みはこちらから

イベントがどんな風に運営されてるだとか、各スタッフのすごさとか、お金周りの話とか、そういうのも書きたいんだけど、今日はひとまず告知まで。
自信を持って言います、「是非来て下さい!」