読者です 読者をやめる 読者になる 読者になる

not good but great

プログラミング、アート、映画・本の感想について書きます。

Machine Learning

Chainerで「RuntimeError: cuDNN does not allow an eps value less than 1e-5」

epsの関するエラー RuntimeError: cuDNN does not allow an eps value less than 1e-5. cudnn.hで「CUDNN_BN_MIN_EPSILON」の定義を見る。 #define CUDNN_BN_MIN_EPSILON 1e-5 // Minimum epsilon allowed to be used in the Batch Normalization formula ep…

deep photo style transferできなかった

レポジトリ GitHub - luanfujun/deep-photo-styletransfer: Code and data for paper "Deep Photo Style Transfer": https://arxiv.org/abs/1703.07511 Build準備 module ‘loadcaffe’ not found:No LuaRocks module found for loadcaffe apt-get install lib…

「a CUDA runtime call was likely performed without using a StreamExecutor context」の対処法

「a CUDA runtime call was likely performed without using a StreamExecutor context」が出たらTensorflow以外のフレームワークを使っていないか確かめよう。 自分の場合はChainer、GPU(CUDA)を使ったプログラムで出力したpickleファイルをTensorflow、GPU…

Lasagneの初期化関数

LasagneのDenseLayerの初期化関数はxavierなのかな。 Lasagne/init.py at 996bf64c0aec6d481044495800b461cc62040041 · Lasagne/Lasagne

Ubuntu 14.04でTheanoをinstallする

これをやったらいけた。 Install Theano on Ubuntu 14.04

カテゴリカル分布(categorical distribution)のcross entropy

Multinomial distributionとCategorical distributionの違い - LESS IS MORE Theano実装 Theano/nnet.py at ae36be011c98b1a2f30753162db01f6588ff8be3 · Theano/Theano Can softmax be used with cross entropy? : MachineLearning

Pythonの環境設定、CUDA、cuDNNをインストール

Pythonの環境設定 conda で python の環境つくり condaは使わない、ブラックボックスなところが多い UbuntuでPythonの開発環境を整える - Qiita pyenv yyuu/pyenv: Simple Python version management UbuntuでPythonの開発環境を整える - Qiita pyenv-virtua…

主成分分析、Autoencoderについて調べた

主成分分析について調べる 最初は主成分分析について調べた。 10分でわかる主成分分析(PCA) 実装 https://github.com/contaconta/PCA_lecture/blob/master/PCA.ipynb 大まかに理解する Kerasで学ぶAutoencoder まずこれを読んだ Kerasのコードがあるので数式…

Python2.7,OpenCVで画像を回転

機械学習を用いて顔認識したいとき、顔の画像データが大量に必要になります。しかし手元に少量しかない時、データを増やすことをやるそうです(Data Augmentation)。その手法の一つに画像を微妙に回転させるやり方があります。OpenCVを使って画像を回転させて…

AV作品のタイトルデータを元にword2vecを使って、「ちんちん - 男 + 女」の結果を見る

Machine Learning for Artists Advent Calendar 2016 - Qiita こちらのAdvent Calendarの1日目になります。 DMM APIを用いて取得したAVタイトルデータを元にword2vecを使って、「ちんちん - 男 + 女」の結果を見てみましょう。 code コードはこちらに置いて…

DMM API、char-rnn(リカレントニューラルネットワーク)でAV作品の紹介文を自動生成

前回やったこと 以前、マルコフ連鎖でAV作品の紹介文を自動生成した。 DMM API・MeCab・マルコフ連鎖でAV作品の紹介文を自動生成 - Qiita 今回用いた手法 今回はRNN(Recurrent Neural Network)というニューラルネットワークを用いてやってみることした。 実…

Kadenze CADL session2 の課題 image painting

celeb dataset パラメータを適当に変更 gifs = train(imgs=imgs, learning_rate=0.001, batch_size=300, n_iterations=10, gif_step=10, n_neurons=20, n_layers=10, activation_fn=tf.nn.relu, final_activation_fn=tf.nn.tanh, cost_type='l2_norm') 真木…

「Machine Learning for Artists もくもく会 2016 Aug」を開催しました

eventdots.jp 渋谷のdotsで「Machine Learning for Artists もくもく会 2016 Aug」を開催しました。今回は3回目。Webエンジニア、機械学習を業務で使っている方、エンジニアでない方と、多様なメンバーが来てくださりました。 自分はKadenzeの講座の課題をや…

chainer-fast-neuralstyleを試す

GitHub - genekogan/CubistMirror: an openframeworks app which repeatedly applies real-time style transfer on a webcam genekoganさんがCubistMirrorというリアルタイムでneuralstyleを試すものを公開していた。やってみることにした。 GitHub - yusuke…

第2回 Machine Learning for Artists もくもく会を開催しました

2回目となる開催。ありがたいことに6名の方が参加してくれました。みなさんバックグランドが多種多様で、魅力のある方ばかりですw nodeschoolという100人規模のイベントが横で開催されており、騒がしかったですが、ほそぼそともくもくしてました。途中nodesc…

Kerasのドキュメントdatasets.mdを日本語に翻訳した

I'm looking for people interested in translating the Keras docs to Japanese. Kerasのドキュメンテーションを日本語に翻訳したい人を募集中です— François Chollet (@fchollet) May 7, 2016 こちらのツイートを見て、意識が高まり、 Translate datasets.…

p5jsとConvNetJSでClassification

ConvNetjsのdemoを参考に、自分でもデモを作ってみた。 ConvNetJS demo: Classify toy 2D data 描画にはp5jsを使った。ブラウザ実行なので学習に時間が掛かる。Canvasのサイズを大きくするととても遅くなるので、400pxの正方形くらいがちょうど良いサイズ。 …

ml4a ITP-NYU - Spring 2016 「#03 Convolutional neural networks 」講義メモ

講義「Machine learning for artists」とは? ニューヨーク大学ITP(Interactive Telecommunications Program)の講義名です。 講師 Gene Koganさん アーティスト、プログラマ openFrameworks,Processing,p5jsのcontributor 参考 Machine learning for artists …

ml4a ITP-NYU - Spring 2016 「#2Applications, Wekinator」講義メモ

講義「Machine learning for artists」とは? ニューヨーク大学ITP(Interactive Telecommunications Program)の講義名です。 講師 Gene Koganさん アーティスト、プログラマ openFrameworks,Processing,p5jsのcontributor 参考 Machine learning for artists …

Pythonで単純パーセプトロン

こちらを参考にした。うまくできているのかは知らないが、数式を見るよりもプログラムを書いた方が理解が進む気がした。 単純パーセプトロンをPythonで組んでみる - 東京で働くデータサイエンティストのブログ gist.github.com

TensorFlowのチュートリアル(Image Recognition)をやってみる

TensorFlowチュートリアル - 画像認識(翻訳) - Qiita 翻訳記事が出ていたのでやってみた。Pythonのところだけ読んだ。 ImageNetというサイトを見ると、様々な画像データを得ることができるよう。いろいろ使えそうだ。 認識結果 tabby, tabby cat (score = …

recurrentJSのデモをReactで動かす環境

Interactive Abstract Pattern Generation Javascript Demo | 大トロ こちらの記事を読んだ。recurrentJSというRNNを実装したライブラリ。 RecurrentJS Sentence Memorization Demo 開くと重いので注意。こちらのデモをReactで書いたのが下のリポジトリ。 lu…

sklearnのt-SNEでs-curveのデータを次元圧縮

import matplotlib.pyplot as plt from sklearn import manifold, datasets n_points = 1000 X, color = datasets.samples_generator.make_s_curve(n_points, random_state=0) n_neighbors = 10 n_components = 2 tsne = manifold.TSNE(n_components=n_compo…

numpyのわからない関数を調べてみた

こちらを読んで、コードを写してみた。 ライブラリーを使わずにPythonでニューラルネットワークを構築してみる - Qiita dot 内積演算を行う。 z1 = X.dot(W1) + b1 tanh 双曲線関数の一種。 a1 = np.tanh(z1) exp 指数関数。 exp_scores = np.exp(z2) sum 行…

18禁な文章からTF-IDFを使い、特徴となる語を算出する

青空文庫の作品から TF-IDF を指標として特徴となる語彙を抽出する - Qiita scikit-learnでtf-idfを計算する - Qiita python-mecabで名詞のみを抽出する | TowardSomethingNew このへんを参考にしながら、DMMのAPIを使って、AV紹介文の特徴となる語を算出し…

Python3.5.1 SKlearnのSVMでDigitsを分類し、matplotlibで表示

参考動画 ナードっぽい方がScikit Learnを説明してる動画。実行環境はWindows。 Scikit Learn Machine Learning SVM Tutorial with Python p. 2 - Example - YouTube matplitlibでエラー 下の記事で解決。matplotlibrcを作成しよう。 Python 3.3でmatplitlib…

Kerasを初めて触ってみたときのメモ

Kerasが1.0.0になったので触ってみた。KerasはTheanoやTensorFlowで使えるライブラリ。最近出たアルゴリズムが実装済みで、記述が簡単という感じ。 Keras Documentation 線形回帰をやってみようと思ったけど、scikitAPIを使ってやるのが普通みたいでKerasの…

Machine Learningの情報をどのようにして得るか

最近、Machine Learningが面白いと思っている。意識を高めて情報を得ようと思ったときに、どのようにして得るのかを書いてみよう。 このへんをまとめるときに役に立ったw 【随時更新】アート系のMachine Learning情報まとめ - Qiita 人口知能が作った画像?! …

Python3系、MeCabでマルコフ連鎖を用いて文章を自動作成

RNNが難しそうなのでマルコフ連鎖をやる 【エヴァンゲリオン】アスカっぽいセリフをDeepLearningで自動生成してみる - Qiita この記事が面白かったので、ニューラルネットワークの一つであるRNNを用いて、自分も何か文章を自動作成したかった。しかしTensorF…

Chainerを使って画風変換をやってみた

画風を変換するアルゴリズム | Preferred Research Chainerを使って画風変換をやってみた。 HomebrewのインストールからpyenvでPythonのAnaconda環境構築までメモ - Qiita cafeemodelはpython2系でしか動かないこともあり、環境構築をする必要がある。自分は…

TensorflowのMNIST for Expertsをやってみる

MNIST for Expertsをやってみようとしたが、「畳み込みニューラルネットワーク」「プーリング層」とか意味わからん。調べる。 この辺りを見る。 Deep LearningとConvolutional Neural Network - Stimulator コードはこれを参考にした。 TensorFlowを遊び倒す…

MNISTの認識結果をTensorboardに表示する

Lossを表示してみた。Lossが段々下がっているのがわかる。 エポックというのはデータをどれくらい回したかという単位?みたいなもんらしい。 Chainerで始めるニューラルネットワーク - Qiita これ参考にした。 TensorFlow-Examples/loss_visualization.py at …

「Neural Network TensorFlow 入門講座」を読んだメモ

日本語資料に助けを借りる。 Neural+TensorFlow.pdf - Google ドライブ Gradient Descent パラメータ修正で使われるGradient Descent(勾配降下法) LossFunctionの変化が勾配 勾配が下がるようにWとbを変化させる 数学的にはLossFunctionをWで微分、bで微分 L…

TensorFlowでMNISTをやってみる

python周りの環境構築 これが良かった。 Python3なTensorFlow環境構築 (Macとpyenv virtualenv) - Qiita pythonは2,3のバージョンがある TensorFlowはどちらのバージョンでも動くが、githubレポジトリのinput_data.pyはpython3向けに書かれている Fix datase…

Google Cloud Visionで自分のアイコンを認識させる

この辺を参考にした。 Node.jsとGoogle Cloud Vision API使って色々な画像認識試してみた。 | Indie Engineer Blog GitHub - tejitak/node-cloud-vision-api: Node client for Google Cloud Vision API 認識させてみる。 [{"labelAnnotations":[ {"mid":"/m/…

TensorFlowを動かしてみたいノリになったので

TensorFlowを動かしてみたいノリになったのでハローワールドさせてみた この辺を参考にしながら。 ディープラーニングの有名ライブラリ5種を最短距離で試す半日コース(TensorFlow, Chainer, Caffe, DeepDream, 画風変換) - Qiita 適宜versionは置き換えて…