ＡＩ学習ダイアリー iPhone/iPadの内蔵時計は正確か？〜素朴な疑問「はじめてのＡＩリテラシー』から(３)
『はじめてのＡＩリテラシー』 第３講 社会でどのようなデータが活用されているか からトピックを３つまとめてみた。 １．そもそもiPhone / iPadの内蔵時計は正確か？ ログ(動作記録)によるアクセスデータの照らし合わせで、より価値のあ...
ＡＩ学習ダイアリー
ＡＩ学習ダイアリー 
ＡＩ学習ダイアリー BERTは文章生成が不得意⁉️〜『BERT による自然言語処理入門』第九回「文章の穴埋め」
BERTはすごい！ というイメージしかなかったので、 この文を読んだときは、椅子から転げ落ちそうになった。 BERTは文章を前から順番に作成するという、自然言語処理でよくある文書生成は得意ではありません。 というのだ。 その理由は、 事前学...
ＡＩ学習ダイアリー 言葉をどうやってパソコンに入力する？〜『BERT による自然言語処理入門』第八回「HuggingFace Transformers」(その４)
２．BERTモデル いきなりだが、 世の中にはいろんな色がある。 色にはそれぞれ名前はあるが、 それを、 RGB(コンピュータやテレビなどのディスプレイ用)や CMYK(印刷物用）の色コードで、 表現することができる(＊１)。 そのほうが、...
ＡＩ学習ダイアリー NLPの前処理は大変！〜『BERT による自然言語処理入門』第七回「HuggingFace Transformers」(その３）
４．Transformers この項では、 Transformersというライブラリで、 単語の分散表現を得るために、 １．Tokenizerで、文章データをBERTに入力可能な形に変換する(符号化) ２．BertModelに、符号化データ...
ＡＩ学習ダイアリー 文系おじさんにも優しい！『BERT による自然言語処理入門』第六回「HuggingFace Transformers」(その２）
恥ずかしい。 なんだか自分で勝手にハードルを上げていたみたいだ。 前回、 配布コードをGithubのレポジトリ(＊１)から・・・ というところで悲鳴を上げたが、 なんのことはない、 用意されたリンクからColaboratoryでNotebo...
ＡＩ学習ダイアリー 『BERT による自然言語処理入門』著者のオンラインセミナーを聴講してみた❗️
(株)レッジ社主催のウェブセミナー「Ledge.ai Webinar」に、 たまたま、BERT本著者、近江氏が登場するというので、 聴講してみた。 だれもが聞きたいのは、 BERTは実務で役に立つのか？ ということだろう。 NLPモデルとし...
ＡＩ学習ダイアリー Githubってなんだっけ？〜『BERT による自然言語処理入門』第五回「HuggingFace Transformers」
第４章 HuggingFace Transformers(その１) ドキドキしている。 本を開くのが怖い。 理由はいろいろある。 １．久しぶりにGoogle Colaboratory (以下、Colab)を使う。 ２．Pytorchを使うの...
ＡＩ学習ダイアリー さあ、BERT❗️ ‥の前に通信環境を見直した〜『BERT による自然言語処理入門』第四回
家にネット回線がなかった。 いままでぜんぶ、モバイルWi-Fiでまかなってきたのだ。 しかし、 NLPってデータ量が多いので、 モバイルWi-Fiでは心もとない。 ちょうど、 モバイルWi-Fiの３年縛りの契約が６月末で切れ、 ７月が更新月...
ＡＩ学習ダイアリー RNNを捨ててTransformer！〜『BERT による自然言語処理入門』第三回「BERT」
第３章 BERT ニューラルネットワークで行う処理は、 ① 学習 ② 推論 の2つのフェーズに分けられる。 ① 学習は大量のデータと長い時間が必要なため(＊１) 本書では、次章以降、 事前学習済みのBERTモデルで、 ファインチューニングや...
ＡＩ学習ダイアリー BERTへの道、遠し！〜『BERT による自然言語処理入門』第ニ回「ニューラル言語モデル」
第２章 ニューラルネットワークを用いた自然言語処理 よくもこれだけの内容を20ページにまとめたもんだ‼️ この章、内容がむちゃくちゃ濃い。 日本語は膠着語(くっついている)なので、分かち書き(トークン化)が必要なこと から、解説はスタート。...