AI学習ダイアリー

AI学習ダイアリー

iPhone/iPadの内蔵時計は正確か?〜素朴な疑問「はじめてのAIリテラシー』から(3)

『はじめてのAIリテラシー』 第3講 社会でどのようなデータが活用されているか からトピックを3つまとめてみた。 1.そもそもiPhone / iPadの内蔵時計は正確か? ログ(動作記録)によるアクセスデータの照らし合わせ...
AI学習ダイアリー

BERTは文章生成が不得意⁉️〜『BERT による自然言語処理入門』第九回「文章の穴埋め」

BERTはすごい! というイメージしかなかったので、 この文を読んだときは、椅子から転げ落ちそうになった。 BERTは文章を前から順番に作成するという、自然言語処理でよくある文書生成は得意ではありません。 というのだ。 その理...
AI学習ダイアリー

言葉をどうやってパソコンに入力する?〜『BERT による自然言語処理入門』第八回「HuggingFace Transformers」(その4)

2.BERTモデル いきなりだが、 世の中にはいろんな色がある。 色にはそれぞれ名前はあるが、 それを、 RGB(コンピュータやテレビなどのディスプレイ用)や CMYK(印刷物用)の色コードで、 表現することができる(...
AI学習ダイアリー

NLPの前処理は大変!〜『BERT による自然言語処理入門』第七回「HuggingFace Transformers」(その3)

4.Transformers この項では、 Transformersというライブラリで、 単語の分散表現を得るために、 1.Tokenizerで、文章データをBERTに入力可能な形に変換する(符号化) 2.BertModelに...
AI学習ダイアリー

文系おじさんにも優しい!『BERT による自然言語処理入門』第六回「HuggingFace Transformers」(その2)

恥ずかしい。 なんだか自分で勝手にハードルを上げていたみたいだ。 前回、 配布コードをGithubのレポジトリ(*1)から・・・ というところで悲鳴を上げたが、 なんのことはない、 用意されたリンクからColab...
AI学習ダイアリー

『BERT による自然言語処理入門』著者のオンラインセミナーを聴講してみた❗️

(株)レッジ社主催のウェブセミナー「Ledge.ai Webinar」に、 たまたま、BERT本著者、近江氏が登場するというので、 聴講してみた。 だれもが聞きたいのは、 BERTは実務で役に立つ...
AI学習ダイアリー

Githubってなんだっけ?〜『BERT による自然言語処理入門』第五回「HuggingFace Transformers」

第4章 HuggingFace Transformers(その1) ドキドキしている。 本を開くのが怖い。 理由はいろいろある。 1.久しぶりにGoogle Colaboratory (以下、Colab)を使う。 2.Pyto...
AI学習ダイアリー

さあ、BERT❗️ ‥の前に通信環境を見直した〜『BERT による自然言語処理入門』第四回

家にネット回線がなかった。 いままでぜんぶ、モバイルWi-Fiでまかなってきたのだ。 しかし、 NLPってデータ量が多いので、 モバイルWi-Fiでは心もとない。 ちょうど、 モバイルWi-Fiの3年縛りの契約が...
AI学習ダイアリー

RNNを捨ててTransformer!〜『BERT による自然言語処理入門』第三回「BERT」

第3章 BERT ニューラルネットワークで行う処理は、 ① 学習 ② 推論 の2つのフェーズに分けられる。 ① 学習は大量のデータと長い時間が必要なため(*1) 本書では、次章以降、 事前学習済みのBERTモデルで、 フ...
AI学習ダイアリー

BERTへの道、遠し!〜『BERT による自然言語処理入門』第ニ回「ニューラル言語モデル」

第2章 ニューラルネットワークを用いた自然言語処理 よくもこれだけの内容を20ページにまとめたもんだ‼️ この章、内容がむちゃくちゃ濃い。 日本語は膠着語(くっついている)なので、分かち書き(トークン化)が必要なこと から、解説はス...
PAGE TOP