TensorFlow 各種ドキュメント翻訳 | TensorFlow の簡単な応用 (2) (2020)

◆ ～ 2020/12/28

TensorFlow 2.4 : ガイド : 基本 – モジュール、層とモデルへのイントロダクション

TensorFlow 2.4 のドキュメントで幾つかガイドが追加されましたので、再翻訳しています。

今回はガイド「TensorFlow 基本」カテゴリーから、『モジュール、層とモデルへのイントロダクション』です。このガイドでは、どのように TensorFlow モデルが定義されるかを見るために Keras の水面下を進みます。これは TensorFlow がどのように変数とモデルを集めて、そしてそれらがどのようにセーブされてリストアされるかを見ることです。

[詳細] (12/28/2020)

TensorFlow 2.4 : ガイド : 基本 – 基本的な訓練ループ

TensorFlow 2.4 のドキュメントで幾つかガイドが追加されましたので、再翻訳しています。

今回はガイド「TensorFlow 基本」カテゴリーから、『基本的な訓練ループ』です。これまでのガイドでは tensor、変数、勾配テープそしてモジュールについて学習しました。このガイドでは、モデルを訓練するためにこれら総てを集約して適合させます。TensorFlow はまたボイラープレートを削減する有用な抽象を提供する高位ニューラルネットワーク API、tf.Keras API も含みます。このガイドでは基本的なクラスを使います。

[詳細] (12/27/2020)

TensorFlow 2.4 : ガイド : 基本 – グラフと tf.functions へのイントロダクション

TensorFlow 2.4 のドキュメントで幾つかガイドが追加されましたので、再翻訳しています。

今回はガイド「TensorFlow 基本」カテゴリーから、『グラフと tf.functions へのイントロダクション』です。このガイドでは、グラフを得るために TensorFlow がどのようにコードに単純な変更を行なうことを貴方に可能にするか、そしてそれらがどのようにストアされて表されるか、そしてモデルをアクセラレートしてエキスポートするためにそれらをどのように利用できるかのコアを見るでしょう。

[詳細] (12/26/2020)

TensorFlow 2.4 : ガイド : 基本 – 勾配と自動微分へのイントロダクション

TensorFlow 2.4 のドキュメントで幾つかガイドが追加されましたので、再翻訳しています。

今回はガイド「TensorFlow 基本」カテゴリーから、『勾配と自動微分へのイントロダクション』です。自動微分はニューラルネットワークを訓練するためのバックプロパゲーションのような機械学習アルゴリズムを実装するために有用です。このガイドでは、TensorFlow、特に eager 実行で勾配を計算できる方法を議論します。

[詳細] (12/24/2020)

TensorFlow 2.4 : ガイド : 基本 – 変数へのイントロダクション

TensorFlow 2.4 のドキュメントで幾つかガイドが追加されましたので、再翻訳しています。

今回はガイド「TensorFlow 基本」カテゴリーから、『変数へのイントロダクション』です。TensorFlow 変数はプログラムが操作する共有される、永続的な状態を表すために推奨される方法です。このガイドは TensorFlow で tf.Variable のインスタンスをどのように作成し、更新しそして管理するかを説明します。

[詳細] (12/23/2020)

TensorFlow 2.4 : ガイド : 基本 – Tensor へのイントロダクション

TensorFlow 2.4 のドキュメントで幾つかガイドが追加されましたので、再翻訳しています。

今回はガイド「TensorFlow 基本」カテゴリーから、『Tensor へのイントロダクション』です。インデキシングやブロードキャストのようなテンソルの基本操作から、Ragged Tensor・文字列 Tensor・スパース・テンソルについて詳述されます。

[詳細] (12/22/2020)

TensorFlow 2.4 : ガイド : 基本 – Eager 実行

TensorFlow 2.4 のドキュメントで幾つかガイドが追加されましたので、再翻訳します。

最初はガイド「TensorFlow 基本」カテゴリーから、Eager 実行です。TensorFlow の Eager 実行は命令型プログラミング環境で、これはグラフを構築することなく演算を直ちに評価します。演算は後で実行する計算グラフを構築する代わりに具体的な値を返します。

[詳細] (12/19/2020)

TensorFlow 2.4.0 リリースノート

TensorFlow 2.4.0 ステーブル版がリリースされました。
いつものようにリリースノートの主要部分を翻訳しておきました。前バージョン (2.3.0) からおよそ 4ヶ月半が経過しています。

注意すべき点は TensorFlow pip パッケージが CUDA11 と cuDNN 8.0.2 でビルドされていることです。

興味深いのは tf.experimental.numpy の実験的サポートです、これは TF プログラムを書くための NumPy-互換 API です。その他、MultiWorkerMirroredStrategy や Keras 混合精度 API tf.keras.mixed_precision がステーブル API になり、Keras Functional API の内部の主要なリファクタリングが完了したとのことです。

[詳細] (12/15/2020)

SentencePiece 0.1.9 : 概要

SentencePiece はニューラルネットワーク・ベースのテキスト生成システムのためのテキスト tokenizer と detokenizer で、言語固有の前/後処理に依拠しない end-to-end なシステムを作成することを可能にします。SentencePiece は BPE (バイトペア符号化) のようなサブワード・ユニットとユニグラム言語モデルを実装し、raw センテンスからの直接訓練が可能です。
README を翻訳しておきました。

[詳細] (12/09/2020)

HuggingFace Transformers 3.4 : 訓練と再調整

HuggingFace Transformers は最先端の自然言語処理を可能にする PyTorch と TensorFlow 2.0 のためのエコシステムです。両者はシームレスに統合され、一方で訓練してから推論のために他方でロードすることも可能です。モデルハブにより数千の事前訓練モデルが提供されています。

最近リリースされた 3.4 をベースにドキュメントを幾つか翻訳しています。

今回は「訓練と再調整」です。HuggingFace Transformers のモデル・クラスは PyTorch と TensorFlow 2 で互換であるように設計されシームレスに利用可能です。このチュートリアルでは、いずれのフレームワークでも利用可能な標準訓練ツールを使用してモデルをどのように再調整するか (or スクラッチから訓練するか) を示します。

[詳細] (11/22/2020)

HuggingFace Transformers 3.4 : データを前処理する

最近リリースされた 3.4 をベースにドキュメントを幾つか翻訳しています。

今回は「データを前処理する」です。このチュートリアルでは、 Hugging Transformers を使用して貴方のデータをどのように前処理するかを探求します。このための主要ツールは tokenizer と呼ぶものです。

[詳細] (11/21/2020)

HuggingFace Transformers 3.4 : モデルの概要

最近リリースされた 3.4 をベースにドキュメントを幾つか翻訳しています。

今回は「モデルの概要」です。これは Hugging Transformers で利用可能なモデルの概要です。モデルの各々は以下のカテゴリーの一つに分類されます :

自己回帰モデル
オートエンコーダ・モデル
sequence-to-sequence モデル
ProphetNet
検索ベースモデル

[詳細] (11/12/2020)

HuggingFace Transformers 3.3 : タスクの概要

最近リリースされた 3.3 をベースにドキュメントを幾つか翻訳しています。

今回は「タスクの概要」で、ライブラリを利用するとき頻度の高いユースケースが示されます。利用可能なモデルはユースケースで素晴らしい多用途性を可能にします。質問応答、シークエンス分類、固有表現認識等々のようなタスクのための使用方法が紹介されます。

[詳細] (10/21/2020)

HuggingFace Transformers 3.3 : 哲学

最近リリースされた 3.3 をベースにドキュメントを幾つか翻訳しています。

今回は哲学というタイトルで、HuggingFace Transformers の幾つかの目標と主要なコンセプトについて説明されます。

[詳細] (10/16/2020)

HuggingFace Transformers 3.3 : クイック・ツアー

最近リリースされた 3.3 をベースにドキュメントを幾つか翻訳しています。今回はクイック・ツアーです。Transformers ライブラリの特徴を概観します。ライブラリは、テキストのセンチメントを分析するような自然言語理解 (NLU) タスク、そしてプロンプトを新しいテキストで補完したり他の言語に翻訳するような自然言語生成 (NLG) のための事前訓練モデルをダウンロードできます。

最初にそれらの事前訓練モデルを推論で利用するためにパイプライン API をどのように容易に活用するかを見ます。それから、ライブラリがそれらのモデルへのアクセスをどのように与えて貴方のデータを前処理することを手助けするかを見ます。

[詳細] (10/15/2020)

HuggingFace Transformers 3.3 : 概要

Transformer アーキテクチャは NLP で中心的役割を果たしていますが、HuggingFace Transformers は最先端の自然言語処理を可能にする PyTorch と TensorFlow 2.0 のためのエコシステムです。両者はシームレスに統合され、一方で訓練してから推論のために他方でロードすることも可能です。モデルハブにより数千の事前訓練モデルが提供されています。

最近リリースされた 3.3 をベースにドキュメントを幾つか翻訳していきます。最初は概要 (README) です。簡単な利用方法と利点、オンラインデモ、モデルのリスト等が説明されます。

[詳細] (10/13/2020)

◆ ～ 2020/09/22

DGL 0.5 ユーザガイド : 5 章訓練 : 5.4 グラフ分類

DGL (Deep Graph Library) は TensorFlow や PyTorch のエコシステムで、グラフ上の深層学習専用の Python パッケージです。

グラフニューラルネットワークの実装が単純化され、数十億のノード/エッジを持つグラフ上の半教師あり学習、グラフ上の生成モデル、TreeLSTM のような樹木モデル etc. が実装可能です。

幾つかドキュメントが用意されていますので、順次翻訳しています。5 章訓練の「5.4 グラフ分類」へと進みます。巨大な単一グラフの代わりに複数のグラフ形式のデータを持つことがあるかもしれません。例えば人々のコミュニティの異なる型のリストです。同じコミュニティの人々の間の友好関係をグラフで特徴付けることにより分類するグラフのリストを得ます。このシナリオではグラフ分類モデルはコミュニティの型を識別することに役立つでしょう。

[詳細] (09/22/2020)

DGL 0.5 ユーザガイド : 5 章訓練 : 5.2 エッジ分類/回帰

DGL (Deep Graph Library) は TensorFlow や PyTorch のエコシステムで、グラフ上の深層学習専用の Python パッケージです。

幾つかドキュメントが用意されていますので、順次翻訳しています。5 章訓練の「5.2 エッジ分類/回帰」へと進みます。グラフのエッジ上の属性、あるいは 2 つのノード間にエッジが存在するか否かを予測することを望む場合があります。このセクションではエッジ分類/回帰モデルについて説明されます。

[詳細] (09/21/2020)

DGL 0.5 ユーザガイド : 5 章訓練 : 5.1 ノード分類/回帰

DGL (Deep Graph Library) は TensorFlow や PyTorch のエコシステムで、グラフ上の深層学習専用の Python パッケージです。

幾つかドキュメントが用意されていますので、順次翻訳しています。5 章訓練の「5.1 ノード分類/回帰」へと進みます。グラフ・ニューラルネットワークのためのポピュラーで広く採用されているタスクの一つはノード分類で、そこでは訓練/検証/テストの各ノードには事前定義されたカテゴリーのセットから正解カテゴリーが割当てられます。ノード回帰も同様で訓練/検証/テストセットの各ノードに正解数字が割当てられます。

[詳細] (09/20/2020)

DGL 0.5 ユーザガイド : 4 章グラフ・データパイプライン

DGL (Deep Graph Library) は TensorFlow や PyTorch のエコシステムで、グラフ上の深層学習専用の Python パッケージです。

幾つかドキュメントが用意されていますので、順次翻訳しています。4 章の「グラフ・データパイプライン」へと進みます。DGL は dgl.data で多くの一般的に利用されるグラフ・データセットを実装しています。それらはクラス dgl.data.DGLDataset で定義された標準パイプラインに従っています。パイプラインがどのように動作するかを説明し、そして各コンポーネントをどのように実装するかを示します。

[詳細] (09/20/2020)

DGL 0.5 ユーザガイド : 3 章 GNN モジュールをビルドする

DGL (Deep Graph Library) は TensorFlow や PyTorch のエコシステムで、グラフ上の深層学習専用の Python パッケージです。

幾つかドキュメントが用意されていますので、順次翻訳しています。3 章の「GNN モジュールをビルドする」へと進みます。DGL NN モジュールは貴方の GNN モデルのためのビルディング・ブロックです。DNN フレームワーク・バックエンドに依拠して、それは PyTorch の NN モジュール、MXNet Gluon の NN ブロックと TensorFlow の Keras 層から継承しています。

[詳細] (09/19/2020)

DGL 0.5 ユーザガイド : 2 章メッセージ・パッシング

DGL (Deep Graph Library) は TensorFlow や PyTorch のエコシステムで、グラフ上の深層学習専用の Python パッケージです。

幾つかドキュメントが用意されていますので、順次翻訳しています。2 章の「メッセージ・パッシング」へと進みます。GCN の上の定義はメッセージパッシング・パラダイムに適合しています : 各ノードは近傍ノードから送られた情報でそれ自身の特徴を更新します。

[詳細] (09/18/2020)

DGL 0.5 ユーザガイド : 1 章グラフ : 1.5 異質グラフ

DGL (Deep Graph Library) は TensorFlow や PyTorch のエコシステムで、グラフ上の深層学習専用の Python パッケージです。

幾つかドキュメントが用意されていますので、順次翻訳しています。異質 (= heterogeneous) グラフは異なるタイプのノードとエッジを持つことができます。異なるタイプのノード/エッジは独立な ID 空間と特徴ストレージを持ちます。

[詳細] (09/16/2020)

DGL 0.5 ユーザガイド : 1 章グラフ : 1.1 〜 1.3 基本定義と特徴

DGL (Deep Graph Library) は TensorFlow や PyTorch のエコシステムで、グラフ上の深層学習専用の Python パッケージです。

幾つかドキュメントが用意されていますので、順次翻訳しています。ユーザガイドの「1 章グラフ」に入ります。グラフ、ノードそしてエッジの定義から始めます。

[詳細] (09/14/2020)

DGL 0.5 Tutorials : ひとめでわかる DGL

DGL (Deep Graph Library) は TensorFlow や PyTorch のエコシステムで、グラフ上の深層学習専用の Python パッケージです。

幾つかドキュメントが用意されていますので、順次翻訳していきます。最初のチュートリアルの目標は、(1) DGL がどのようにグラフ上の計算を可能にするか高位レベルで理解する、そして (2) グラフのノードを分類するために DGL で単純なグラフニューラルネットワークを作成して訓練することです。良く知られたコミュニティ分割問題「Zachary の空手クラブ」を題材としています。

[詳細] (09/05/2020)

◆ ～ 2020/06/19

TensorFlow 2.3.0 リリースノート

TensorFlow 2.3.0 ステーブル版がリリースされました。
いつものようにリリースノートを翻訳しておきました。前バージョン (2.2.0) からおよそ 3 ヶ月弱が経過しています。

主要な特徴として、まず tf.data が入力パイプラインのボトルネックとリソースを節約するために 2 つの新しいメカニズムを追加しました : スナップショットと tf.data サービスです。入力パイプラインのパフォーマンスは TF Profiler でが分析可能です。

また、デバッグ情報をダンプして Debugger V2 と呼称される TensorBoard 2.3 で読まれて可視化できます。

[詳細] (07/28/2020)

Spark 3.0.0 リリースノート

Apache Spark 3.0 が先週リリースされました。短いですが、リリースノートを翻訳しておきます。

Spark はオープンソース・プロジェクトとして 10 年が経過し、ビッグデータ処理・データサイエンス・機械学習そしてデータ分析ワークロードのためのデファクトな統一エンジンとなっています。

Spark 3.0 は 3.x ラインの最初のリリースです。Spark 3.0 は Spark 2.x からの多くの革新の上に構築され、コミュニティからの多くの貢献により、このリリースでは 440 以上の貢献者からの寄与の結果として 3400 チケット以上を解決しました。

[詳細] (06/20/2020)

TensorFlow Probability 0.10.0 : ガイド : Optimizer

TensorFlow Probability は TensorFlow における確率的推論と統計的分析のためのライブラリです。TensorFlow エコシステムの一部として、TensorFlow Probability は確率的メソッドの深層ネットワークとの統合を提供します。

TensorFlow 2.2 対応の TensorFlow Probability 0.10 が 5 月にリリースされましたので、ドキュメントを幾つか翻訳していきます。ドキュメントはガイドとチュートリアルに分かれています。

今回はガイドから Optimizer が主題です。TensorFlow Probability で実装された様々な optimizer をどのように使用するかが実演されます。

[詳細] (06/19/2020)

TensorFlow Probability 0.10.0 : ガイド : TensorFlow Distributions : 優しいイントロダクション

今回はガイドから TFD (TensorFlow Distribution) モジュールの具体的な利用方法について説明されます。ここでは抽象的な説明は後回しにして TF Eager execution モードを使用して具体例にあたります。

[詳細] (06/18/2020)

TensorFlow Probability 0.10.0 : ガイド : TensorFlow 分布 shape の理解

今回はガイドから shape が説明されます。tfp Distributions の重要な概念である事象 shape / バッチ shape / サンプル shape について詳述されます。またブロードキャスティングについても詳しい考察があります。

[詳細] (06/18/2020)

TensorFlow Probability 0.10.0 : ガイド : 概要 – TensorFlow Probability のツアー

今回はガイドからの概要で、TensorFlow Probability の主要な機能のウォークスルーになっています。

[詳細] (06/17/2020)

Acme : サンプル : チュートリアル

Acme は DeepMind 社が新たに公開した、TensorFlow 上に構築された強化学習 (RL) エージェントとエージェント・ビルディングブロックのライブラリです。ドキュメントは順次拡充されている段階ですが、幾つか翻訳しています。

今回はサンプルからチュートリアルです。強化学習エージェントを作成するために Acme のモジュールがどのようにスタックされるかの概要を提供します。どのようにネットワークを環境仕様に適合させるか、アクター、leaner、再生バッファ、データセット、adder そして完全なエージェントをどのように作成するかを示します。

Acme は新規の研究を行なうために十分な柔軟性を提供しながら、ポピュラーなアルゴリズムの参照実装として、そして強力なベースラインとして役立つような単純で効率的で可読なエージェントを公開するための努力が成されています。

[詳細] (06/15/2020)

Acme : サンプル : クイックスタート

今回はサンプルからクイックスタートです。Acme をインストールして最初の D4PG エージェントを訓練するためのガイドになっています。

[詳細] (06/13/2020)

Acme : エージェント

今回はエージェントのドキュメントで、Acme が含む事前構築されたエージェントについて、異なるユースケースに基づいて分けられたセクションでエージェントがリストアップされています。

[詳細] (06/13/2020)

Acme : コンポーネント

今回はコンポーネントの概要を説明するドキュメントで、環境とネットワーク、更に内部コンポーネントについて説明が与えられます。

[詳細] (06/13/2020)

Acme : 概要 – DeepMind 強化学習ライブラリ

Acme は DeepMind 社が新たに公開した、TensorFlow 上に構築された強化学習 (RL) エージェントとエージェント・ビルディングブロックのライブラリです。ドキュメントは順次拡充されている段階ですが、幾つか翻訳していきます。最初は概要です。

[詳細] (06/12/2020)

Sonnet 2.0 : Tutorials : VQ-VAE 訓練サンプル

Sonnet は Google DeepMind 社が公開した TensorFlow 上に構築されたライブラリで、機械学習研究のための単純で構成可能な抽象を提供するために設計されています。多くの様々な目的のためにニューラルネットワークを構築するために利用可能です。

TensorFlow 2 に対応した Sonnet 2.0 がリリースされてドキュメントも改善されましたので、チュートリアル等を翻訳していきます。

今回のチュートリアルでは TF 2 / Sonnet 2 を使用して、「ニューラル離散表現学習」からのベクトル量子化変分オートエンコーダのモデルをどのように訓練するかを実演します。

[詳細] (06/10/2020)

Sonnet 2.0 : Tutorials : snt.distribute で分散訓練 (CIFAR-10)

TensorFlow 2 に対応した Sonnet 2.0 がリリースされてドキュメントも改善されましたので、チュートリアル等を翻訳していきます。

今回のチュートリアルでは CIFAR-10 を題材に、より大きなモデルと大きなデータセットでスケールアップしていきます。そして計算をマルチデバイスに渡り分散します。

[詳細] (06/10/2020)

Sonnet 2.0 : Tutorials : MLP で MNIST を予測する

TensorFlow 2 に対応した Sonnet 2.0 がリリースされてドキュメントも改善されましたので、チュートリアル等を翻訳していきます。

今回はチュートリアルから、MLP による MNIST 予測を題材に Sonnet によるモデル構築とその訓練方法などを学習します。

[詳細] (06/10/2020)

Sonnet 2.0 : イントロダクション, Getting Started & 直列化

TensorFlow 2 に対応した Sonnet 2.0 がリリースされてドキュメントも改善されましたので、チュートリアル等を翻訳していきます。最初は入門編で、イントロダクション、Getting Started とシリアライゼーションについて説明されます。

[詳細] (06/10/2020)

AutoML : NNI 1.5 : 自動調整 : 上級 : アドバイザーのカスタマイズ

NNI はマイクロソフト社がオープンソース化した Auto ML (自動機械学習) ツールキットで、TensorFlow / PyTorch をはじめとする深層学習フレームワークをサポートしています。ハイパーパラメータ調整、ニューラルネット・アーキテクチャの探索、モデル圧縮そして自動特徴エンジニアリングの機能を持ち、更に優れた WebUI も装備しています。

NNI 1.5 が 4 月に (更には 1.6 が 5 月末に) リリースされましたので、ドキュメントの再翻訳を行なっています。今回は上級チュートリアルから「アドバイザーのカスタマイズ」です。アドバイザーは AutoML アルゴリズムがチューナーとアセッサーの両者のメソッドを望むシナリオを対象としています。