Keras 2 : examples : コンピュータビジョン – 畳み込み LSTMによる次フレームビデオの予測

Posted on by Sales Information

Keras 2 : examples : 畳み込み LSTMによる次フレームビデオの予測 (翻訳/解説)

翻訳 : (株)クラスキャット セールスインフォメーション
作成日時 : 11/15/2021 (keras 2.7.0)

* 本ページは、Keras の以下のドキュメントを翻訳した上で適宜、補足説明したものです：

* サンプルコードの動作確認はしておりますが、必要な場合には適宜、追加改変しています。
* ご自由にリンクを張って頂いてかまいませんが、sales-info@classcat.com までご一報いただけると嬉しいです。

 

クラスキャット 人工知能 研究開発支援サービス ★ 無料 Web セミナー開催中 ★

◆ クラスキャットは人工知能・テレワークに関する各種サービスを提供しております。お気軽にご相談ください :

◆ 人工知能とビジネスをテーマに WEB セミナーを定期的に開催しています。スケジュール。
  • お住まいの地域に関係なく Web ブラウザからご参加頂けます。事前登録 が必要ですのでご注意ください。
  • ウェビナー運用には弊社製品「ClassCat® Webinar」を利用しています。

◆ お問合せ : 本件に関するお問い合わせ先は下記までお願いいたします。

株式会社クラスキャット セールス・マーケティング本部 セールス・インフォメーション
E-Mail：sales-info@classcat.com  ;  WebSite: https://www.classcat.com/  ;  Facebook

 

 

Keras 2 : examples : 畳み込み LSTMによる次フレームビデオの予測

Description: 次のフレームビデオの予測のために畳み込み LSTM モデルをどのように構築して訓練するか。

 

イントロダクション

畳み込み LSTM アーキテクチャは LSTM 層に畳み込みリカレント cell を導入することにより時系列処理とコンピュータビジョンを融合しています。このサンプルでは、過去のフレームの系列が与えられたとき次に来るビデオフレームを予測するプロセス、次フレーム予測への応用で畳み込み LSTM モデルを探求します。

 

セットアップ

import numpy as np
import matplotlib.pyplot as plt

import tensorflow as tf
from tensorflow import keras
from tensorflow.keras import layers

import io
import imageio
from IPython.display import Image, display
from ipywidgets import widgets, Layout, HBox

 

データセットの構築

このサンプルについては、Moving MNIST データセットを使用していきます。

データセットをダウンロードして訓練と検証セットを構築して前処理します。

次フレーム予測について、f_(n + 1) と呼称する新しいフレームを予測するために、モデルは f_n と呼ぶ前のフレームを使用します。モデルがこれらの予測を作成することを可能にするため、入力と出力を「シフト」するようにデータを処理する必要があります、ここで入力データは (フレーム y_(n + 1) を予測するために使用される) フレーム x_n です。

# Download and load the dataset.
fpath = keras.utils.get_file(
    "moving_mnist.npy",
    "http://www.cs.toronto.edu/~nitish/unsupervised_video/mnist_test_seq.npy",
)
dataset = np.load(fpath)

# Swap the axes representing the number of frames and number of data samples.
dataset = np.swapaxes(dataset, 0, 1)
# We'll pick out 1000 of the 10000 total examples and use those.
dataset = dataset[:1000, ...]
# Add a channel dimension since the images are grayscale.
dataset = np.expand_dims(dataset, axis=-1)

# Split into train and validation sets using indexing to optimize memory.
indexes = np.arange(dataset.shape[0])
np.random.shuffle(indexes)
train_index = indexes[: int(0.9 * dataset.shape[0])]
val_index = indexes[int(0.9 * dataset.shape[0]) :]
train_dataset = dataset[train_index]
val_dataset = dataset[val_index]

# Normalize the data to the 0-1 range.
train_dataset = train_dataset / 255
val_dataset = val_dataset / 255

# We'll define a helper function to shift the frames, where
# `x` is frames 0 to n - 1, and `y` is frames 1 to n.
def create_shifted_frames(data):
    x = data[:, 0 : data.shape[1] - 1, :, :]
    y = data[:, 1 : data.shape[1], :, :]
    return x, y


# Apply the processing function to the datasets.
x_train, y_train = create_shifted_frames(train_dataset)
x_val, y_val = create_shifted_frames(val_dataset)

# Inspect the dataset.
print("Training Dataset Shapes: " + str(x_train.shape) + ", " + str(y_train.shape))
print("Validation Dataset Shapes: " + str(x_val.shape) + ", " + str(y_val.shape))

Training Dataset Shapes: (900, 19, 64, 64, 1), (900, 19, 64, 64, 1)
Validation Dataset Shapes: (100, 19, 64, 64, 1), (100, 19, 64, 64, 1)

 

データ可視化

データはフレームのシークエンスから成り、その各々は upcoming (次の) フレームを予測するために使用されます。これらのシーケンシャルのフレームの一部を見てみましょう。

# Construct a figure on which we will visualize the images.
fig, axes = plt.subplots(4, 5, figsize=(10, 8))

# Plot each of the sequential images for one random data example.
data_choice = np.random.choice(range(len(train_dataset)), size=1)[0]
for idx, ax in enumerate(axes.flat):
    ax.imshow(np.squeeze(train_dataset[data_choice][idx]), cmap="gray")
    ax.set_title(f"Frame {idx + 1}")
    ax.axis("off")

# Print information and display the figure.
print(f"Displaying frames for example {data_choice}.")
plt.show()

Displaying frames for example 130.

 

モデル構築

畳み込み LSTM モデルを構築するために、ConvLSTM2D 層を使用します、これは shape (batch_size, num_frames, width, height, channels) の入力を受け取り、同じ shape の予測ムービーを返します。

# Construct the input layer with no definite frame size.
inp = layers.Input(shape=(None, *x_train.shape[2:]))

# We will construct 3 `ConvLSTM2D` layers with batch normalization,
# followed by a `Conv3D` layer for the spatiotemporal outputs.
x = layers.ConvLSTM2D(
    filters=64,
    kernel_size=(5, 5),
    padding="same",
    return_sequences=True,
    activation="relu",
)(inp)
x = layers.BatchNormalization()(x)
x = layers.ConvLSTM2D(
    filters=64,
    kernel_size=(3, 3),
    padding="same",
    return_sequences=True,
    activation="relu",
)(x)
x = layers.BatchNormalization()(x)
x = layers.ConvLSTM2D(
    filters=64,
    kernel_size=(1, 1),
    padding="same",
    return_sequences=True,
    activation="relu",
)(x)
x = layers.Conv3D(
    filters=1, kernel_size=(3, 3, 3), activation="sigmoid", padding="same"
)(x)

# Next, we will build the complete model and compile it.
model = keras.models.Model(inp, x)
model.compile(
    loss=keras.losses.binary_crossentropy, optimizer=keras.optimizers.Adam(),
)

 

モデル訓練

モデルとデータが構築されたので、次にモデルを訓練できます。

# Define some callbacks to improve training.
early_stopping = keras.callbacks.EarlyStopping(monitor="val_loss", patience=10)
reduce_lr = keras.callbacks.ReduceLROnPlateau(monitor="val_loss", patience=5)

# Define modifiable training hyperparameters.
epochs = 20
batch_size = 5

# Fit the model to the training data.
model.fit(
    x_train,
    y_train,
    batch_size=batch_size,
    epochs=epochs,
    validation_data=(x_val, y_val),
    callbacks=[early_stopping, reduce_lr],
)

Epoch 1/20
180/180 [==============================] - 111s 508ms/step - loss: 0.0640 - val_loss: 0.1895 - lr: 0.0010
Epoch 2/20
180/180 [==============================] - 91s 503ms/step - loss: 0.0278 - val_loss: 0.2283 - lr: 0.0010
Epoch 3/20
180/180 [==============================] - 91s 504ms/step - loss: 0.0267 - val_loss: 0.0663 - lr: 0.0010
Epoch 4/20
180/180 [==============================] - 91s 504ms/step - loss: 0.0259 - val_loss: 0.0289 - lr: 0.0010
Epoch 5/20
180/180 [==============================] - 89s 492ms/step - loss: 0.0255 - val_loss: 0.0260 - lr: 0.0010
Epoch 6/20
180/180 [==============================] - 91s 504ms/step - loss: 0.0252 - val_loss: 0.0250 - lr: 0.0010
Epoch 7/20
180/180 [==============================] - 89s 492ms/step - loss: 0.0250 - val_loss: 0.0246 - lr: 0.0010
Epoch 8/20
180/180 [==============================] - 89s 492ms/step - loss: 0.0248 - val_loss: 0.0246 - lr: 0.0010
Epoch 9/20
180/180 [==============================] - 88s 492ms/step - loss: 0.0246 - val_loss: 0.0244 - lr: 0.0010
Epoch 10/20
180/180 [==============================] - 88s 492ms/step - loss: 0.0245 - val_loss: 0.0247 - lr: 0.0010
Epoch 11/20
180/180 [==============================] - 88s 491ms/step - loss: 0.0244 - val_loss: 0.0242 - lr: 0.0010
Epoch 12/20
180/180 [==============================] - 91s 504ms/step - loss: 0.0244 - val_loss: 0.0241 - lr: 0.0010
Epoch 13/20
180/180 [==============================] - 91s 503ms/step - loss: 0.0242 - val_loss: 0.0242 - lr: 0.0010
Epoch 14/20
180/180 [==============================] - 88s 492ms/step - loss: 0.0242 - val_loss: 0.0240 - lr: 0.0010
Epoch 15/20
180/180 [==============================] - 88s 492ms/step - loss: 0.0241 - val_loss: 0.0239 - lr: 0.0010
Epoch 16/20
180/180 [==============================] - 88s 491ms/step - loss: 0.0241 - val_loss: 0.0240 - lr: 0.0010
Epoch 17/20
180/180 [==============================] - 88s 491ms/step - loss: 0.0240 - val_loss: 0.0239 - lr: 0.0010
Epoch 18/20
180/180 [==============================] - 91s 503ms/step - loss: 0.0240 - val_loss: 0.0239 - lr: 0.0010
Epoch 19/20
180/180 [==============================] - 88s 491ms/step - loss: 0.0240 - val_loss: 0.0243 - lr: 0.0010
Epoch 20/20
180/180 [==============================] - 91s 503ms/step - loss: 0.0240 - val_loss: 0.0238 - lr: 0.0010
CPU times: user 27min 47s, sys: 7min 15s, total: 35min 3s
Wall time: 30min 26s

 

フレーム予測の可視化

今ではモデルが構築されて訓練されたので、新しいビデオに基づいて幾つかのサンプル・フレーム予測を生成することができます。

検証セットからランダムなサンプルを選択してからそれらから最初の 10 フレームを選択します。それらから、モデルが 10 の新しいフレームを予測することを可能にし、それらを正解フレーム予測と比較できます。

# Select a random example from the validation dataset.
example = val_dataset[np.random.choice(range(len(val_dataset)), size=1)[0]]

# Pick the first/last ten frames from the example.
frames = example[:10, ...]
original_frames = example[10:, ...]

# Predict a new set of 10 frames.
for _ in range(10):
    # Extract the model's prediction and post-process it.
    new_prediction = model.predict(np.expand_dims(frames, axis=0))
    new_prediction = np.squeeze(new_prediction, axis=0)
    predicted_frame = np.expand_dims(new_prediction[-1, ...], axis=0)

    # Extend the set of prediction frames.
    frames = np.concatenate((frames, predicted_frame), axis=0)

# Construct a figure for the original and new frames.
fig, axes = plt.subplots(2, 10, figsize=(20, 4))

# Plot the original frames.
for idx, ax in enumerate(axes[0]):
    ax.imshow(np.squeeze(original_frames[idx]), cmap="gray")
    ax.set_title(f"Frame {idx + 11}")
    ax.axis("off")

# Plot the new frames.
new_frames = frames[10:, ...]
for idx, ax in enumerate(axes[1]):
    ax.imshow(np.squeeze(new_frames[idx]), cmap="gray")
    ax.set_title(f"Frame {idx + 11}")
    ax.axis("off")

# Display the figure.
plt.show()

(訳注: 実験結果)

 

予測されたビデオ

最後に、検証セットから幾つかのサンプルを選択して、モデルの予測されたビデオを見るためにそれらで幾つかの GIF を構築します。

# Select a few random examples from the dataset.
examples = val_dataset[np.random.choice(range(len(val_dataset)), size=5)]

# Iterate over the examples and predict the frames.
predicted_videos = []
for example in examples:
    # Pick the first/last ten frames from the example.
    frames = example[:10, ...]
    original_frames = example[10:, ...]
    new_predictions = np.zeros(shape=(10, *frames[0].shape))

    # Predict a new set of 10 frames.
    for i in range(10):
        # Extract the model's prediction and post-process it.
        frames = example[: 10 + i + 1, ...]
        new_prediction = model.predict(np.expand_dims(frames, axis=0))
        new_prediction = np.squeeze(new_prediction, axis=0)
        predicted_frame = np.expand_dims(new_prediction[-1, ...], axis=0)

        # Extend the set of prediction frames.
        new_predictions[i] = predicted_frame

    # Create and save GIFs for each of the ground truth/prediction images.
    for frame_set in [original_frames, new_predictions]:
        # Construct a GIF from the selected video frames.
        current_frames = np.squeeze(frame_set)
        current_frames = current_frames[..., np.newaxis] * np.ones(3)
        current_frames = (current_frames * 255).astype(np.uint8)
        current_frames = list(current_frames)

        # Construct a GIF from the frames.
        with io.BytesIO() as gif:
            imageio.mimsave(gif, current_frames, "GIF", fps=5)
            predicted_videos.append(gif.getvalue())

# Display the videos.
print(" Truth\tPrediction")
for i in range(0, len(predicted_videos), 2):
    # Construct and display an `HBox` with the ground truth and prediction.
    box = HBox(
        [
            widgets.Image(value=predicted_videos[i]),
            widgets.Image(value=predicted_videos[i + 1]),
        ]
    )
    display(box)

(訳注: 実験結果)

GT 予測
 

以上