GCP

FluentdからBigQueryへストリーミングインサートしていた時に以下のようなエラーが発生していました。

Value 1517382940000000 for field time of the destination t ...

AWS, GCP

BigQueryを利用するにあたりRedshiftのデータをBigQueryに移行する必要がありました。
その際の手法や手順などについて紹介します。

前提RailsからRedshiftのクエリを実行できるようにしておくこ ...

GCP

BigQueryを使っていると思った以上に高い料金が発生していることがあります。
そんなときは、Stackdriver Loggingで調べることができます。

Stackdriver Logging

Stackdri ...

Fluentd, GCP

前回、fluentdに送信したログをBigQueryに出力という記事を書きましたが、
ログの種類によって別のテーブルへ出力したいといったことがあり実際に試してみました。

実現方法ログを送信する際のタグからBigQuery ...

Fluentd, GCP

BigQueryのTIMESTAMPはUTC時間にしか対応してません。
単純にログを出力すると日本時間がUTC時間としてBigQueryのデータができてしまいます。

前回の記事でfluentdに送信したログをBig ...

Fluentd, GCP

fluentdに送信したログをBigQueryに出力してみました。

「fluent-plugin-bigquery」というFluentdのプラグインを利用します。
出力する方法は2パターンあり

ストリーミング ...

GCP

BIツールについて調べる機会があり Googleデータポータル を実際に利用してみて使い勝手などを調べてみました。

GoogleデータポータルとはGoogleが無償で提供するBI(ビジネス・インテリジェンス)ツール
グラフ ...

GCP

ダブルクォーテーション

まずはダブルクォーテーションの対処法についてですが、「“”」 このように
ダブルクォーテーションを2つ続けて出力することでエスケープできます。

実際に以下のCSVファイ ...

GCP

BigQueryのクエリでスキーマ情報を取得するには
INFORMATION_SCHEMA を利用して取得することができます。
※詳しくは 公式ページ 参照

INFORMATION_SCHEMA.COLUMNS ...

GCP

BigQueryのクエリでテーブル一覧を取得するには
INFORMATION_SCHEMA を利用して取得することができます。
※詳しくは 公式ページ 参照

INFORMATION_SCHEMA.TABLES ...