GCP

めも: GCP の API key について

GCP

まずそもそも API key はによる認証はサポートされてないことが多い。 Most Google Cloud APIs don't support API keys. Check that the API that you want to use supports API keys before using this authentication method. https://cloud.google.com/do…

やってみた: Spanner Change stream と Dataflow で別プロジェクトの BigQuery にデータを流す

GCP

pre-amble setup Spanner Spanner とは sample DB + backend outputs Change stream Change stream とは Change stream の作成 outputs Dataflow の作成 BigQuery dataset (in other project) の作成 Service Agent への権限付与 「まじか」ってなったところ…

やってみた: Cloud SQL for MySQL → Datastream → 別プロジェクトの BigQuery

GCP

pre-amble 構成 DB と BigQuery dataset の対応 Cloud SQL の準備 資料 Cloud SQL インスタンスを立てる Datastream 用にユーザを追加 Datastream の設定 資料 1. MySQL の Connection Profile の作成 2. BigQuery connection profile の作成 3. Stream の作…

トラシュー日記: GCP Workflow から Cloud Function が呼べない

problem 403 Bearer error insufficient scope fix 2nd Gen の Cloud Function の場合、 Cloud Run にも invoke Role をつける

gcloud run deploy が quota restriction で失敗していたらまず gcloud cli をアップデートしよう

GCP

TL;DR ERROR: (gcloud.run.deploy) FAILED_PRECONDITION: failed precondition: due to quota restrictions, cannot run builds in this region. Please contact support このエラーが gcloud run deploy で出たら、一回 gcloud components update してから…

疑問: GCP Workflow の connection error

GCP Workflow で ConnectionError でステップがコケることがあるけどこれはなんなんだろう このへんを見ると connection error は retry するものっぽいけど、いまいちどういうときに起きるのかわからない docs → https://cloud.google.com/workflows/docs/r…

SentenceTransformer を使うスクリプトを Cloud Functions にデプロイしてみた

タスク: スプレッドシートにためたテキストデータから、入力データに類似したデータのみ抽出したい データ: 英語、400行ちょい、平均文字数 250文字 Google Colaboratory 上のコードは別の人がすでに作ってくれてたので、これをどうやって GCP 上にデプロイ…

service account で google spreadsheet にアクセスする

想定ユースケース: Cloud Functions からスプレッドシートにアクセスしたい 前提として↓の操作が必要 Cloud Functions のサービスアカウントがデフォルトから変更されている (my-service-account@my-domain.com) spreadsheet がこのサービスアカウントに共有…

GCP API Gateway でたまにエラーになるのを調べた

GCP

前提 Cloud Functions をバックエンドにした API Gateway で、1日に0-3回エラーの通知が Slack に飛んでいた。実用上は問題ないので無視していたけど、一回調べてみることにした。 TL;DR API Gateway 側の timeout 設定だった。 デフォルトは 15s になってい…