[アップデート]AWS Glueで独自の変換を作成できるカスタムビジュアル変換(custom visual transform)が登場しました #reinvent

2022.11.29

データアナリティクス事業本部インテグレーション部コンサルティングチーム・新納(にいの)です。

日本時間2022/11/29に、AWS Glueのビジュアルエディタで独自の変換を定義でき、他のジョブにも再利用可能なカスタムビジュアル変換(custom visual transform)がリリースされました。

custom visual transformとは

チーム間でビジネス固有のETLロジックを定義し、別のGlueジョブで再利用、または共有する機能です。

Glueのビジュアルジョブエディタはコーディング無しでETLジョブの作成が可能ですが、標準で提供されている変換ノードだけだと物足りない、かといってコーディングに慣れていないユーザーがカスタマイズでコードを書くのは難しい…というケースがありました。custom visual transformを使用すれば独自の変換を定義し、標準で提供されている変換ノードと同じようにメニューから選べるようになります。ローコードなETL開発者がAWS Glue Studioから変換ロジックを検索して利用できるようになり、ますますローコードのETLジョブ開発者に優しくなりました。

具体例を見てみましょう。従来のGlue Studioが標準で提供していた変換ノードをユーザー自身が作成できるようなイメージです。以下のように、オリジナルのパラメータ入力画面も作成可能です。

(画像引用:Step 1. Create a JSON config file - AWS Glue Studio

おわりに

GlueのビジュアルエディタはローコードでETLジョブ作成が可能なところが売りであるものの、独自の変換処理を作成するにはcustom transformでコードを書く必要がありました。今回のアップデートで一度JSONやPythonで変換やパラメータを定義してしまえば使いまわせるようになるということで、Glueの利用シーンが広がる機能だと感じています。実際の使い方は追ってブログにしてお届けする予定です!