【PR】本記事はプロモーションを含みます。
「データカタログって何?」「データ辞書やデータガバナンスと何が違うの?」「どう作ればいいの?」
データカタログとは、組織のデータ資産のメタデータ(所在・意味・品質・利用条件)を集めて検索・理解できるようにする仕組みです。
本記事は2026年9月時点の一次情報(公式ドキュメント・公式リポジトリ)をもとに解説します。最終確認日:2026年9月16日。
要点(この記事の結論)
- データカタログは「データの図書館の目録+検索エンジン」です
- AWS Glue Data Catalogは集中リポジトリ、Google Cloud Knowledge Catalog(旧称 Dataplex Universal Catalog)はAI搭載のガバナンス付きカタログとして説明されています
- 核となる機能は検索・リネージ・品質・アクセス制御・自動化です
- メタデータはビジネス/テクニカル/オペレーショナル(ランタイム)に整理すると理解しやすいです
- 導入は目的→範囲→メタデータ特定→収集→関連付け→公開→更新の順で進めます
- OSS(DataHub・OpenMetadata)もクラウド純正カタログも一長一短があります
- AIエージェント時代は「信頼できるコンテキストの供給源」として重要性が増しています
AI実装スキルを磨きたい人へ
これからのAI時代に 「市場価値の高い人材」 とは、「モデルを使える人」ではなく 「業務に組み込んで価値を出せる人」 です。AI実装+エンジニアリング+業務理解の三点セットを磨くことが、5年後・10年後のキャリアに直結します。
※以下、PRを含みます
1. 結論:データカタログとは(30秒で理解)
図書館と検索エンジンに例えると
データカタログを一言でいうと、データの図書館の目録です。
図書館では本の題名・著者・棚の位置を目録で探します。同じように、データカタログではテーブルやファイルの場所・スキーマ(列名や型)・意味・鮮度をまとめて探せます。
Google検索に例えると、キーワードで「どのデータが使えるか」「誰が作って誰が使っているか」を探す画面です。
代表的な定義は次のとおりです。
| 製品 | 公式の説明 |
|---|---|
| AWS Glue Data Catalog | 組織のデータセットに関するメタデータを格納する集中リポジトリ。場所・スキーマ・ランタイムメトリクスのインデックスとして機能する |
| Google Cloud Knowledge Catalog(旧称 Dataplex Universal Catalog) | AI搭載のデータカタログで、データ資産全体にビジネス文脈とガバナンスを提供する |
| Microsoft Purview | Data Map(スキャンしてメタデータを取得)とUnified Catalog(検索・キュレーション・アクセス許可)で構成される |
| Databricks Unity Catalog | Databricksに組み込まれたデータとAI向け統合ガバナンスレイヤー |
| Snowflake Horizon Catalog | Snowflake内外の全データ向けのエージェント型カタログ。オープンで相互運用可能と説明される |
いずれも「データを置く場所」ではなく、「データを探して理解するための索引と文脈」です。データの置き場所(レイクやウェアハウス)との違いは後述します。
なお名称の整理として、Google Cloud Knowledge Catalogは旧称がDataplex Universal Catalogです。改名は2026年4月10日付と案内されています。APIやコマンド、IAM名は不変です。
本記事でわかることと最終確認日
本記事の対象は、入門から実務の方です。データエンジニアやアナリスト、データガバナンスの担当の方を想定しています。
時点の注意点は次の2点です。
- Googleの旧Data Catalog(レガシー製品)は非推奨です。2026年9月時点の表示では2026年6月1日に提供終了(段階的シャットダウン開始)と案内されています。移行先はKnowledge Catalogです
- 料金や対応状況は変わりやすいため、本記事では金額の断定をしません。体系と公式リンク、最終確認日(2026年9月16日)で確認してください
2. なぜ必要か:ないと起きる5つの困りごと
どこに何があるかわからず、都度人に聞く
同じ集計を別々に作り、数値が食い違う
意味や注意点が特定の人の頭の中にだけある
使えない・信頼できないデータが溜まる
確認に時間がかかり、分析や公開が遅れる
出典: 本文の困りごと表
探せない・重複・属人化・スワンプ化・意思決定遅延
カタログがない現場では、次の困りごとが起きがちです。
| 困りごと | 起きること |
|---|---|
| 探せない | どこに何があるかわからず、都度人に聞く |
| 重複 | 同じ集計を別々に作り、数値が食い違う |
| 属人化 | 意味や注意点が特定の人の頭の中にだけある |
| スワンプ化(沼化) | 使えない・信頼できないデータが溜まる |
| 意思決定遅延 | 確認に時間がかかり、分析や公開が遅れる |
GoogleのKnowledge CatalogのFAQでは、こうした「検索・理解・信頼に浪費される時間」をコールドスタート問題と呼んでいます。自然言語検索やAIエージェントのグラウンディング(根拠付け)が用途として挙げられています。
カタログの守備範囲は発見だけではありません。Snowflake Horizon Catalogの公式説明では、機密データ保護・品質・end-to-endリネージ・AIガードレールが列挙されています。
メリット5点
AWSの公式説明では、Glue Data Catalogが「データ資産の発見・理解を容易にし、再利用と協業を促進する」とされています。定量的な効果(○%向上など)は未確認のため、本記事では定性のメリットに留めます。
- 発見速度:場所・スキーマ・説明をまとめて探せる
- 品質と信頼:鮮度・品質・注意点がわかり、誤用を減らせる
- ガバナンス:誰が何に触れるかを整理できる。詳しくはデータガバナンスをご覧ください
- サイロ解消:部門をまたいで再利用しやすくなる
- コスト削減:重複開発や問い合わせ対応の手戻りを減らせる
発見の先にある「定義の揃え方」はデータアーキテクトやメトリクス定義の単一真実源であるセマンティックレイヤーの考え方とつながります。
3. 機能6点とメタデータ3分類
機能6点とメタデータ3分類をつかめば、各製品の説明が共通の物差しで読めます。
検索・リネージ・品質
代表的な機能を6点に整理します。各製品の機能名は異なりますが、役割は共通しています。
| 機能 | 内容 | 例 |
|---|---|---|
| 検索・ディスカバリ | キーワードやタグで探す | Catalog Explorerでの発見、自然言語検索 |
| リネージ・影響分析 | 来歴と影響範囲をたどる | 「このテーブルの上流は?」「消すと何が壊れる?」 |
| 品質・プロファイリング | 中身の傾向と品質を見る | 欠損・分布、品質モニタリング |
| アクセス制御・ガバナンス | 権限と監査を管理する | きめ細かいアクセス制御、監査ログ |
| 自動化・取り込み | メタデータを自動収集する | クローラ、スキャン、コネクタ |
| AI・共有 | 説明付与や共有を助ける | AIによる文脈付与、データ共有 |
リネージ(data lineage)とは、データがどこから来て、どう変換され、どこへ移動するかを追跡するプロセスです。Googleの定義では、コンプライアンス確保やトラブルシュート、根本原因分析に重要とされています。
リネージの材料には標準もあります。OpenLineageはリネージ収集・分析のためのオープンフレームワーク/オープンスタンダードです。Dataset・Job・Runの汎用モデルと、Facetによる拡張が中核です。イベント種別はRunEvent(実行時)、JobEvent(静的・設計時)、DatasetEvent(設計時メタデータ更新)です。Knowledge CatalogはOpenLineageイベントのインポートに対応しています。
BigQueryのリネージ自動記録の対象は、コピージョブやCREATE TABLE(CTAS含む)・INSERT・UPDATE・DELETE・MERGEのクエリジョブです。前提としてData Lineage APIの有効化が必要です。
dbtを使っている場合は、dbt docs generateでドキュメント生成、dbt docs serveでプレビューができます。リネージ表示の補完にも使えます。
アクセス制御・自動化・メタデータ3分類
メタデータとは、データを説明するデータです。たとえば「この列は何を意味するか」「型は何か」「いつ更新されたか」です。
一般的整理として、次の3分類がよく使われます。Googleの旧Dataplex説明にある「ビジネス・テクニカル・ランタイムメタデータ」を根拠にした整理です。単一の一次定義ページは未確認のため、実務上の整理として扱ってください。
| 分類 | 内容 | 例 |
|---|---|---|
| ビジネスメタデータ | 意味と使い方 | 定義、オーナー、用語、利用注意 |
| テクニカルメタデータ | 構造と所在 | テーブル名、列・型、スキーマ、場所 |
| オペレーショナル(ランタイム)メタデータ | 運用の状態 | 更新時刻、ジョブ実行、アクセス状況 |
具体例で見ると理解しやすいです。
- AWS Glue Data Catalog:メタデータリポジトリ、クローラによる自動検出、スキーマ管理(推論・進化・バージョニング)、Icebergテーブル向けマネージドコンパクション、KMS暗号化、リネージ記録が挙げられています
- Databricks Unity Catalog:アクセス制御、Catalog Explorerによる発見、リネージ自動追跡、監査ログ、データ分類、品質モニタリング、データ共有(OpenSharing)、AIガバナンスが挙げられています
利用者視点の詳しい整理はアナリティクスエンジニアやBIエンジニアの記事も参考になります。
4. 混同しやすい言葉との違い
辞書・レイク/DWH・ガバナンス・用語集との違い
似た言葉を対比表で整理します。
| 対象 | 範囲 | 目的 | 利用者 | 粒度 |
|---|---|---|---|---|
| データカタログ | 横断の索引+文脈 | 探す・理解する・安全に使う | 全社(作る人・使う人・守る人) | テーブル・列・ジョブなど |
| データ辞書 | 個別の項目説明 | 定義を揃える | 開発者・分析者 | 列・項目 |
| ビジネス用語集 | 言葉の定義 | 言い回しを揃える | 業務部門・分析者 | 用語 |
| データレイク/DWH | データの置き場所 | 蓄える・処理する | エンジニア中心 | 生データ・加工済み |
| データガバナンス | 運用の枠組み | 守る・任せる・監査する | 管理者・オーナー | ポリシー・権限 |
ポイントは次の3点です。
- 用語集はカタログの一部機能になり得ます。DataHubのBusiness GlossaryはTerms(定義付き語彙)とTerm Groups(入れ子構造)で構成され、用語と物理アセットを関連付けます
- Microsoft Purviewでは役割分担が明確です。Data Mapがスキャン・メタデータ取得、Unified Catalogがキュレーション・アクセス許可・健全性管理を担います
- Databricks Unity Catalogはガバナンス層です。名前空間は3層(
catalog.schema.object)で、テーブル・ビュー・ボリューム・関数・モデル等を管理対象にします
Googleの新旧名称も混同しやすい点です。Knowledge Catalogは「既存Data Catalogを最終的に置換するAI搭載ガバナンスプラットフォーム」とFAQで明言されています。旧Data Catalogとは別物として扱ってください。
カタログ・ガバナンス・アーキテクト・セマンティックレイヤーの配置
全体像を配置で捉えると迷いにくくなります。
- カタログ:探す・理解するための索引
- ガバナンス:権限・品質・監査の決めごと。実施の考え方はデータガバナンスに整理されています
- アーキテクト:ゾーン設計やドメイン分割、コントラクト連携。設計視点はデータアーキテクトが参考になります
- セマンティックレイヤー:メトリクス定義の単一真実源(詳細は別記事で解説予定)
カタログは真ん中でつなぐ役割です。設計と運用、定義と実データを結びます。
5. 作り方・導入手順6ステップとスモールスタート
目的から更新運用までの6ステップ
導入は次の順で進めます。
- 目的を決める(何の困りごとを解くか)
- 範囲を決める(先行するドメインやテーブル)
- メタデータを特定する(何を集めるか)
- 収集する(自動+手動で取り込む)
- 関連性を記録する(用語・オーナー・リネージを結ぶ)
- 公開して更新する(使ってもらい、鮮度を保つ)
AWS Glueのチュートリアル手順は、S3をデータソースに(1)データベース作成(2)テーブル作成の流れです。CLI例としてaws glue create-database --database-input '{"Name":"clidb"}'やboto3のcreate_databaseが挙げられています。
投入手段は複数あります。クローラ実行、手動定義、Table API、CloudFormationテンプレート、Hiveメタストア移行、CLI・Boto3・DDLです。
内製の材料としては、BigQuery INFORMATION_SCHEMAが使えます。BigQueryオブジェクトのメタデータ情報を提供する読み取り専用・システム定義ビューです。例としてmyDataset.INFORMATION_SCHEMA.TABLESやregion-us.INFORMATION_SCHEMA.SCHEMATAが挙げられています。スプレッドシート管理から始める場合も、このビューで棚卸しをすると進めやすいです。
Googleの移行導線として、コンソールの「Manage transition to Knowledge Catalog」ページが単一窓口とされています。タグテンプレート等の移行手順があります。
内製かツールか:スモールスタートのコツ
最初から全社展開しないことがコツです。次のように小さく始めます。
- 先行する範囲を絞る(例として30テーブル程度の提案形で検討する)
- オーナーを任命する(テーブルごとに責任者を置く)
- KPIの雛形を置く(検索数・利用数・問い合わせ件数など、提案として扱う)
なお「先行30テーブル・オーナー任命・KPI雛形」は一次情報のないベストプラクティス整理です。事例や数値としてではなく、提案形として扱ってください。
運用体制づくりでは、人材の観点も欠かせません。データアーキテクトやガバナンス担当、スチュワードの役割分担が論点になります。
6. ツール比較:OSSとクラウドの選び方
出典: 本文のツール表
OSSとクラウド純正は接続先と運用体制で選びます。料金額の断定はせず体系と公式リンクで判断してください。
DataHub・OpenMetadataの最小ハンズオン要点
OSSの2者はどちらもApache License 2.0です。
DataHubはLinkedIn発のOSSメタデータプラットフォームで、2020年にオープンソース化されました。公式README表記では80以上の本番グレードコネクタがうたわれています。push/pull取り込み、列レベルリネージ・利用統計・プロファイリング・品質メトリクス抽出に対応します。なおPyPIでは「50以上」と表記ゆれがあるため、本記事ではREADME表記にそろえます。
ローカル起動の要点は次のとおりです。
- 前提:Docker+Docker Compose v2、Python 3.10以上、Dockerリソース 2CPU・8GB RAM・2GB Swap・13GBディスク
- 導入:
python3 -m pip install --upgrade acryl-datahub - 起動:
datahub docker quickstart - 停止:
datahub docker quickstart --stop - 画面:http://localhost:9002、初期認証 datahub/datahub
OpenMetadataは90以上のturnkeyコネクタとUnified Metadata Graphをうたっています(公式Getting Started表記・2026年9月時点)。MCPサーバ・Python SDK・REST API・OpenLineage連携があります。なおマーケティング面で130以上との表記ゆれがあるため、本記事ではGetting Started表記にそろえます。
ローカル起動の要点は次のとおりです(v1.13.x手順、例として1.13.4)。最新2.x系の差異は未確認です。
- ディレクトリ作成→リリースページからdocker-compose.yml取得
- MySQL版:
docker compose -f docker-compose.yml up --detach - Postgres版:
docker-compose-postgres.ymlを使う - 要件:Compose v2.1.1以上
dbtとの併用も有効です。ドキュメント生成やテスト、リネージ補完に使えます。
横断比較表:クラウド5者とOSS・商用
同条件で横断比較します。料金額の断定はしません。体系と公式リンク、最終確認日で判断してください。
| 製品 | 形態 | 得意な場面 | 課金型(体系のみ) | 備考 |
|---|---|---|---|---|
| DataHub | OSS(Apache License 2.0) | 多様な接続と拡張 | 未確認(自営運用中心) | 80以上コネクタ(公式README・2026年9月時点)。MCP対応をうたう |
| OpenMetadata | OSS(Apache License 2.0) | 統合メタデータ管理 | 未確認(自営運用中心) | 90以上コネクタ(公式Getting Started・2026年9月時点)。MCPサーバ・SDKあり |
| AWS Glue Data Catalog | クラウド純正 | AWS中心の集中管理 | 保存+アクセスの月額従量。100万オブジェクト保存+100万リクエスト/月まで無料枠あり | 超過単価はリージョン変動のため公式確認が必要 |
| Knowledge Catalog | クラウド純正 | Google Cloud中心+AI文脈付与 | DCUベースのStandard/Premium+ストレージ+API。組織化機能とポリシー適用は無料 | Google Cloud Knowledge Catalog(旧称 Dataplex Universal Catalog)。DCUは抽象課金単位 |
| Microsoft Purview Unified Catalog+Data Map | クラウド純正 | Microsoft環境の統合ガバナンス | 公式でご確認ください | Data MapとUnified Catalogの2構成 |
| Snowflake Horizon Catalog | クラウド純正 | Snowflake内外のガバナンス | 公式でご確認ください | Apache Polarisベース。Iceberg REST/Scan API対応。Glue・OneLakeと連携 |
| Databricks Unity Catalog | クラウド純正 | Databricksの統合ガバナンス | 公式でご確認ください | 2023年11月8日以降作成のワークスペースでは自動有効(AWS版)。Azure版は2023年11月9日表記 |
| 商用SaaS(Atlan/Alation/Collibra) | 商用SaaS中心 | 別途比較予定 | 公式でご確認ください | 2026年9月時点では一次確認中のため割愛 |
時点注記は次のとおりです。
- Glue無料枠は「100万オブジェクト保存+100万リクエスト/月まで無料」の体系です。超過分単価は変動するため公式料金ページで確認してください
- Knowledge Catalog改名は2026年4月10日付です。コマンドは
gcloud dataplexのままです - BigQuery旧Data Catalogは非推奨です。2026年9月時点の表示では2026年6月1日終了です
- リネージ保持期間(例として30日という情報)は一次情報で未確認のため記載しません
本記事の「Horizon」はSnowflake Horizon Catalogを指します。
7. AI時代の拡張とよくある質問・まとめ
RAG・エージェント・セマンティックレイヤー・権限と監査
AI時代のカタログは「信頼できるコンテキストの供給源」です。
- RAG(検索拡張生成):回答の根拠としてカタログの定義や鮮度を使う
- エージェント:AIがデータの場所・意味・制約を理解して動く。Knowledge Catalogは構造化・非構造化データから意味を自動抽出し、AIエージェントをgroundingする動的コンテキストグラフを構築すると説明されています
- セマンティックレイヤー:メトリクス定義の単一真実源。カタログのビジネス文脈と組み合わせると、数値の食い違いを減らせます
- 権限と監査:AIからの利用でも権限・監査は欠かせません
MCP(Model Context Protocol:AIモデルと外部ツールの接続規格)の要点は概念止まりにします。
- DataHubはMCPネイティブ対応をうたっています。接続例として
npx -y @acryldata/mcp-server-datahubが挙げられています。動作保証はしません - OpenMetadataはMCPサーバガイド・Python SDK・REST APIを公式提供しています
- Knowledge CatalogはMCPリファレンス(Local MCP Toolbox/Remote MCP server)がドキュメント目次にあります。詳細手順は未確認です
FAQ 8問
Q1. データカタログとは何ですか?
A. 組織のデータ資産のメタデータを集めて検索・理解できるようにする仕組みです。場所・スキーマ・意味・鮮度・利用条件をまとめて探せます。
Q2. なぜ必要ですか?
A. 探せない・重複・属人化・スワンプ化・意思決定遅延を減らすためです。発見・理解のしやすさや再利用・協業の促進が公式にも説明されています。定量的効果は未確認です。
Q3. 主な機能は何ですか?リネージとは何ですか?
A. 検索、リネージ・影響分析、品質・プロファイリング、アクセス制御・ガバナンス、自動化、AI・共有です。リネージは来歴と移動を追跡するプロセスで、監査や障害対応に使います。
Q4. メタデータの3分類とは何ですか?
A. ビジネス(意味・オーナー)、テクニカル(構造・所在)、オペレーショナル(ランタイム:更新や実行状態)です。実務上の一般的整理として扱ってください。
Q5. データ辞書・レイク・ガバナンスとの違いは何ですか?
A. 辞書は項目説明、レイク/DWHは置き場所、ガバナンスは運用の枠組みです。カタログは横断の索引と文脈です。用語集はカタログの一部機能になり得ます。
Q6. 作り方は?内製できますか?
A. 目的→範囲→メタデータ特定→収集→関連付け→公開→更新の順で進めます。スプレッドシートやBigQuery INFORMATION_SCHEMAでの内製から始められます。本格運用ではDataHub・OpenMetadataやクラウド純正カタログを検討します。
Q7. DataHubとOpenMetadataの違いは何ですか?
A. どちらもApache License 2.0のOSSです。DataHubはLinkedIn発・2020年OSS化で80以上コネクタ(公式README表記)、OpenMetadataは90以上コネクタ(公式Getting Started表記)とされています。詳細な機能差は要件と公式ドキュメントで確認してください。
Q8. GlueやKnowledge Catalogとは何ですか?
A. AWS Glue Data CatalogはAWSの集中メタデータリポジトリです。Google Cloud Knowledge CatalogはAI搭載のガバナンス付きカタログで旧称はDataplex Universal Catalogです。旧Data Catalogとは別物です。
まとめ
次は、自社の困りごとに合わせて小さく試してみてください。発見に困る場合は検索・取り込みから、数値の食い違いに困る場合は用語・定義付けから始めるのが目安です。利用者視点の整理はアナリティクスエンジニアやBIエンジニアも参考になります。
- データカタログはデータの索引と文脈です。探す・理解する・安全に使うを支えます
- 機能の核は検索・リネージ・品質・権限・自動化です
- まずは小さく始め、オーナーと更新運用を決めます
- OSSとクラウド純正は、接続先と運用体制で選びます
- AI活用の土台として、信頼できる定義と来歴を整えます
AI実装スキルを磨きたい人へ
これからのAI時代に 「市場価値の高い人材」 とは、「モデルを使える人」ではなく 「業務に組み込んで価値を出せる人」 です。AI実装+エンジニアリング+業務理解の三点セットを磨くことが、5年後・10年後のキャリアに直結します。
※以下、PRを含みます
関連記事
- データガバナンスとは:権限・品質・監査の全体像とカタログとの分界
- データアーキテクトとは:ゾーン設計・ドメイン分割・コントラクト連携
- dbtとは:ドキュメント生成・テスト・リネージ補完
- アナリティクスエンジニアとは:利用者視点のディスカバリと定義活用
- BIエンジニアとは:可視化の手前のデータ探索と信頼性
参考文献
- https://docs.aws.amazon.com/glue/latest/dg/catalog-and-crawler.html
- https://docs.aws.amazon.com/glue/latest/dg/start-data-catalog.html
- https://aws.amazon.com/glue/pricing
- https://docs.cloud.google.com/dataplex/docs
- https://docs.cloud.google.com/dataplex/docs/faq
- https://docs.cloud.google.com/dataplex/docs/track-lineage-quickstart
- https://docs.cloud.google.com/dataplex/docs/about-data-lineage
- https://docs.cloud.google.com/bigquery/docs/data-catalog
- https://docs.cloud.google.com/bigquery/docs/information-schema-intro
- https://docs.cloud.google.com/dataplex/docs/transition-to-dataplex-catalog
- https://docs.cloud.google.com/data-catalog/docs
- https://docs.cloud.google.com/data-catalog/docs/release-notes
- https://cloud.google.com/dataplex/pricing
- https://learn.microsoft.com/en-us/purview/data-governance-overview
- https://docs.databricks.com/en/data-governance/unity-catalog/index.html
- https://docs.snowflake.com/en/user-guide/snowflake-horizon
- https://docs.datahub.com/docs/quickstart
- https://docs.datahub.com/docs/glossary/business-glossary
- https://docs.datahub.com/docs/introduction
- https://github.com/datahub-project/datahub
- https://docs.open-metadata.org/v1.13.x/quick-start/local-docker-deployment
- https://github.com/open-metadata/OpenMetadata
- https://openlineage.io/docs/next
- https://openlineage.io/docs/spec/object-model
- https://docs.getdbt.com/docs/build/documentation
- https://docs.getdbt.com/docs/build/view-documentation
最終確認日:2026年9月16日。

コメント