Databricks Data + AI Summit 2026 最速レポート Day2
AIを安全に、そして賢く使いこなす—セキュリティチームと管理チームの現場から—

こんにちは！DATUM STUDIOの井田です。

現在参加中のData + AI Summit 2026から、現地レポートをお届けします。今回はDay2に参加した2つのセッションをまとめてご紹介します。

セッション1では「How Databricks Ships AI Safely：Inside the Team Enabling Secure Innovation」、セッション2では「Agentic Admins：Managing Databricks @ Databricks」です。

どちらもDatabricks社内のチームが自らの実体験を語るセッションで、「AIをどう安全に・賢く使いこなすか」という共通のテーマが流れていました。

セッション1：Databricksは、どのようにしてAIを安全に届けているのか

DatabricksのAIセキュリティチームのリーダーと、テックリードのAlex氏が登壇し、社内のAIサービスと従業員のコーディングツールをどう安全に運用しているかを語りました。

チームの役割は2つです。

1つ目はGenie・Agent Bricksなど新機能がリリースされる前のセキュリティレビュー、2つ目はClaude CodeやCursorといったAIコーディングツールを従業員が安全に使えるよう管理することです。

3つの致命的条件：プロンプトインジェクションのリスク

Databricksのセキュリティチームが整理したAIエージェントの主要なリスクが「3つの致命的条件（Lethal Trifecta）」という概念です。

以下の3つが同時に揃ったとき、プロンプトインジェクション攻撃が成立するとされています。

• ・センシティブなデータへのアクセス（個人情報・内部コードベースなど）
• ・信頼できない入力（外部顧客からのチャット入力や外部ドキュメントなど）
• ・外部への通信手段（コード実行によるデータ送信など）

AIセキュリティレビューエージェントの仕組み

AIコーディングツールの導入により、新機能のチケット数が四半期ごとに100%増加したことで、従来の手動レビューでは対応しきれない規模になってきました。そこでチームが構築したのが、Claude Code上で動作するAIセキュリティレビューエージェントです。エージェントは3つのステップで動作します。まず、トリアージでリスクレベルを分類し、AIセキュリティに関連する24の質問に回答してリスクスコアを含むレポートを生成します。次に、批判的検証役となる別エージェントが出力を検証して、ハルシネーションや誤検知を除去します。

エージェントの性能を25件のチケット（600の質問回答ペア）で人間と比較した結果、一致率95.8%・偽陰性率1%未満という結果が出ました。チームは、このエージェントを力の増幅器（force multiplier）と表現しつつ、高リスクな変更については、引き続き人間がレビューする姿勢を維持しています。

3層のセキュリティフレームワーク

従業員のコーディングツールに対しては、クライアントサイドコントロール（OSレベルのサンドボックス）・ゲートウェイコントロール（PIIマスキング・Human-in-the-loop承認）・スキャニングパイプライン（YARAシグネチャ・LLM as a Judge）という3層構造でセキュリティを担保しています。ゲートウェイは、接続できない場合リクエストを遮断する設計（フェイルクローズ）になっています。

セッション2：「クリックを速くしても意味がない」— Agentic Adminsの実践

Databricks自身のプラットフォーム管理チームが、エージェントを使って管理業務をどう自動化してきたか、2年半にわたる実体験を語りました。

限りある人間の認知資源

ユーザー・データ・チームが増えるにつれて、プラットフォーム管理チームに手動作業が集中するようになりました。

「もっと速くクリックすればいい」という発想ではそれを解決できないことに気づき、たどり着いた考え方が「Human attention is the critical resource（人間の注意こそが、最も希少なリソースだ）」でした。

コンピュートもストレージもエージェントもスケールできますが、人間の認知資源だけはスケールできません。

意思決定をやめ、意思決定が起きる空間を設計し始めた

エージェントが増えると承認キューが再び急増するという、新たな問題が生まれました。そこでチームがたどり着いたのが、「意思決定をやめ、意思決定が起きる空間を設計する」という考え方です。

判断を3種類に分類し、AUTO-APPROVED（事前定義された安全なリクエスト）・AGENT-APPROVED（グラウンドされたAIエージェントが検証）・HUMAN REVIEW（複雑・新規の判断が必要な場合）という形で、人間の判断が必要な場面を絞り込んでいきました。

本セッションの重要ポイント

登壇者が話す重要ポイントは、次の3つでした。

• （1）人間の認知こそが、最も希少なリソースである
• （2）人間の認知をどこに使うかは、データで判断できる
• （3）人間がワークフローを統治し、エージェントはその中で動く

締めくくりの言葉は「認知資源は複利で増える」でした。エージェントに任せることで生まれた余白を、より良いものを作ることに使う。それがさらに余白を生み、またより良いものが作れる。このループこそが、エージェント活用の本質だと感じました。

まとめ

2つのセッションを通じて共通して感じたのは、「AIをどう使いこなすか」という問いに対して、Databricksのチームがどちらも自らの実体験をもとに向き合っているということでした。

ツールを提供する側であるDatabricks社自身も、安全で効率的な開発手法を日々試行錯誤しているという話を聞くことができ、新鮮でした。

自分自身も、新しい技術を日々取り入れる中で、安全性と効率性を両立した設計・開発手法を考え続ける技術者でありたいと、あらためて感じたセッションでした。

おまけ

会場近くには、企業と連携した広告もありました。

こちらは、会場の遠景です。
複数の会場があり、参加者はセッションとセッションの間に建物を移動します。写真に写っている通行人の多くは本サミット参加者であり、賑やかな様子が窺えます。