docs/AI_Computer_Vision/layout_models_survey.md

# レイアウト分析・生成モデル 包括的サーベイ

> [!NOTE]
> 本レポートは、**文書・画像・動画**におけるレイアウト分析モデルとレイアウト生成モデルの最新動向（2024〜2025年）を網羅的にまとめたものです。

---

## 目次

1. [文書レイアウト分析モデル](#1-文書レイアウト分析モデル)
2. [レイアウト生成モデル（グラフィック/UI/文書）](#2-レイアウト生成モデルグラフィックui文書)
3. [画像レイアウト生成モデル（Layout-to-Image）](#3-画像レイアウト生成モデルlayout-to-image)
4. [動画レイアウト分析・生成モデル](#4-動画レイアウト分析生成モデル)
5. [VLM/LLMベースのレイアウト理解モデル](#5-vlmllmベースのレイアウト理解モデル)
6. [商用レイアウト分析ソリューション](#6-商用レイアウト分析ソリューション)
7. [主要データセット・ベンチマーク](#7-主要データセットベンチマーク)
8. [技術トレンド総括](#8-技術トレンド総括)

---

## 1. 文書レイアウト分析モデル

文書レイアウト分析（Document Layout Analysis: DLA）は、文書画像からテキスト、表、図、タイトル等の構造要素を検出・分類するタスクです。

### 1.1 マルチモーダルTransformerベース

| モデル | 年 | アーキテクチャ | 特徴 | リンク |
|:---|:---|:---|:---|:---|
| **LayoutLM** | 2020 | BERT + 2D Position Embedding | テキスト＋空間位置情報の統合学習のパイオニア | [GitHub](https://github.com/microsoft/unilm/tree/master/layoutlm) |
| **LayoutLMv2** | 2021 | Transformer + CNN Backbone | 視覚情報の追加、空間アテンション導入 | [HuggingFace](https://huggingface.co/microsoft/layoutlmv2-base-uncased) |
| **LayoutLMv3** | 2022 | Unified Transformer (Patch Embed) | CNNをViTスタイルに置換、統一的マスクモデリング | [HuggingFace](https://huggingface.co/microsoft/layoutlmv3-base) |
| **LayoutXLM** | 2022 | 多言語LayoutLMv2 | 53言語対応、多言語文書理解 | [HuggingFace](https://huggingface.co/microsoft/layoutxlm-base) |

**特長**: テキスト・視覚・レイアウトの3モダリティを統合し、フォーム理解、文書VQA、エンティティ抽出など**意味理解**を必要とするタスクに最適。

### 1.2 物体検出ベース（ビジョンのみ）

| モデル | 年 | ベース | 特徴 | リンク |
|:---|:---|:---|:---|:---|
| **DocLayout-YOLO** | 2024 | YOLO | Global-to-Local Controllable Receptive Module、DocSynth-300K合成データで学習 | [GitHub](https://github.com/opendatalab/DocLayout-YOLO) |
| **PP-DocLayout** | 2024 | PaddleDetection | M/Sバリアント、リソース制約環境向け最適化 | PaddlePaddle |
| **Heron-101** | 2025 | RT-DETR | Doclingパイプラインの一部、28ms/imageの高速推論、78% mAP | [Docling](https://github.com/DS4SD/docling) |
| **LayoutParser** | 2021 | Detectron2 | レイアウト検出の統合ライブラリ、複数モデル対応 | [GitHub](https://github.com/Layout-Parser/layout-parser) |
| **chunkr-layout-1** | 2025 | — | 80.9% mAP@50、金融・法律・医療文書向けプロダクションモデル | [chunkr.ai](https://chunkr.ai) |

**特長**: テキスト情報を使わず画像のみでレイアウト要素を検出。**高速推論**が必要なパイプラインに最適。

### 1.3 統一Transformerベース

| モデル | 年 | アーキテクチャ | 特徴 |
|:---|:---|:---|:---|
| **DLAFormer** | 2024 (ICDAR) | DETR-inspired Encoder-Decoder | 物体検出・テキスト領域検出・論理役割分類・読み順予測を統一的に関係予測として処理 |
| **RT-DETRv2 / DFINE** | 2024-2025 | Real-Time DETR | リアルタイム推論と高精度のバランス |

### 1.4 グラフベース手法

| モデル | 年 | 特徴 |
|:---|:---|:---|
| **Paragraph2Graph** | 2024 | 文書要素間の空間・論理関係をGNNでモデリング |
| **gDSA** | 2024 | グラフベース文書構造解析 |

### 1.5 パイプライン/フレームワーク

| システム | 開発 | 特徴 |
|:---|:---|:---|
| **Docling** | IBM | PDFからMarkdown/JSONへのエンドツーエンド変換、Heron, PP-DocLayoutなど多モデル対応、LangChain/LlamaIndex統合 |
| **MinerU** | — | RAG向け文書パース |
| **Unstructured.io** | — | 文書パース統合フレームワーク |

---

## 2. レイアウト生成モデル（グラフィック/UI/文書）

レイアウト生成は、要素の種類・制約条件から自動的にレイアウト（バウンディングボックスの位置・サイズ）を生成するタスクです。

### 2.1 GAN / VAEベース（初期手法）

| モデル | 年 | アーキテクチャ | 特徴 |
|:---|:---|:---|:---|
| **LayoutGAN** | 2019 | GAN | 微分可能ワイヤフレームレンダリング層、CNN判別器による整列性評価 |
| **LayoutVAE** | 2019 | VAE | CountVAE（要素数予測）+ BBoxVAE（位置予測）の2段構成 |

### 2.2 Transformerベース

| モデル | 年 | アーキテクチャ | 特徴 |
|:---|:---|:---|:---|
| **LayoutTransformer** | 2021 | Autoregressive Transformer | レイアウトを離散トークン列として自己回帰生成 |
| **BLT** (Bidirectional Layout Transformer) | 2022 (Google) | Non-Autoregressive Transformer | ドラフト生成→反復精錬、10倍高速化、制御可能な生成 |
| **LayoutFormer++** | 2023 | Encoder-Decoder / Decoder-only | Seq2Seq形式の統一レイアウト生成 |
| **StructLayoutFormer** | 2025 | Transformer | 構造情報と要素配置を分離、制約付きレイアウト生成 |

### 2.3 拡散モデル / Flow Matchingベース

| モデル | 年 | アーキテクチャ | 特徴 |
|:---|:---|:---|:---|
| **LayoutDM** | 2023 | Discrete Diffusion + Transformer | ノイズからレイアウトを段階的デノイジング、柔軟な条件付き生成（補完、カテゴリ→位置） |
| **LayoutFlow** | 2024 | Flow Matching | Diffusionの代替、滑らかなサンプリング軌跡、高速推論 |
| **LACE** | 2024 | Constrained Diffusion | 美的制約を反映したレイアウト拡散モデル |
| **UniLayDiff** | 2025 | Unified Diffusion Transformer | 多様なコンテンツ認識レイアウトタスクを単一モデルで統合 |
| **SLayR** | 2025 | Rectified Flow | シーン・グラフィックレイアウト生成向け改善型Flow Matching |

### 2.4 LLMベース

| モデル | 年 | ベースLLM | 特徴 |
|:---|:---|:---|:---|
| **LayoutGPT** | 2023 (NeurIPS) | GPT-3.5/4 | テキスト条件からCSS/コード形式でレイアウト生成、学習不要 |
| **PosterLlama** | 2024 | LLaMA系 | HTML形式でポスター・グラフィックレイアウトを生成、視覚エンコーダとLLMの2段階学習 |
| **PosterLLaVa** | 2024 | LLaVA系 | LLMベースのコンテンツ認識レイアウト生成 |
| **LGGPT** | 2024/2025 | 汎用LLM | Arbitrary Layout Instruction (ALI) + Universal Layout Response (ULR) で統一的レイアウト生成 |
| **LayoutKAG** | 2025 | LLM + Knowledge Graph | 知識拡張型レイアウト生成 |

> [!TIP]
> **2024-2025年のトレンド**: LLMが「レイアウトプランナー」として高レベルな設計知識を提供し、Diffusion Transformerが高品質な最終出力を合成する**ハイブリッドアプローチ**が主流になりつつあります。

---

## 3. 画像レイアウト生成モデル（Layout-to-Image）

バウンディングボックスやレイアウト指定から、それに合致する画像を生成するタスクです。

### 3.1 Layout-to-Image生成

| モデル | 年 | 会議 | アーキテクチャ | 特徴 |
|:---|:---|:---|:---|:---|
| **InstanceAssemble** | 2025 | NeurIPS | DiT + LoRA | Instance-assembling attention、Flux/SD3互換、DenseLayoutベンチマーク（5K画像/90Kインスタンス）、Layout Grounding Score (LGS) 指標を提案 |
| **CreatiLayout** | 2025 | ICCV | Siamese MM-DiT (SiamLayout) | レイアウトを独立モダリティとして扱う、LayoutDesigner（LLMプランナー）、LayoutSAMデータセット（270万画像/1070万エンティティ） |
| **UniLayDiff** | 2025 | — | Unified DiT | コンテンツ認識レイアウトタスクの統一モデル、LoRAベースの制約統合 |
| **GLIGEN** | 2023 | CVPR | Grounded Diffusion | バウンディングボックスによる空間制御の先駆的手法 |
| **LayoutDiffuse** | 2023 | — | Diffusion | セマンティックレイアウトからのシーン画像生成 |

### 3.2 UI/Webレイアウト生成

| ツール/モデル | 特徴 |
|:---|:---|
| **Galileo AI** | テキストプロンプトからUI/UXモックアップ生成、Figmaエクスポート対応 |
| **Uizard** | ラフスケッチからプロフェッショナルUIモックアップ |
| **Screenshot-to-Code** | スクリーンショットからHTML/CSSコードへ変換 |
| **Design2Code** | デザイン画像からフロントエンドコード生成 |

---

## 4. 動画レイアウト分析・生成モデル

### 4.1 レイアウト制御型動画生成

動画生成において、物体の空間配置（バウンディングボックス）、カメラ軌道、動きの方向を明示的に制御するモデル群です。

| モデル | 年 | 制御方式 | 特徴 |
|:---|:---|:---|:---|
| **VideoDirectorGPT** | 2024 (COLM) | LLMプランニング + BBox | GPT-4がテキストからビデオプラン（シーン記述・エンティティレイアウト・一貫性グループ）を生成、Layout2Vidモジュールで空間制御付き動画合成 |
| **TrailBlazer** | 2024 | BBox軌跡 + Attention編集 | 学習不要、事前学習済T2Vモデルの時空間アテンションマップを編集してキーフレームBBoxで物体軌跡制御 |
| **MotionCtrl** | 2024 | カメラ運動 + 物体運動 | CMCM（カメラ制御）+ OMCM（物体制御）の2モジュール、アダプターベース |
| **DrivingDiffusion** | 2024 | 3D空間レイアウト | 自動運転シーン向けマルチビュー一貫性、3D空間レイアウトガイド |
| **GenProp** | 2025 (Adobe) | 1フレーム編集伝播 | 最初のフレームの変更を動画全体に伝播（挿入・除去・トラッキングの統一） |

### 4.2 動画生成基盤モデル（DiTベース）

2024-2025年、動画生成はU-Netから**Diffusion Transformer (DiT)** アーキテクチャへ大きく移行しました。

| モデル | 開発 | 特徴 |
|:---|:---|:---|
| **HunyuanVideo** | Tencent | 長尺高品質動画、DiTベース |
| **CogVideoX** | Zhipu AI | テキストから動画生成、DiTベース |
| **Wan2.1** | Alibaba | 大規模動画生成 |

### 4.3 制御方式の分類

```mermaid
graph TB
    A["動画レイアウト制御"] --> B["構造的制御"]
    A --> C["ID/外観制御"]
    A --> D["動き制御"]
    
    B --> B1["BBox/レイアウト"]
    B --> B2["深度マップ"]
    B --> B3["スケッチ"]
    B --> B4["セマンティックマップ"]
    
    D --> D1["カメラ軌道"]
    D --> D2["物体軌跡"]
    D --> D3["ランドマーク/ポーズ"]
    
    B1 --> E["VideoDirectorGPT"]
    B1 --> F["TrailBlazer"]
    D1 --> G["MotionCtrl"]
    D2 --> G
```

### 4.4 データセット

| データセット | 特徴 |
|:---|:---|
| **LVD-2M** | 200万本の長尺動画（10秒以上）、時間的に密なキャプション付き |

---

## 5. VLM/LLMベースのレイアウト理解モデル

大規模Vision-Language Model（VLM）を用いた文書・画像レイアウト理解は2024-2025年の主要トレンドです。

### 5.1 文書特化VLM

| モデル | 開発 | 特徴 |
|:---|:---|:---|
| **mPLUG-DocOwl2** | Alibaba / Renmin Univ. | OCRフリー文書理解、高解像度DocCompressorで1ページ324トークンに圧縮、マルチページ対応 |
| **Qwen2.5-VL** | Alibaba Cloud | エージェント能力（ツール使用、画面操作）、動的解像度ViT、複雑なレイアウト・チャート・表の分析、構造化出力（JSON）生成 |
| **Florence-2** | Microsoft | 統一Seq2Seqフレームワーク、キャプション・物体検出・セグメンテーション・OCRを1モデルで、軽量・ファインチューニング向き |
| **GLM-4.5V** | Zhipu AI | 高度なマルチモーダル推論、文書レイアウト理解 |
| **InternVL2** | Shanghai AI Lab | 高性能VLM、文書理解タスクでSOTA級 |

### 5.2 比較表

| モデル | 最適用途 | レイアウト理解力 |
|:---|:---|:---|
| **mPLUG-DocOwl2** | 効率的なマルチページ文書分析（低レイテンシ） | ◎ OCRフリー高効率 |
| **Qwen2.5-VL** | 複雑な推論・構造化データ抽出・エージェントタスク | ◎◎ 最高性能 |
| **Florence-2** | 軽量・汎用ビジョンタスク（OCR+検出+セグメンテーション） | ○ 汎用的 |

---

## 6. 商用レイアウト分析ソリューション

### 6.1 クラウドベンダー比較

| サービス | 提供 | 強み | 最適ユースケース |
|:---|:---|:---|:---|
| **Google Document AI** | Google Cloud | 特化型プリトレーニングプロセッサ群（請求書、税務書類、契約書等）、Vertex AI/BigQuery連携 | GCPユーザー、特定業務文書の高精度処理 |
| **Amazon Textract** | AWS | S3/Lambda/SQSとのネイティブ連携、Queries機能（自然言語で特定データ抽出） | 大量トランザクション処理、AWSパイプライン |
| **Azure AI Document Intelligence** | Microsoft | **レイアウト分析でリーダー的評価**、可変レイアウト文書への対応、Studio UIでカスタムモデル学習が容易 | 複雑・非定型レイアウトの文書 |

### 6.2 その他の商用/デザインツール

| ツール | 分野 | 特徴 |
|:---|:---|:---|
| **Adobe Firefly** | グラフィックデザイン | Photoshop/Illustrator統合、生成塗りつぶし、テキストからベクター |
| **Canva Magic Studio** | グラフィックデザイン | AIレイアウト提案、Magic Designでプレゼン即時生成 |
| **Kittl / Recraft** | グラフィックデザイン | ブランド一貫性重視、ベクターベース出力、編集可能アセット |
| **Reducto** | 文書処理 | エンタープライズ向けAgentic文書解析 |
| **V7 Go** | 文書処理 | 高精度・検証可能なAI文書分析 |

---

## 7. 主要データセット・ベンチマーク

### 7.1 文書レイアウト分析

| データセット | サイズ | アノテーション | 対象文書 |
|:---|:---|:---|:---|
| **PubLayNet** | ~360K ページ | 自動生成（PDF/XML対応） | 科学論文（PubMed Central） |
| **DocLayNet** | ~81K ページ | 人手アノテーション、11クラス | 金融、マニュアル、科学、法律、特許、政府 |
| **DocBank** | 500K ページ | 弱教師（LaTeXソース） | arXiv論文、トークンレベルアノテーション |
| **D⁴LA** | — | 詳細人手アノテーション | 多様な文書 |
| **DocStructBench** | 数千ページ | 人手、10カテゴリ | 学術、教科書、金融、市場分析 |
| **Comp-HRDoc** | — | — | 複雑な高解像度文書 |

### 7.2 レイアウト生成

| データセット | 対象 | 特徴 |
|:---|:---|:---|
| **RICO** | モバイルUI | UIデザイン・構造階層の大規模コレクション |
| **PubLayNet** | 文書 | レイアウト生成評価にも使用 |
| **Magazine** | 雑誌レイアウト | ポスター・雑誌のグラフィックレイアウト |
| **CGL Dataset** | コンテンツ認識レイアウト | グラフィックレイアウト生成向け |
| **LayoutSAM** | 汎用画像 | CreatiLayoutが提案、270万画像/1070万エンティティ |
| **DenseLayout** | 汎用画像 | InstanceAssembleが提案、5K画像/90Kインスタンス |

### 7.3 評価指標

| 分野 | 指標 | 説明 |
|:---|:---|:---|
| **レイアウト検出** | mAP, IoU | 物体検出の標準指標 |
| **レイアウト生成** | FID | 生成レイアウトの品質・多様性 |
| **レイアウト生成** | Alignment, Overlap | レイアウト要素の整列性、重複度 |
| **レイアウト生成** | LGS (Layout Grounding Score) | InstanceAssembleが提案した新指標 |
| **文書理解** | DocVQA, ANLS | 文書視覚質問応答 |
| **レイアウト検出** | LPIPS | ロバストネスベンチマーク向け |

---

## 8. 技術トレンド総括

### 8.1 全体マップ

```mermaid
graph LR
    subgraph "レイアウト分析（入力→構造理解）"
        DA["文書レイアウト分析"]
        IA["画像レイアウト分析"]
        VA["動画レイアウト分析"]
    end
    
    subgraph "レイアウト生成（条件→レイアウト出力）"
        DG["文書/グラフィック<br>レイアウト生成"]
        IG["Layout-to-Image<br>画像生成"]
        VG["Layout-guided<br>動画生成"]
    end
    
    DA --> |"構造情報"| DG
    IA --> |"空間情報"| IG
    VA --> |"時空間情報"| VG
    
    DG --> |"BBox/マスク"| IG
    IG --> |"フレーム生成"| VG
```

### 8.2 主要トレンド

| トレンド | 説明 |
|:---|:---|
| **1. Diffusion Transformer (DiT) への移行** | U-Netベースの拡散モデルからTransformerベースへ。レイアウト生成（LayoutDM→UniLayDiff）、画像生成（InstanceAssemble）、動画生成（HunyuanVideo等）すべてで進行 |
| **2. LLMのレイアウトプランナー化** | LayoutGPT、PosterLlama、VideoDirectorGPTに見られるように、LLMがデザイン知識を活用してレイアウトを「設計」する手法が台頭 |
| **3. ハイブリッドアプローチ** | LLM（高レベルプランニング）+ Diffusion Model（高品質合成）の組み合わせが2025年のSOTA |
| **4. Flow Matchingの台頭** | LayoutFlowやSLayRに見られる、拡散モデルの代替としてのFlow Matching。よりシンプルで高速 |
| **5. 統一モデルの志向** | 複数のレイアウトタスク（生成、補完、条件付き生成等）を1つのモデルで処理（UniLayDiff, LGGPT, DLAFormer） |
| **6. コンテンツ認識の強化** | 背景画像やテキスト内容を考慮したレイアウト生成（PosterLlama, CreatiLayout） |
| **7. エンタープライズRAGパイプライン統合** | Docling, MinerU等による文書レイアウト分析→LLM/RAGへの直接的な統合 |
| **8. Agentic Document AI** | VLM（Qwen2.5-VL等）がレイアウト理解だけでなく、ツール使用や自律的な判断を行うエージェント的振る舞い |

### 8.3 アーキテクチャの進化タイムライン

```mermaid
timeline
    title レイアウトモデルの進化
    2019 : LayoutGAN
         : LayoutVAE
    2020 : LayoutLM
    2021 : LayoutTransformer
         : LayoutLMv2
         : LayoutParser
    2022 : LayoutLMv3
         : BLT (Google)
    2023 : LayoutDM
         : LayoutGPT
         : GLIGEN
         : LayoutFormer++
    2024 : DocLayout-YOLO
         : DLAFormer
         : LayoutFlow
         : PosterLlama
         : VideoDirectorGPT
         : TrailBlazer
         : MotionCtrl
    2025 : UniLayDiff
         : CreatiLayout
         : InstanceAssemble
         : GenProp
         : Heron-101
         : StructLayoutFormer
```

### 8.4 選定ガイド

> [!IMPORTANT]
> 用途に応じた推奨モデル選択

| やりたいこと | 推奨モデル/ツール |
|:---|:---|
| **文書からレイアウト要素を高速検出** | DocLayout-YOLO, Heron-101 (Docling) |
| **文書のセマンティック理解（フォーム抽出、VQA）** | LayoutLMv3, Qwen2.5-VL |
| **文書を構造化してRAG/LLMに投入** | Docling, MinerU, Unstructured.io |
| **ポスター・グラフィックのレイアウト自動生成** | PosterLlama, LayoutDM, LayoutFlow |
| **UI/Webレイアウトの自動生成** | LayoutGPT, Galileo AI, Uizard |
| **レイアウト指定から画像生成** | InstanceAssemble, CreatiLayout, GLIGEN |
| **レイアウト制御付き動画生成** | VideoDirectorGPT, TrailBlazer, MotionCtrl |
| **商用文書処理パイプライン** | Azure AI Document Intelligence, Google Document AI, AWS Textract |

---

> [!NOTE]
> 本サーベイは2025年5月時点の情報に基づいています。この分野は急速に進展しており、新しいモデルやベンチマークが継続的に登場しています。