language:
- ja
pretty_name: MangaVox Annotations
license: other
license_name: mangavox-annotation-pledge
license_link: https://huggingface.co/datasets/imprt/mangavox_annotations/blob/main/LICENSE
tags:
- manga
- speech
- multimodal
- annotations
extra_gated_heading: MangaVoxアノテーションの利用申請 / Access Request
extra_gated_description: >
申請前に、本Dataset Cardに記載された 「MangaVoxアノテーションの利用に関する誓約書」を確認してください。
アクセス申請を送信することにより、申請者は当該誓約書に同意し、 その内容を遵守することを誓約したものとみなします。 / Before submitting
an access request, please read the "Letter of Pledge Regarding the Use of
MangaVox Annotations" provided in this Dataset Card. By submitting an access
request, the applicant is deemed to have agreed to the Letter of Pledge and
pledged to comply with its terms.
extra_gated_prompt: >
本データを実際に利用する本人が申請してください。 入力された情報は、本データへのアクセスの可否を判断し、 利用状況を管理するために使用します。 /
Please submit this request as the individual who will actually use the Data.
The information provided will be used to determine whether access to the Data
should be granted and to manage its use.
extra_gated_fields:
氏名 / Full name: text
所属機関 / Affiliation or institution: text
部署・研究室 / Department or laboratory: text
職位・立場 / Position or role: text
国・地域 / Country or region: country
利用目的および利用方法 / Purpose and intended use: text
本データを利用する本人として申請します / I am applying as the individual who will use the data: checkbox
本データを学術研究または商用化を前提としない技術研究目的にのみ利用します / I will use the data only for non-commercial academic or technical research: checkbox
本データおよびその複製物を第三者に提供しません / I will not provide the data or its copies to any third party: checkbox
本データの改変物または派生物を第三者に提供または公表する場合は、事前に提供者に問い合わせます / I will contact the provider in advance before providing or publishing modified or derivative versions of the data: checkbox
演技者個人を特定または識別できる情報を開示しません / I will not disclose information that identifies or may identify individual performers: checkbox
本Dataset Cardに記載された誓約書を読み、その内容に同意します。 / I have read and agree to the pledge provided in this Dataset Card: checkbox
English follows Japanese.
MangaVox Annotations
MangaVoxは、漫画画像と演技音声を対応付けたオーディオコミック研究用データセットです。
本リポジトリでは、MangaVoxのアノテーションを提供します。
NII IDRを通じて提供されるMangaVoxの音声データは、本リポジトリには含まれません。
漫画画像およびManga109アノテーションは、Manga109から別途入手してください。
アクセス申請
本データへのアクセス申請は個別に審査します。
申請前に、以下の「MangaVoxアノテーションの利用に関する誓約書」を確認してください。アクセス申請を送信することにより、申請者は当該誓約書に同意し、その内容を遵守することを誓約したものとみなします。
アクセスは、利用申請時に届け出た者に対して付与されます。共同研究者その他の者が本データを利用する場合は、各利用者が個別にアクセスを申請してください。
MangaVoxアノテーションの利用に関する誓約書
国立研究開発法人 産業技術総合研究所 殿
私は、国立研究開発法人産業技術総合研究所（以下「提供者」という。）より、このたび提供を受ける次に示すMangaVoxのアノテーション（これに付随するメタデータを含む。以下「本データ」という。）の利用に際し、下記の事項を遵守することを誓約致します。
本データの名称：漫画画像と対応付いた日本語演技音声データセット（MangaVox）のアノテーション
本データの提供者：国立研究開発法人 産業技術総合研究所
記
本データの利用者の範囲は、利用申請時に届け出た者に限定します。本データを利用する者は、それぞれ個別に利用申請を行い、本データを取得します。
本データは、学術研究および商用化を前提としない技術研究目的にのみ利用します。
本データおよびその複製物を第三者に提供しません。また、本データに含まれる漫画作品に由来する文言、語句および文章については、第三者に提供または公表する場合、提供者の承諾なく一切の改変を行わず、同一性を保持します。ただし、音声に関するアノテーションの改変はこの限りではありません。本データの改変物または派生物を第三者に提供または公表する場合は、事前に提供者に問い合わせます。
本データを利用して得られた研究成果（報告書、出版物、派生ソフトウェア等）を公表する場合には、上記「本データの名称」を明記し、提供者の要請に応じてその写しを提供します。
前項の研究成果の公表を含む全ての開示に、演技者個人を特定または識別できる情報を含むことはしません。
本データが、提供者によって第三者の知的財産権その他の権利を侵害しないものであることを保証するものではなく、また本データの利用によって生じたいかなる損害等についても、利用者において全てを解決し、提供者に対して責任を問わないことを承諾します。
利用申請時に届け出た事項に変更が生じた場合は、変更後の利用が本誓約書に適合することを確認します。変更後の利用が本誓約書に適合しない場合は、本データの利用を終了します。
提供者から本データの利用中止の要請を受けた場合、自ら利用を中止した場合または本誓約書に違反する行為があった場合、直ちに、本データの利用を終了し、本データを消去し、提供者に対し消去した旨を通知します。また本データの利用にかかり、提供者に損害が生じた場合には、当該損害への責任を負うことを承諾します。
本誓約書の内容について変更が生じた場合、提供者が公表する変更後の本誓約書を遵守します。変更後の本誓約書を遵守できない場合は、直ちに本データの利用を中止し、第8項に従います。
本誓約書に記載のない事項が生じた場合は、提供者と誠意をもって協議し、問題の解決に努めます。
概要
本データには、発話区間、書き起こし、演技者・キャラクタ情報、および各発話とManga109の漫画要素との対応情報が含まれます。
本データは、オーディオコミックの理解・合成および関連する音声・言語・マルチモーダル研究に利用することを想定しています。
アノテーション内容
本データは、発話単位の音声アノテーションと、各発話をManga109の漫画要素に対応付ける情報から構成されます。
主に以下の情報が含まれます。
- 発話の開始時刻および終了時刻
- 発話テキスト
- 演技者ID
- キャラクタID
- 音声ファイルID
- 作品内の話数およびページ番号
- Manga109の以下の要素との対応
frametextfacebody
発話に対応する漫画要素が存在する場合は、それぞれのManga109要素IDが記録されています。
対応するManga109のバージョン
本データに含まれるManga109要素IDは、以下のManga109データに基づいています。
| MangaVoxアノテーション | Manga109アノテーション | 備考 |
|---|---|---|
v1.0 |
20231205 |
初回公開版 |
データ形式
アノテーションは作品単位のXMLファイルとして提供されます。
発話情報は主にvoiceまたはaligned_voice要素として記録されています。aligned_voice要素には、発話情報に加えて、Manga109の漫画要素との対応情報が含まれます。
発話要素の主な属性
| 属性名 | 内容 | 必須 | 値の例 |
|---|---|---|---|
id |
発話固有ID | ✓ | 60000027 |
index |
発話順序インデックス | ✓ | 38 |
start |
発話開始時刻［s］ | ✓ | 161.095 |
end |
発話終了時刻［s］ | ✓ | 161.635 |
episode_index |
作品内の話数インデックス | ✓ | 1 |
page_index |
ページインデックス | ✓ | 4 |
actor_id |
演技者ID | ✓ | 08F20 |
character_id |
キャラクタID | ✓ | 00001d7b |
audio_id |
音声ファイルID | ✓ | 08F20_Sakisuke |
text_id |
Manga109のtext要素ID |
00001d93 |
|
frame_id |
Manga109のframe要素ID |
00001d96 |
|
face_id |
Manga109のface要素ID |
00001dc2 |
|
body_id |
Manga109のbody要素ID |
00001d94 |
データ規模
MangaVoxアノテーションの概要は以下のとおりです。
- 作品数：8作品
- 作品単位の時間長の合計：約14.0時間
- 発話時間の合計：約9.0時間
- 発話数：14,158
- キャラクタ数：206
- 演技者数：18名
- 男性：9名
- 女性：9名
Manga109要素との対応付け数
| Manga109要素 | 対応付け数 |
|---|---|
frame |
13,848 |
text |
11,442 |
face |
7,532 |
body |
9,596 |
作品別統計
| 作品名 | 年代 | ジャンル | 作品時間［h］ | 発話時間［h］ | キャラクタ数 | 男性演技者数 | 女性演技者数 | 発話数 |
|---|---|---|---|---|---|---|---|---|
| ラブひな （LoveHina_vol01） |
1990年代 | ラブコメ | 1.8 | 1.3 | 14 | 1 | 2 | 2,270 |
| ひなぎく見参！一本桜花町編 （HinagikuKenzan） |
2000年代 | 恋愛 | 1.3 | 0.8 | 16 | 1 | 3 | 1,282 |
| サラダデイズ （SaladDays_vol01） |
1990年代 | 恋愛 | 1.6 | 1.0 | 27 | 3 | 4 | 1,719 |
| エヴリデイおさかなちゃん （EverydayOsakanaChan） |
1990年代 | 動物 | 2.3 | 1.5 | 44 | 1 | 2 | 2,336 |
| やさしい悪魔 （YasasiiAkuma） |
1990年代 | ファンタジー | 2.2 | 1.4 | 28 | 3 | 2 | 1,694 |
| 太陽にスマッシュ！ （TaiyouNiSmash） |
2000年代 | スポーツ | 1.3 | 0.8 | 15 | 2 | 2 | 1,202 |
| あっけら貫刃帖 （AkkeraKanjinchou） |
2000年代 | バトル | 1.6 | 1.1 | 27 | 3 | 3 | 1,619 |
| あくはむ （Akuhamu） |
2000年代 | 4コマ | 1.8 | 1.1 | 35 | 1 | 3 | 2,036 |
| 合計 | 2年代 | 7ジャンル | 14.0 | 9.0 | 206 | 9 | 9 | 14,158 |
作品別のManga109要素との対応付け数
| 作品名 | frame |
text |
face |
body |
|---|---|---|---|---|
| ラブひな （LoveHina_vol01） |
2,248 | 1,943 | 1,598 | 1,911 |
| ひなぎく見参！一本桜花町編 （HinagikuKenzan） |
1,230 | 947 | 647 | 936 |
| サラダデイズ （SaladDays_vol01） |
1,700 | 1,331 | 913 | 1,251 |
| エヴリデイおさかなちゃん （EverydayOsakanaChan） |
2,287 | 1,926 | 608 | 929 |
| やさしい悪魔 （YasasiiAkuma） |
1,677 | 1,587 | 952 | 1,077 |
| 太陽にスマッシュ！ （TaiyouNiSmash） |
1,192 | 928 | 743 | 853 |
| あっけら貫刃帖 （AkkeraKanjinchou） |
1,653 | 1,349 | 820 | 1,020 |
| あくはむ （Akuhamu） |
1,861 | 1,431 | 1,251 | 1,619 |
| 合計 | 13,848 | 11,442 | 7,532 | 9,596 |
関連データ
本リポジトリには、以下のデータは含まれません。
- MangaVoxの音声データ
- Manga109の漫画画像
- Manga109が提供する既存アノテーション
MangaVoxの音声データは、NII IDRを通じて別途取得してください。
漫画画像およびManga109アノテーションは、Manga109から別途取得してください。
それぞれのデータには、本リポジトリの誓約書とは異なる利用条件が適用されます。
アノテーションツール
アノテーションの作成・確認に使用したMangaVox Annotation Toolを公開しています。
問い合わせ先
本データの改変物・派生物の提供または公表に関する事前問い合わせ、および本データの消去に関する通知は、以下までご連絡ください。
- 産業技術総合研究所 MangaVox問い合わせ窓口 M-MangaVox-contact-ml@aist.go.jp
引用
本データを利用する場合は、以下の論文を引用してください。
@inproceedings{STakamichi2026ICASSP,
author = "Takamichi, Shinnosuke and Nakamura, Tomohiko and Suda, Hitoshi and Fukayama, Satoru and Ogata, Jun",
booktitle = "Proceedings of IEEE International Conference on Acoustics, Speech, and Signal Processing (ICASSP)",
title = "{MangaVox:} {Dataset} of acted voices aligned with manga images towards computer understanding of audio comics",
pages = "19467--19471",
month = "May",
year = "2026",
doi = "10.1109/ICASSP55912.2026.11463396"
}
Manga109に関するデータを利用する場合は、Manga109の利用条件および引用条件に従ってください。
関連リンク
- MangaVox音声データ：https://www.nii.ac.jp/dsc/idr/speech/submit/MangaVox.html
- MangaVoxアノテーションツール：https://github.com/TomohikoNakamura/mangavox_annotator
- Manga109：https://manga109.github.io/manga109-project-website/ja/index.html
謝辞
本研究は，産総研政策予算プロジェクト「フィジカル領域の生成AI基盤モデルに関する研究開発」の支援を受けて実施した．
MangaVox Annotations
Note: This English translation is provided for reference. In the event of any discrepancy between the Japanese and English versions, the Japanese version shall prevail.
MangaVox is a research dataset for audio comics that aligns manga images with acted speech.
This repository provides the annotations for MangaVox.
The MangaVox audio data distributed through NII IDR are not included in this repository.
Manga images and Manga109 annotations must be obtained separately from Manga109.
Access Request
Requests for access to this dataset are reviewed individually.
Before submitting an access request, please read the "Letter of Pledge Regarding the Use of MangaVox Annotations" below. By submitting an access request, the applicant is deemed to have agreed to the Pledge and to have pledged to comply with its terms.
Access is granted only to the person identified in the access request. If collaborators or any other persons wish to use the Data, each user must submit an individual access request.
Letter of Pledge Regarding the Use of MangaVox Annotations
To National Institute of Advanced Industrial Science and Technology (AIST)
The applicant (hereinafter referred to as “User”) hereby pledges to comply with the following conditions in using the MangaVox annotations shown below, including accompanying metadata (hereinafter referred to as “the Data”), provided by the National Institute of Advanced Industrial Science and Technology (hereinafter referred to as “Provider”).
Name of the Data: Annotations for the Japanese Expressive Speech Dataset Paired with Manga Images (MangaVox)
Provider of the Data: National Institute of Advanced Industrial Science and Technology (AIST)
Use of the Data shall be limited to the User identified in the access request. Each person who uses the Data shall individually submit an access request and obtain the Data.
The Data shall be used only for non-commercial academic or technical research.
User shall not provide the Data or any copy thereof to any third party. With respect to any wording, phrases, or sentences originating from manga works contained in the Data, if User provides them to any third party or publicly discloses them, User shall not make any alteration whatsoever without Provider’s consent and shall preserve their integrity. This restriction shall not apply to modifications of audio-related annotations. User shall contact Provider in advance before providing any modified or derivative version of the Data to a third party or publicly disclosing it.
When User publishes research results obtained using the Data, including reports, publications, derived software, or other results, User shall clearly indicate the “Name of the Data” shown above and shall provide Provider with a copy thereof upon request.
User shall not include in any disclosure, including publication of the research results referred to in the preceding paragraph, any information that could identify or enable the identification of any individual performer.
Provider does not warrant that the Data do not infringe any intellectual property rights or other rights of any third party. User agrees to resolve, at User’s own responsibility, any issues arising from the use of the Data and not to hold Provider liable for any damages arising therefrom.
If any information submitted in the access request changes, User shall confirm that use of the Data after such change complies with this Letter of Pledge. If such use does not comply with this Letter of Pledge, User shall cease using the Data.
If User receives a request from Provider to discontinue use of the Data, voluntarily discontinues use of the Data, or engages in any act in violation of this Letter of Pledge, User shall immediately cease using the Data, delete the Data, and notify Provider that the Data have been deleted. User agrees to be responsible for any damages incurred by Provider in connection with User’s use of the Data.
If this Letter of Pledge is amended, User shall comply with the amended Letter of Pledge published by Provider. If User is unable to comply with the amended Letter of Pledge, User shall immediately cease using the Data and comply with Item 8 above.
If any matter not specified in this Letter of Pledge arises, User shall consult with Provider in good faith and make efforts to resolve the matter.
Overview
The Data include speech segments, transcriptions, performer and character information, and mappings between individual utterances and manga elements in Manga109.
The Data are intended for research on the understanding and synthesis of audio comics, as well as related speech, language, and multimodal research.
Annotation Contents
The Data consist of utterance-level audio annotations and mappings between individual utterances and manga elements in Manga109.
The annotations mainly include the following information:
- Start and end times of each utterance
- Utterance text
- Performer ID
- Character ID
- Audio file ID
- Episode and page indices within each work
- Mappings to the following Manga109 elements:
frametextfacebody
When a corresponding manga element exists for an utterance, the ID of the corresponding Manga109 element is recorded.
Corresponding Manga109 Version
The Manga109 element IDs contained in the Data are based on the following version of the Manga109 annotations.
| MangaVox annotations | Manga109 annotations | Notes |
|---|---|---|
v1.0 |
20231205 |
Initial release |
Data Format
The annotations are provided as one XML file for each manga work.
Utterance information is primarily stored in voice or aligned_voice elements.
In addition to utterance information, aligned_voice elements contain mappings to manga elements in Manga109.
Main Attributes of Utterance Elements
| Attribute | Description | Required | Example |
|---|---|---|---|
id |
Unique utterance ID | ✓ | 60000027 |
index |
Utterance order index | ✓ | 38 |
start |
Utterance start time [s] | ✓ | 161.095 |
end |
Utterance end time [s] | ✓ | 161.635 |
episode_index |
Episode index within the work | ✓ | 1 |
page_index |
Page index | ✓ | 4 |
actor_id |
Performer ID | ✓ | 08F20 |
character_id |
Character ID | ✓ | 00001d7b |
audio_id |
Audio file ID | ✓ | 08F20_Sakisuke |
text_id |
Manga109 text element ID |
00001d93 |
|
frame_id |
Manga109 frame element ID |
00001d96 |
|
face_id |
Manga109 face element ID |
00001dc2 |
|
body_id |
Manga109 body element ID |
00001d94 |
Dataset Statistics
The MangaVox annotations contain:
- 8 manga works
- Approximately 14.0 hours of total work duration
- Approximately 9.0 hours of total speech
- 14,158 utterances
- 206 characters
- 18 performers
- 9 male performers
- 9 female performers
Number of Mappings to Manga109 Elements
| Manga109 element | Number of mappings |
|---|---|
frame |
13,848 |
text |
11,442 |
face |
7,532 |
body |
9,596 |
Statistics by manga work
| Work | Decade | Genre | Work duration [h] | Speech duration [h] | Characters | Male performers | Female performers | Utterances |
|---|---|---|---|---|---|---|---|---|
| ラブひな （LoveHina_vol01） |
1990s | Romantic comedy | 1.8 | 1.3 | 14 | 1 | 2 | 2,270 |
| ひなぎく見参！一本桜花町編 （HinagikuKenzan） |
2000s | Romance | 1.3 | 0.8 | 16 | 1 | 3 | 1,282 |
| サラダデイズ （SaladDays_vol01） |
1990s | Romance | 1.6 | 1.0 | 27 | 3 | 4 | 1,719 |
| エヴリデイおさかなちゃん （EverydayOsakanaChan） |
1990s | Animals | 2.3 | 1.5 | 44 | 1 | 2 | 2,336 |
| やさしい悪魔 （YasasiiAkuma） |
1990s | Fantasy | 2.2 | 1.4 | 28 | 3 | 2 | 1,694 |
| 太陽にスマッシュ！ （TaiyouNiSmash） |
2000s | Sports | 1.3 | 0.8 | 15 | 2 | 2 | 1,202 |
| あっけら貫刃帖 （AkkeraKanjinchou） |
2000s | Battle | 1.6 | 1.1 | 27 | 3 | 3 | 1,619 |
| あくはむ （Akuhamu） |
2000s | Four-panel manga | 1.8 | 1.1 | 35 | 1 | 3 | 2,036 |
Number of Manga109 element mappings by manga work
| Work | frame |
text |
face |
body |
|---|---|---|---|---|
| ラブひな （LoveHina_vol01） |
2,248 | 1,943 | 1,598 | 1,911 |
| ひなぎく見参！一本桜花町編 （HinagikuKenzan） |
1,230 | 947 | 647 | 936 |
| サラダデイズ （SaladDays_vol01） |
1,700 | 1,331 | 913 | 1,251 |
| エヴリデイおさかなちゃん （EverydayOsakanaChan） |
2,287 | 1,926 | 608 | 929 |
| やさしい悪魔 （YasasiiAkuma） |
1,677 | 1,587 | 952 | 1,077 |
| 太陽にスマッシュ！ （TaiyouNiSmash） |
1,192 | 928 | 743 | 853 |
| あっけら貫刃帖 （AkkeraKanjinchou） |
1,653 | 1,349 | 820 | 1,020 |
| あくはむ （Akuhamu） |
1,861 | 1,431 | 1,251 | 1,619 |
| Total | 13,848 | 11,442 | 7,532 | 9,596 |
Related Data
The following data are not included in this repository:
- MangaVox audio data
- Manga109 manga images
- Existing annotations provided by Manga109
The MangaVox audio data must be obtained separately through NII IDR.
Manga images and Manga109 annotations must be obtained separately from Manga109.
The terms of use applicable to each of these datasets differ from the Pledge for this repository.
Annotation Tool
The MangaVox Annotation Tool, which was used to create and verify the annotations, is publicly available.
Contact
For prior inquiries regarding the provision or publication of modified or derivative versions of the Data, and for notifications regarding deletion of the Data, please contact:
- MangaVox Contact Desk, National Institute of Advanced Industrial Science and Technology (AIST) MangaVox-contact-ml@aist.go.jp
Citation
If you use the Data, please cite the following paper:
@inproceedings{STakamichi2026ICASSP,
author = "Takamichi, Shinnosuke and Nakamura, Tomohiko and Suda, Hitoshi and Fukayama, Satoru and Ogata, Jun",
booktitle = "Proceedings of IEEE International Conference on Acoustics, Speech, and Signal Processing (ICASSP)",
title = "{MangaVox:} {Dataset} of acted voices aligned with manga images towards computer understanding of audio comics",
pages = "19467--19471",
month = "May",
year = "2026",
doi = "10.1109/ICASSP55912.2026.11463396"
}
If you use data from Manga109, please follow the terms of use and citation requirements specified by Manga109.
Related Links
- MangaVox audio data: https://www.nii.ac.jp/dsc/idr/speech/submit/MangaVox.html
- MangaVox Annotation Tool: https://github.com/TomohikoNakamura/mangavox_annotator
- Manga109: https://manga109.github.io/manga109-project-website/ja/index.html
Acknowledgements
This research was supported by the AIST policy-based budget project "R&D on Generative AI Foundation Models for the Physical Domain."