Nickwar222 commited on
Commit
05336d4
·
verified ·
1 Parent(s): b45fcf8

Delete pdf_to_png.py

Browse files
Files changed (1) hide show
  1. pdf_to_png.py +0 -158
pdf_to_png.py DELETED
@@ -1,158 +0,0 @@
1
- #!/usr/bin/env python3
2
- """
3
- PDF → PNG otimizado para 32 vCPUs / 64 GB RAM
4
-
5
- Pipeline:
6
- mp.Pool(32 workers) → cada worker abre o PDF UMA VEZ no initializer
7
- e renderiza N páginas sem reabrir o arquivo
8
- ThreadPoolExecutor → salva PNGs em paralelo (I/O bound, não bloqueia render)
9
-
10
- Por que mp.Pool + initializer?
11
- - Abre o documento fitz uma vez por worker (não uma vez por página).
12
- - imap_unordered devolve resultados assim que ficam prontos → sem straggler.
13
- - ThreadPoolExecutor para save: I/O bound, pode ter mais threads que cores.
14
- - Sem dependência de GPU (RTX 5090 sm_120 não suportado pelo PyTorch estável).
15
- """
16
-
17
- import argparse
18
- import multiprocessing as mp
19
- import os
20
- import time
21
- from concurrent.futures import ThreadPoolExecutor, as_completed
22
- from pathlib import Path
23
-
24
- import numpy as np
25
- from PIL import Image
26
-
27
- try:
28
- import fitz # PyMuPDF
29
- except ImportError:
30
- os.system("pip install pymupdf pillow numpy")
31
- import fitz
32
-
33
- DPI_DEFAULT = 150
34
-
35
- # ─── Estado por worker ─────────────────────────────────────────────────────────
36
- # Variáveis globais dentro de cada processo filho.
37
- # Inicializadas uma vez por _init_worker(); reusadas em todas as tarefas.
38
- _doc = None
39
- _zoom = None
40
-
41
-
42
- def _init_worker(pdf_path: str, zoom: float) -> None:
43
- """Abre o PDF uma vez por worker. Chamado pelo mp.Pool initializer."""
44
- global _doc, _zoom
45
- _doc = fitz.open(pdf_path)
46
- _zoom = zoom
47
-
48
-
49
- def _render_page(page_idx: int) -> tuple[int, int, int, bytes]:
50
- """Renderiza uma página. _doc já está aberto neste processo."""
51
- page = _doc.load_page(page_idx)
52
- mat = fitz.Matrix(_zoom, _zoom)
53
- pix = page.get_pixmap(matrix=mat, alpha=False, colorspace=fitz.csRGB)
54
- return page_idx, pix.width, pix.height, bytes(pix.samples)
55
-
56
-
57
- # ─── Save (roda em thread pool — I/O bound) ────────────────────────────────────
58
-
59
- def _save_page(args: tuple) -> None:
60
- page_idx, w, h, raw, out_path = args
61
- arr = np.frombuffer(raw, dtype=np.uint8).reshape(h, w, 3)
62
- # compress_level=1 → máxima velocidade (PNG ~15% maior, irrelevante para OCR)
63
- Image.fromarray(arr).save(str(out_path), compress_level=1)
64
-
65
-
66
- # ─── Função principal ──────────────────────────────────────────────────────────
67
-
68
- def pdf_to_png(
69
- pdf_path: Path,
70
- dpi: int = DPI_DEFAULT,
71
- workers: int | None = None,
72
- save_threads: int | None = None,
73
- ) -> Path:
74
- n_cpu = mp.cpu_count()
75
- workers = workers or n_cpu
76
- # I/O bound: pode ter mais threads que cores físicos
77
- save_threads = save_threads or min(workers * 2, 32)
78
-
79
- output_dir = pdf_path.parent / pdf_path.stem
80
- output_dir.mkdir(parents=True, exist_ok=True)
81
-
82
- zoom = dpi / 72.0
83
-
84
- with fitz.open(str(pdf_path)) as doc:
85
- total = doc.page_count
86
-
87
- print(f"\n[pdf_to_png] {pdf_path.name}")
88
- print(f" Páginas : {total}")
89
- print(f" DPI : {dpi} (zoom {zoom:.3f}×)")
90
- print(f" Render : {workers} workers (mp.Pool + initializer)")
91
- print(f" Save : {save_threads} threads (ThreadPoolExecutor)")
92
- print(f" Output : {output_dir}/\n")
93
-
94
- t0 = time.perf_counter()
95
- done = 0
96
-
97
- with ThreadPoolExecutor(max_workers=save_threads) as save_pool:
98
- save_futures = []
99
-
100
- with mp.Pool(
101
- processes=workers,
102
- initializer=_init_worker,
103
- initargs=(str(pdf_path), zoom),
104
- ) as pool:
105
- # imap_unordered: devolve resultados assim que ficam prontos
106
- # chunksize=1: páginas variam em complexidade → balanceamento justo
107
- for page_idx, w, h, raw in pool.imap_unordered(
108
- _render_page, range(total), chunksize=1
109
- ):
110
- out_path = output_dir / f"page_{page_idx + 1:04d}.png"
111
- fut = save_pool.submit(_save_page, (page_idx, w, h, raw, out_path))
112
- save_futures.append(fut)
113
-
114
- # Aguarda todos os saves e mostra progresso
115
- for fut in as_completed(save_futures):
116
- fut.result() # propaga exceções imediatamente
117
- done += 1
118
- print(f"\r {done}/{total} páginas salvas", end="", flush=True)
119
-
120
- elapsed = time.perf_counter() - t0
121
- rate = total / elapsed if elapsed > 0 else float("inf")
122
-
123
- print(f"\n\n Concluído em {elapsed:.1f}s — {rate:.1f} pág/s")
124
- print(f" Imagens em : {output_dir}/")
125
- return output_dir
126
-
127
-
128
- # ─── CLI ───────────────────────────────────────────────────────────────────────
129
-
130
- def main() -> None:
131
- parser = argparse.ArgumentParser(
132
- description="PDF → PNG @ 150 DPI | 32 vCPU otimizado"
133
- )
134
- parser.add_argument("pdf", help="Caminho para o arquivo PDF")
135
- parser.add_argument(
136
- "--dpi", type=int, default=DPI_DEFAULT,
137
- help=f"Resolução (padrão: {DPI_DEFAULT})",
138
- )
139
- parser.add_argument(
140
- "--workers", "-w", type=int, default=None,
141
- help="Workers de render CPU (padrão: cpu_count())",
142
- )
143
- parser.add_argument(
144
- "--save-threads", "-s", type=int, default=None,
145
- help="Threads para salvar PNG (padrão: min(workers×2, 32))",
146
- )
147
- args = parser.parse_args()
148
-
149
- pdf_path = Path(args.pdf).resolve()
150
- if not pdf_path.exists():
151
- print(f"Erro: arquivo não encontrado: {pdf_path}")
152
- raise SystemExit(1)
153
-
154
- pdf_to_png(pdf_path, dpi=args.dpi, workers=args.workers, save_threads=args.save_threads)
155
-
156
-
157
- if __name__ == "__main__":
158
- main()