Blame for eval/extract.py

"""Текст файлов задач и ответов систем для проверок, судьи и аудита.



Выданные файлы любой системы читаются одним и тем же кодом: docx, xlsx, pptx, pdf, txt и md распространёнными

библиотеками Python. Оценка не зависит от того, чем система читает и пишет документы, и перепроверить её можно, не

запуская ни одну из сравниваемых систем. Таблицы Word идут строками с разделителем, ячейки книги Excel с адресом, формулы

вместе со значением (``B4: 576000 [=SUM(B2:B3)]``): так их видит судья; проверки кода сверяют значения без адресов и формул

(``checks.values_only``).



Значение формулы берётся таким, каким его увидит человек, открыв книгу. Библиотеки (openpyxl и другие) пишут формулы

без посчитанных значений, а Excel и LibreOffice считают их при открытии; поэтому книга, где у формул нет значений,

перед чтением пересчитывается LibreOffice (``soffice`` из PATH или переменной SOFFICE). Без LibreOffice такая формула

помечается «не посчитано»; оценка в контейнере ``eval/Dockerfile`` идёт с LibreOffice.



    python extract.py <файл или папка> [<папка вывода>]

"""

from __future__ import annotations

import os
import shutil
import subprocess
import sys
import tempfile
from pathlib import Path


def _tag(node) -> str:
    """Имя элемента без пространства имён; у комментария XML имени нет."""
    return node.tag.rsplit("}", 1)[-1] if isinstance(node.tag, str) else ""


def _paragraph_text(paragraph) -> str:
    """Текст абзаца Word. Табуляция и разрыв строки внутри абзаца — пробел: без него «1 000», разрыв, «2 000» читались

    одним числом «1 0002 000»."""
    parts = []
    for node in paragraph.iter():
        tag = _tag(node)
        if tag == "t":
            parts.append(node.text or "")
        elif tag in ("tab", "br", "cr"):
            parts.append(" ")
    return "".join(parts)


def _docx(path: Path) -> str:
    import docx  # python-docx

    document = docx.Document(str(path))
    lines: list[str] = []

    # Элемент управления содержимым (sdt) и пользовательская разметка держат абзацы и таблицы внутри себя: без обхода
    # их текст пропадал.
    def walk(element) -> None:
        for child in element.iterchildren():
            tag = _tag(child)
            if tag == "p":
                text = _paragraph_text(child)
                if text.strip():
                    lines.append(text)
            elif tag == "tbl":
                for row in child.iter():
                    if _tag(row) == "tr":
                        cells = []
                        for cell in row.iterchildren():
                            if _tag(cell) == "tc":
                                cells.append(" ".join(_paragraph_text(p) for p in cell.iter() if _tag(p) == "p").strip())
                        lines.append(" | ".join(cells))
            elif tag in ("sdt", "sdtContent", "customXml"):
                walk(child)

    walk(document.element.body)
    return "\n".join(lines)


def _soffice() -> str | None:
    return os.environ.get("SOFFICE") or shutil.which("soffice") or shutil.which("libreoffice")


def _recalculated(path: Path) -> Path | None:
    """Копия книги, пересчитанная LibreOffice; None, если LibreOffice нет или пересчёт не удался."""
    soffice = _soffice()
    if soffice is None:
        return None
    folder = Path(tempfile.mkdtemp(prefix="bench-recalc-"))
    profile = (folder / "profile").resolve().as_uri()
    try:
        subprocess.run([soffice, f"-env:UserInstallation={profile}", "--headless", "--norestore", "--convert-to",
                        "xlsx:Calc MS Excel 2007 XML", "--outdir", str(folder / "book"), str(path)],
                       capture_output=True, timeout=300, check=False)
    except (OSError, subprocess.TimeoutExpired):
        return None
    result = folder / "book" / (path.stem + ".xlsx")
    return result if result.exists() else None


def _xlsx(path: Path) -> str:
    import openpyxl

    formulas = openpyxl.load_workbook(str(path), data_only=False)
    values = openpyxl.load_workbook(str(path), data_only=True)

    def is_formula(cell) -> bool:
        return isinstance(cell.value, str) and cell.value.startswith("=")

    # Формулы без значений (книга записана библиотекой): значения из пересчёта, как их увидит человек в Excel.
    unvalued = any(is_formula(cell) and values[sheet.title][cell.coordinate].value is None
                   for sheet in formulas.worksheets for row in sheet.iter_rows() for cell in row)
    recalculated = _recalculated(path) if unvalued else None
    if recalculated is not None:
        values = openpyxl.load_workbook(str(recalculated), data_only=True)

    lines: list[str] = []
    for sheet in formulas.worksheets:
        lines.append(f"## Лист «{sheet.title}»")
        cached = values[sheet.title] if sheet.title in values.sheetnames else None
        for row in sheet.iter_rows():
            cells = []
            for cell in row:
                if cell.value is None:
                    continue
                if is_formula(cell):
                    value = cached[cell.coordinate].value if cached is not None else None
                    shown = "не посчитано" if value is None and unvalued and recalculated is None else value
                    cells.append(f"{cell.coordinate}: {shown} [{cell.value}]")
                else:
                    cells.append(f"{cell.coordinate}: {cell.value}")
            if cells:
                lines.append("; ".join(cells))
    return "\n".join(lines)


def _pptx(path: Path) -> str:
    from pptx import Presentation

    deck = Presentation(str(path))
    lines: list[str] = []
    for number, slide in enumerate(deck.slides, 1):
        lines.append(f"## Слайд {number}")
        for shape in slide.shapes:
            if shape.has_text_frame and shape.text_frame.text.strip():
                lines.append(shape.text_frame.text)
            if getattr(shape, "has_table", False) and shape.has_table:
                for row in shape.table.rows:
                    lines.append(" | ".join(cell.text for cell in row.cells))
        if slide.has_notes_slide and slide.notes_slide.notes_text_frame.text.strip():
            lines.append("Заметки: " + slide.notes_slide.notes_text_frame.text)
    return "\n".join(lines)


def _pdf(path: Path) -> str:
    from pypdf import PdfReader

    reader = PdfReader(str(path))
    # Файл под паролем без пароля не читается: текст его — пометка об этом, а не сбой всего чтения (задача 13.12 даёт такой акт).
    if reader.is_encrypted:
        try:
            if not reader.decrypt(""):
                return "[PDF под паролем: без пароля текст не читается]"
        except Exception:
            return "[PDF под паролем: без пароля текст не читается]"
    pages = []
    for number, page in enumerate(reader.pages, 1):
        pages.append(f"## Страница {number}\n{page.extract_text() or ''}")
    return "\n".join(pages)


READERS = {".docx": _docx, ".xlsx": _xlsx, ".pptx": _pptx, ".pdf": _pdf}


def extract(path: str | Path) -> str:
    """Текст файла; для изображений и неизвестных форматов — пометка о виде файла."""
    path = Path(path)
    suffix = path.suffix.lower()
    if suffix in READERS:
        return READERS[suffix](path)
    if suffix in {".txt", ".md", ".csv", ".json", ".py", ".cs", ".yml", ".yaml", ".log"}:
        return path.read_text(encoding="utf-8", errors="replace")
    return f"[файл {path.name}: {suffix or 'без расширения'}, текста нет]"


def main(argv: list[str]) -> int:
    if len(argv) < 2:
        print(__doc__)
        return 2
    source = Path(argv[1])
    target = Path(argv[2]) if len(argv) > 2 else None
    files = [source] if source.is_file() else sorted(p for p in source.rglob("*") if p.is_file())
    for file in files:
        if file.name == "manifest.json" or file.suffix == ".jsonl":
            continue
        text = extract(file)
        if target is None:
            print(f"===== {file}\n{text}\n")
        else:
            out = target / file.relative_to(source if source.is_dir() else source.parent)
            out = out.with_name(out.name + ".txt")
            out.parent.mkdir(parents=True, exist_ok=True)
            out.write_text(text, encoding="utf-8")
    return 0


if __name__ == "__main__":
    sys.exit(main(sys.argv))