Delete parquet2csv-camera.py

parquet2csv-camera.py

@@ -1,85 +0,0 @@
-import sys
-import subprocess
-import os
-from pathlib import Path
-
-# ================= 1. 自动安装并导入依赖 =================
-def install_and_import(package_name):
-    try:
-        __import__(package_name)
-    except ImportError:
-        print(f"📦 正在自动安装依赖 '{package_name}'...")
-        subprocess.check_call([sys.executable, "-m", "pip", "install", package_name])
-
-install_and_import("pandas")
-install_and_import("pyarrow")
-
-import pandas as pd
-
-# ================= 2. 配置区 =================
-TARGET_DIR = "./"  # 存放 parquet 的目录
-OUTPUT_MERGED_CSV = "all_camera_data_merged.csv" # 最终合并的文件名
-
-# 期望保留的原有列名 (可以根据你的数据集列名调整)
-TARGET_COLUMNS = ['prompt', 'url', 'exif']
-
-# 提取相机型号的正则
-EXTRACT_PATTERN = r"['\"]Image Model['\"]\s*:\s*['\"]([^'\"]+)['\"]"
-# ============================================
-
-def batch_process_and_merge():
-    folder_path = Path(TARGET_DIR)
-    parquet_files = list(folder_path.glob("*.parquet"))
-    
-    if not parquet_files:
-        print(f"⚠️ 在目录 '{TARGET_DIR}' 下没有找到 .parquet 文件。")
-        return
-
-    all_dataframes = [] # 用于存放每个文件筛出的结果
-    print(f"🚀 找到 {len(parquet_files)} 个文件，开始批量提取并准备合并...\n")
-
-    for file_path in parquet_files:
-        print(f"📄 正在处理: {file_path.name}")
-        
-        try:
-            df = pd.read_parquet(file_path)
-            
-            if 'exif' not in df.columns:
-                print(f"  └─ ❌ 跳过：缺失 'exif' 列")
-                continue
-
-            # 提取型号
-            df['camera_model'] = df['exif'].astype(str).str.extract(EXTRACT_PATTERN, expand=False)
-            
-            # 筛选有效行
-            filtered_df = df[df['camera_model'].notna()].copy()
-            
-            if filtered_df.empty:
-                print(f"  └─ ⚠️ 跳过：未提取到有效型号")
-                continue
-
-            # 精简列
-            existing_cols = [col for col in TARGET_COLUMNS if col in filtered_df.columns]
-            final_df = filtered_df[existing_cols + ['camera_model']]
-            
-            # 将这个文件的结果加入列表
-            all_dataframes.append(final_df)
-            print(f"  └─ ✅ 提取到 {len(final_df)} 条数据")
-
-        except Exception as e:
-            print(f"  └─ ❌ 出错: {e}")
-
-    # ================= 3. 合并并导出 =================
-    if all_dataframes:
-        print(f"\n📊 正在合并所有数据 (共 {len(all_dataframes)} 个文件)...")
-        # 一次性合并所有 DataFrame
-        merged_df = pd.concat(all_dataframes, ignore_index=True)
-        
-        print(f"💾 正在导出总表到: {OUTPUT_MERGED_CSV}")
-        merged_df.to_csv(OUTPUT_MERGED_CSV, index=False)
-        print(f"🎉 处理完成！总计获得 {len(merged_df)} 条有效相机数据。")
-    else:
-        print("\n❌ 任务结束：没有提取到任何有效数据，未生成文件。")
-
-if __name__ == "__main__":
-    batch_process_and_merge()