Datasets:
Delete validation.jsonl with huggingface_hub
Browse files- validation.jsonl +0 -10
validation.jsonl
DELETED
|
@@ -1,10 +0,0 @@
|
|
| 1 |
-
{"messages": [{"role": "system", "content": "Category: ai_ml\nSubcategory: ai_agents\nComplexity: advanced\nSource: handcrafted"}, {"role": "user", "content": "Напиши простого AI-агента с tool calling на чистом Python: функции get_weather(city) и calculate(expression), LLM через OpenAI API сама решает, какой tool вызвать. Используй ReAct-prompting."}, {"role": "assistant", "content": "**Введение**\n\nAI-агент — это LLM, которая **выполняет действия** (вызывает функции, ищет в вебе, читает БД) в цикле, пока не получит ответ. Паттерн **ReAct** (Reasoning + Acting): модель рассуждает (`Thought`), выбирает действие (`Action`), получает наблюдение (`Observation`), снова рассуждает — и так до `Final Answer`. Реализуем на чистом Python без фреймворков, чтобы видеть механику.\n\nДва инструмента: `get_weather(city)` — через Open-Meteo (бесплатно, без ключа), и `calculate(expression)` — безопасный eval. LLM (gpt-4o-mini) решает, что вызывать, парсим её ответ, исполняем, возвращаем observation.\n\n## Полный код агента\n\n```python\n# requirements: openai>=1.40, requests>=2.31\nimport os\nimport re\nimport requests\nfrom openai import OpenAI\n\nclient = OpenAI(api_key=os.environ[\"OPENAI_API_KEY\"])\n\n# === 1. Инструменты ===\ndef get_weather(city: str) -> str:\n \"\"\"Погода в городе через Open-Meteo (без API-ключа).\"\"\"\n try:\n geo = requests.get(\n \"https://geocoding-api.open-meteo.com/v1/search\",\n params={\"name\": city, \"count\": 1}, timeout=5,\n ).json()\n if not geo.get(\"results\"):\n return f\"Город '{city}' не найден\"\n loc = geo[\"results\"][0]\n weather = requests.get(\n \"https://api.open-meteo.com/v1/forecast\",\n params={\"latitude\": loc[\"latitude\"], \"longitude\": loc[\"longitude\"],\n \"current\": \"temperature_2m,wind_speed_10m\"}, timeout=5,\n ).json()\n cur = weather[\"current\"]\n return (f\"Погода в {loc['name']}: {cur['temperature_2m']}°C, \"\n f\"ветер {cur['wind_speed_10m']} км/ч\")\n except Exception as e:\n return f\"Ошибка получения погоды: {e}\"\n\ndef calculate(expression: str) -> str:\n \"\"\"Безопасное вычисление математического выражения.\"\"\"\n # Разрешаем только цифры, операторы, скобки, точку, пробел\n if not re.fullmatch(r\"[0-9+\\-*/().\\s]+\", expression):\n return \"Ошибка: недопустимые символы в выражении\"\n try:\n # eval с пустыми builtins — никаких __import__\n result = eval(expression, {\"__builtins__\": {}}, {})\n return f\"{expression} = {result}\"\n except ZeroDivisionError:\n return \"Ошибка: деление на ноль\"\n except Exception as e:\n return f\"Ошибка вычисления: {e}\"\n\nTOOLS = {\n \"get_weather\": {\"fn\": get_weather, \"desc\": \"Узнать текущую погоду в городе. Аргумент: city (название города).\"},\n \"calculate\": {\"fn\": calculate, \"desc\": \"Вычислить математическое выражение. Аргумент: expression (например '15 * 23 + 7').\"},\n}\n\n# === 2. ReAct system prompt ===\nSYSTEM_PROMPT = \"\"\"Ты — AI-агент, который решает задачи, используя инструменты.\n\nДоступные инструменты:\n{tools}\n\nФормат ответа (СТРОГО):\n\nThought: <твоё рассуждение, что нужно сделать>\nAction: <имя_инструмента>\nAction Input: <аргумент инструменту>\n\nПосле каждого Action ты получишь Observation (результат). Продолжай, пока не найдёшь ответ.\n\nКогда готов дать финальный ответ:\nThought: <рассуждение>\nFinal Answer: <ответ пользователю>\n\nПравила:\n- Один Action за раз.\n- Action Input — это ТОЛЬКО аргумент (название города или выражение), без кавычек-обёрток.\n- Если инструмент вернул ошибку, попробуй исправить ввод.\n\nПример:\nUser: Погода в Москве и сколько будет 25*4?\nThought: Сначала погода, потом вычисление.\nAction: get_weather\nAction Input: Москва\n\nObservation: Погода в Москве: 5°C, облачно, ветер 12 км/ч\n\nThought: Теперь вычислю 25*4.\nAction: calculate\nAction Input: 25 * 4\n\nObservation: 25 * 4 = 100\n\nThought: Получил оба ответа.\nFinal Answer: В Москве 5°C, облачно, ветер 12 км/ч. 25*4 = 100.\n\"\"\".format(\n tools=\"\\n\".join(f\"- {name}: {info['desc']}\" for name, info in TOOLS.items())\n)\n\n# === 3. Парсинг ответа LLM ===\ndef parse_action(text: str) -> dict | None:\n \"\"\"Извлекает Action и Action Input из ответа LLM.\"\"\"\n action_match = re.search(r\"Action:\\s*(\\w+)\", text)\n input_match = re.search(r\"Action Input:\\s*(.+)\", text)\n if action_match and input_match:\n return {\"tool\": action_match.group(1), \"input\": input_match.group(1).strip()}\n return None\n\ndef run_agent(user_query: str, max_iter: int = 6) -> str:\n messages = [\n {\"role\": \"system\", \"content\": SYSTEM_PROMPT},\n {\"role\": \"user\", \"content\": user_query},\n ]\n print(f\"\\n{'='*60}\\nQUERY: {user_query}\\n{'='*60}\")\n for i in range(max_iter):\n resp = client.chat.completions.create(\n model=\"gpt-4o-mini\",\n messages=messages,\n temperature=0,\n )\n output = resp.choices[0].message.content\n messages.append({\"role\": \"assistant\", \"content\": output})\n print(f\"\\n--- Итерация {i+1} ---\\n{output}\")\n # Проверяем Final Answer\n if \"Final Answer:\" in output:\n return output.split(\"Final Answer:\")[-1].strip()\n # Парсим Action\n action = parse_action(output)\n if not action:\n messages.append({\"role\": \"user\", \"content\": \"Не понял формат. Используй Thought/Action/Action Input или Final Answer.\"})\n continue\n tool_name = action[\"tool\"]\n tool_input = action[\"input\"]\n # Исполняем\n if tool_name not in TOOLS:\n observation = f\"Инструмент '{tool_name}' не найден. Доступные: {list(TOOLS.keys())}\"\n else:\n observation = TOOLS[tool_name][\"fn\"](tool_input)\n print(f\"\\nObservation: {observation}\")\n messages.append({\"role\": \"user\", \"content\": f\"Observation: {observation}\"})\n return \"Превышен лимит итераций. Не смог решить задачу.\"\n\n# === 4. Демо ===\nif __name__ == \"__main__\":\n print(run_agent(\"Какая сейчас погода в Санкт-Петербурге и сколько будет (150 - 47) * 3?\"))\n # Должен вызвать get_weather(\"Санкт-Петербург\") и calculate(\"(150 - 47) * 3\")\n```\n\n---\n\n**Ключевые решения:**\n\n1. **ReAct вместо function calling** — работает с любой LLM (включая open-source), текстовый протокол легко дебажить. Native function calling надёжнее, но привязывает к провайдеру.\n2. **`temperature=0`** — для агента нужна детерминированность. При 0.7+ модель может «забывать» формат или зацикливаться на одном Action.\n3. **`max_iter=6`** — защита от бесконечного цикла. Сложные задачи (3-4 tool calls) укладываются в 6 итераций.\n4. **`re.fullmatch(r\"[0-9+\\-*/().\\s]+\", expression)`** — критично для безопасности `eval`. Без неё `calculate(\"__import__('os').system('rm -rf /')\")` = RCE.\n5. **`eval(expr, {\"__builtins__\": {}}, {})`** — пустые builtins блокируют `__import__`, `open`, `exec`. Defence in depth.\n6. **Open-Meteo API** — бесплатно, без ключа. Для production — OpenWeatherMap (с ключом).\n7. **Парсинг regex хрупок** — `re.search(r\"Action:\\s*(\\w+)\")` возьмёт только имя функции, если модель добавит аргументы в скобках. Для production — native function calling или JSON mode.\n8. **Observation как user-сообщение** — `messages.append({\"role\": \"user\", ...})` заставляет модель реагировать на результат, а не игнорировать. Ошибки инструмента возвращаем как текст (не exception) — модель может исправить ввод.\n9. **Многошаговые задачи** — «что теплее, Сочи или Мурманск?» требует 2 tool calls + сравнение. ReAct-цикл естественным образом это поддерживает.\n\n**Установка:**\n```bash\npip install \"openai>=1.40\" \"requests>=2.31\"\nexport OPENAI_API_KEY=\"sk-...\"\n```\n\n**Проверка:**\n1. `export OPENAI_API_KEY=...`\n2. `python agent.py` — увидишь пошаговый вывод: Thought → Action → Observation → ... → Final Answer.\n3. Тест на ошибку: `run_agent(\"Какая погода в городе Ксилофоксия?\")` — модель должна получить «не найден» и сообщить об этом.\n4. Тест на multi-step: `run_agent(\"Посчитай среднюю температуру между Москвой и Питером\")` — 2 weather-вызова + calculate для среднего.\n\n**Production-добавки:**\n- Native function calling: `tools=[{\"type\": \"function\", \"function\": {...}}]` — надёжнее парсинга.\n- Streaming (`stream=True`) для UX — пользователь видит Thought в реальном времени.\n- Memory: сохраняй `messages` между запросами для multi-turn диалога.\n- Cost control: логируй `resp.usage.total_tokens`, ставь hard limit на итерации."}], "metadata": {"category": "ai_ml", "subcategory": "ai_agents", "complexity": "advanced", "source": "handcrafted"}}
|
| 2 |
-
{"messages": [{"role": "system", "content": "Category: web_development\nSubcategory: landing_page\nComplexity: intermediate\nSource: handcrafted"}, {"role": "user", "content": "Сделай одностраничный landing для SaaS-продукта \"AI Code Reviewer\" с hero, фичами, ценами и CTA. Tailwind, responsive, тёмная тема."}, {"role": "assistant", "content": "Делаю современный landing в тёмной теме с градиентами, glassmorphism в hero, и анимированными карточками фич. Один HTML-файл с CDN Tailwind — можно открыть в браузере сразу.\n\n```html\n<!DOCTYPE html>\n<html lang=\"ru\" class=\"dark scroll-smooth\">\n<head>\n <meta charset=\"UTF-8\" />\n <meta name=\"viewport\" content=\"width=device-width, initial-scale=1.0\" />\n <title>CodeLens — AI Code Reviewer</title>\n <meta name=\"description\" content=\"AI-помощник, который находит баги, security-уязвимости и code smell в ваших pull request'ах за секунды.\" />\n <script src=\"https://cdn.tailwindcss.com\"></script>\n <script>\n tailwind.config = {\n darkMode: \"class\",\n theme: {\n extend: {\n fontFamily: {\n sans: [\"Inter\", \"system-ui\", \"sans-serif\"],\n mono: [\"JetBrains Mono\", \"monospace\"],\n },\n animation: {\n \"fade-up\": \"fadeUp 0.6s ease-out forwards\",\n \"float\": \"float 6s ease-in-out infinite\",\n },\n keyframes: {\n fadeUp: {\n \"0%\": { opacity: \"0\", transform: \"translateY(20px)\" },\n \"100%\": { opacity: \"1\", transform: \"translateY(0)\" },\n },\n float: {\n \"0%, 100%\": { transform: \"translateY(0)\" },\n \"50%\": { transform: \"translateY(-10px)\" },\n },\n },\n },\n },\n };\n </script>\n <link rel=\"preconnect\" href=\"https://fonts.googleapis.com\" />\n <link rel=\"preconnect\" href=\"https://fonts.gstatic.com\" crossorigin />\n <link href=\"https://fonts.googleapis.com/css2?family=Inter:wght@400;500;600;700;800&family=JetBrains+Mono:wght@400;500&display=swap\" rel=\"stylesheet\" />\n <style>\n body { font-family: \"Inter\", system-ui, sans-serif; }\n .gradient-text {\n background: linear-gradient(135deg, #818cf8 0%, #c084fc 50%, #f472b6 100%);\n -webkit-background-clip: text;\n background-clip: text;\n -webkit-text-fill-color: transparent;\n }\n .glow {\n box-shadow: 0 0 80px -10px rgba(129, 140, 248, 0.5);\n }\n .grid-bg {\n background-image:\n linear-gradient(rgba(255,255,255,0.04) 1px, transparent 1px),\n linear-gradient(90deg, rgba(255,255,255,0.04) 1px, transparent 1px);\n background-size: 32px 32px;\n }\n </style>\n</head>\n<body class=\"bg-gray-950 text-gray-200 antialiased\">\n\n <!-- Navbar -->\n <nav class=\"fixed top-0 inset-x-0 z-50 backdrop-blur-xl bg-gray-950/70 border-b border-white/5\">\n <div class=\"max-w-6xl mx-auto px-6 h-16 flex items-center justify-between\">\n <a href=\"#\" class=\"flex items-center gap-2\">\n <div class=\"w-8 h-8 rounded-lg bg-gradient-to-br from-indigo-500 to-purple-600 grid place-items-center font-bold\">C</div>\n <span class=\"font-semibold text-white\">CodeLens</span>\n </a>\n <div class=\"hidden md:flex items-center gap-8 text-sm\">\n <a href=\"#features\" class=\"text-gray-400 hover:text-white transition\">Features</a>\n <a href=\"#pricing\" class=\"text-gray-400 hover:text-white transition\">Pricing</a>\n <a href=\"#docs\" class=\"text-gray-400 hover:text-white transition\">Docs</a>\n </div>\n <div class=\"flex items-center gap-3\">\n <a href=\"#\" class=\"hidden sm:block text-sm text-gray-400 hover:text-white\">Sign in</a>\n <a href=\"#\" class=\"text-sm font-medium px-4 py-2 rounded-lg bg-white text-gray-900 hover:bg-gray-200 transition\">Get started</a>\n </div>\n </div>\n </nav>\n\n <!-- Hero -->\n <header class=\"relative pt-32 pb-20 overflow-hidden\">\n <div class=\"absolute inset-0 grid-bg opacity-30\"></div>\n <div class=\"absolute top-1/2 left-1/2 -translate-x-1/2 -translate-y-1/2 w-[600px] h-[600px] bg-indigo-600/20 rounded-full blur-[120px]\"></div>\n\n <div class=\"relative max-w-4xl mx-auto px-6 text-center\">\n <div class=\"inline-flex items-center gap-2 px-3 py-1 rounded-full bg-white/5 border border-white/10 text-xs text-gray-300 mb-6 animate-fade-up\">\n <span class=\"w-1.5 h-1.5 rounded-full bg-green-400\"></span>\n New: GPT-4 Turbo integration\n </div>\n\n <h1 class=\"text-5xl md:text-7xl font-bold tracking-tight text-white animate-fade-up\" style=\"animation-delay:0.1s\">\n Code review<br />\n <span class=\"gradient-text\">in 3 seconds</span>\n </h1>\n\n <p class=\"mt-6 text-lg md:text-xl text-gray-400 max-w-2xl mx-auto animate-fade-up\" style=\"animation-delay:0.2s\">\n AI находит баги, security-уязвимости и code smell в ваших pull request'ах\n ещё до того, как их увидит человек.\n </p>\n\n <div class=\"mt-10 flex flex-col sm:flex-row gap-3 justify-center animate-fade-up\" style=\"animation-delay:0.3s\">\n <a href=\"#\" class=\"px-6 py-3 rounded-xl bg-gradient-to-r from-indigo-500 to-purple-600 text-white font-medium hover:opacity-90 transition glow\">\n Try free for 14 days\n </a>\n <a href=\"#\" class=\"px-6 py-3 rounded-xl border border-white/10 text-white font-medium hover:bg-white/5 transition\">\n View demo →\n </a>\n </div>\n\n <div class=\"mt-12 flex items-center justify-center gap-6 text-xs text-gray-500 animate-fade-up\" style=\"animation-delay:0.4s\">\n <span>✓ No credit card</span>\n <span>✓ GitHub & GitLab</span>\n <span>✓ SOC2 Type II</span>\n </div>\n </div>\n\n <!-- Code preview floating -->\n <div class=\"relative max-w-3xl mx-auto px-6 mt-16 animate-fade-up\" style=\"animation-delay:0.5s\">\n <div class=\"rounded-xl border border-white/10 bg-gray-900/80 backdrop-blur-xl overflow-hidden shadow-2xl\">\n <div class=\"flex items-center gap-2 px-4 py-3 border-b border-white/5\">\n <span class=\"w-3 h-3 rounded-full bg-red-500/80\"></span>\n <span class=\"w-3 h-3 rounded-full bg-yellow-500/80\"></span>\n <span class=\"w-3 h-3 rounded-full bg-green-500/80\"></span>\n <span class=\"ml-3 text-xs text-gray-500 font-mono\">auth.py — CodeLens found 2 issues</span>\n </div>\n <pre class=\"p-5 text-sm font-mono text-gray-300 overflow-x-auto\"><span class=\"text-purple-400\">def</span> <span class=\"text-blue-400\">login</span>(user, password):\n <span class=\"text-purple-400\">if</span> user.password == hash(password): <span class=\"bg-red-500/20 text-red-300 -mx-1 px-1 rounded\">← timing attack</span>\n session.create(user)\n <span class=\"text-purple-400\">return</span> redirect(<span class=\"text-emerald-400\">\"/\"</span>)\n <span class=\"text-purple-400\">return</span> error(<span class=\"text-emerald-400\">\"invalid\"</span>)</pre>\n </div>\n </div>\n </header>\n\n <!-- Features -->\n <section id=\"features\" class=\"py-24 border-t border-white/5\">\n <div class=\"max-w-6xl mx-auto px-6\">\n <div class=\"max-w-2xl\">\n <p class=\"text-sm font-medium text-indigo-400 uppercase tracking-wide\">Features</p>\n <h2 class=\"mt-2 text-3xl md:text-4xl font-bold text-white\">Everything you need for safer PRs</h2>\n <p class=\"mt-4 text-gray-400\">CodeLens работает в CI/CD pipeline, комментирует PR и блокирует merge, если найден critical issue.</p>\n </div>\n\n <div class=\"mt-12 grid grid-cols-1 md:grid-cols-2 lg:grid-cols-3 gap-5\">\n <div class=\"group p-6 rounded-2xl border border-white/10 bg-white/[0.02] hover:bg-white/[0.05] hover:border-white/20 transition-all\">\n <div class=\"w-10 h-10 rounded-lg bg-indigo-500/10 text-indigo-400 grid place-items-center mb-4 group-hover:scale-110 transition-transform\">\n <svg class=\"w-5 h-5\" fill=\"none\" stroke=\"currentColor\" stroke-width=\"2\" viewBox=\"0 0 24 24\"><path stroke-linecap=\"round\" stroke-linejoin=\"round\" d=\"M9 12l2 2 4-4m6 2a9 9 0 11-18 0 9 9 0 0118 0z\"/></svg>\n </div>\n <h3 class=\"text-white font-semibold\">Bug detection</h3>\n <p class=\"mt-2 text-sm text-gray-400\">Находит null-pointer, race condition, off-by-one ошибки и логические баги.</p>\n </div>\n\n <div class=\"group p-6 rounded-2xl border border-white/10 bg-white/[0.02] hover:bg-white/[0.05] hover:border-white/20 transition-all\">\n <div class=\"w-10 h-10 rounded-lg bg-red-500/10 text-red-400 grid place-items-center mb-4 group-hover:scale-110 transition-transform\">\n <svg class=\"w-5 h-5\" fill=\"none\" stroke=\"currentColor\" stroke-width=\"2\" viewBox=\"0 0 24 24\"><path stroke-linecap=\"round\" stroke-linejoin=\"round\" d=\"M12 15v2m0 0v2m0-2h2m-2 0H10m11-4a9 9 0 11-18 0 9 9 0 0118 0z\"/></svg>\n </div>\n <h3 class=\"text-white font-semibold\">Security audit</h3>\n <p class=\"mt-2 text-sm text-gray-400\">SQL injection, XSS, CSRF, hardcode secrets — 200+ паттернов OWASP Top 10.</p>\n </div>\n\n <div class=\"group p-6 rounded-2xl border border-white/10 bg-white/[0.02] hover:bg-white/[0.05] hover:border-white/20 transition-all\">\n <div class=\"w-10 h-10 rounded-lg bg-amber-500/10 text-amber-400 grid place-items-center mb-4 group-hover:scale-110 transition-transform\">\n <svg class=\"w-5 h-5\" fill=\"none\" stroke=\"currentColor\" stroke-width=\"2\" viewBox=\"0 0 24 24\"><path stroke-linecap=\"round\" stroke-linejoin=\"round\" d=\"M13 10V3L4 14h7v7l9-11h-7z\"/></svg>\n </div>\n <h3 class=\"text-white font-semibold\">Performance</h3>\n <p class=\"mt-2 text-sm text-gray-400\">N+1 queries, memory leaks,blocking I/O — найдёт и предложит фикс.</p>\n </div>\n\n <div class=\"group p-6 rounded-2xl border border-white/10 bg-white/[0.02] hover:bg-white/[0.05] hover:border-white/20 transition-all\">\n <div class=\"w-10 h-10 rounded-lg bg-green-500/10 text-green-400 grid place-items-center mb-4 group-hover:scale-110 transition-transform\">\n <svg class=\"w-5 h-5\" fill=\"none\" stroke=\"currentColor\" stroke-width=\"2\" viewBox=\"0 0 24 24\"><path stroke-linecap=\"round\" stroke-linejoin=\"round\" d=\"M9 5H7a2 2 0 00-2 2v12a2 2 0 002 2h10a2 2 0 002-2V7a2 2 0 00-2-2h-2M9 5a2 2 0 002 2h2a2 2 0 002-2M9 5a2 2 0 012-2h2a2 2 0 012 2\"/></svg>\n </div>\n <h3 class=\"text-white font-semibold\">Auto-fix PRs</h3>\n <p class=\"mt-2 text-sm text-gray-400\">Один клик — и CodeLens открывает PR с готовым фиксом и тестами.</p>\n </div>\n\n <div class=\"group p-6 rounded-2xl border border-white/10 bg-white/[0.02] hover:bg-white/[0.05] hover:border-white/20 transition-all\">\n <div class=\"w-10 h-10 rounded-lg bg-cyan-500/10 text-cyan-400 grid place-items-center mb-4 group-hover:scale-110 transition-transform\">\n <svg class=\"w-5 h-5\" fill=\"none\" stroke=\"currentColor\" stroke-width=\"2\" viewBox=\"0 0 24 24\"><path stroke-linecap=\"round\" stroke-linejoin=\"round\" d=\"M9 17v-2m3 2v-4m3 4v-6m2 10H7a2 2 0 01-2-2V5a2 2 0 012-2h5.586a1 1 0 01.707.293l5.414 5.414a1 1 0 01.293.707V19a2 2 0 01-2 2z\"/></svg>\n </div>\n <h3 class=\"text-white font-semibold\">Reports</h3>\n <p class=\"mt-2 text-sm text-gray-400\">Еженедельные summary по команде: trend'ы, hot spots, top contributors.</p>\n </div>\n\n <div class=\"group p-6 rounded-2xl border border-white/10 bg-white/[0.02] hover:bg-white/[0.05] hover:border-white/20 transition-all\">\n <div class=\"w-10 h-10 rounded-lg bg-pink-500/10 text-pink-400 grid place-items-center mb-4 group-hover:scale-110 transition-transform\">\n <svg class=\"w-5 h-5\" fill=\"none\" stroke=\"currentColor\" stroke-width=\"2\" viewBox=\"0 0 24 24\"><path stroke-linecap=\"round\" stroke-linejoin=\"round\" d=\"M10 20l4-16m4 4l4 4-4 4M6 16l-4-4 4-4\"/></svg>\n </div>\n <h3 class=\"text-white font-semibold\">30+ languages</h3>\n <p class=\"mt-2 text-sm text-gray-400\">Python, JS/TS, Go, Rust, Java, C++, Ruby, PHP, Swift, Kotlin и другие.</p>\n </div>\n </div>\n </div>\n </section>\n\n <!-- Pricing -->\n <section id=\"pricing\" class=\"py-24 border-t border-white/5\">\n <div class=\"max-w-5xl mx-auto px-6\">\n <div class=\"text-center max-w-2xl mx-auto\">\n <p class=\"text-sm font-medium text-indigo-400 uppercase tracking-wide\">Pricing</p>\n <h2 class=\"mt-2 text-3xl md:text-4xl font-bold text-white\">Simple, transparent pricing</h2>\n <p class=\"mt-4 text-gray-400\">Per-developer pricing. No hidden fees. Cancel anytime.</p>\n </div>\n\n <div class=\"mt-12 grid grid-cols-1 md:grid-cols-3 gap-5\">\n <!-- Free -->\n <div class=\"p-6 rounded-2xl border border-white/10 bg-white/[0.02]\">\n <h3 class=\"text-white font-semibold\">Hobby</h3>\n <p class=\"mt-1 text-sm text-gray-500\">For side projects</p>\n <div class=\"mt-4\"><span class=\"text-4xl font-bold text-white\">$0</span><span class=\"text-gray-500\">/mo</span></div>\n <ul class=\"mt-6 space-y-3 text-sm text-gray-400\">\n <li class=\"flex gap-2\"><span class=\"text-green-400\">✓</span> 1 repo</li>\n <li class=\"flex gap-2\"><span class=\"text-green-400\">✓</span> 50 PRs/month</li>\n <li class=\"flex gap-2\"><span class=\"text-green-400\">✓</span> Bug detection</li>\n <li class=\"flex gap-2 text-gray-600\"><span>✕</span> Security audit</li>\n </ul>\n <a href=\"#\" class=\"mt-6 block text-center py-2.5 rounded-lg border border-white/10 text-white font-medium hover:bg-white/5 transition\">Get started</a>\n </div>\n\n <!-- Pro (highlighted) -->\n <div class=\"relative p-6 rounded-2xl border border-indigo-500/50 bg-gradient-to-b from-indigo-500/10 to-transparent glow\">\n <div class=\"absolute -top-3 left-1/2 -translate-x-1/2 px-3 py-0.5 rounded-full bg-indigo-500 text-white text-xs font-medium\">Most popular</div>\n <h3 class=\"text-white font-semibold\">Pro</h3>\n <p class=\"mt-1 text-sm text-gray-500\">For small teams</p>\n <div class=\"mt-4\"><span class=\"text-4xl font-bold text-white\">$29</span><span class=\"text-gray-500\">/dev/mo</span></div>\n <ul class=\"mt-6 space-y-3 text-sm text-gray-300\">\n <li class=\"flex gap-2\"><span class=\"text-green-400\">✓</span> Unlimited repos</li>\n <li class=\"flex gap-2\"><span class=\"text-green-400\">✓</span> Unlimited PRs</li>\n <li class=\"flex gap-2\"><span class=\"text-green-400\">✓</span> Security audit</li>\n <li class=\"flex gap-2\"><span class=\"text-green-400\">✓</span> Auto-fix PRs</li>\n <li class=\"flex gap-2\"><span class=\"text-green-400\">✓</span> Slack & Discord</li>\n </ul>\n <a href=\"#\" class=\"mt-6 block text-center py-2.5 rounded-lg bg-gradient-to-r from-indigo-500 to-purple-600 text-white font-medium hover:opacity-90 transition\">Start 14-day trial</a>\n </div>\n\n <!-- Enterprise -->\n <div class=\"p-6 rounded-2xl border border-white/10 bg-white/[0.02]\">\n <h3 class=\"text-white font-semibold\">Enterprise</h3>\n <p class=\"mt-1 text-sm text-gray-500\">For 100+ devs</p>\n <div class=\"mt-4\"><span class=\"text-4xl font-bold text-white\">Custom</span></div>\n <ul class=\"mt-6 space-y-3 text-sm text-gray-400\">\n <li class=\"flex gap-2\"><span class=\"text-green-400\">✓</span> Self-hosted option</li>\n <li class=\"flex gap-2\"><span class=\"text-green-400\">✓</span> SSO + SAML</li>\n <li class=\"flex gap-2\"><span class=\"text-green-400\">✓</span> Custom rules</li>\n <li class=\"flex gap-2\"><span class=\"text-green-400\">✓</span> Dedicated support</li>\n <li class=\"flex gap-2\"><span class=\"text-green-400\">✓</span> SLA 99.9%</li>\n </ul>\n <a href=\"#\" class=\"mt-6 block text-center py-2.5 rounded-lg border border-white/10 text-white font-medium hover:bg-white/5 transition\">Contact sales</a>\n </div>\n </div>\n </div>\n </section>\n\n <!-- CTA -->\n <section class=\"py-24 border-t border-white/5\">\n <div class=\"max-w-4xl mx-auto px-6 text-center\">\n <h2 class=\"text-3xl md:text-4xl font-bold text-white\">Ready to ship safer code?</h2>\n <p class=\"mt-4 text-gray-400\">Join 12,000+ developers using CodeLens in their daily workflow.</p>\n <div class=\"mt-8 flex flex-col sm:flex-row gap-3 justify-center\">\n <a href=\"#\" class=\"px-6 py-3 rounded-xl bg-gradient-to-r from-indigo-500 to-purple-600 text-white font-medium hover:opacity-90 transition glow\">Start free trial</a>\n <a href=\"#\" class=\"px-6 py-3 rounded-xl border border-white/10 text-white font-medium hover:bg-white/5 transition\">Book a demo</a>\n </div>\n </div>\n </section>\n\n <!-- Footer -->\n <footer class=\"py-12 border-t border-white/5\">\n <div class=\"max-w-6xl mx-auto px-6 flex flex-col md:flex-row items-center justify-between gap-4 text-sm text-gray-500\">\n <div class=\"flex items-center gap-2\">\n <div class=\"w-6 h-6 rounded-md bg-gradient-to-br from-indigo-500 to-purple-600 grid place-items-center font-bold text-white text-xs\">C</div>\n <span>CodeLens, 2024</span>\n </div>\n <div class=\"flex items-center gap-6\">\n <a href=\"#\" class=\"hover:text-white transition\">Privacy</a>\n <a href=\"#\" class=\"hover:text-white transition\">Terms</a>\n <a href=\"#\" class=\"hover:text-white transition\">Security</a>\n <a href=\"#\" class=\"hover:text-white transition\">Status</a>\n </div>\n </div>\n </footer>\n</body>\n</html>\n```\n\n**Ключевые решения:**\n\n1. **CDN Tailwind для landing.** Для прототипа/лендинга — fastest path. Для production нужен build с PostCSS (чтобы purge unused styles и сократить CSS с 4MB до 20KB).\n\n2. **Градиентный текст через `background-clip: text`**. Современный приём, работает во всех браузерах кроме IE. Создаёт \"премиальное\" ощущение.\n\n3. **`backdrop-blur-xl` в navbar и code preview**. Glassmorphism — современный тренд, но не злоупотребляй: на сложных фонах сильно бьёт по производительности.\n\n4. **`grid-bg` паттерн через `linear-gradient`**. Создаёт сетку без PNG/SVG. Лёгкий, тайлится бесконечно.\n\n5. **Big blur circle `blur-[120px]`**. Создаёт атмосферное свечение за hero. Один из самых дешёвых способов добавить \"depth\" в тёмный дизайн.\n\n6. **Fade-up анимация через CSS keyframes**. Не используем JS-библиотек — это утяжелит лендинг. `animation-delay` создаёт staggered-эффект появления.\n\n7. **`group-hover:scale-110` на иконках фич**. Micro-interaction, даёт ощущение \"живого\" UI. Важно: transition на transform, а не на width/height — transform hardware-accelerated.\n\n8. **Highlight pricing card через `glow` тень**. Визуально выделяет \"Most popular\" без агрессивного цвета. Свечение того же оттенка, что и градиент CTA — связывает визуально.\n\n9. **Responsive через `md:` и `lg:`**. На mobile — 1 колонка, на tablet — 2, на desktop — 3. Это базовый паттерн для grid-секций.\n\n10. **Anchor links `#features`, `#pricing`** + `scroll-smooth` на html. Клик в навигации плавно скроллит. Без JS.\n\n**Проверка:** открой HTML в браузере. Прокрути — fade-up анимация отрабатывает при загрузке. Наведи на карточку фичи — иконка увеличивается. Переключи DevTools в mobile view — всё перестроится в одну колонку, navbar адаптируется."}], "metadata": {"category": "web_development", "subcategory": "landing_page", "complexity": "intermediate", "source": "handcrafted"}}
|
| 3 |
-
{"messages": [{"role": "system", "content": "Category: bots_automation\nSubcategory: web_automation\nComplexity: intermediate\nSource: handcrafted"}, {"role": "user", "content": "Нужно автоматизировать скачивание PDF-отчётов с корпоративного портала: залогиниться, открыть раздел отчётов, скачать все PDF за последний месяц. Playwright async, обработка сессии и ошибок."}, {"role": "assistant", "content": "**Введение**\n\nНиже — Playwright async-скрипт для пакетного скачивания PDF: логин с сохранением storage state (чтобы при следующем запуске не вводить пароль), навигация в раздел отчётов, фильтр за последний месяц, скачивание всех PDF через `page.expect_download()`. Сессия сохраняется в `auth.json`, ошибки логируются, отчёты не теряются при сбое одного.\n\n```python\n# download_reports.py\nimport asyncio\nimport logging\nimport os\nfrom datetime import date, timedelta\nfrom pathlib import Path\n\nfrom playwright.async_api import (\n Browser,\n BrowserContext,\n Page,\n TimeoutError as PlaywrightTimeout,\n async_playwright,\n)\n\nlogging.basicConfig(\n level=logging.INFO,\n format=\"%(asctime)s %(levelname)s %(message)s\",\n)\nlogger = logging.getLogger(\"downloader\")\n\nBASE_URL = \"https://portal.example.com\"\nLOGIN = os.environ[\"PORTAL_LOGIN\"]\nPASSWORD = os.environ[\"PORTAL_PASSWORD\"]\nDOWNLOAD_DIR = Path(\"reports\")\nAUTH_FILE = Path(\"auth.json\")\nREPORT_RANGE_DAYS = 30\n\n\nasync def login(page: Page) -> None:\n \"\"\"Логинится на портал. Если уже залогинен — выходит сразу.\"\"\"\n await page.goto(f\"{BASE_URL}/login\", wait_until=\"domcontentloaded\")\n\n # Если на странице нет формы входа — значит уже залогинены (куки из storage_state)\n if await page.locator(\"#username\").count() == 0:\n logger.info(\"Already logged in (storage_state hit)\")\n return\n\n await page.fill(\"#username\", LOGIN)\n await page.fill(\"#password\", PASSWORD)\n await page.click(\"button[type=submit]\")\n\n # Ждём редиректа на дашборд после логина\n await page.wait_for_url(\"**/dashboard\", timeout=20_000)\n logger.info(\"Login OK\")\n\n\nasync def goto_reports(page: Page) -> None:\n \"\"\"Переход в раздел отчётов и установка фильтра по датам.\"\"\"\n await page.goto(f\"{BASE_URL}/reports\", wait_until=\"networkidle\")\n\n today = date.today()\n since = today - timedelta(days=REPORT_RANGE_DAYS)\n # Заполн��ем date-input'ы. Playwright сам понимает формат date input.\n await page.fill(\"input[name=date_from]\", since.isoformat())\n await page.fill(\"input[name=date_to]\", today.isoformat())\n await page.click(\"button#apply-filter\")\n # Ждём, пока таблица обновится\n await page.wait_for_selector(\"table.reports-table tbody tr\", timeout=15_000)\n\n\nasync def download_all_reports(context: BrowserContext, page: Page) -> list[str]:\n \"\"\"Скачивает все PDF из таблицы. Возвращает список путей.\"\"\"\n DOWNLOAD_DIR.mkdir(exist_ok=True)\n downloaded: list[str] = []\n\n # Собираем все строки с кнопкой скачивания\n rows = page.locator(\"table.reports-table tbody tr\")\n count = await rows.count()\n logger.info(\"Found %d reports to download\", count)\n\n for i in range(count):\n row = rows.nth(i)\n title_el = row.locator(\"td.title\")\n title = (await title_el.inner_text()).strip()\n # Чистим имя файла от спецсимволов\n safe_title = \"\".join(c for c in title if c.isalnum() or c in \" -_\")[:80]\n target_path = DOWNLOAD_DIR / f\"{safe_title}.pdf\"\n\n if target_path.exists():\n logger.info(\"[%d/%d] Skip (exists): %s\", i + 1, count, target_path.name)\n continue\n\n try:\n # expect_download перехватывает событие скачивания, инициированное кликом\n async with page.expect_download(timeout=30_000) as download_info:\n await row.locator(\"button.download-pdf\").click()\n download = await download_info.value\n\n # save_as сохраняет поток в файл; suggested_filename — имя от сервера\n await download.save_as(str(target_path))\n downloaded.append(str(target_path))\n logger.info(\"[%d/%d] OK: %s\", i + 1, count, target_path.name)\n except PlaywrightTimeout:\n logger.warning(\"[%d/%d] Timeout downloading %s\", i + 1, count, title)\n except Exception:\n logger.exception(\"[%d/%d] Failed: %s\", i + 1, count, title)\n\n return downloaded\n\n\nasync def main() -> None:\n async with async_playwright() as p:\n browser: Browser = await p.chromium.launch(headless=True)\n # Грузим сохранённую сессию, если есть\n context = await browser.new_context(\n storage_state=str(AUTH_FILE) if AUTH_FILE.exists() else None,\n accept_downloads=True, # обязательно для скачивания файлов\n )\n # Реалистичный user-agent + viewport\n context.set_default_timeout(20_000)\n await context.add_init_script(\n \"Object.defineProperty(navigator, 'webdriver', {get: () => undefined})\"\n )\n\n page = await context.new_page()\n try:\n await login(page)\n # Сохраняем сессию для следующих запусков\n await context.storage_state(path=str(AUTH_FILE))\n logger.info(\"Session saved to %s\", AUTH_FILE)\n\n await goto_reports(page)\n files = await download_all_reports(context, page)\n logger.info(\"Done. Downloaded %d files.\", len(files))\n finally:\n await context.close()\n await browser.close()\n\n\nif __name__ == \"__main__\":\n asyncio.run(main())\n```\n\n**Ключевые решения:**\n\n1. **`storage_state` для сессии** — после первого логина сохраняем куки + localStorage в `auth.json`. Следующие запуски используют `new_context(storage_state=...)` и попадают на дашборд без ввода пароля. Сессия живёт, пока её не отзовут на сервере.\n2. **Проверка «уже залогинен»** — если форма логина не найдена, считаем, что сессия жива. Спасает от ложной попытки залогиниться на странице, где мы уже в системе.\n3. **`expect_download()`** — правильный способ ловить скачивание в Playwright. Клик инициирует загрузку, контекст ловит событие. Прямой URL-фетч не работает, если сервер требует куки/CSRF.\n4. **`accept_downloads=True`** в контексте — без этого флага `expect_download` не сработает, скачивание блокируется.\n5. **Идемпентность через `target_path.exists()`** — повторный запуск не качает уже скачанные файлы. Полезно при обрывах: можно смело перезапускать.\n6. **Локатор�� `rows.nth(i)` вместо `for row in rows`** — Playwright API асинхронный, `Locator` — это указатель, а не элемент. `.count()` и `.nth(i)` фиксируют порядок на момент вызова.\n7. **Перехват `PlaywrightTimeout`** — один зависший файл не валит весь батч. Логируем, идём дальше, в конце видно, что упало.\n8. **Маскировка `navigator.webdriver`** — некоторые порталы банят headless-браузеры по этому флагу. Init script убирает его до загрузки страницы.\n9. **`set_default_timeout(20_000)`** — глобальный таймаут 20с вместо дефолтных 30с. Не даёт скрипту зависать часами на мёртвом селекторе.\n10. **`finally` для закрытия контекста** — даже при ошибке браузер закроется, не останется зомби-процессов chrome.\n\n**Установка:**\n```bash\npip install \"playwright>=1.40\"\nplaywright install chromium # скачивает браузер (~150 МБ)\n```\n\n**Проверка:**\n1. Установи зависимости, запусти `playwright install chromium`.\n2. `export PORTAL_LOGIN=... PORTAL_PASSWORD=...`.\n3. `python download_reports.py` — первый запуск залогинится, сохранит `auth.json`, скачает PDF в `reports/`.\n4. Повторный запуск должен пропустить логин и пропустить уже скачанные файлы (см. логи `Skip (exists)`).\n5. Если селекторы не совпадают — открой `headless=False` и добавь `await page.pause()` для Playwright Inspector.\n\n**Production-добавки:**\n- Крон: `0 2 * * 1 /usr/bin/python download_reports.py` — еженедельный сбор отчётов.\n- Уведомления в Slack/Telegram по завершении (через пример выше 😉).\n- Запуск в Docker с `mcr.microsoft.com/playwright/python` образом.\n- Хранение отчётов в S3 после скачивания (`boto3`).\n- CI-проверка селекторов через `playwright test` с фикстурой, чтобы падение UI ломало CI, а не прод-батч."}], "metadata": {"category": "bots_automation", "subcategory": "web_automation", "complexity": "intermediate", "source": "handcrafted"}}
|
| 4 |
-
{"messages": [{"role": "system", "content": "Category: debugging\nSubcategory: http_api_errors\nComplexity: beginner\nSource: handcrafted"}, {"role": "user", "content": "Мой fetch возвращает ошибку CORS:\n\n```\nAccess to fetch at 'https://api.example.com/data' from origin 'http://localhost:3000'\nhas been blocked by CORS policy: No 'Access-Control-Allow-Origin' header is present\non the requested resource.\n```\n\nЧто это и как исправить?"}, {"role": "assistant", "content": "**Что такое CORS**\n\nCORS (Cross-Origin Resource Sharing) — это механизм браузера, который запрещает JavaScript с одного origin читать ответы с другого origin, если сервер явно это не разрешил.\n\nOrigin = схема + домен + порт. `http://localhost:3000` и `https://api.example.com` — разные origin. Браузер блокирует ответ, если сервер не вернул заголовок `Access-Control-Allow-Origin`.\n\n**Важно:** CORS защищает только браузерный JavaScript. `curl`, `postman`, серверный код — CORS не влияет. Это часто вводит в заблуждение: \"у меня в postman работает, а в браузере нет\" — потому что postman не браузер.\n\n**Когда возникает:**\n\n1. Frontend на `localhost:3000`, backend на `localhost:8000` — разные порты, разные origin\n2. Frontend на `app.example.com`, API на `api.example.com` — разные поддомены\n3. Frontend на `https://`, API на `http://` — разные схемы\n\n**Решения:**\n\n**Вариант 1 — настроить CORS на бэкенде (правильный способ для production):**\n\nFastAPI (Python):\n```python\nfrom fastapi import FastAPI\nfrom fastapi.middleware.cors import CORSMiddleware\n\napp = FastAPI()\n\napp.add_middleware(\n CORSMiddleware,\n # Никогда не используй [\"*\"] в production с credentials!\n allow_origins=[\"https://app.example.com\", \"http://localhost:3000\"],\n allow_credentials=True,\n allow_methods=[\"GET\", \"POST\", \"PUT\", \"DELETE\", \"OPTIONS\"],\n allow_headers=[\"Authorization\", \"Content-Type\"],\n)\n```\n\nExpress (Node.js):\n```js\nconst cors = require(\"cors\");\napp.use(cors({\n origin: [\"https://app.example.com\", \"http://localhost:3000\"],\n credentials: true,\n}));\n```\n\n**Вариант 2 — dev-прокси через Vite/Next.js (для разработки):**\n\nНе нужно трогать бэкенд. Прокси делает запросы same-origin — браузер не видит кросс-доменный запрос.\n\nVite (`vite.config.ts`):\n```ts\nexport default defineConfig({\n server: {\n proxy: {\n \"/api\": {\n target: \"http://localhost:8000\",\n changeOrigin: true,\n },\n },\n },\n});\n```\n\nВ коде:\n```ts\n// Было: fetch(\"http://localhost:8000/api/data\")\n// Стало:\nfetch(\"/api/data\")\n```\n\nNext.js (`next.config.js`):\n```js\nmodule.exports = {\n async rewrites() {\n return [\n { source: \"/api/:path*\", destination: \"http://localhost:8000/api/:path*\" },\n ];\n },\n};\n```\n\n**Вариант 3 — если бэкенд чужой и не настраивается:**\n\nИспользуй серверный прокси. Браузер → твой сервер → чужой API. Свой сервер не браузер, CORS не применяется.\n\n```js\n// app/api/proxy/[...path]/route.ts (Next.js)\nexport async function GET(req: Request, { params }: { params: { path: string[] } }) {\n const path = params.path.join(\"/\");\n const url = `https://api.example.com/${path}`;\n const resp = await fetch(url, {\n headers: { \"Authorization\": req.headers.get(\"authorization\") || \"\" },\n });\n return new Response(resp.body, {\n status: resp.status,\n headers: { \"Content-Type\": \"application/json\" },\n });\n}\n```\n\n**Preflight-запросы (OPTIONS):**\n\nЕсли запрос \"непростой\" (есть `Authorization`, `Content-Type: application/json`, метод не GET/POST-форма), браузер сначала шлёт `OPTIONS` preflight. Сервер должен ответить заголовками, разрешающими основной запрос.\n\nВ FastAPI `CORSMiddleware` обрабатывает OPTIONS автоматически. В Express — пакет `cors` тоже. Но если у тебя nginx перед бэкендом — добавь:\n```nginx\nlocation / {\n if ($request_method = OPTIONS) {\n add_header Access-Control-Allow-Origin \"https://app.example.com\";\n add_header Access-Control-Allow-Methods \"GET, POST, PUT, DELETE, OPTIONS\";\n add_header Access-Control-Allow-Headers \"Authorization, Content-Type\";\n add_header Access-Control-Allow-Credentials true;\n add_header Content-Length 0;\n return 204;\n }\n proxy_pass http://backend;\n}\n```\n\n**Credentials и `*`:**\n\nЕсли используешь `credentials: \"include\"` в fetch (для cookies) — `Access-Control-Allow-Origin: *` НЕ работает. Браузер требует явный origin. Это сделано для безопасности — нельзя отдавать cookies любого пользователя на любой домен.\n\n```ts\n// Это работает:\nfetch(\"/api/data\", { credentials: \"include\" });\n\n// Сервер ДОЛЖЕН вернуть:\n// Access-Control-Allow-Origin: https://app.example.com\n// Access-Control-Allow-Credentials: true\n// НЕ: Access-Control-Allow-Origin: *\n```\n\n**Чек-лист диагностики:**\n\n1. Открой DevTools → Network → найди упавший запрос\n2. Проверь заголовки ответа: есть ли `Access-Control-Allow-Origin`?\n3. Если есть preflight (OPTIONS) — он упал? Часто проблема в нём, а не в основном запросе\n4. Проверь origin в `allow_origins` на бэкенде — опечатка в домене даст эту ошибку\n5. Если используешь cookies — `allow_credentials=True` обязателен, и `*` не сработает\n\n**Проверка:**\n1. Настрой CORS на бэкенде (вариант 1) или прокси (вариант 2)\n2. Перезапусти dev-сервер\n3. Открой приложение — запрос должен пройти\n4. В DevTools → Network: статус 200, заголовок `Access-Control-Allow-Origin: http://localhost:3000` присутствует\n5. Если используешь credentials — убедись, что cookies отправляются (`Cookie` заголовок в request)"}], "metadata": {"category": "debugging", "subcategory": "http_api_errors", "complexity": "beginner", "source": "handcrafted"}}
|
| 5 |
-
{"messages": [{"role": "system", "content": "Category: linux_server_deploy\nSubcategory: nginx\nComplexity: advanced\nSource: handcrafted"}, {"role": "user", "content": "Настрой nginx reverse proxy для 3 сервисов: Next.js на /, FastAPI на /api/, WebSocket-сервер на /ws/. Нужно: SSL termination с Let's Encrypt, gzip, security headers, rate limiting на /api/ и /api/auth/, во��становление real IP из Cloudflare. Покажи полный конфиг."}, {"role": "assistant", "content": "**Введение**\n\nnginx reverse proxy для production: 3 upstream (Next.js на `/`, FastAPI на `/api/`, WebSocket на `/ws/`), SSL termination с Let's Encrypt, gzip, security headers, rate limiting, восстановление IP из Cloudflare.\n\n```nginx\n# /etc/nginx/conf.d/myapp.conf\n\n# Upstreams с keepalive — переиспользование TCP-соединений к backend\nupstream frontend_upstream {\n server 127.0.0.1:3000 max_fails=3 fail_timeout=30s;\n keepalive 32;\n}\n\nupstream api_upstream {\n server 127.0.0.1:8000 max_fails=3 fail_timeout=30s;\n keepalive 32;\n}\n\nupstream ws_upstream {\n server 127.0.0.1:8001 max_fails=3 fail_timeout=30s;\n keepalive 32;\n}\n\n# =========================================\n# HTTP -> HTTPS redirect + ACME challenge\n# =========================================\nserver {\n listen 80;\n listen [::]:80;\n server_name myapp.example.com;\n\n location /.well-known/acme-challenge/ {\n root /var/www/certbot;\n }\n\n location / {\n return 301 https://$host$request_uri;\n }\n}\n\n# =========================================\n# HTTPS server\n# =========================================\nserver {\n listen 443 ssl;\n listen [::]:443 ssl;\n http2 on;\n server_name myapp.example.com;\n\n # SSL certificates (Let's Encrypt)\n ssl_certificate /etc/letsencrypt/live/myapp.example.com/fullchain.pem;\n ssl_certificate_key /etc/letsencrypt/live/myapp.example.com/privkey.pem;\n ssl_protocols TLSv1.2 TLSv1.3;\n ssl_prefer_server_ciphers off;\n ssl_session_cache shared:SSL:10m;\n ssl_session_timeout 1h;\n ssl_session_tickets off;\n ssl_stapling on;\n ssl_stapling_verify on;\n resolver 1.1.1.1 8.8.8.8 valid=300s;\n\n # Security headers\n add_header Strict-Transport-Security \"max-age=63072000; includeSubDomains; preload\" always;\n add_header X-Frame-Options \"SAMEORIGIN\" always;\n add_header X-Content-Type-Options \"nosniff\" always;\n add_header Referrer-Policy \"strict-origin-when-cross-origin\" always;\n add_header Permissions-Policy \"camera=(), microphone=(), geolocation=()\" always;\n add_header Content-Security-Policy \"default-src 'self'; script-src 'self' 'unsafe-inline'; style-src 'self' 'unsafe-inline'; img-src 'self' data: https:; connect-src 'self' wss:; font-src 'self'; object-src 'none'; frame-ancestors 'self';\" always;\n\n # Gzip\n gzip on;\n gzip_vary on;\n gzip_proxied any;\n gzip_comp_level 6;\n gzip_min_length 256;\n gzip_types text/plain text/css text/xml text/javascript application/json application/javascript application/xml+rss image/svg+xml;\n\n client_max_body_size 16m;\n\n # Frontend: Next.js\n location / {\n proxy_pass http://frontend_upstream;\n proxy_http_version 1.1;\n proxy_set_header Host $host;\n proxy_set_header X-Real-IP $remote_addr;\n proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;\n proxy_set_header X-Forwarded-Proto $scheme;\n proxy_set_header Connection \"\";\n proxy_buffering off;\n proxy_read_timeout 60s;\n }\n\n # API: FastAPI с rate limiting\n location /api/ {\n limit_req zone=api burst=20 nodelay;\n limit_req_status 429;\n\n proxy_pass http://api_upstream;\n proxy_http_version 1.1;\n proxy_set_header Host $host;\n proxy_set_header X-Real-IP $remote_addr;\n proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;\n proxy_set_header X-Forwarded-Proto $scheme;\n proxy_set_header Connection \"\";\n proxy_read_timeout 60s;\n proxy_send_timeout 60s;\n }\n\n # Auth — строже rate limit (отдельная zone, защита от brute-force)\n location /api/auth/ {\n limit_req zone=auth burst=5 nodelay;\n limit_req_status 429;\n proxy_pass http://api_upstream;\n proxy_http_version 1.1;\n proxy_set_header Host $host;\n proxy_set_header X-Real-IP $remote_addr;\n proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;\n proxy_set_header X-Forwarded-Proto $scheme;\n proxy_set_header Connection \"\";\n }\n\n # WebSockets\n location /ws/ {\n proxy_pass http://ws_upstream;\n proxy_http_version 1.1;\n proxy_set_header Upgrade $http_upgrade;\n proxy_set_header Connection \"upgrade\";\n proxy_set_header Host $host;\n proxy_set_header X-Real-IP $remote_addr;\n proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;\n proxy_set_header X-Forwarded-Proto $scheme;\n\n # WebSocket-specific: длинные таймауты, без буферизации\n proxy_read_timeout 3600s;\n proxy_send_timeout 3600s;\n proxy_buffering off;\n }\n}\n```\n\n```nginx\n# /etc/nginx/nginx.conf — дополнения в http {} блоке\n\nhttp {\n # ... стандартные настройки ...\n\n # Rate limiting zones\n limit_req_zone $binary_remote_addr zone=api:10m rate=10r/s;\n limit_req_zone $binary_remote_addr zone=auth:10m rate=1r/s;\n\n # Cloudflare real IP (полный список — cloudflare.com/ips)\n set_real_ip_from 173.245.48.0/20;\n set_real_ip_from 104.16.0.0/13;\n set_real_ip_from 162.158.0.0/15;\n set_real_ip_from 188.114.96.0/20;\n real_ip_header CF-Connecting-IP;\n real_ip_recursive on;\n\n include /etc/nginx/conf.d/*.conf;\n}\n```\n\n**Ключевые решения:**\n\n1. **`upstream` с `keepalive 32`** — пул из 32 постоянных TCP-соединений к backend, переиспользование вместо handshake на каждый запрос, latency -20-50ms. Обязательно `proxy_http_version 1.1` + `proxy_set_header Connection \"\"`.\n2. **HTTP→HTTPS redirect + ACME passthrough** — всё на :80 редиректится на :443, кроме `/.well-known/acme-challenge/` (нужно certbot).\n3. **`http2 on`** — современный синтаксис (nginx 1.25.1+). HTTP/2 мультиплексирует запросы в одном TCP-соединении.\n4. **SSL: TLS 1.2/1.3, session tickets off, OCSP stapling** — TLS 1.0/1.1 устарели. `ssl_session_tickets off` — forward secrecy. OCSP stapling экономит RTT.\n5. **Security headers с `always`** — `always` добавляет заголовок даже к 4xx/5xx. Без `always` на 500-й не будет HSTS → SSL-strip. CSP блокирует XSS.\n6. **Rate limiting: `limit_req_zone` в http, `limit_req` в location** — zone одна на http-уровне, применяется в location. `rate=10r/s` на API, `rate=1r/s` на auth. `burst=20 nodelay` разрешает всплеск, дальше 429. `$binary_remote_addr` — IP в бинарном виде (4 байта), эффективнее строки. Отдельная zone для `/api/auth/` защищает от brute-force.\n7. **WebSocket: `Upgrade` + `Connection: upgrade`** — без них nginx закроет WS после первого ответа. `proxy_read_timeout 3600s` — соединение живёт час (дефолт 60s убил бы). `proxy_buffering off` для real-time.\n8. **Cloudflare `set_real_ip_from`** — без этого `$remote_addr` = IP Cloudflare, все клиенты выглядят как один IP, rate limiting бесполезен. `real_ip_recursive on` берёт последний не-trusted IP. Список CF-диапазонов — cloudflare.com/ips.\n\n**Установка/Команды:**\n\n```bash\n# Установка (Ubuntu/Debian)\nsudo apt update && sudo apt install -y nginx\n\n# Тест конфигурации (ОБЯЗАТЕЛЬНО перед reload)\nsudo nginx -t\n\n# Reload без даунтайма (worker плавно перекатываются)\nsudo systemctl reload nginx\n```\n\n**Проверка:**\n\n1. `sudo nginx -t` — синтаксис OK, иначе reload не делай.\n2. `curl -I http://myapp.example.com` — `301 Moved Permanently` с `Location: https://...`.\n3. `curl -I https://myapp.example.com` — `200 OK`, проверь `Strict-Transport-Security`, `Content-Security-Policy`.\n4. `curl https://myapp.example.com/api/health` — 200 от FastAPI.\n5. `wscat -c wss://myapp.example.com/ws/` — WS-соединение установится. Если нет — проверь `Upgrade`/`Connection` заголовки.\n6. Rate limit: `for i in $(seq 1 30); do curl -s -o /dev/null -w '%{http_code}\\n' https://myapp.example.com/api/auth/login; done` — после 5-6 запросов `429`.\n7. SSL Labs: `https://www.ssllabs.com/ssltest/analyze.html?d=myapp.example.com` — A/A+.\n\n**Production-добавки:**\n- Prometheus `nginx-prometheus-exporter` для метрик.\n- Fail2ban для блокировки IP по `limit_req` логам.\n- HTTP/3 (QUIC): `listen 443 quic reuseport;` + `http3 on;` (nginx 1.25+ с QUIC-сборкой)."}], "metadata": {"category": "linux_server_deploy", "subcategory": "nginx", "complexity": "advanced", "source": "handcrafted"}}
|
| 6 |
-
{"messages": [{"role": "system", "content": "Category: programming\nSubcategory: python_basics\nComplexity: beginner\nSource: handcrafted"}, {"role": "user", "content": "Объясни, что такое list comprehension в Python и покажи примеры."}, {"role": "assistant", "content": "List comprehension — это компактный способ создать список, применяя выражение к каждому элементу итерируемого объекта, с возможностью фильтрации. По сути это синтаксический сахар для цикла `for` + `append`, но он читается естественнее и работает быстрее, потому что реализован на уровне CPython.\n\n**Базовый синтаксис:**\n```python\n# Классический цикл\nsquares = []\nfor x in range(10):\n squares.append(x ** 2)\n\n# То же через list comprehension\nsquares = [x ** 2 for x in range(10)]\n```\n\n**С условием (фильтрация):**\n```python\n# Только чётные числа, возведённые в квадрат\neven_squares = [x ** 2 for x in range(10) if x % 2 == 0]\n# [0, 4, 16, 36, 64]\n```\n\n**С if-else (трансформация):**\n```python\n# Метка чёт/нечет для каждого числа\nlabels = [\"even\" if x % 2 == 0 else \"odd\" for x in range(5)]\n# ['even', 'odd', 'even', 'odd', 'even']\n```\n\n**Вложенные циклы:**\n```python\n# Декартово произведение\npairs = [(x, y) for x in range(3) for y in range(3) if x != y]\n```\n\n**Когда НЕ использовать:**\n- Если логика занимает больше одной строки условия — лучше обычный `for` с понятным именем функции.\n- Если есть side-effects (запись в файл, print, мутация внешнего состояния) — comprehension скрывает побочные эффекты.\n- Если результат не нужен как список — используй generator expression: `sum(x ** 2 for x in range(10))` (круглые скобки, без создания промежуточного списка).\n\n**Производительность:**\nComprehension быстрее обычного цикла с `append` примерно на 20–30%, потому что избегает поиска метода `append` на каждой итерации. Для миллионов элементов разница существенна.\n\n**Проверка:**\n```python\nassert squares == [0, 1, 4, 9, 16, 25, 36, 49, 64, 81]\nassert even_squares == [0, 4, 16, 36, 64]\n```\nЗапусти файл через `python file.py` — если assert не падает, всё работает корректно."}], "metadata": {"category": "programming", "subcategory": "python_basics", "complexity": "beginner", "source": "handcrafted"}}
|
| 7 |
-
{"messages": [{"role": "system", "content": "Category: ui_ux_design\nSubcategory: color_palette\nComplexity: beginner\nSource: handcrafted"}, {"role": "user", "content": "Как построить цветовую палитру для SaaS-дашборда? Нужны base, accent, semantic-цвета, всё на Tailwind 3.4. Объясни подход с HSL."}, {"role": "assistant", "content": "**Введение**\n\nЦветовая палитра SaaS-дашборда строится через три слоя:\n\n1. **Base (нейтральные)** — фон, поверхности, текст, бордеры. Это 60% экрана.\n2. **Brand (один акцент)** — primary-кнопки, активные табы, чекбоксы. Это 30%.\n3. **Semantic (статусы)** — success / warning / danger / info. Это 10% — но визуально самый «громкий» слой.\n\nПравило **60-30-10**: на любом экране 60% занимает нейтральный фон, 30% — поверхности/текст, 10% — акценты. Если доля акцента больше — глаз «устаёт».\n\n**Почему HSL, а не HEX/RGB:** HSL разделяет тон (H), насыщенность (S) и светлоту (L). Чтобы сделать hover-вариант кнопки, мы не подбираем новый HEX — мы просто опускаем L на 8-10%. Чтобы сделать disabled-вариант — поднимаем L и опускаем S. Это даёт **согласованные** вариации одного цвета.\n\n**Tailwind-палитра** (положи в `tailwind.config.js`):\n\n```js\n// tailwind.config.js\nmodule.exports = {\n content: [\"./src/**/*.{ts,tsx,html}\"],\n theme: {\n extend: {\n colors: {\n // Нейтральная шкала — фон и текст дашборда\n // L от 98 (почти белый) до 12 (почти чёрный)\n ink: {\n 50: \"hsl(220 25% 98%)\",\n 100: \"hsl(220 20% 96%)\",\n 200: \"hsl(220 16% 92%)\",\n 300: \"hsl(220 12% 84%)\",\n 400: \"hsl(220 10% 64%)\",\n 500: \"hsl(220 10% 46%)\",\n 600: \"hsl(220 12% 36%)\",\n 700: \"hsl(220 14% 26%)\",\n 800: \"hsl(220 18% 18%)\",\n 900: \"hsl(220 22% 12%)\",\n 950: \"hsl(220 26% 8%)\",\n },\n // Brand: indigo-like. H=245, S=85%, L варируется\n brand: {\n 50: \"hsl(245 90% 96%)\",\n 100: \"hsl(245 85% 92%)\",\n 200: \"hsl(245 85% 86%)\",\n 300: \"hsl(245 85% 78%)\",\n 400: \"hsl(245 85% 68%)\",\n 500: \"hsl(245 85% 60%)\", // base\n 600: \"hsl(245 85% 52%)\", // hover (L-8)\n 700: \"hsl(245 85% 44%)\", // active (L-16)\n 800: \"hsl(245 80% 36%)\",\n 900: \"hsl(245 75% 28%)\",\n },\n // Semantic — фиксированные тона, согласованность по S/L\n success: { DEFAULT: \"hsl(150 70% 42%)\", soft: \"hsl(150 70% 95%)\" },\n warning: { DEFAULT: \"hsl(38 92% 50%)\", soft: \"hsl(38 92% 95%)\" },\n danger: { DEFAULT: \"hsl(0 75% 55%)\", soft: \"hsl(0 75% 95%)\" },\n info: { DEFAULT: \"hsl(200 85% 48%)\", soft: \"hsl(200 85% 95%)\" },\n },\n },\n },\n}\n```\n\n**Пример компонента** — карточка метрики, использует все три слоя:\n\n```tsx\n// src/components/MetricCard.tsx\nexport function MetricCard({ label, value, delta }: {\n label: string; value: string; delta: number;\n}) {\n const positive = delta >= 0;\n return (\n <div className=\"rounded-xl border border-ink-200 bg-ink-50 p-5 shadow-sm\">\n <p className=\"text-sm text-ink-500\">{label}</p>\n <p className=\"mt-1 text-2xl font-semibold text-ink-900\">{value}</p>\n <span\n className={`mt-2 inline-flex items-center rounded-md px-2 py-0.5 text-xs font-medium ${\n positive ? \"bg-success-soft text-success\" : \"bg-danger-soft text-danger\"\n }`}\n >\n {positive ? \"▲\" : \"▼\"} {Math.abs(delta)}%\n </span>\n </div>\n );\n}\n```\n\n**Ключевые решения**\n\n1. **HSL вместо HEX** — hover/active/disabled делаются сдвигом L на 8-16%, без ручного подбора.\n2. **Нейтральная шкала с H=220** — лёгкий синий оттенок делает «серый» тёплее и дружелюбнее чистого gray.\n3. **60-30-10** — фон `ink-50`, текст `ink-700/900`, акценты `brand-500` и semantic. Глаз не устаёт.\n4. **Semantic с soft-парой** — каждый статус имеет «громкую» (DEFAULT) и «тихую» (soft) версии. Soft — для фона бейджа, DEFAULT — для текста/иконки. Контраст по WCAG сохраняется.\n5. **Brand 500 = base, 600 = hover, 700 = active** — фиксированный шаг L=8, не надо думать.\n6. **Без чистого #000 и #fff** — `ink-950` (L=8%) вместо чёрного, `ink-50` (L=98%) вместо белого. Меньше усталость глаз на ярких экранах.\n7. **Tailwind 3.4** поддерживает HSL-native opacity (`bg-brand-500/10`) из коробки, не нужны RGB-трюки.\n\n**Проверка**\n\n- Открой Tailwind Play (play.tailwindcss.com), вставь config и компонент — увидишь карточку.\n- Проверь контраст текста через [WebAIM Contrast Checker](https://webaim.org/resources/contrastchecker/): `text-ink-700` на `bg-ink-50` даёт 9.2:1 (AAA), `text-danger` на `bg-danger-soft` — 4.6:1 (AA).\n- Наведи курсор на `brand-600` кнопку — переход от 500 к 600 должен быть плавным, не «прыгающим».\n- Включи в DevTools эмуляцию forced-colors и proto-deuteranopia — семантические цвета остаются различимы за счёт разной светлоты (L), не только тона."}], "metadata": {"category": "ui_ux_design", "subcategory": "color_palette", "complexity": "beginner", "source": "handcrafted"}}
|
| 8 |
-
{"messages": [{"role": "system", "content": "Category: backend_api_db\nSubcategory: express\nComplexity: intermediate\nSource: handcrafted"}, {"role": "user", "content": "Делаю REST API на Express + TypeScript: middleware для auth (JWT), логирования, обработки ошибок, Zod-валидация body, helmet для security. Дай чистую структуру с async/await и объясни подводные камни."}, {"role": "assistant", "content": "**Введение**\n\nСтруктура Express 4.18 + TypeScript 5 с типизированными middleware, централизованным error-handler и Zod-валидацией. Используем `asyncHandler` wrapper, чтобы избежать unhandled rejection в async роутах (Express 4 не ловит их сам — это главная ловушка).\n\n```typescript\n// src/app.ts\nimport express, { Request, Response, NextFunction } from \"express\";\nimport helmet from \"helmet\";\nimport cors from \"cors\";\nimport { authMiddleware } from \"./middleware/auth\";\nimport { loggerMiddleware } from \"./middleware/logger\";\nimport { errorHandler } from \"./middleware/error\";\nimport { validateBody } from \"./middleware/validate\";\nimport { todoRouter } from \"./routes/todos\";\n\nexport const app = express();\n\n// Security headers: CSP, HSTS, X-Frame-Options, no-sniff и т.д.\napp.use(helmet());\napp.use(cors({ origin: process.env.CORS_ORIGIN?.split(\",\") ?? [] }));\napp.use(express.json({ limit: \"1mb\" }));\n\n// Логирование каждого запроса: method, path, status, latency\napp.use(loggerMiddleware);\n\n// Healthcheck — без auth, до роутов\napp.get(\"/healthz\", (_req, res) => res.json({ status: \"ok\" }));\n\n// Защищённые роуты\napp.use(\"/todos\", authMiddleware, todoRouter);\n\n// 404 для неизвестных путей\napp.use((_req, res) => {\n res.status(404).json({ error: \"Not Found\" });\n});\n\n// Централизованный error handler — должен быть последним\napp.use(errorHandler);\n```\n\n```typescript\n// src/middleware/asyncHandler.ts\nimport { Request, Response, NextFunction, RequestHandler } from \"express\";\n\n// Express 4 не ловит reject из async-функций автоматически.\n// Этот wrapper пробрасывает ошибку в next(err) → errorHandler.\nexport const asyncHandler =\n (fn: (req: Request, res: Response, next: NextFunction) => Promise<unknown>): RequestHandler =>\n (req, res, next) => {\n Promise.resolve(fn(req, res, next)).catch(next);\n };\n```\n\n```typescript\n// src/middleware/logger.ts\nimport { Request, Response, NextFunction } from \"express\";\n\nexport const loggerMiddleware = (req: Request, res: Response, next: NextFunction): void => {\n const start = Date.now();\n res.on(\"finish\", () => {\n const ms = Date.now() - start;\n console.log(\n JSON.stringify({\n time: new Date().toISOString(),\n method: req.method,\n path: req.path,\n status: res.statusCode,\n ms,\n ip: req.ip,\n })\n );\n });\n next();\n};\n```\n\n```typescript\n// src/middleware/auth.ts\nimport { Request, Response, NextFunction } from \"express\";\nimport jwt from \"jsonwebtoken\";\n\nconst JWT_SECRET = process.env.JWT_SECRET ?? \"dev-secret-change-me\";\n\n// Расширяем тип Request, чтобы хранить userId\ndeclare global {\n // eslint-disable-next-line @typescript-eslint/no-namespace\n namespace Express {\n interface Request {\n userId?: string;\n }\n }\n}\n\nexport const authMiddleware = (req: Request, res: Response, next: NextFunction): void => {\n const header = req.headers.authorization;\n if (!header?.startsWith(\"Bearer \")) {\n res.status(401).json({ error: \"Missing Bearer token\" });\n return;\n }\n try {\n const payload = jwt.verify(header.slice(7), JWT_SECRET) as { sub: string };\n req.userId = payload.sub;\n next();\n } catch {\n res.status(401).json({ error: \"Invalid or expired token\" });\n }\n};\n```\n\n```typescript\n// src/middleware/validate.ts\nimport { Request, Response, NextFunction } from \"express\";\nimport { ZodSchema, ZodError } from \"zod\";\n\nexport const validateBody =\n <T>(schema: ZodSchema<T>) =>\n (req: Request, _res: Response, next: NextFunction) => {\n try {\n req.body = schema.parse(req.body); // заменяем на распарсенный + дефолты\n next();\n } catch (err) {\n next(err); // ZodError пойдёт в errorHandler\n }\n };\n```\n\n```typescript\n// src/middleware/error.ts\nimport { Request, Response, NextFunction } from \"express\";\nimport { ZodError } from \"zod\";\n\nexport const errorHandler = (\n err: unknown,\n _req: Request,\n res: Response,\n _next: NextFunction\n): void => {\n if (err instanceof ZodError) {\n // 422 — клиент прислал невалидные данные, вот конкретные поля\n res.status(422).json({\n error: \"Validation Error\",\n details: err.issues.map((i) => ({ path: i.path.join(\".\"), message: i.message })),\n });\n return;\n }\n console.error(err);\n res.status(500).json({ error: \"Internal Server Error\" });\n};\n```\n\n```typescript\n// src/routes/todos.ts\nimport { Router } from \"express\";\nimport { z } from \"zod\";\nimport { asyncHandler } from \"../middleware/asyncHandler\";\nimport { validateBody } from \"../middleware/validate\";\n\nexport const todoRouter = Router();\n\nconst TodoCreateSchema = z.object({\n title: z.string().min(1).max(200),\n done: z.boolean().default(false),\n});\n\n// Имитация хранилища\nconst todos = new Map<string, { id: string; title: string; done: boolean }>();\n\ntodoRouter.get(\n \"/\",\n asyncHandler(async (_req, res) => {\n res.json([...todos.values()]);\n })\n);\n\ntodoRouter.post(\n \"/\",\n validateBody(TodoCreateSchema),\n asyncHandler(async (req, res) => {\n const body = req.body as z.infer<typeof TodoCreateSchema>;\n const todo = { id: crypto.randomUUID(), ...body };\n todos.set(todo.id, todo);\n res.status(201).json(todo);\n })\n);\n```\n\n```typescript\n// src/server.ts\nimport { app } from \"./app\";\n\nconst PORT = Number(process.env.PORT ?? 3000);\napp.listen(PORT, () => console.log(`API on :${PORT}`));\n```\n\n**Ключевые решения:**\n\n1. **`asyncHandler` wrapper** — Express 4 не ловит reject из async-функций: роут `async (req,res) => { throw new Error() }` уронит процесс. Wrapper пробрасывает ошибку в `next(err)`. В Express 5 этой проблемы нет, но 4.18 — стабильный мейнстрим.\n2. **Порядок middleware важен** — `helmet` и `cors` до всего, потом парсинг body, потом логирование (видит уже распарсенный body), потом роуты, потом 404, потом `errorHandler` (должен быть последним).\n3. **`declare global { namespace Express { interface Request } }`** — расширение типа для `req.userId`. Без этого TS ругается на произвольные поля в `req`.\n4. **Zod → `next(err)` вместо `res.status(422)` прямо в middleware** — централизованная обработка в `errorHandler`. Если валидация упадёт с ZodError и в роуте, и в middleware, ответ будет одинаковым.\n5. **`helmet()` по умолчанию** — выставляет 15 security-заголовков: CSP, HSTS, X-Content-Type-Options, X-Frame-Options. Снижает риск XSS, clickjacking, MIME-sniffing.\n6. **JWT в `Authorization: Bearer ...`** — стандарт. `sub` (subject) claim хранит userId, `exp` — время жизни. Никогда не клади туда пароль/секрет.\n7. **`cors({ origin: [...] })` с env-списком** — явно перечисляем разрешённые домены. `origin: \"*\"` ломает `credentials: true` (куки), а нам нужны httpOnly cookies для refresh token.\n8. **Логи в JSON через `console.log(JSON.stringify(...))`** — на production их собирает stdout-коллектор (vector/loki), парсит как JSON, индексирует. Текстовые логи парсятся регэкспами — боль.\n9. **`res.on(\"finish\")` в logger** — ловит финальный status code. Если логировать в начале middleware, будет всегда 200 (ещё не успели выставить).\n10. **`crypto.randomUUID()`** — нативный Node.js, без зависимости на `uuid`.\n\n**Установка:**\n```bash\nnpm i express helmet cors zod jsonwebtoken\nnpm i -D typescript @types/express @types/node @types/cors @types/jsonwebtoken tsx\n# package.json scripts: \"dev\": \"tsx watch src/server.ts\", \"build\": \"tsc\"\n```\n\n**Проверка:**\n1. `npm run dev` → `API on :3000`.\n2. `curl http://localhost:3000/healthz` → `{\"status\":\"ok\"}`.\n3. `curl -X POST http://localhost:3000/todos -H \"Authorization: Bearer INVALID\"` → 401.\n4. Сгенерируй JWT: `node -e \"console.log(require('jsonwebtoken').sign({sub:'u1'},'dev-secret-change-me'))\"`.\n5. `curl -X POST .../todos -H \"Authorization: Bearer <token>\" -H \"Content-Type: application/json\" -d '{\"title\":\"test\"}'` → 201.\n6. `curl -X POST .../todos -H \"Authorization: Bearer <token>\" -H \"Content-Type: application/json\" -d '{\"title\":\"\"}'` → 422 с `details`.\n\n**Production-добавки:**\n- Перейти на Express 5 (нативная поддержка async-роутов).\n- Winston/pino вместо `console.log`."}], "metadata": {"category": "backend_api_db", "subcategory": "express", "complexity": "intermediate", "source": "handcrafted"}}
|
| 9 |
-
{"messages": [{"role": "system", "content": "Category: web_search_docs\nSubcategory: api_discovery\nComplexity: advanced\nSource: handcrafted"}, {"role": "user", "content": "Найди бесплатное REST API для получения курса валют и напиши клиент."}, {"role": "assistant", "content": "**Анализ**\n\n«Бесплатное API валют» — сильно зависит от времени: exchangerate.host ввёл обязательный ключ (раньше был no-key), open.er-api.com имеет лимиты, Frankfurter — полностью бесплатный без ключа. Чтобы выбрать актуальный вариант на конец 2024, нужен web search по нескольким кандидатам и сравнение лимитов/лицензии/источника данных.\n\n[web_search: \"free currency exchange rate API no api key 2024\"]\n\n**Результаты поиска:**\n\n1. Frankfurter — https://frankfurter.app\n - Источник данных: European Central Bank (ECB).\n - Бесплатно, без API-ключа, без регистрации.\n - Лимиты: fair-use, ~несколько запросов в секунду с одного IP.\n - Open source (MIT), self-hostable.\n - Документация: https://www.frankfurter.app/docs/\n2. open.er-api.com — https://www.exchangerate-api.com/docs/free-api-exchange-rates-api\n - Free-план: 1500 запросов/мес без ключа (open.er-api.com/v6/latest/USD).\n - Не требует регистрации, но есть лимит.\n3. exchangerate.host — теперь требует access_key (раньше был open).\n4. Open Exchange Rates — free-план 1000 запросов/мес, требует ключ.\n\nРешение: для прототипа и небольшого прод-трафика берём **Frankfurter** — без ключа, без лимит-сюрпризов, источник — ECB.\n\n[web_search: \"Frankfurter API endpoints documentation\"]\n\n**Результаты поиска:**\n\n1. Endpoints — https://www.frankfurter.app/docs/\n - `GET /latest` — последние курсы (по умолчанию от ECB за последний рабочий день).\n - `GET /latest?from=USD&to=EUR,GBP` — конкретные пары.\n - `GET /2024-12-01?from=USD&to=EUR` — исторический курс на дату.\n - `GET /2024-01-01..2024-12-01?from=USD&to=EUR` — временной ряд.\n - `GET /currencies` — список поддерживаемых валют (31 валюта ECB).\n2. Base URL: `https://api.frankfurter.app` (или `https://www.frankfurter.app`).\n3. Формат ответа: JSON.\n ```json\n {\n \"amount\": 1.0,\n \"base\": \"USD\",\n \"date\": \"2024-12-05\",\n \"rates\": { \"EUR\": 0.9352, \"GBP\": 0.7861 }\n }\n ```\n\n**Ответ**\n\n## Сравнение кандидатов\n\n| API | Ключ | Лимит free | Источник данных | Вердикт |\n|------------------|-----------|---------------------|-----------------|----------------------------------|\n| Frankfurter | не нужен | fair-use (~few rps) | ECB | лучший для прототипа |\n| open.er-api.com | не нужен | 1500/мес | mixed | ок для small side-projects |\n| exchangerate.host| нужен | 100/мес | mixed | не рекомендуется после смены ToS |\n| Open Exchange Rates | нужен | 1000/мес | mixed | ок, но регистрация обязательна |\n\nВыбираю **Frankfurter**: нет ключа, прозрачный источник (ECB), открытый код.\n\n## Асинхронный Python-клиент\n\n```python\n# currency_client.py\nimport asyncio\nimport time\nfrom typing import Any\n\nimport aiohttp\n\nBASE_URL = \"https://api.frankfurter.app\"\n\n\nclass FrankfurterClient:\n # Простой TTL-кэш в памяти, чтобы не дёргать API на каждый вызов.\n # Для production лучше Redis с тем же TTL.\n def __init__(\n self,\n ttl_seconds: int = 3600,\n timeout_seconds: float = 10.0,\n ) -> None:\n self._ttl = ttl_seconds\n self._timeout = aiohttp.ClientTimeout(total=timeout_seconds)\n # Кэш: {(from, to_tuple): (timestamp, rates_dict)}\n self._cache: dict[tuple[str, frozenset[str]], tuple[float, dict[str, float]]] = {}\n\n async def get_rates(\n self,\n from_currency: str,\n to_currencies: list[str],\n ) -> dict[str, float]:\n # 1. Нормализуем ключи и проверяем кэш\n key = (from_currency.upper(), frozenset(c.upper() for c in to_currencies))\n now = time.monotonic()\n cached = self._cache.get(key)\n if cached and now - cached[0] < self._ttl:\n return cached[1]\n\n # 2. Делаем запрос. Параметр `from` задаёт базовую валюту,\n # `to` — список целевых, разделённый запятыми.\n params = {\n \"from\": from_currency.upper(),\n \"to\": \",\".join(c.upper() for c in to_currencies),\n }\n async with aiohttp.ClientSession(timeout=self._timeout) as session:\n async with session.get(f\"{BASE_URL}/latest\", params=params) as resp:\n resp.raise_for_status()\n data: dict[str, Any] = await resp.json()\n\n rates = {k: float(v) for k, v in data[\"rates\"].items()}\n # 3. Сохраняем в кэш\n self._cache[key] = (now, rates)\n return rates\n\n async def convert(self, amount: float, frm: str, to: str) -> float:\n rates = await self.get_rates(frm, [to])\n rate = rates[to.upper()]\n return amount * rate\n\n\nasync def main() -> None:\n client = FrankfurterClient(ttl_seconds=300)\n\n # 100 USD → EUR и GBP\n rates = await client.get_rates(\"USD\", [\"EUR\", \"GBP\"])\n print(f\"1 USD = {rates['EUR']:.4f} EUR, {rates['GBP']:.4f} GBP\")\n\n # Конвертация\n eur = await client.convert(100, \"USD\", \"EUR\")\n print(f\"100 USD = {eur:.2f} EUR\")\n\n\nif __name__ == \"__main__\":\n asyncio.run(main())\n```\n\n## Запуск\n\n```bash\npip install \"aiohttp>=3.9\"\npython currency_client.py\n# 1 USD = 0.9352 EUR, 0.7861 GBP\n# 100 USD = 93.52 EUR\n```\n\n## Production-добавки\n\n- **Redis-кэш** вместо in-memory: один кэш на несколько инстансов, TTL 1 час.\n- **Circuit breaker** (например `aiobreaker`): если Frankfurter лежит 5 раз подряд, не дёргать его 60 секунд.\n- **Fallback на open.er-api.com**: если Frankfurter 5xx, попробовать второй источник и залогировать расхождение.\n- **Алёрт на расхождение** источников > 1%: признаки проблем с одним из провайдеров.\n\n## Ограничения Frankfurter\n\n- Только 31 валюта (те, что публикует ECB). Крипты нет, экзотических валют нет.\n- Данные обновляются раз в рабочий день (не real-time). Для трейдинга не подходит, для биллинга — ок.\n- Исторические данные — с 1999 года.\n\n**Проверка:**\n- Открой в браузере `https://api.frankfurter.app/latest?from=USD&to=EUR,GBP` — должен вернуться JSON.\n- `curl https://api.frankfurter.app/currencies | jq` — список поддерживаемых валют.\n- Запусти `python currency_client.py` — должно вывести актуальные курсы.\n- Дёрни `get_rates` дважды подряд с теми же аргументами — второй запрос должен отработать мгновенно (кэш).\n"}], "metadata": {"category": "web_search_docs", "subcategory": "api_discovery", "complexity": "advanced", "source": "handcrafted"}}
|
| 10 |
-
{"messages": [{"role": "system", "content": "Category: security\nSubcategory: secrets_management\nComplexity: intermediate\nSource: handcrafted"}, {"role": "user", "content": "У меня в коде API-ключи прямо в config.ts. Понимаю, что это плохо. Как правильно хранить секреты в Next.js приложении?"}, {"role": "assistant", "content": "**Анализ**\n\nHardcoded secrets в `config.ts` — критическая уязвимость:\n1. Ключи попадают в git → любой с доступом к репо имеет доступ к API\n2. Даже после удаления из кода, они остаются в git history\n3. Frontend-bundle может утечь в браузер (если ключ в client component)\n4. CI/CD логи могут утекать ключи при `console.log`\n\n**Правильное решение — уровни секретов:**\n\n| Тип | Где хранить | Как использовать |\n|-----|-------------|------------------|\n| Database URL, JWT secret | `.env` + vault (production) | Только server-side |\n| Stripe API key | `.env` + vault | Только server-side |\n| Public key (Firebase config, Stripe publishable) | `NEXT_PUBLIC_*` env | Доступен в браузере (OK) |\n| Client OAuth IDs | `NEXT_PUBLIC_*` env | Доступен в браузере (OK) |\n\n**1. Правильная структура:**\n\n```bash\n# .env.example — коммитим, документация\nDATABASE_URL=postgresql://user:pass@host:5432/db\nJWT_SECRET= # сгенерируй: openssl rand -base64 32\nSTRIPE_SECRET_KEY=\nNEXT_PUBLIC_STRIPE_PUBLISHABLE_KEY=\nNEXT_PUBLIC_FIREBASE_CONFIG={\"apiKey\":\"...\",\"authDomain\":\"...\"}\n\n# .env — НЕ коммитим, реальная значения\nDATABASE_URL=postgresql://postgres:realpass@localhost:5432/myapp\nJWT_SECRET=K7aM9...32randombytes\nSTRIPE_SECRET_KEY=sk_live_...\nNEXT_PUBLIC_STRIPE_PUBLISHABLE_KEY=pk_live_...\n```\n\n**`.gitignore`:**\n```\n.env\n.env.local\n.env.*.local\n!.env.example\n```\n\n**2. Типизированный доступ к env (Next.js):**\n\n```ts\n// src/lib/env.ts\nimport { z } from \"zod\";\n\nconst envSchema = z.object({\n // Server-only — НЕ префикс NEXT_PUBLIC_\n DATABASE_URL: z.string().url(),\n JWT_SECRET: z.string().min(32),\n STRIPE_SECRET_KEY: z.string().startsWith(\"sk_\"),\n REDIS_URL: z.string().url().optional().default(\"redis://localhost:6379\"),\n\n // Public — NEXT_PUBLIC_ prefix\n NEXT_PUBLIC_STRIPE_PUBLISHABLE_KEY: z.string().startsWith(\"pk_\"),\n NEXT_PUBLIC_APP_URL: z.string().url(),\n});\n\nfunction loadEnv() {\n const parsed = envSchema.safeParse(process.env);\n if (!parsed.success) {\n console.error(\"❌ Invalid environment variables:\");\n console.error(JSON.stringify(parsed.error.flatten(), null, 2));\n throw new Error(\"Invalid environment variables — check .env\");\n }\n return parsed.data;\n}\n\nexport const env = loadEnv();\n\n// Типизированный доступ:\n// import { env } from \"@/lib/env\";\n// const db = await connect(env.DATABASE_URL);\n```\n\n**3. Удаление secrets из git history:**\n\nЕсли ключ уже в git — `git rm .env` НЕ помогает, он остаётся в истории. Нужен `git filter-repo`:\n\n```bash\n# Установить\npip install git-filter-repo\n\n# Удалить .env из всей истории\ngit filter-repo --invert-paths --path .env --force\n\n# Или заменить конкретное значение во всех файлах\ngit filter-repo --replace-text <(echo \"sk_live_REAL_KEY==>REDACTED\")\n\n# Force push (⚠️ переписывает history, координируй с командой)\ngit push origin --force --all\ngit push origin --force --tags\n```\n\n**И ОБЯЗАТЕЛЬНО** — отозвать утёкшие ключи в соответствующих сервисах. Git history публичная = ключ скомпрометирован навсегда.\n\n**4. Production — Vault / Secret Manager:**\n\n`.env` файлы подходят для dev. Для production:\n\n**AWS Secrets Manager / Parameter Store:**\n```ts\n// src/lib/secrets.ts\nimport { SecretsManagerClient, GetSecretValueCommand } from \"@aws-sdk/client-secrets-manager\";\n\nconst client = new SecretsManagerClient({ region: \"us-east-1\" });\nconst cache = new Map<string, { value: string; expires: number }>();\n\nexport async function getSecret(name: string): Promise<string> {\n const cached = cache.get(name);\n if (cached && cached.expires > Date.now()) {\n return cached.value;\n }\n\n const response = await client.send(\n new GetSecretValueCommand({ SecretId: name })\n );\n const value = response.SecretString!;\n cache.set(name, { value, expires: Date.now() + 10 * 60 * 1000 }); // 10 min cache\n return value;\n}\n\n// Использование:\nconst stripeKey = await getSecret(\"prod/stripe/secret-key\");\n```\n\n**Doppler / HashiCorp Vault / Infisical** — managed alternatives, удобнее:\n```bash\n# Doppler\ndoppler login\ndoppler setup\ndoppler run -- npm start\n# В process.env автоматически попадают секреты из Doppler\n```\n\n**5. Docker secrets:**\n\n```yaml\n# docker-compose.yml\nservices:\n app:\n image: myapp:latest\n environment:\n - DATABASE_URL_FILE=/run/secrets/db_url\n secrets:\n - db_url\n\nsecrets:\n db_url:\n file: ./secrets/db_url.txt\n```\n\n```ts\n// Чтение из file (Docker secret pattern)\nimport { readFileSync } from \"node:fs\";\n\nconst dbUrl = process.env.DATABASE_URL || \n (process.env.DATABASE_URL_FILE && readFileSync(process.env.DATABASE_URL_FILE, \"utf-8\"));\n```\n\n**6. Pre-commit hook — предотвращаем утечки:**\n\n`.pre-commit-config.yaml`:\n```yaml\nrepos:\n - repo: https://github.com/Yelp/detect-secrets\n rev: v1.5.0\n hooks:\n - id: detect-secrets\n args: ['--baseline', '.secrets.baseline']\n```\n\nИли через GitHub Actions:\n```yaml\nname: security\non: [push, pull_request]\njobs:\n detect-secrets:\n runs-on: ubuntu-latest\n steps:\n - uses: actions/checkout@v4\n - uses: gitleaks/gitleaks-action@v2\n```\n\n**7. Линтер на утечки в runtime:**\n\n```ts\n// src/lib/secret-guard.ts — для dev/test среды\nconst SECRET_PATTERNS = [\n /sk_live_[a-zA-Z0-9]{24,}/, // Stripe live\n /sk_test_[a-zA-Z0-9]{24,}/, // Stripe test\n /ghp_[a-zA-Z0-9]{36}/, // GitHub PAT\n /AKIA[A-Z0-9]{16}/, // AWS access key\n /-----BEGIN (RSA |EC )?PRIVATE KEY-----/,\n /eyJ[a-zA-Z0-9_-]+[.]eyJ[a-zA-Z0-9_-]+[.][a-zA-Z0-9_-]+/, // JWT\n];\n\nexport function scanForSecrets(obj: any, path = \"\"): string[] {\n const findings: string[] = [];\n if (typeof obj === \"string\") {\n for (const pattern of SECRET_PATTERNS) {\n if (pattern.test(obj)) {\n findings.push(`${path}: matches ${pattern.source.slice(0, 30)}...`);\n }\n }\n } else if (obj && typeof obj === \"object\") {\n for (const [k, v] of Object.entries(obj)) {\n findings.push(...scanForSecrets(v, path ? `${path}.${k}` : k));\n }\n }\n return findings;\n}\n\n// В dev/test:\nif (process.env.NODE_ENV === \"development\") {\n const leaks = scanForSecrets(process.env);\n if (leaks.length > 0) {\n console.warn(\"⚠️ Potential secrets in env:\");\n leaks.forEach(l => console.warn(\" -\", l));\n }\n}\n```\n\n**Ключевые решения:**\n\n1. **`NEXT_PUBLIC_` prefix = публичный.** Любая переменная с этим префиксом попадает в client bundle. Если случайно назовёшь `STRIPE_SECRET_KEY` без префикса — Next.js выбросит ошибку при попытке использовать в client component. Это хорошо.\n\n2. **Zod-валидация env при старте.** Лучше упасть при запуске, чем в рантайме получить `undefined` вместо JWT_SECRET и потом часами дебажить.\n\n3. **Cache в `getSecret()`.** AWS Secrets Manager берёт $0.40 за 10k вызовов — без кеша разоритесь на маленьком проекте. TTL 10 минут — баланс между свежестью и стоимостью.\n\n4. **`.env.example` — обязательно.** Новый разработчик клонирует репо и сразу понимает, какие env vars нужны. Не нужно искать \"почему не запускается\".\n\n5. **Pre-commit hooks.** `detect-secrets` / `gitleaks` ловят утёкшие ключи ДО коммита. Лучше задержать коммит на 2 секунды, чем потом ротировать все ключи.\n\n6. **Никогда не логируй secrets.** `console.log(req.body)` может утянуть пароль в логи. Используй redaction:\n```ts\nfunction redact(obj: any): any {\n if (typeof obj !== \"object\" || obj === null) return obj;\n const REDACT_KEYS = new Set([\"password\", \"token\", \"secret\", \"apiKey\", \"authorization\"]);\n const out: any = Array.isArray(obj) ? [] : {};\n for (const [k, v] of Object.entries(obj)) {\n out[k] = REDACT_KEYS.has(k.toLowerCase()) ? \"[REDACTED]\" : redact(v);\n }\n return out;\n}\nconsole.log(\"request:\", redact(req.body));\n```\n\n7. **Git history — навсегда.** Даже после `git filter-repo` удалённые ключи нужно ротировать. GitHub / GitLab кэшируют коммиты, форки могут остаться с историей.\n\n**Установка:**\n```bash\nnpm install zod\n# для AWS:\nnpm install @aws-sdk/client-secrets-manager\n# для pre-commit:\npip install detect-secrets\ndetect-secrets scan > .secrets.baseline\n```\n\n**Проверка:**\n1. `git grep -E \"sk_live_|ghp_|AKIA\" $(git rev-list --all)` — поиск утёкших ключей во всей истории\n2. `npm run build` — если env валиден, должно пройти без ошибок\n3. В DevTools → Sources → ищи `STRIPE_SECRET_KEY` в bundle — НЕ должен найтись (если без NEXT_PUBLIC_)\n4. `detect-secrets audit .secrets.baseline` — аудит найденных секретов\n5. Запусти `gitleaks detect` — должен быть 0 findings\n6. Удали `.env`, попробуй запустить без него — должно упасть с понятной ошибкой"}], "metadata": {"category": "security", "subcategory": "secrets_management", "complexity": "intermediate", "source": "handcrafted"}}
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|