/** * Разбор одной записи Bright Data ChatGPT Scraper: названные компании по порядку, их сайты, * источники ответа, состоялся ли ответ. Только правила, без моделей. * * Что считаем «названной компанией»: название, которое видно в тексте ответа: карточки карты в начале * ответа (строка «Map data is currently unavailable **Имя** 4.9…»), пункты списков, заголовки, * первая колонка таблиц, отдельные жирные названия. Метки на карте (поле map), которых нет в тексте, * не считаем: пользователь их видит только если откроет карту. Из поля map берём сайты. * Логика имён по мотивам chatgpt-watch.mjs (validName, looksLikeCompany, nameKey). */ // Чистка 1: однословный пункт без сайта отбрасываем, только если это тема или район из наших ответов // («Implants», «Rhinoplasty», «Midtown»). Весь словарь не годится: «Victorious», «Huge», «Sparrow» это компании. import { readFileSync, existsSync } from 'node:fs'; const TOPIC1 = /^(?:implants?|rhinoplasty|acne|calisthenics|liposuction|lipo|bbl|braces|invisalign|aligners|veneers|whitening|botox|fillers?|facelifts?|ecommerce|e-commerce|seo|ppc|sem|branding|ux|ui|therapy|anxiety|depression|trauma|ocd|ptsd|adhd|couples|teens?|kids|children|adults?|families|budget|luxury|commercial|residential|emergency|repairs?|installation|maintenance|hardscape|hardscaping|lighting|irrigation|construction|drainage|pavers|patios?|pools?|plumbing|electrical|hvac|cleaning|orthodontics|dermatology|surgery|rehab|rehabilitation|sports|spine|pelvic|vestibular|pediatric|cosmetic|general|family|medical|mohs|psoriasis|eczema|rosacea|color|balayage|blonding|extensions|curly|cuts?|brakes?|transmission|diagnostics|tires?|alignment|insurance|auto|home|life|renters|business|manhattan|brooklyn|queens|bronx|midtown|downtown|uptown|intown|buckhead|decatur|wynwood|brickell|coronado|soho|tribeca|chelsea|harlem|astoria|williamsburg|fishtown|montrose|galleria|westside|eastside|scottsdale|tempe|chandler|mesa|gilbert|glendale|pasadena|burbank|evanston|plano|frisco|irving|arlington|katy|kendall|doral|aventura|hialeah|overall|value|convenience)$/i; const dictWord = (w) => TOPIC1.test(String(w)); // Деловые слова: с ними район или тема становятся названием («Buckhead Dental Associates», «North Cleaning ATL»). const BIZ = /\b(?:LLC|L\.L\.C|Inc|Co|Corp|Company|Group|Team|Agency|Studio|Studios|Salon|Spa|Dental|Dentistry|Dentist|Orthodontics?|Ortho|Dermatology|Derm|Plumbing|Plumbers?|Rooter|Electric|Electrical|Electricians?|Heating|Cooling|HVAC\s+\w+|Service|Tires?|Body|Shop|Care|Turf|Botanical|State Farm|Allstate|Farmers|Nationwide|Compass|Redfin|Sotheby'?s?|Keller Williams|Coldwell Banker|eXp|RE\/MAX|Douglas Elliman|Corcoran|Comparion|Americorp|EveryPlace|Mechanical|Landscap\w*|Lawn|Gardens?|Outdoor\w*|Cleaning|Cleaners|Maids?|Auto|Automotive|Garage|Motors|Collision|Insurance|Realty|Realtors?|REALTOR®?|Real Estate|Properties|Homes|Marketing|Media|Digital|Design|Interactive|Creative|Partners|Associates|Clinic|Center|Centre|Health|Medicine|Medical|Surgery|Surgical|Aesthetics?|Therapy|Therapists?|Physio\w*|Rehab\w*|Counseling|Psychology|Psychiatry|Wellness|Chiropractic|Spine|Fitness|Training|Trainers?|Performance|Gym|Hair|Beauty|Barbers?|Services|Solutions|Pros|Experts|Specialists|Works|Labs?|Institute|Practice|Consulting|Brokerage|Builders|Construction|Contractors?|SEO\s+\w+|PT)\b/; // Человек: «Dr.», регалии, или первое слово из словаря имён (macOS /usr/share/dict/propernames) и 2-3 слова. const FIRST = existsSync('/usr/share/dict/propernames') ? new Set(readFileSync('/usr/share/dict/propernames', 'utf8').split('\n').map((w) => w.trim()).filter(Boolean)) : new Set(); const isPerson = (side) => { const t = String(side).trim(); const w = t.split(/\s+/); return /^Dr\.?\s/.test(t) || /,\s*(?:MD|DDS|DMD|PhD|PsyD|LCSW|LPC|DPT|PT|DO)\b|\s(?:MD|DDS|DMD|PhD|PsyD)$/.test(t) || (w.length >= 2 && w.length <= 3 && FIRST.has(w[0])); }; // Слова-услуги: название целиком из них это тема, а не компания («Drain Cleaning», «Commercial HVAC»). const SERVICEWORD = /^(?:air|conditioning|ac|a\/c|commercial|residential|hvac|drain|drains|cleaning|sewer|repair|repairs|replacement|installation|technical|seo|ppc|local|emergency|water|heater|heaters|tankless|leak|leaks|detection|panel|panels|upgrade|upgrades|wiring|ev|charger|chargers|deep|move-out|move-in|recurring|maintenance|tune-up|furnace|duct|ducts|google|ads|maps|content|link|building|web|website|design|ecommerce|e-commerce|dtc|b2b|saas|enterprise|small|business|family|cosmetic|general|pediatric|sports|orthopedic|post-surgical|surgical|knee|back|neck|shoulder|pain|injury|injuries|acl|pelvic|floor|vestibular|anxiety|depression|trauma|ocd|ptsd|couples|teens|adults|kids|braces|invisalign|implants|veneers|whitening|liposuction|bbl|rhinoplasty|facelift|tummy|tuck|breast|augmentation|botox|fillers|acne|psoriasis|eczema|mohs|skin|cancer|hair|color|cut|cuts|balayage|extensions|brakes|brake|transmission|engine|diagnostics|european|domestic|luxury|budget|value|premium|high-end)$/i; const PLACE_START = /^(?:North|South|East|West|Northeast|Northwest|Southeast|Southwest|Central|Downtown|Uptown|Midtown|Lower|Upper|Greater|Inner|Near|Old|Historic)\b/; // Ручные решения по сырым ответам (scripts/not-companies.json): что правила не ловят, с причиной. const NC_FILE = new URL('./not-companies.json', import.meta.url); const NC = existsSync(NC_FILE) ? JSON.parse(readFileSync(NC_FILE, 'utf8')) : { items: [], keep: [] }; export const NOT_COMPANY = new Map((NC.items || []).map((x) => [x.name, x.why])); export const KEEP_COMPANY = new Map((NC.keep || []).map((x) => [x.name, x.why])); export function placeOrTopic(n) { const name = String(n || '').trim(); if (KEEP_COMPANY.has(name)) return false; const ws = name.toLowerCase().split(/\s+|\s*\/\s*/).filter(Boolean); if (ws.length && ws.every((w) => SERVICEWORD.test(w))) return 'услуга'; if (BIZ.test(name) || name.split(/\s*\/\s*/).some(isPerson)) return false; if (PLACE_START.test(name)) return 'район'; if (/\//.test(name)) return 'район или тема через «/»'; return false; } export const hostOf = (u) => { try { return new URL(u).host.toLowerCase().replace(/^www\./, ''); } catch { return null; } }; const norm = (s) => String(s || '').toLowerCase().normalize('NFKD').replace(/[^\p{L}\p{N}]+/gu, ''); // Источник по ссылке: google.com/maps отдельно от google.com, поддомены yelp и т.п. к корню. export function sourceOf(url) { const h = hostOf(url); if (!h) return null; if (/(^|\.)google\.[a-z.]+$/.test(h) && /\/maps/.test(url)) return 'google.com/maps'; if (h === 'maps.google.com' || h === 'maps.app.goo.gl') return 'google.com/maps'; const parts = h.split('.'); const sld = /^(co|com|org|net|gov|ac)\.[a-z]{2}$/.test(parts.slice(-2).join('.')) ? 3 : 2; return parts.slice(-sld).join('.'); } // Площадки и справочники: это источники, а не компании ниши. const PLATFORM = /^(?:google(?: maps| reviews| business(?: profile)?)?|yelp|bbb|better business bureau|reddit|angi|angie'?s list|homeadvisor|thumbtack|houzz|nextdoor|facebook|instagram|tiktok|youtube|linkedin|avvo|justia|martindale(?:-hubbell)?|super ?lawyers|best lawyers|findlaw|lawyers\.com|nolo|healthgrades|zocdoc|vitals|webmd|ratemds|realself|psychology today|zillow|realtor\.com|redfin|trulia|homes\.com|clutch(?:\.co)?|upcity|designrush|sortlist|goodfirms|expertise(?:\.com)?|bark|porch|care\.com|winnie|kiddie academy finder|the knot|weddingwire|zola|tripadvisor|groupon|carfax|repairpal|mapquest|yellow ?pages|manta|chamber of commerce|indeed|glassdoor|trustpilot|consumer ?affairs|forbes(?: advisor)?|nerdwallet|bankrate|us news|u\.s\. news|d magazine|texas monthly|time out|eater|wikipedia|chatgpt|openai)$/i; const ADVICE_START = /^(?:#|(?:for|if|when|to|ask|how|what|why|which|who|where|questions?|check|look|make|avoid|consider|best|top|tips?|bottom line|summary|quick|my|our|your|a|an|the best|note|overall|options?|budget|price|cost|pricing|reviews?|why|key|important|recommended|recommendations?|shortlist|step)\b)/i; const TIP_START = /^(?:based|located|available|serving|interview|buying|selling|renting|hiring|choosing|finding|getting|notable|honorable|bonus|runner-up|top-rated|budget-friendly|typical|check|ask|compare|look|make|get|use|consider|avoid|verify|review|visit|read|find|choose|be|keep|hire|work|talk|request|confirm|research|search|start|set|don['’]?t|do|always|never|try|budget|plan|think|focus|note|watch|insist|negotiate|inspect|call|book|schedule|see)\b/i; // Слова, из которых не бывает названия целиком: «Family Law», «Downtown», «Emergency Service». const GENERIC_ONLY = /^(?:(?:the|best|top|good|great|affordable|budget|luxury|premium|high[- ]end|local|nearby|emergency|family|general|cosmetic|pediatric|residential|commercial|full[- ]service|independent|boutique|large|small|big|national|regional|chain|franchise|downtown|north|south|east|west|central|area|city|county|metro|option|options|pick|picks|choice|choices|alternative|alternatives|service|services|company|companies|firm|firms|agency|agencies|practice|practices|clinic|clinics|office|offices|team|teams|group|law|lawyer|lawyers|attorney|attorneys|dentist|dentists|dental|care|center|centers|shop|shops|salon|salons|studio|studios|provider|providers|specialist|specialists|expert|experts|reviews?|rating|ratings|price|prices|cost|costs|insurance|seo|ppc|sem|cro|ux|ui|ads|marketing|branding|design|web|website|websites|digital|local|and|&|or|of|for|in|with|near|me|you|your|my|if|to|a|an)\s*)+$/i; // Регалии после запятой: «Robert B. Mitchell, D.D.S., P.A», «Courtney Dyer, PT, DPT, OCS». export const CRED = /^(?:MD|M\.D\.?|DO|DDS|D\.D\.S\.?|DMD|PhD|Ph\.D\.?|PsyD|LCSW|LPC|LMFT|LCPC|PT|DPT|OCS|FAAD|FACS|MPH|MBA|MS|MA|MSCE|P\.?A\.?|P\.?C\.?|LLC|Inc\.?|Jr\.?|Sr\.?|CSCS|FAAOMPT|ABPP|REALTOR®?|DC|NP|RN)$/i; const STALL = /^\W*(?:I[’']?ll|I will|Let me|I[’']m going to|I am going to)\s+(?:check|compare|look|search|find|research|pull|gather|review|go through|narrow|identify)/i; export function looksLikeCompany(name) { const n = String(name || '').trim().replace(/[.:]$/, ''); if (!n || TIP_START.test(n) || ADVICE_START.test(n)) return false; if (PLATFORM.test(n) || GENERIC_ONLY.test(n)) return false; if (n.length > 70 || n.length < 2) return false; if (/[?"“”«»]|https?:|\[\d+\]|^!/.test(n)) return false; // Год, «34,000+», «etc», хвосты-обобщения («… options», «… agents/teams», «… rankings») это не названия. if (/\s(?:or|vs\.?|versus)\s/.test(n)) return false; // Чистка 1 (04.10.2026): оценки и диапазоны («4.9–5.0», «3–5 Dallas therapists»), стрелки («100A → 200A»). if (!/\p{L}{2}/u.test(n) || /^\d+(?:\.\d+)?\s*[–—-]\s*\d/.test(n) || /[→←⇒]/.test(n)) return false; // Адреса («1770 Saint James Pl #210», «5101 S Kedzie Ave, Chicago») и счёт вида «30 San Diego practices». if (/^\d{2,6}\s/.test(n) && (/#\s?\d|\bSuite\b|\bUnit\b|,\s*\p{Lu}/u.test(n) || /\b(?:St|Street|Ave|Avenue|Rd|Road|Blvd|Boulevard|Dr|Drive|Pl|Place|Ln|Lane|Ct|Court|Hwy|Highway|Pkwy|Parkway|Way|Fwy|Expy)\.?$/i.test(n))) return false; if (/^\d/.test(n) && /\b(?:practices|clinics|agencies|companies|firms|shops|salons|options|dentists|therapists|lawyers|agents|providers|places|businesses|spots|picks|locations|studios)$/i.test(n)) return false; // Лицензии и разрешения («NYC Department of Buildings license», «Licensed Master Plumber»). if (/\b(?:license|licence|licensed|licensing|permit|permits)\b/i.test(n)) return false; // Строчное содержательное слово («SEO agencies in Atlanta», «Pre-construction», «Older Chicago home»). // Служебные слова и «team» («Mike McCann's team») допустимы; iCatch, eXp проходят (есть заглавная). if (n.split(/[\s\-\/]+/).some((w) => /^[a-z][a-z'’]{2,}$/.test(w) && !/^(?:of|and|the|in|at|by|for|with|on|de|la|del|da|von|van|team|to|from|vs)$/.test(w))) return false; // Организации и сертификаты, а не компании ниши: «American Board of Plastic Surgery», «… certified». if (/\b(?:certified|certification|accredited|accreditation|board-certified)\b/i.test(n)) return false; if (/^(?:the\s+)?(?:American|National|International|U\.?S\.?)\s+(?:Board|Academy|Society|Association|College|Council|Federation)\b|\b(?:Board|Society|Academy|Council) of\b|\bAssociation$/i.test(n)) return false; // Площадки и инструменты в начале названия («Google Search Console + GA4 reporting», «RepairPal …»). if (/^(?:google|yelp|clutch|zillow|bbb|angi|thumbtack|houzz|healthgrades|zocdoc|realself|redfin|facebook|instagram|reddit|chatgpt|openai|aad|repairpal|expertise\.com|psychology today|upcity|designrush|carfax)\b/i.test(n)) return false; // Обрывки речи: «So, if I». if (/^(?:so|and|but|or|then|also|plus),?\s/i.test(n) || /(?:^|\s)I(?:\s|$|')/.test(n)) return false; if (/\/\s*\p{Ll}/u.test(n)) return false; // «Career/burnout» if (/\b\d(?:\.\d)?\s*\/\s*(?:5|10)\b|★|\bstars?\b|\breviews?\b/i.test(n)) return false; // оценки «5.0/5 on Google» if (/\b(?:19|20)\d{2}\b|^\d{1,3}(?:,\d{3})+|^\d+(?:\.\d+)?\s+[a-z]|^\d+(?:\.\d+)?$|^\d+\.\d|\d\+|\betc\b|\b1-on-1\b/i.test(n)) return false; if (/\b(?:options|picks|choices|agents(?:\/teams)?|teams|rankings?|awards?|lists?|purchase|neighborhoods?|areas?|suburbs?|guide|directory|reviews|search|platforms?|sites|websites|code|codes|zip|zips|experience|approach|pricing|prices|costs?|convenience|option|alternatives?|purchase)$/i.test(n)) return false; const words = n.split(/\s+/).filter(Boolean); if (words.length > 8) return false; if (words.length === 1) return /^[\p{Lu}\p{N}]/u.test(n) && n.length >= 3; // Большинство слов с заглавной буквы (союзы и предлоги не считаем). const content = words.filter((w) => !/^(?:of|and|&|the|at|in|for|on|by|de|la|y|-|–|a)$/i.test(w)); return content.length > 0 && content.filter((w) => /^[\p{Lu}\p{N}("'’]/u.test(w)).length * 3 >= content.length * 2; } // Чистка названия: скобки, хвост после « — », « - », «: », звёздочки, ссылки, сноски, оценки карты. export function cleanName(raw) { let s = String(raw || '') .replace(/\\([[\]()*_.\-#+!])/g, '$1') .replace(/!\[[^\]]*\]\([^)]*\)/g, '') .replace(/\[([^\]]*)\]\([^)]*\)/g, '$1') .replace(/[\u2B50\u2605\u2606\uFE0F\u{1F300}-\u{1FAFF}\u2600-\u27BF]/gu, '') .replace(/\[\d+\]/g, '') .replace(/\s+#\d+\b/g, '') .replace(/\*\*|__/g, '') .replace(/^\s*(?:[-*•]\s*|\d+[.)](?:\s+|$))/, '') .replace(/^#+\s*/, '') .replace(/^\d+[.)]\s+/, ''); s = s.split(/\s[—–-]\s|:\s|:$|\s\|\s|\s(?:has|is|was|are|were|offers|specializes|stands|earns)\s|\s(?:at|with|from)\s+[\d~≈]/)[0]; s = s.replace(/\s*\((?:[^)]*)\)?\s*$/, '').replace(/\s*\([^)]*\)\s*/g, ' '); return s.replace(/\s+/g, ' ').trim().replace(/^[\s,;:]+|[\s.,;:]+$/g, ''); } const TAILS = /\b(?:the|inc|llc|llp|pllc|plc|pc|p\.?c|pa|p\.?a|ltd|limited|co|corp|corporation|company|dds|dmd|md|esq|cpa)\b/gi; export function nameKey(name) { return norm(String(name || '').replace(/&/g, ' and ').replace(/[.,]/g, ' ').replace(TAILS, ' ')); } /** Названия из текста ответа в порядке появления. */ export function namesFromText(md) { const text = String(md || '').replace(/\r/g, ''); const found = []; // { name, at, via } const push = (raw, at, via) => { const name = cleanName(raw); // «Wesley Ulloa, Eddie Blanco, and Joel Freis»: перечисление в одной строке, делим на части. const parts = name.split(/,\s+(?:and\s+)?|\s+and\s+(?=[\p{Lu}])/u); // Только вне карточек карты и только если каждая часть похожа на имя человека (2-3 слова): // «Affordable Plumbing, Rooter and Water Heaters» это одно название. if (via !== 'mapcard' && /,\s+(?:and\s+)?[\p{Lu}]/u.test(name) && /\s(?:and|&)\s/.test(name) && parts.length >= 3 && parts.every((x) => looksLikeCompany(x.trim()) && /^\S+(?:\s\S+){1,2}$/.test(x.trim()))) { parts.forEach((x, i) => found.push({ name: x.trim(), at: at + i, via })); return; } // Перечень «A, B, and C», который не разделился (есть однословные части), названием не считаем. // Карточка карты всегда конкретное заведение («Top Notch Plumbing», «More Than Movement»): фильтры советов не нужны. if (via === 'mapcard') { if (name.length >= 2 && name.length <= 120 && !PLATFORM.test(name)) found.push({ name, at, via }); return; } if (/,\s+(?:and|&)\s/.test(name)) return; // «HSS, Cynergy, Spear»: три и больше коротких частей через запятую без регалий это перечень, не название. const cparts = name.split(/,\s+/); if (cparts.length >= 3 && cparts.every((x) => x.split(/\s+/).length <= 3) && !cparts.slice(1).some((x) => CRED.test(x.trim()))) { return; // делить небезопасно (части бывают районами и регалиями), отбрасываем целиком } if (looksLikeCompany(name)) found.push({ name, at, via }); }; let offset = 0; let tableHead = null; let tableOk = false; let tableRank = false; const lines = text.split('\n'); for (let i = 0; i < lines.length; i += 1) { const line = lines[i]; const at = offset; offset += line.length + 1; const l = line.trim(); if (!l) continue; if (/Map data is currently unavailable/i.test(l)) { for (const m of l.matchAll(/\*\*([^*]{2,90})\*\*/g)) push(m[1], at + m.index, 'mapcard'); continue; } if (/^Log in|Sign up for free/i.test(l)) continue; if (/^(?:(?:[-*•]|\d+[.)])\s+)?(?:Worked for|Thought for|Searching the web|Searched \d+|Reading|Thinking)\b/i.test(l)) continue; if (/^\|/.test(l)) { if (/^\|\s*:?-{2,}/.test(l)) continue; const cell = l.split('|')[1] || ''; // Строка шапки: следующая строка разделитель «|---|». if (/^\|\s*:?-{2,}/.test((lines[i + 1] || '').trim())) { tableHead = cell.replace(/\*\*/g, '').trim(); // Чистка 1: первую ячейку берём, только если шапка говорит, что в колонке компании или люди. tableOk = /^(?:firm|agency|agencies|company|companies|business|practice|practices|clinic|provider|name|salon|shop|studio|dentist|doctor|physician|surgeon|dermatologist|therapist|trainer|gym|agent|realtor|team|broker|brokerage|contractor|plumber|electrician|landscaper|option|pick|recommendation|choice|orthodontist|chiropractor|cleaner|cleaning service|service provider|insurer|office|group|who)s?\b/i.test(tableHead); tableRank = /^(?:#|no\.?|rank|ranking|place)$/i.test(tableHead); continue; } // Первая ячейка жирная: это название. Иначе, если жирные названия в других ячейках // («| Local Miami business | **Headquarters Digital Marketing** |»), берём их, а первую ячейку нет. const cells = l.split('|').slice(1, -1); const boldOther = cells.slice(1).flatMap((c) => [...c.matchAll(/\*\*([^*]{2,90})\*\*/g)].map((m) => m[1])); if (tableOk) push(cell, at, 'table'); else if (boldOther.length) boldOther.forEach((b, j) => push(b, at + j, 'table')); else if (tableRank && cells[1]) push(cells[1], at, 'table'); continue; } tableHead = null; tableOk = false; tableRank = false; const heading = l.match(/^#{1,6}\s+(.*)$/); if (heading) { push(heading[1], at, 'heading'); continue; } const item = l.match(/^(?:[-*•]|\d+[.)])\s+(.*)$/); if (item) { const body = item[1].trim(); const bold = body.match(/^(?:\d+[.)]\s*)?\*\*([^*]{2,90})\*\*(\s*:)?/); // «**Sparrow** — …» название; «**Ownership:** …» пункт-критерий (двоеточие). if (bold) { push(bold[1], at, /:\s*$/.test(bold[1]) || bold[2] ? 'list1' : 'listb'); continue; } const link = body.match(/^\[([^\]]{2,90})\]\(/); if (link) { push(link[1], at, 'list'); continue; } // Пункт без жирного: название до тире или двоеточия, пункт короткий или с пояснением. // Одно слово без жирного («Ownership», «Developer») чаще пункт проверки, такое берём только если // это метка на карте (проверка в parseRecord по via 'list1'). if (/\s[—–-]\s|:\s/.test(body) || body.split(/\s+/).length <= 8) push(body, at, cleanName(body).split(/\s+/).length === 1 ? 'list1' : 'list'); continue; } // Абзац, который целиком одно жирное название («**Smile Dental**»). const solo = l.match(/^\*\*([^*]{2,90})\*\*\s*(?:[—–:-].*)?$/); if (solo) { push(solo[1], at, 'bold'); continue; } // Жирные названия внутри абзаца берём, только если похожи на имя собственное (проверка looksLikeCompany). for (const m of l.matchAll(/\*\*([^*]{2,140})\*\*/g)) { const raw = m[1]; if (/:$/.test(raw.trim())) continue; // «**local Miami businesses**», «**pure SEO specialist**»: жирная фраза со строчного слова не название (iCatch, eXp проходят). if (/^[a-z]+\s/.test(raw.trim())) continue; push(raw, at + m.index, 'inline'); } } return found; } /** Одна запись → разбор. */ const words = (k) => String(k || '').toLowerCase().replace(/&/g, ' and ').replace(/[.,'’]/g, '').replace(TAILS, ' ').split(/[^\p{L}\p{N}]+/u).filter(Boolean); const wordPrefix = (a, b, min = 4) => { const x = words(a); const y = words(b); const n = Math.min(x.length, y.length); return n > 0 && x.slice(0, n).join(' ') === y.slice(0, n).join(' ') && x.slice(0, n).join('').length >= min; }; const PLACE = /^[\p{L} .'-]+,\s*(?:(?!MD$|DO$|PA$|PC$|DC$|NP$|PT$|OD$)[A-Z]{2}|Thailand|USA|United States|Texas|California|Florida|New York|Illinois|Arizona|Pennsylvania|Georgia|Washington|Massachusetts|Colorado|Nevada|Tennessee|North Carolina)$/u; export function parseRecord(r, { city = '' } = {}) { const md = r?.answer_text_markdown || r?.answer_text || ''; const map = Array.isArray(r?.map) ? r.map : []; const mapSite = new Map(); for (const m of map) if (m?.name) mapSite.set(nameKey(m.name), m.website_url || null); const cites = Array.isArray(r?.citations) ? r.citations : []; const search = Array.isArray(r?.search_sources) ? r.search_sources : []; // Ссылки в тексте рядом с названием: «[Smile Dental](https://smiledental.com)». const linkSite = new Map(); for (const m of String(md).matchAll(/\[([^\]]{2,90})\]\((https?:[^)\s]+)\)/g)) linkSite.set(nameKey(cleanName(m[1])), m[2]); const raw = namesFromText(md); const named = []; const seen = new Map(); for (const x of raw) { const k = nameKey(x.name); if (!k || k.length < 3) continue; if (PLACE.test(x.name) || (city && (nameKey(x.name) === nameKey(city) || nameKey(x.name) === nameKey(`${city} city`)))) continue; // Склейка: тот же ключ, или один начинается с другого (не короче 6 букв), или совпадают первые слова. let hit = null; for (const [kk, idx] of seen) if (kk === k || (Math.min(kk.length, k.length) >= 6 && (kk.startsWith(k) || k.startsWith(kk))) || (words(x.name).length < words(named[idx].name).length && wordPrefix(named[idx].name, x.name, named[idx].via === 'mapcard' ? 3 : 4))) { hit = idx; break; } if (hit !== null) continue; seen.set(k, named.length); let site = mapSite.get(k) ?? null; if (!site) for (const [mk, ms] of mapSite) if (ms && Math.min(mk.length, k.length) >= 6 && (mk.startsWith(k) || k.startsWith(mk))) { site = ms; break; } if (!site) site = linkSite.get(k) || null; // Сайт из ссылок-источников, если домен явно совпадает с названием («smiledental.com» и «Smile Dental»). if (!site) { for (const c of [...cites, ...search]) { const h = hostOf(c?.url); if (!h) continue; const core = norm(h.split('.').slice(-2, -1)[0]); if (core.length >= 5 && (k.startsWith(core) || core.startsWith(k.slice(0, Math.max(6, Math.min(k.length, core.length)))))) { site = c.url; break; } } } const domain = site ? sourceOf(site) : null; // Чистка 1: районы, темы через «/», услуги и названия из списка решений (вне карты и без сайта). if (x.via !== 'mapcard' && (NOT_COMPANY.has(x.name) || (!mapSite.has(k) && !domain && placeOrTopic(x.name)))) { seen.delete(k); continue; } // Одно слово («Ownership», «Developer») берём, только если это карточка карты или у него нашёлся сайт. if (words(x.name).length === 1 && x.via !== 'mapcard' && !mapSite.has(k) && !domain && (!['listb', 'table'].includes(x.via) || dictWord(x.name.replace(/[^\p{L}]/gu, '')))) { seen.delete(k); continue; } const social = domain && /^(?:facebook\.com|instagram\.com|wa\.me|linktr\.ee|yelp\.com|google\.com\/maps|linkedin\.com|tiktok\.com|x\.com|twitter\.com)$/.test(domain); named.push({ name: x.name, key: k, pos: named.length + 1, via: x.via, domain: social ? null : domain }); } const citedDomains = [...new Set(cites.filter((c) => c?.url && c.cited !== false).map((c) => sourceOf(c.url)).filter(Boolean))]; const searchDomains = [...new Set(search.map((c) => sourceOf(c?.url)).filter(Boolean))]; const webSearch = r?.web_search_triggered === true || r?.web_search_triggered === 'True' || r?.web_search_triggered === 'true'; const plain = String(r?.answer_text || md).trim(); // Состоявшийся ответ по заданию: был поиск, или карта, или хотя бы одно название. const ok = Boolean(webSearch || map.length || named.length); return { ok, webSearch, mapCount: map.length, named, sources: citedDomains, searchSources: searchDomains, stall: STALL.test(plain), hasMapCard: /Map data is currently unavailable/i.test(md), chars: plain.length, }; }