Методика оценки: судья по эталону мерит точность, полноту и галлюцинации, Q = 100 × (0,4·Т + 0,4·П + 0,2·Г); прогонщик DeepSeek Harness и тесты оценки
67df8f6 verified | // Шлюз к модели для агента DeepSeek Harness: единственное, что видно агенту из внутренней сети Docker. Пересылает запросы | |
| // на один адрес модели (GATE_HOST:GATE_PORT) и больше никуда. | |
| // | |
| // Одно изображение на запрос. Сервер модели принимает в запросе одно изображение; агент, посмотрев две страницы, держит в | |
| // разговоре две картинки, и запрос отклоняется (ход обрывается ошибкой 400). Собственный модуль выгрузки изображений | |
| // агента срабатывает только по бюджету байтов, а не по числу картинок. Поэтому шлюз оставляет в запросе последнее | |
| // изображение, а прежние заменяет пометкой с просьбой прочитать файл ещё раз — так же, как поступил бы модуль выгрузки | |
| // агента, узнай он о пределе сервера. | |
| // Модель по https (GATE_TLS=1) шлюз вызывает по https; агенту он всегда отвечает по http внутри сети. | |
| const http=require('http'); | |
| const upstream=process.env.GATE_TLS==='1'?require('https'):http; | |
| const host=process.env.GATE_HOST, port=+process.env.GATE_PORT, listen=+(process.env.GATE_LISTEN||process.env.GATE_PORT); | |
| const note='[Изображение снято из запроса: сервер модели принимает одно изображение за запрос. Чтобы посмотреть его снова, прочитайте файл ещё раз.]'; | |
| http.createServer((req,res)=>{ | |
| const chunks=[]; | |
| req.on('data',c=>chunks.push(c)); | |
| req.on('end',()=>{ | |
| let body=Buffer.concat(chunks); | |
| if(req.method==='POST'&&/chat\/completions/.test(req.url||'')){ | |
| try{ | |
| const j=JSON.parse(body.toString('utf8')); | |
| const images=[]; | |
| for(const m of j.messages||[]) if(Array.isArray(m.content)) m.content.forEach((p,i)=>{if(p&&p.type==='image_url')images.push([m.content,i]);}); | |
| if(images.length>1){for(const [content,i] of images.slice(0,-1)) content[i]={type:'text',text:note}; body=Buffer.from(JSON.stringify(j));} | |
| }catch(e){} | |
| } | |
| const headers=Object.assign({},req.headers,{host:host+':'+port,'content-length':String(body.length)}); | |
| const up=upstream.request({host,port,servername:host,method:req.method,path:req.url,headers},r=>{res.writeHead(r.statusCode,r.headers);r.pipe(res);}); | |
| up.on('error',e=>{if(!res.headersSent)res.writeHead(502);res.end(String(e));}); | |
| up.end(body); | |
| }); | |
| }).listen(listen); | |