File size: 2,870 Bytes
67df8f6
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
// Шлюз к модели для агента DeepSeek Harness: единственное, что видно агенту из внутренней сети Docker. Пересылает запросы
// на один адрес модели (GATE_HOST:GATE_PORT) и больше никуда.
//
// Одно изображение на запрос. Сервер модели принимает в запросе одно изображение; агент, посмотрев две страницы, держит в
// разговоре две картинки, и запрос отклоняется (ход обрывается ошибкой 400). Собственный модуль выгрузки изображений
// агента срабатывает только по бюджету байтов, а не по числу картинок. Поэтому шлюз оставляет в запросе последнее
// изображение, а прежние заменяет пометкой с просьбой прочитать файл ещё раз — так же, как поступил бы модуль выгрузки
// агента, узнай он о пределе сервера.
// Модель по https (GATE_TLS=1) шлюз вызывает по https; агенту он всегда отвечает по http внутри сети.
const http=require('http');
const upstream=process.env.GATE_TLS==='1'?require('https'):http;
const host=process.env.GATE_HOST, port=+process.env.GATE_PORT, listen=+(process.env.GATE_LISTEN||process.env.GATE_PORT);
const note='[Изображение снято из запроса: сервер модели принимает одно изображение за запрос. Чтобы посмотреть его снова, прочитайте файл ещё раз.]';
http.createServer((req,res)=>{
  const chunks=[];
  req.on('data',c=>chunks.push(c));
  req.on('end',()=>{
    let body=Buffer.concat(chunks);
    if(req.method==='POST'&&/chat\/completions/.test(req.url||'')){
      try{
        const j=JSON.parse(body.toString('utf8'));
        const images=[];
        for(const m of j.messages||[]) if(Array.isArray(m.content)) m.content.forEach((p,i)=>{if(p&&p.type==='image_url')images.push([m.content,i]);});
        if(images.length>1){for(const [content,i] of images.slice(0,-1)) content[i]={type:'text',text:note}; body=Buffer.from(JSON.stringify(j));}
      }catch(e){}
    }
    const headers=Object.assign({},req.headers,{host:host+':'+port,'content-length':String(body.length)});
    const up=upstream.request({host,port,servername:host,method:req.method,path:req.url,headers},r=>{res.writeHead(r.statusCode,r.headers);r.pipe(res);});
    up.on('error',e=>{if(!res.headersSent)res.writeHead(502);res.end(String(e));});
    up.end(body);
  });
}).listen(listen);