Commit History
-
Upload tokenizer
b19b04f -
Upload model
524ca4f
-
Update README.md
5b00fdd -
Update README.md
import torch from torch import nn # Definir la red, lo que en definitiva la hace siamesa es pasar los dos dic class SBERT(nn.Module): def __init__(self, base_model, dropout=0.1): super().__init__() self.base_model = base_model self.dropout = nn.Dropout(dropout) # Recordamos que la salida de la Bert es 768 #self.fc = nn.Linear(768, 3) #Cambio 13/6 self.fc = nn.Linear(768*3, 3) def forward(self, premise, hypothesis): out_u = self.base_model(**premise) out_v = self.base_model(**hypothesis) pooler_u = out_u.pooler_output pooler_v = out_v.pooler_output pooler_u = self.dropout(pooler_u) pooler_v = self.dropout(pooler_v) #concatenated = torch.cat([self.fc(pooler_u), self.fc(pooler_v), torch.abs(self.fc(pooler_u) - self.fc(pooler_v))], dim=0) concatenated = torch.cat([pooler_u, pooler_v, torch.abs(pooler_u -pooler_v)], dim=1) out=self.fc(concatenated) return…878acd5 -
Update README.md
99303a6 -
Create README.md
Introducción El objetivo del presente trabajo es generar un modelo para identificar la similitud semántica entre dos oraciones (o Semantic Textual Similarity: “STS”), es decir, medir qué tan parecidos son dos documentos. Dicho modelo será a través de una red neuronal siamesa, que implica usar la misma red, con idénticos parámetros, para procesar la premisa y la hipótesis. “La tarea STS está motivada por la observación de que modelar con precisión la similitud de significado de las oraciones es un problema fundamental de comprensión del lenguaje relevante para numerosas aplicaciones, incluyendo: traducción automática (MT), resumen, generación, pregunta respuesta (QA), calificación de respuestas cortas, semántica, sistemas de búsqueda, diálogo y conversación.” Datos El dataset elegido fue XNLI en español. El mismo contiene los campos de 'premise', 'hypothesis' y 'label’, donde los dos primeros campos son oraciones o cadenas de texto mientras que el tercero es la similitud semántica e…b8785a1 -
initial commit
da67b6a