Scaling Deep Contrastive Learning Batch Size under Memory Limited Setup
Paper • 2101.06983 • Published • 3
How to use Ehsanl/bidir1_7 with sentence-transformers:
from sentence_transformers import SentenceTransformer
model = SentenceTransformer("Ehsanl/bidir1_7", trust_remote_code=True)
sentences = [
"Instruct: Given a Dutch legal query, retrieve relevant articles that help answer the query.\nQuery: Heeft een erfgenaam recht op inzage in de administratie van de erflater op grond van redelijkheid en billijkheid?",
"Op de rechtsbetrekkingen tussen hoofdschuldenaar en borg en op die tussen borgen en voor de verbintenis aansprakelijke niet-schuldenaren onderling is artikel 2 van Boek 6 van overeenkomstige toepassing.",
"De arbeider is in het algemeen verplicht al datgene te doen en na te laten, wat een goed arbeider in gelijke omstandigheden behoort te doen en na te laten.",
"1. Tot het indienen van het inartikel 447bedoelde verzoek is bevoegd: a. iedere belanghebbende; b. de advocaat-generaal bij het gerechtshof te Amsterdam in het openbaar belang.\n2. Tot het indienen van het verzoek is voorts bevoegd de Stichting Autoriteit Financiële Markten, voor zover het stukken betreft die betrekking hebben op een effectenuitgevende instelling als bedoeld in artikel 1, onderdeel b, van de Wet toezicht financiële verslaggeving en met inachtneming van het in artikel 4 van die wet bepaalde.",
"De executeur moet aan een erfgenaam alle door deze gewenste inlichtingen omtrent de uitoefening van zijn taak geven.",
"De eindbeschikking kan tevens een veroordeling in de proceskosten inhouden.Artikel 244is van toepassing."
]
embeddings = model.encode(sentences)
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [6, 6]This is a sentence-transformers model finetuned from BidirLM/BidirLM-1.7B-Embedding on the json dataset. It maps inputs to a 2048-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, classification, clustering, and more.
SentenceTransformer(
(0): Transformer({'transformer_task': 'feature-extraction', 'modality_config': {'text': {'method': 'forward', 'method_output_name': 'last_hidden_state'}}, 'module_output_name': 'token_embeddings', 'unpad_inputs': False, 'architecture': 'BidirLMModel'})
(1): Pooling({'embedding_dimension': 2048, 'pooling_mode': 'mean', 'include_prompt': True})
)
First install the Sentence Transformers library:
pip install -U sentence-transformers
Then you can load this model and run inference.
from sentence_transformers import SentenceTransformer
# Download from the 🤗 Hub
model = SentenceTransformer("Ehsanl/bidir1_7")
# Run inference
queries = [
'Instruct: Given a Dutch legal query, retrieve relevant articles that help answer the query.\nQuery: gangbaar betaalmiddel voldoening verbintenis',
]
documents = [
'Het geld dat ter voldoening van de verbintenis wordt betaald, moet op het tijdstip van de betaling gangbaar zijn in het land in welks geld de betaling geschiedt.',
'1. Beslag onder een derde op een of meer vorderingen van de schuldenaar tot periodieke betalingen waaraan een beslagvrije voet is verbonden, is slechts geldig voor zover een periodieke betaling de beslagvrije voet overtreft.\n2. Ligt beslag onder verschillende derden op vorderingen van de schuldenaar tot periodieke betalingen waaraan een beslagvrije voet is verbonden, dan wordt de beslagvrije voet omgeslagen in verhouding tot de hoogte van deze periodieke betalingen.\n3. Beslag op nabetalingen is niet verder geldig dan indien de betaling gedurende het beslag tijdig was geschied.',
'Bij of krachtens algemene maatregel van bestuur kunnen inzake de belastingen, bedoeld inartikel 220, nadere, zo nodig afwijkende, regels worden gegeven inzake de heffing en de invordering, alsmede inzake alle gemeentelijke belastingen andere in het kader van deze paragraaf passende nadere regels ter aanvulling van de in deze paragraaf geregelde onderwerpen.',
]
query_embeddings = model.encode_query(queries)
document_embeddings = model.encode_document(documents)
print(query_embeddings.shape, document_embeddings.shape)
# [1, 2048] [3, 2048]
# Get the similarity scores for the embeddings
similarities = model.similarity(query_embeddings, document_embeddings)
print(similarities)
# tensor([[0.7916, 0.0906, 0.1959]])
legal-valmain.RankZeroIREvaluator| Metric | Value |
|---|---|
| cosine_accuracy@1 | 0.482 |
| cosine_accuracy@5 | 0.722 |
| cosine_accuracy@10 | 0.802 |
| cosine_precision@1 | 0.482 |
| cosine_precision@10 | 0.148 |
| cosine_recall@1 | 0.2581 |
| cosine_recall@10 | 0.5596 |
| cosine_ndcg@10 | 0.4904 |
| cosine_mrr@10 | 0.5887 |
| cosine_map@100 | 0.4194 |
anchor, positive, negative_0, negative_1, negative_2, and negative_3| anchor | positive | negative_0 | negative_1 | negative_2 | negative_3 | |
|---|---|---|---|---|---|---|
| type | string | string | string | string | string | string |
| modality | text | text | text | text | text | text |
| details |
|
|
|
|
|
|
| anchor | positive | negative_0 | negative_1 | negative_2 | negative_3 |
|---|---|---|---|---|---|
Instruct: Given a Dutch legal query, retrieve relevant articles that help answer the query. |
1. Tot den legger behoort een overzichtskaart op geen kleinere schaal dan van 1 op 25 000, waarop de wegen met hun nommers zijn aangewezen. Voor zoover de bruggen in den legger onder een afzonderlijk nommer zijn genoemd, worden ook die bruggen met hare nommers op de kaart aangegeven. Voor de overzichtskaart wordt gebruikt eene van Rijkswege uitgegeven topografische kaart, voor zoover deze op de voorgeschreven schaal bestaat. |
De heffingsnota bevat ten minste: a. de naam van de onderneming; b. het adres van de onderneming c. een specificatie of toelichting omtrent de wijze waarop de heffing is berekend; d. het totaal van de heffing, en e. een dagtekening. |
De inartikel 571bedoelde aanplakkingen en aankondigingen moeten inhouden: a. naar gelang de verkoop zal plaatsvinden met toepassing vanartikel 575of576: de rechter in eerste aanleg voor wie de verkoop zal plaatsvinden of de naam van de deurwaarder die met de verkoop is belast; b. de voornamen, naam en woonplaats van de executant, alsmede de door deze met inachtneming vanartikel 565, tweede lid, gekozen woonplaats; c. de titel uit hoofde waarvan de verkoop plaatsvindt, en het bedrag dat krachtens deze titel aan de executant verschuldigd is; d. de naam en de woonplaats van de eigenaar of de boekhouder van het in beslag genomen schip, indien een en ander bekend is, alsmede van hem jegens wie de in onderdeel c bedoelde titel luidt, indien deze een ander is dan de eigenaar; e. de naam van het schip; f. de scheepsruimte; g. de plaats waar het schip zich bevindt; plaats, dag en uur van de verkoop. |
1. De minister verstrekt op aanvraag subsidie aan producenten van hernieuwbare elektriciteit geproduceerd door een productie-installatie voor de productie van hernieuwbare elektriciteit uit zonlicht met behulp van fotovoltaïsche zonnepanelen met een vermogen: a. groter dan 0,6 kWp en kleiner dan of gelijk aan 15 kWp; b. groter dan 15 kWp en kleiner dan of gelijk aan 100 kWp, welke zijn geplaatst op of tegen een gebouw als bedoeld in artikel 1, onderdeel c, Woningwet. |
Het proces-verbaal van de ontzegeling moet bevatten: 1°. dag en uur waarop zij gedaan wordt; 2°. naam, voornaam en woonplaats of gekozen woonplaats van hem die de ontzegeling verzocht heeft; 3°. vermelding van het verlof tot ontzegeling; 4°. vermelding van de inartikel 669bedoelde mededelingen; 5°. de verschijning van partijen en hun opmerkingen; 6°. de herkenning van de zegels en de bevinding daarvan als gaaf en ongeschonden, of indien zij dit niet mochten zijn, de vermelding van de toestand waarin zij worden bevonden. |
Instruct: Given a Dutch legal query, retrieve relevant articles that help answer the query. |
1. De legger houdt in: I. het nommer van den weg; II. den naam, waaronder de weg bekend staat; III. de eindpunten en de richting van den weg; IV. de beperkingen in het gebruik van den weg, als bedoeld inartikel 6, alsmede de afschuttingen, welke zich op den weg bevinden; V. de verharding met vermelding van haren aard, breedte en lengte; VI. de zich in den weg bevindende bruggen en duikers, met vermelding van hunnen aard, hoofdafmetingen en samenstelling; VII. de onderhoudsplichtigen van den weg en van de zich daarin bevindende bruggen en duikers; VIII. den omvang van den onderhoudsplicht; IX. degenen, die tot het onderhoud hebben bij te dragen, met vermelding van de hoegrootheid der bijdrage; X. het gezag, dat volgens deartikelen 16of17heeft te zorgen, dat de weg in goeden staat verkeert. |
De inartikel 571bedoelde aanplakkingen en aankondigingen moeten inhouden: a. naar gelang de verkoop zal plaatsvinden met toepassing vanartikel 575of576: de rechter in eerste aanleg voor wie de verkoop zal plaatsvinden of de naam van de deurwaarder die met de verkoop is belast; b. de voornamen, naam en woonplaats van de executant, alsmede de door deze met inachtneming vanartikel 565, tweede lid, gekozen woonplaats; c. de titel uit hoofde waarvan de verkoop plaatsvindt, en het bedrag dat krachtens deze titel aan de executant verschuldigd is; d. de naam en de woonplaats van de eigenaar of de boekhouder van het in beslag genomen schip, indien een en ander bekend is, alsmede van hem jegens wie de in onderdeel c bedoelde titel luidt, indien deze een ander is dan de eigenaar; e. de naam van het schip; f. de scheepsruimte; g. de plaats waar het schip zich bevindt; plaats, dag en uur van de verkoop. |
1. De minister verstrekt op aanvraag subsidie aan producenten van hernieuwbare elektriciteit geproduceerd door een productie-installatie voor de productie van hernieuwbare elektriciteit uit zonlicht met behulp van fotovoltaïsche zonnepanelen met een vermogen: a. groter dan 0,6 kWp en kleiner dan of gelijk aan 15 kWp; b. groter dan 15 kWp en kleiner dan of gelijk aan 100 kWp, welke zijn geplaatst op of tegen een gebouw als bedoeld in artikel 1, onderdeel c, Woningwet. |
De heffingsnota bevat ten minste: a. de naam van de onderneming; b. het adres van de onderneming c. een specificatie of toelichting omtrent de wijze waarop de heffing is berekend; d. het totaal van de heffing, en e. een dagtekening. |
Het proces-verbaal van de ontzegeling moet bevatten: 1°. dag en uur waarop zij gedaan wordt; 2°. naam, voornaam en woonplaats of gekozen woonplaats van hem die de ontzegeling verzocht heeft; 3°. vermelding van het verlof tot ontzegeling; 4°. vermelding van de inartikel 669bedoelde mededelingen; 5°. de verschijning van partijen en hun opmerkingen; 6°. de herkenning van de zegels en de bevinding daarvan als gaaf en ongeschonden, of indien zij dit niet mochten zijn, de vermelding van de toestand waarin zij worden bevonden. |
Instruct: Given a Dutch legal query, retrieve relevant articles that help answer the query. |
1. Het bepaalde bij of krachtens deze wet en provinciale en plaatselijke verordeningen gelden slechts voor zover zulks bij algemene maatregel van bestuur is bepaald: a. ten aanzien van voertuigen, voor zover die worden gebezigd ten behoeve van de strijdkrachten; b. voor militairen te voet, voor zover zij zich ter uitoefening van de dienst op de weg bevinden. |
1. Wijzigingen van een amateurbouwluchtvaartuig behoeven de instemming van de minister en de minister stemt in met het ontwerp van een wijziging van een amateurbouwluchtvaartuig indien: a. met betrekking tot het ontwerp: 1º de wijziging is goedgekeurd door de originele ontwerper of kitfabrikant van het luchtvaartuig, of 2º voor de wijziging van een zelf ontworpen amateurbouwluchtvaartuig of een amateurbouwluchtvaartuig waarvan de originele ontwerper of kitfabrikant niet meer bestaat, volgens de regels gesteld inartikel 3is aangetoond dat aan de van toepassing zijnde luchtwaardigheidseisen volgensartikel 2is voldaan; b. met betrekking tot de geluidsproductie: 1º de uitvoerende aan de hand vanbijlage 2bij deze regeling heeft vastgesteld dat de wijziging geen invloed heeft op de geluidsproductie van het luchtvaartuig, of 2º de minister heeft verklaard dat de gewijzigde configuratie van het luchtvaartuig voldoet aan de op het tijdstip van uitvoering geldende geluidseisen; c. met betrekking... |
Het proces-verbaal van de ontzegeling moet bevatten: 1°. dag en uur waarop zij gedaan wordt; 2°. naam, voornaam en woonplaats of gekozen woonplaats van hem die de ontzegeling verzocht heeft; 3°. vermelding van het verlof tot ontzegeling; 4°. vermelding van de inartikel 669bedoelde mededelingen; 5°. de verschijning van partijen en hun opmerkingen; 6°. de herkenning van de zegels en de bevinding daarvan als gaaf en ongeschonden, of indien zij dit niet mochten zijn, de vermelding van de toestand waarin zij worden bevonden. |
De heffingsnota bevat ten minste: a. de naam van de onderneming; b. het adres van de onderneming c. een specificatie of toelichting omtrent de wijze waarop de heffing is berekend; d. het totaal van de heffing, en e. een dagtekening. |
1. De minister verstrekt op aanvraag subsidie aan producenten van hernieuwbare elektriciteit geproduceerd door een productie-installatie voor de productie van hernieuwbare elektriciteit uit zonlicht met behulp van fotovoltaïsche zonnepanelen met een vermogen: a. groter dan 0,6 kWp en kleiner dan of gelijk aan 15 kWp; b. groter dan 15 kWp en kleiner dan of gelijk aan 100 kWp, welke zijn geplaatst op of tegen een gebouw als bedoeld in artikel 1, onderdeel c, Woningwet. |
CachedMultipleNegativesRankingLoss with these parameters:{
"scale": 20.0,
"similarity_fct": "cos_sim",
"mini_batch_size": 32,
"mini_batch_num_tokens": null,
"gather_across_devices": false,
"directions": [
"query_to_doc"
],
"partition_mode": "joint",
"hardness_mode": null,
"hardness_strength": 0.0
}
anchor, positive, negative_0, negative_1, negative_2, and negative_3| anchor | positive | negative_0 | negative_1 | negative_2 | negative_3 | |
|---|---|---|---|---|---|---|
| type | string | string | string | string | string | string |
| modality | text | text | text | text | text | text |
| details |
|
|
|
|
|
|
| anchor | positive | negative_0 | negative_1 | negative_2 | negative_3 |
|---|---|---|---|---|---|
Instruct: Given a Dutch legal query, retrieve relevant articles that help answer the query. |
Tot de gemeenschap behorende schulden kunnen op de goederen van de gemeenschap worden verhaald. |
1. Indien een bedrag aan subsidie ten onrechte is uitbetaald, wordt de onverschuldigd betaalde subsidie en de rente over dat bedrag overeenkomstig artikel 73 van verordening 796/2004 teruggevorderd. |
Een overeenkomst die de strekking heeft voort te bouwen op een reeds tussen partijen bestaande rechtsverhouding, is vernietigbaar, indien deze rechtsverhouding ontbreekt, tenzij dit in verband met de aard van de overeenkomst, de in het verkeer geldende opvattingen of de omstandigheden van het geval voor rekening van degene die zich op dit ontbreken beroept, behoort te blijven. |
1. De rechtbank kan de toepassing van de schuldsaneringsregeling beëindigen op voordracht van de rechter-commissaris of op verzoek van de bewindvoerder, van de schuldenaar dan wel van een of meer schuldeisers. Zij kan zulks ook ambtshalve doen. |
1. Een uitkering die op grond van deze wet alsmede hetgeen anderszins onverschuldigd is betaald en hetgeen als gevolg van een beschikking als bedoeld inartikel 76door het UWV onverschuldigd is betaald of verstrekt wordt door het UWV teruggevorderd. |
Instruct: Given a Dutch legal query, retrieve relevant articles that help answer the query. |
1. Artikel 87 van Boek 1 van het Burgerlijk Wetboek is slechts van toepassing op vergoedingsvorderingen die ontstaan op grond van verkrijgingen, voldoeningen of aflossingen die na het tijdstip van inwerkingtreding van deze wet plaatsvinden. Op de vergoedingsvorderingen die zijn ontstaan op grond van verkrijgingen, voldoeningen of aflossingen die vóór dat tijdstip hebben plaatsgevonden, blijft het recht van toepassing zoals dat gold onmiddellijk voorafgaande aan het tijdstip van inwerkingtreding van deze wet. |
1. Ten aanzien van bij deze wet of de daarop berustende bepalingen strafbaar gestelde feiten gelden in plaats van de artikelen 74 en 74a van het Wetboek van Strafrecht de volgende bepalingen. |
1. Het bestuursorgaan weegt de rechtstreeks bij het besluit betrokken belangen af, voor zover niet uit een wettelijk voorschrift of uit de aard van de uit te oefenen bevoegdheid een beperking voortvloeit. |
1. De vervoerder is niet aansprakelijk voor schade ontstaan door een beschadiging, voor zover deze is veroorzaakt door een omstandigheid die een zorgvuldig vervoerder niet heeft kunnen vermijden en voor zover zulk een vervoerder de gevolgen daarvan niet heeft kunnen verhinderen. |
Een overeenkomst die de strekking heeft voort te bouwen op een reeds tussen partijen bestaande rechtsverhouding, is vernietigbaar, indien deze rechtsverhouding ontbreekt, tenzij dit in verband met de aard van de overeenkomst, de in het verkeer geldende opvattingen of de omstandigheden van het geval voor rekening van degene die zich op dit ontbreken beroept, behoort te blijven. |
Instruct: Given a Dutch legal query, retrieve relevant articles that help answer the query. |
Op een geregistreerd partnerschap zijn detitels 6,7en8van overeenkomstige toepassing met uitzondering van het omtrent scheiding van tafel en bed bepaalde. |
1. Het bestuursorgaan weegt de rechtstreeks bij het besluit betrokken belangen af, voor zover niet uit een wettelijk voorschrift of uit de aard van de uit te oefenen bevoegdheid een beperking voortvloeit. |
1. De vervoerder is niet aansprakelijk voor schade ontstaan door een beschadiging, voor zover deze is veroorzaakt door een omstandigheid die een zorgvuldig vervoerder niet heeft kunnen vermijden en voor zover zulk een vervoerder de gevolgen daarvan niet heeft kunnen verhinderen. |
1. Op een onderhandse akte waarin verbintenissen van slechts één partij zijn aangegaan of vastgelegd, is, voor zover die verbintenissen strekken tot voldoening van een geldsom,artikel 136, tweede lid, niet van toepassing, tenzij deze partij de akte geheel met de hand heeft geschreven of heeft voorzien van een goedkeuring die de geldsom voluit in letters vermeldt. |
1. Ten aanzien van bij deze wet of de daarop berustende bepalingen strafbaar gestelde feiten gelden in plaats van de artikelen 74 en 74a van het Wetboek van Strafrecht de volgende bepalingen. |
CachedMultipleNegativesRankingLoss with these parameters:{
"scale": 20.0,
"similarity_fct": "cos_sim",
"mini_batch_size": 32,
"mini_batch_num_tokens": null,
"gather_across_devices": false,
"directions": [
"query_to_doc"
],
"partition_mode": "joint",
"hardness_mode": null,
"hardness_strength": 0.0
}
per_device_train_batch_size: 1024num_train_epochs: 1.0learning_rate: 1e-05lr_scheduler_type: cosinewarmup_steps: 173weight_decay: 0.01bf16: Truetf32: Trueper_device_eval_batch_size: 1024push_to_hub: Truehub_private_repo: Truehub_model_id: Ehsanl/bidir1_7hub_strategy: checkpointload_best_model_at_end: Truedataloader_num_workers: 2dataloader_pin_memory: Falseddp_find_unused_parameters: Falseper_device_train_batch_size: 1024num_train_epochs: 1.0max_steps: -1learning_rate: 1e-05lr_scheduler_type: cosinelr_scheduler_kwargs: Nonewarmup_steps: 173optim: adamw_torch_fusedoptim_args: Noneweight_decay: 0.01adam_beta1: 0.9adam_beta2: 0.999adam_epsilon: 1e-08optim_target_modules: Nonegradient_accumulation_steps: 1average_tokens_across_devices: Truemax_grad_norm: 1.0label_smoothing_factor: 0.0bf16: Truefp16: Falsebf16_full_eval: Falsefp16_full_eval: Falsetf32: Truegradient_checkpointing: Falsegradient_checkpointing_kwargs: Nonetorch_compile: Falsetorch_compile_backend: Nonetorch_compile_mode: Noneuse_liger_kernel: Falseliger_kernel_config: Noneuse_cache: Falseneftune_noise_alpha: Nonetorch_empty_cache_steps: Noneauto_find_batch_size: Falselog_on_each_node: Truelogging_nan_inf_filter: Trueinclude_num_input_tokens_seen: nolog_level: passivelog_level_replica: warningdisable_tqdm: Falseproject: huggingfacetrackio_space_id: Nonetrackio_bucket_id: Nonetrackio_static_space_id: Noneper_device_eval_batch_size: 1024prediction_loss_only: Trueeval_on_start: Falseeval_do_concat_batches: Trueeval_use_gather_object: Falseeval_accumulation_steps: Noneinclude_for_metrics: []batch_eval_metrics: Falsesave_only_model: Falsesave_on_each_node: Falseenable_jit_checkpoint: Falsepush_to_hub: Truehub_private_repo: Truehub_model_id: Ehsanl/bidir1_7hub_strategy: checkpointhub_always_push: Falsehub_revision: Noneload_best_model_at_end: Trueignore_data_skip: Falserestore_callback_states_from_checkpoint: Falsefull_determinism: Falseseed: 42data_seed: Noneuse_cpu: Falseaccelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}parallelism_config: Nonedataloader_drop_last: Falsedataloader_num_workers: 2dataloader_pin_memory: Falsedataloader_persistent_workers: Falsedataloader_prefetch_factor: Nonedataloader_multiprocessing_context: Nonedataloader_in_order: Trueremove_unused_columns: Truelabel_names: Nonetrain_sampling_strategy: randomlength_column_name: lengthddp_find_unused_parameters: Falseddp_bucket_cap_mb: Noneddp_broadcast_buffers: Falseddp_static_graph: Noneddp_backend: Noneddp_timeout: 1800fsdp: Nonefsdp_config: Nonedeepspeed: Nonedebug: []skip_memory_metrics: Truedo_predict: Falseresume_from_checkpoint: Nonelocal_rank: -1prompts: Nonebatch_sampler: batch_samplermulti_dataset_batch_sampler: proportionalrouter_mapping: {}learning_rate_mapping: {}warmup_ratio: None| Epoch | Step | Training Loss | Validation Loss | legal-val_cosine_ndcg@10 |
|---|---|---|---|---|
| 0.0006 | 1 | 6.0006 | - | - |
| 0.0058 | 10 | 6.0791 | - | - |
| 0.0115 | 20 | 5.8616 | - | - |
| 0.0173 | 30 | 5.5748 | - | - |
| 0.0231 | 40 | 5.3140 | - | - |
| 0.0289 | 50 | 5.2449 | - | - |
| 0.0346 | 60 | 4.8927 | - | - |
| 0.0404 | 70 | 4.7682 | - | - |
| 0.0462 | 80 | 4.6609 | - | - |
| 0.0520 | 90 | 4.4991 | - | - |
| 0.0577 | 100 | 4.4952 | - | - |
| 0.0635 | 110 | 4.4007 | - | - |
| 0.0693 | 120 | 4.2242 | - | - |
| 0.0751 | 130 | 4.2811 | - | - |
| 0.0808 | 140 | 4.0897 | - | - |
| 0.0866 | 150 | 3.9374 | - | - |
| 0.0924 | 160 | 3.9454 | - | - |
| 0.0982 | 170 | 3.9620 | - | - |
| 0.1039 | 180 | 3.8939 | - | - |
| 0.1097 | 190 | 3.9238 | - | - |
| 0.1155 | 200 | 3.7159 | 4.6049 | 0.3978 |
| 0.1212 | 210 | 3.6895 | - | - |
| 0.1270 | 220 | 3.5932 | - | - |
| 0.1328 | 230 | 3.5902 | - | - |
| 0.1386 | 240 | 3.7301 | - | - |
| 0.1443 | 250 | 3.5468 | - | - |
| 0.1501 | 260 | 3.5249 | - | - |
| 0.1559 | 270 | 3.5347 | - | - |
| 0.1617 | 280 | 3.5546 | - | - |
| 0.1674 | 290 | 3.5423 | - | - |
| 0.1732 | 300 | 3.3900 | - | - |
| 0.1790 | 310 | 3.4355 | - | - |
| 0.1848 | 320 | 3.3927 | - | - |
| 0.1905 | 330 | 3.4424 | - | - |
| 0.1963 | 340 | 3.3417 | - | - |
| 0.2021 | 350 | 3.2834 | - | - |
| 0.2079 | 360 | 3.2646 | - | - |
| 0.2136 | 370 | 3.3053 | - | - |
| 0.2194 | 380 | 3.2208 | - | - |
| 0.2252 | 390 | 3.2136 | - | - |
| 0.2309 | 400 | 3.1861 | 4.2618 | 0.4536 |
| 0.2367 | 410 | 3.1361 | - | - |
| 0.2425 | 420 | 3.2101 | - | - |
| 0.2483 | 430 | 3.2295 | - | - |
| 0.2540 | 440 | 3.1723 | - | - |
| 0.2598 | 450 | 3.1569 | - | - |
| 0.2656 | 460 | 3.0742 | - | - |
| 0.2714 | 470 | 3.2334 | - | - |
| 0.2771 | 480 | 2.9562 | - | - |
| 0.2829 | 490 | 3.1063 | - | - |
| 0.2887 | 500 | 3.0559 | - | - |
| 0.2945 | 510 | 3.0700 | - | - |
| 0.3002 | 520 | 3.1298 | - | - |
| 0.3060 | 530 | 3.0725 | - | - |
| 0.3118 | 540 | 2.9470 | - | - |
| 0.3176 | 550 | 3.0828 | - | - |
| 0.3233 | 560 | 3.0319 | - | - |
| 0.3291 | 570 | 3.0111 | - | - |
| 0.3349 | 580 | 3.0066 | - | - |
| 0.3406 | 590 | 2.9204 | - | - |
| 0.3464 | 600 | 3.0171 | 4.1178 | 0.4737 |
| 0.3522 | 610 | 3.0015 | - | - |
| 0.3580 | 620 | 2.9309 | - | - |
| 0.3637 | 630 | 2.9016 | - | - |
| 0.3695 | 640 | 2.8859 | - | - |
| 0.3753 | 650 | 2.8203 | - | - |
| 0.3811 | 660 | 2.8476 | - | - |
| 0.3868 | 670 | 2.8763 | - | - |
| 0.3926 | 680 | 2.8534 | - | - |
| 0.3984 | 690 | 2.9207 | - | - |
| 0.4042 | 700 | 2.9013 | - | - |
| 0.4099 | 710 | 2.8693 | - | - |
| 0.4157 | 720 | 2.8432 | - | - |
| 0.4215 | 730 | 2.8560 | - | - |
| 0.4273 | 740 | 2.7947 | - | - |
| 0.4330 | 750 | 2.8221 | - | - |
| 0.4388 | 760 | 2.8235 | - | - |
| 0.4446 | 770 | 2.7978 | - | - |
| 0.4503 | 780 | 2.8062 | - | - |
| 0.4561 | 790 | 2.8248 | - | - |
| 0.4619 | 800 | 2.7369 | 4.0177 | 0.4790 |
| 0.4677 | 810 | 2.7930 | - | - |
| 0.4734 | 820 | 2.8011 | - | - |
| 0.4792 | 830 | 2.7187 | - | - |
| 0.4850 | 840 | 2.7254 | - | - |
| 0.4908 | 850 | 2.6836 | - | - |
| 0.4965 | 860 | 2.7244 | - | - |
| 0.5023 | 870 | 2.7098 | - | - |
| 0.5081 | 880 | 2.6525 | - | - |
| 0.5139 | 890 | 2.6880 | - | - |
| 0.5196 | 900 | 2.7811 | - | - |
| 0.5254 | 910 | 2.6195 | - | - |
| 0.5312 | 920 | 2.6381 | - | - |
| 0.5370 | 930 | 2.7259 | - | - |
| 0.5427 | 940 | 2.6605 | - | - |
| 0.5485 | 950 | 2.7066 | - | - |
| 0.5543 | 960 | 2.6614 | - | - |
| 0.5600 | 970 | 2.6613 | - | - |
| 0.5658 | 980 | 2.6073 | - | - |
| 0.5716 | 990 | 2.6274 | - | - |
| 0.5774 | 1000 | 2.5387 | 3.9498 | 0.4904 |
@inproceedings{reimers-2019-sentence-bert,
title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
author = "Reimers, Nils and Gurevych, Iryna",
booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
month = "11",
year = "2019",
publisher = "Association for Computational Linguistics",
url = "https://arxiv.org/abs/1908.10084",
}
@misc{gao2021scaling,
title={Scaling Deep Contrastive Learning Batch Size under Memory Limited Setup},
author={Luyu Gao and Yunyi Zhang and Jiawei Han and Jamie Callan},
year={2021},
eprint={2101.06983},
archivePrefix={arXiv},
primaryClass={cs.LG}
}
@misc{oord2019representationlearningcontrastivepredictive,
title={Representation Learning with Contrastive Predictive Coding},
author={Aaron van den Oord and Yazhe Li and Oriol Vinyals},
year={2019},
eprint={1807.03748},
archivePrefix={arXiv},
primaryClass={cs.LG},
url={https://arxiv.org/abs/1807.03748},
}
Base model
Qwen/Qwen3-1.7B-Base