Datasets:

Emulated-Inc
/

parallel-translation-training-pool

row int64 0 2.85M	file stringclasses 15 values	language stringclasses 10 values	english stringlengths 0 1.48k	other stringlengths 0 1.45k
0	ar-en/train-00000-of-00001.parquet	ar	Basic information	معلومات أساسية
1	ar-en/train-00000-of-00001.parquet	ar	Traffic	التاريخ
2	ar-en/train-00000-of-00001.parquet	ar	Basic information	حركة المواصلات
3	ar-en/train-00000-of-00001.parquet	ar	Later,	الدين
4	ar-en/train-00000-of-00001.parquet	ar	The city plan dates back to the 1650s.	صنع القرار والتأثير
5	ar-en/train-00000-of-00001.parquet	ar	Kokkola is a city of culture that offers a lot to see and experience.	معلومات أساسية
6	ar-en/train-00000-of-00001.parquet	ar	The city port is located in the district of Ykspihlaja, and it is one of the busiest cargo ports in Finland.	تقع كوكولا في منطقة بوهينما الوسطى، على ساحل خليج بوتنية.
7	ar-en/train-00000-of-00001.parquet	ar	Chemical industry and applied industries are in a central position.	أسست مدينة كوكولا عام 1620.
8	ar-en/train-00000-of-00001.parquet	ar	The rising of the land has been a key factor in the history of Kokkola.	يوجد بالقرب من مركز المدينة التجاري أحد أكبر تشكيلات البيوت الخشبية التاريخية.
9	ar-en/train-00000-of-00001.parquet	ar	It has shaped the environment significantly and affected the development of the port and commerce, for example.	يعود تاريخ مخطط المدينة إلى العام 1650 وهو يغطي 12 حياً فيها مئات البيوت الخشبية ومباني الباحات، ويعود أقدمها إلى القرن 1600.
10	ar-en/train-00000-of-00001.parquet	ar	The tar export business, later to become crucial to the history of Kokkola, began as early as in the 16th century.	كوكولا مدينة ثقافة ويوجد فيها كثير من المعالم والتجارب.
11	ar-en/train-00000-of-00001.parquet	ar	On 7th September 1620, the Swedish king Gustav Adolf II signed a document transforming the small Ristiranta village, known for fishing and farming, into a town.	تبلغ المسافة من كوكولا إلى هلسنكي 482 كم وإلى يوفسكيلا 242 كم وإلى أولو 198 كم وإلى بيترساري 36 كم وإلى سينايوكي 141 كم وإلى تامبرى 302 كم وإلى فازا 121 كم.
12	ar-en/train-00000-of-00001.parquet	ar	There were shipyards in Kaustarinlahti, Mustakari and Soldatskär, for example.	يقع ميناء كوكولا البحري في حي اكسبهلايا (Ykspihlaja) وهو أحد أكثر موائي فنلندا حركة في نقل البضائع.
13	ar-en/train-00000-of-00001.parquet	ar	The rapid economic development stopped in the middle of the 19th century, only to bloom again in the late 1800s, spurred on by industrialisation.	يتألف أساس الحياة الاقتصادية في كوكولا من الصناعة الدولية الكبرى التي تحتل المركز الرئيسي فيها الصناعة الكيميائية ومشتقاتها التطبيقية.
14	ar-en/train-00000-of-00001.parquet	ar	The railway station is located in the city centre.	كذلك تعتبر كوكولا مدينة تجارة مهمة.
15	ar-en/train-00000-of-00001.parquet	ar	Religion	التاريخ
16	ar-en/train-00000-of-00001.parquet	ar	There are several religious communities in Kokkola. You can search for information in the Religions in Finland service on the basis of the religious organisation and the location.	لقد كان في كوكولا ميناء بحري وورشة بناء سفن ومنطقة تجارة حتى منذ القرون الوسطى، ولقد كان نتوء الأرض من البحر في الشريط الساحلي عاملاً أساسياً في تاريخ كوكولا حيث أن ذلك النتوء قد قولب البيئة بشكل كبير وساهم في تطوير مؤسسة الميناء والتجارة.
17	ar-en/train-00000-of-00001.parquet	ar	The Evangelical Lutheran Church has four Finnish parishes and one Swedish parish in Kokkola. More information is available on the Kokkola Parish Union website.	مارس السكان التجارة على طول الشريط الساحلي، كما كانت الزراعة والصيد البري وصيد الأسماك والفقمة موارد معيشية مهمة.
18	ar-en/train-00000-of-00001.parquet	ar	Further information: Cultures and religions in Finland.	بدأ تصدير القطران منذ القرن 1500، وهو النشاط الذي يعتبر من أهم النشاطات قاطبة في تاريخ كوكولا.
19	ar-en/train-00000-of-00001.parquet	ar	linkkiKokkola Evangelical Lutheran Parish Union: Kokkola Evangelical Lutheran Parish UnionFinnish _ Swedish _ English	في اليوم 7 من سبتمبر / أيلول من عام 1620 وقع ملك السويد غوستاف الثاني أدولف (Kustaa II Adolf) وثيقة حوّل فيها قرية ريستيرانتا (Ristiranta) الصغيرة التي كانت تقتات على الزراعة وصيد الأسماك إلى مدينة.
20	ar-en/train-00000-of-00001.parquet	ar	linkkiVaasa Orthodox Parish: Vaasa Orthodox ParishFinnish _ English _ Russian	إن مضيق المدينة الحالي كان يومها خليجاً بحرياً ضيقاً يصل حتى كيركونمكي (Kirkonmäki).
21	ar-en/train-00000-of-00001.parquet	ar	The City Council exercises the highest decision-making power in the city of Kokkola.	وشيئاً فشيء تطورت مدينة كوكولا وصارت مدينة تجارة بحرية ومنطقة بناء سفن مهمة.
22	ar-en/train-00000-of-00001.parquet	ar	Members and their deputy members are elected in municipal elections that are held every four years.	فلقد كانت هناك ورشات بناء الزوارق في خليج كاوستاري (Kaustarinlahti) وموستاكري (Mustakari) وسولداتكري (Soldatskär).
23	ar-en/train-00000-of-00001.parquet	ar	You can find information on the City Council and its decisions on the city's website.	وفي البداية كانت السفن والزوارق تبحر إلى توركو وستوكهولم فقط لأن كوكولا لم يمكن من المسموح لها ممارسة التجارة الخارجية نظراً لكونها مدينة تجارة داخلية.
24	ar-en/train-00000-of-00001.parquet	ar	Residents can already affect the decision-making of the city at the preparatory phase. Information on various channels for participating and influencing is available on the city's website.	وفي عام 1765 حصلت كوكولا على امتياز مدينة تجارة خارجية أي على حقوق ممارسة التجارة الخارجية بحرية وذلك بفضل راعي الكنيسة ورجل الدولة النشيط أندرس تشيدنيوس (Anders Chydenius).
25	ar-en/train-00000-of-00001.parquet	ar	According to the Local Government Act, a resident of a municipality has the right to submit initiatives to a municipality on matters concerning its activities.	وبعد ذلك بدأت كوكولا تثرى بسرعة في بداية القرن 1800 بفضل تجارة القطران وبناء السفن تحديداً حيث كان برجوازيو المدينة يشترون القطران من الفلاحين ويصدرونه للخارج، على الأغلب إلى موانئ البحر الأبيض المتوسط وموانئ انكلترا.
26	ar-en/train-00000-of-00001.parquet	ar	Decision-making in Kokkola is also exercised by the Youth Council, Council for the Elderly and Disabled and Council on Multiculturality.	كان اسطول كوكولا البحري ضخماً من وقت لآخر، ولكن النمو الاقتصادي توقف في أواسط القرن 1800، إلا أنه عاود الازدهار في نهاية القرن سوية مع حركة التصنيع.
27	ar-en/train-00000-of-00001.parquet	ar	Further information: Finnish administration, Elections and voting in Finland	وهكذا تطورت مدينة كوكولا إلى مدينة صناعية مهمة خاصة بفضل صناعة الجلود والتعدين.
28	ar-en/train-00000-of-00001.parquet	ar	Decision-makingFinnish _ Swedish _ English	تاريخ كوكّولاالفنلندية _ السويدية _ الإنجليزية
29	ar-en/train-00000-of-00001.parquet	ar	Basic information	حركة المواصلات
30	ar-en/train-00000-of-00001.parquet	ar	An airport is located in Kruunupyy, which is located just 22 kilometres from the centre of Kokkola.	يقع المطار في كرونوبي (Kruunupyy) على بعد 22 كم فقط من مركز كوكولا.
31	ar-en/train-00000-of-00001.parquet	ar	A safe, extensive, functional and pleasant network for cycling and walking is offered to the residents. Kokkola has paid attention to improving the conditions for cycling.	يوجد بالمدينة أيضاً شبكة مواصلات لحركة الدراجات الهوائية والمشاة حيث أن كوكولا تعير اهتماماً خاصاً لتطوير ظروف ركوب الدراجات الهوائية.
32	ar-en/train-00000-of-00001.parquet	ar	Local busses operate throughout the city on weekdays.	كذلك تجوب الحافلات المحلية مختلف أنحاء المدينة في أيام العمل.
33	ar-en/train-00000-of-00001.parquet	ar	Further information: Transportation.	اقرأ المزيد: حركة المواصلات.
34	ar-en/train-00000-of-00001.parquet	ar	Streets and transportFinnish _ Swedish	الشوارع وحركة المواصلاتالفنلندية _ السويدية
35	ar-en/train-00000-of-00001.parquet	ar	Public transportFinnish _ Swedish	النقل العامالفنلندية _ السويدية
36	ar-en/train-00000-of-00001.parquet	ar	Train timetableFinnish _ Swedish _ English _ Russian	جداول القطاراتالفنلندية _ السويدية _ الإنجليزية _ الروسية
37	ar-en/train-00000-of-00001.parquet	ar	Bus timetableFinnish _ Swedish _ English	جداول الحافلاتالفنلندية _ السويدية _ الإنجليزية
38	ar-en/train-00000-of-00001.parquet	ar	Kokkola–Pietarsaari airport flightsFinnish _ Swedish _ English	جدول الطيران بمطار كوكّولا - بيترساريالفنلندية _ السويدية _ الإنجليزية
39	ar-en/train-00000-of-00001.parquet	ar	Religion	الدين
40	ar-en/train-00000-of-00001.parquet	ar	There are several religious communities in Kokkola.	يوجد في كوكولا عديد من الجمعيات الدينية.
41	ar-en/train-00000-of-00001.parquet	ar	You can search for information in the Religions in Finland service on the basis of the religious organisation and the location.	يمكنك أن تحصل على معلومات عن الجمعيات الدينية في كوكولا من صفحات خدمة الشبكة العكنبوتية "الديانات في فنلندا" (Uskonnot Suomessa) طبقاً لاسم الجمعية والمكان.
42	ar-en/train-00000-of-00001.parquet	ar	The Evangelical Lutheran Church has four Finnish parishes and one Swedish parish in Kokkola.	يوجد للكنيسة الانجيلية اللوثرية في كوكولا أربع أبرشيات تعتمد اللغة الفنلندية وأبرشية واحدة تعتمد اللغة السويدية.
43	ar-en/train-00000-of-00001.parquet	ar	More information is available on the Kokkola Parish Union website.	اقرأ المزيد من صفحات الشبكة العنكبوتية لاتحاد أبرشيات كنيسة كوكولا الانجيلية اللوثرية.
44	ar-en/train-00000-of-00001.parquet	ar	There is an Orthodox church in Kokkola.	كذلك يوجد في كوكولا كنيسة ارثوذكسية.
45	ar-en/train-00000-of-00001.parquet	ar	You can obtain more information on the operation of the Orthodox Parish in Kokkola from the Vaasa Orthodox Parish website.	يمكنك أن تحصل على معلومات عن نشاط أبرشية الكنيسة الأرثوذكسية في كوكولا من صفحات الشبكة العنكبوتية لأبرشية الكنيسة الأرثوذكسية في فازا.
46	ar-en/train-00000-of-00001.parquet	ar	Further information: Cultures and religions in Finland.	اقرأ المزيد: الثقافات والأديان في فنلندا.
47	ar-en/train-00000-of-00001.parquet	ar	Kokkola Evangelical Lutheran Parish UnionFinnish _ Swedish _ English	إتحاد أبرشيات كنيسة كوكّولا الانجيلية اللوثريةالفنلندية _ السويدية _ الإنجليزية
48	ar-en/train-00000-of-00001.parquet	ar	linkkiCity of Kokkola: Decision-makingFinnish _ Swedish _ English	أبرشية كنيسة فازا الأرثوذكسيةالفنلندية _ الإنجليزية _ الروسية
49	ar-en/train-00000-of-00001.parquet	ar	Traffic Religion	صنع القرار والتأثير
50	ar-en/train-00000-of-00001.parquet	ar	The city of Kokkola was founded in 1620 with the name Gamlakarleby. Later,	يعتبر المجلس البلدي صانع القرار الأعلى في مدينة كوكولا.
51	ar-en/train-00000-of-00001.parquet	ar	The city port is located in the district of Ykspihlaja, and it is one of the busiest cargo ports in Finland.	يتم انتخاب أعضاء المجلس البلدي ونوابهم الاحتياطيين في انتخابات البلدية التي تنظم كل أربع سنوات.
52	ar-en/train-00000-of-00001.parquet	ar	Business life in Kokkola is based on international large-scale industry. Chemical industry and applied industries are in a central position.	يمكنك أن تحصل على معلومات عن المجلس البلدي لمدينة كوكولا من صفحات الشبكة العنكبوتية لمدينة كوكولا.
53	ar-en/train-00000-of-00001.parquet	ar	At times, the merchant navy of Kokkola was the largest in Finland.	يمكن للسكان أن يؤثروا على صناعة القرار بالمدينة حتى في مرحلة إعداد القرار.
54	ar-en/train-00000-of-00001.parquet	ar	Kokkola evolved into an important industrial city, thanks in no small part to its leather and metal industry.	يمكنك أن تحصل على معلومات عن قنوات المشاركة والتأثير من صفحات الشبكة العنكبوتية لمدينة كوكولا.
55	ar-en/train-00000-of-00001.parquet	ar	Kokkola offers good transport connections. Highways 8 and 13 go through Kokkola.	يحق لسكان البلدية بموجب قانون البلديات أن يتقدموا بمبادرات في الأمور التي تخص البلدية.
56	ar-en/train-00000-of-00001.parquet	ar	You can search for information in the Religions in Finland service on the basis of the religious organisation and the location.	يعمل في كوكولا مجلس للشباب ومجلس لكبار السن و لذوي الاحتياجات الخاصة، ولجنة شئون الغجر ومجلس تعدد الثقافات.
57	ar-en/train-00000-of-00001.parquet	ar	Further information: Cultures and religions in Finland.	اقرأ المزيد: الإدارة الفنلندية الانتخابات والتصويت في فنلندا
58	ar-en/train-00000-of-00001.parquet	ar	Decision-makingFinnish _ Swedish _ English	صنع القرارالفنلندية _ السويدية _ الإنجليزية
59	ar-en/train-00000-of-00001.parquet	ar	Content is not available in the selected language.	المحتوى غير متوفر باللغة التي إخترتها.
60	ar-en/train-00000-of-00001.parquet	ar	Please select another language.	إختر لغة أخرى.
61	ar-en/train-00000-of-00001.parquet	ar	Finnish	الفنلندية
62	ar-en/train-00000-of-00001.parquet	ar	Content is not available in the selected language.	المحتوى غير متوفر باللغة التي إخترتها.
63	ar-en/train-00000-of-00001.parquet	ar	Please select another language.	إختر لغة أخرى.
64	ar-en/train-00000-of-00001.parquet	ar	Finnish	الفنلندية
65	ar-en/train-00000-of-00001.parquet	ar	Content is not available in the selected language.	المحتوى غير متوفر باللغة التي إخترتها.
66	ar-en/train-00000-of-00001.parquet	ar	Please select another language.	إختر لغة أخرى.
67	ar-en/train-00000-of-00001.parquet	ar	Finnish	الفنلندية
68	ar-en/train-00000-of-00001.parquet	ar	Library	المكتبة العامة
69	ar-en/train-00000-of-00001.parquet	ar	Exercise and sports	الحركة البدنية
70	ar-en/train-00000-of-00001.parquet	ar	Recreation and travel in nature	الحركة البدنية في الطبيعة
71	ar-en/train-00000-of-00001.parquet	ar	Theatre and cinema	المسرح ودار الخيالة (السينما)
72	ar-en/train-00000-of-00001.parquet	ar	Museums	المتاحف
73	ar-en/train-00000-of-00001.parquet	ar	Hobbies for children and young people	هوايات الأطفال والشباب
74	ar-en/train-00000-of-00001.parquet	ar	Associations	الجمعيات
75	ar-en/train-00000-of-00001.parquet	ar	Kokkola is an old city by the sea, where the environment offers a versatile setting for camping and recreational activities. If you are interested in hiking, you should read about Finnish everyman’s rights under the section on “Recreation and travel in nature” in this service.	كوكولا مدينة بحرية قديمة تقدم بيئتها فرصاً متنوعة للترحال والتنزه، ويجدر بالرحالة أن يتعرف على حقوق الانتفاع العامة أي الحقوق التابعة للجميع المبينة في جزء "الحركة البدنية في الطبيعة" من هذه الخدمة.
76	ar-en/train-00000-of-00001.parquet	ar	Many culture and sports facilities enable various kinds of leisure activities.	يمكّن عديد من أماكن الثقافة والحركة من نشاطات ممارسة الهوايات بمختلف الأشكال.
77	ar-en/train-00000-of-00001.parquet	ar	In addition to sports and culture, clubs and associations, other leisure groups and municipal colleges offer plenty of opportunities to study languages and learn manual skills, for example.	وإضافة إلى توفير إمكانيات الحركة والثقافة فإن النوادي والجمعيات وغير ذلك من مجموعات الهوايات والمعاهد البلدية توفر أيضاً إمكانيات لتعلم اللغات والأشغال اليدوية. يمكنك أن تحصل على مزيد من المعلومات عن نشاط الجمعيات والمنظمات من رابط سجل الجمعيات.
78	ar-en/train-00000-of-00001.parquet	ar	A great variety of cultural events take place in Snellman Hall and other cultural facilities in the city.	كذلك تتوفر في صالة سنلمان (Snellman) وغيرها من أماكن الثقافة في المدينة مناسبات ثقافية متنوعة.
79	ar-en/train-00000-of-00001.parquet	ar	Annual events in Kokkola include, for example, Venetian Festival at the end of the summer season, Kokkola Cup for junior footballers, Kokkola Summer Festival, Lohtaja Church Music Festival, Kokkola Winter Dance, and Kokkola Winter Accordion Festival.	المناسبات السنوية في كوكولا هي من بين الأمور الأخرى: كرنفال انتهاء فصل الصيف المسمى فينيسيالايست (Venetsialaiset)، وكأس كوكولا لكرة القدم للشباب (Kokkolan Cup)، ومهرجان أسابيع كوكولا الصيفية (Kokkolan kesäviikot)، وحفلة الموسيقي الكنيسية في لوهتيا (Lohtajan kirkkomusiikkijuhlat) ومهرجان رقصات كوكولا الشتوية (Kokkolan t...
80	ar-en/train-00000-of-00001.parquet	ar	More information on leisure services in the Kokkola region is available on the Kokkola city website.	يمكنك أن تحصل على مزيد من المعلومات عن خدمات وقت الفراغ في كوكولا من صفحات الشبكة العنكبوتية لمدينة كوكولا.
81	ar-en/train-00000-of-00001.parquet	ar	There is also a link to the Event calendar on the city's website that contains information on current culture and sports events.	يوجد في هذه الصفحات أيضاً رابط روزنامة المناسبات (Tapahtumakalenteri) التي تبين يومياً المناسبات الثقافية والرياضية الجارية في المدينة.
82	ar-en/train-00000-of-00001.parquet	ar	Further information: Leisure.	اقرأ المزيد: وقت الفراغ.
83	ar-en/train-00000-of-00001.parquet	ar	linkkiCity of Kokkola:	رزنامة المناسباتالفنلندية
84	ar-en/train-00000-of-00001.parquet	ar	linkkiCity of Kokkola:	المكتبة العامة
85	ar-en/train-00000-of-00001.parquet	ar	Kokkola city library is located in the city centre. Branch libraries are located in Koivuhaka, Kälviä, Lohtaja, Ullava and Rahkonen.	تقع المكتبة العامة لمدينة كوكولا في مركز المدينة، وتقع المكتبات العامة الفرعية في كويفوهكا وكلفيا ولوهتيا وقرية اولافا وراهكوس.
86	ar-en/train-00000-of-00001.parquet	ar	There is also a mobile library that serves various parts of the city.	وإضافة إلى ذلك توجد سيارة مكتبة عامة متنقلة.
87	ar-en/train-00000-of-00001.parquet	ar	Information on the opening hours and services of the library is available on the library's website.	توجد معلومات أوقات عمل المكتبة العامة وخدماتها في صفحات الشبكة العنكبوتية للمكتبة.
88	ar-en/train-00000-of-00001.parquet	ar	The library also has an online library. There customers can browse the library's collections, reserve material, renew their loans, create inter-library loan requests and loan e-books at any time.	يوجد للمكتبة العامة مكتبة شبكية أيضاً حيث يمكن للعملاء أن يتصفحوا من خلالها مجموعات المكتبة وأن يحجزوا المواد ويجددوا استعاراتهم وأن يعملوا طلبات كتب الكترونية عن بعد في أي وقت من اليوم.
89	ar-en/train-00000-of-00001.parquet	ar	Along with the efficient library network in Finland, almost all collections in Finnish libraries are available to library users in Kokkola.	ونظراً لفعالية نظام المكتبة العامة في فنلندا فإن كافة مجموعات مكتبات فنلندا موجودة في متناول يد عملاء مكتبة كوكولا العامة.
90	ar-en/train-00000-of-00001.parquet	ar	Kokkola city library/main library Isokatu 3, 67100 Kokkola	المكتبة العامة لمديمة كوكولا / المكتبة العامة الرئيسية (Kokkolan kaupunginkirjasto / pääkirjasto) Isokatu 3, 67100 Kokkola
91	ar-en/train-00000-of-00001.parquet	ar	Telephone: 040 806 5124, 040 806 5133	هاتف: 040 806 5124, 040 806 5133
92	ar-en/train-00000-of-00001.parquet	ar	Further information: Libraries.	اقرأ المزيد: المكتبات العامة.
93	ar-en/train-00000-of-00001.parquet	ar	Library servicesFinnish _ Swedish _ English	خدمات المكتبة العامةالفنلندية _ السويدية _ الإنجليزية
94	ar-en/train-00000-of-00001.parquet	ar	Exercise and sports	الحركة البدنية
95	ar-en/train-00000-of-00001.parquet	ar	Kokkola offers versatile facilities to partake in sports and exercise all year round. There are sports facilities throughout the city.	يوجد في كوكولا إمكانيات متعددة لممارسة الحركة البدنية والرياضة على مدار العام، وتوجد أماكن الحركة البدنية في كافة أنحاء المدينة.
96	ar-en/train-00000-of-00001.parquet	ar	The city arranges guided activities at the Swimming Centre VesiVeijari (Uintikeskus VesiVeijari) and sports centres.	تنظم المدينة نشاطات موجهة في مركز السباحة فيسيفياري (Uintikeskus VesiVeijari) وفي صالات الرياضة.
97	ar-en/train-00000-of-00001.parquet	ar	In addition, there are several gyms of various types.	وإضافة لذلك يوجد في المدينة صالات التمرين الرياضية المتنوعة.
98	ar-en/train-00000-of-00001.parquet	ar	There are gyms for the elderly in the service centres of Honkaharju and Kuusikumpu.	قاعات ألعاب القوى الجمنازيوم المخصصة لكبار السن موجودة في مراكز الخدمات لهونكاهاريو وكووسيكومبو.
99	ar-en/train-00000-of-00001.parquet	ar	The city maintains cycle tracks, hiking routes, exercise tracks, ski tracks, beaches, playing fields for ball games and skating, and exercise areas in the neighbourhoods.	تتولى المدينة الحفاظ على طرقات الدراجات الهوائية ومسارات التنزه ومضامير الرياضة ومسارات التزلج وشواطئ السباحة وملاعب كرة القدم وأماكن الرياضة في الأحياء.

End of preview. Expand in Data Studio

Parallel translation training pool

Sentences in eleven languages beside their translations, from five public parallel corpora read at the pinned revisions named below and laid out twice. Ten languages are paired with English in both directions, twenty directions in all. Train on either layer or on both.

`pool.jsonl`

Every source rewritten into one shape, 4975238 rows, one JSON object per line, with these fields.

Field	What it holds
`id`	a row identifier unique within this file
`direction`	the two language codes, source first
`source_language`, `target_language`	the two language names, written out
`source`, `target`	the sentence and its translation
`prompt`, `response`	the same pair written as a request and an answer
`pair_language`	the non-English language of the pair
`source_name`	the name of the source directory the row came from
`source_repo`, `source_revision`	the dataset and the revision it was read at
`source_subset`, `source_row`	where the row sits in that set
`provenance_class`	how the row came to exist
`licence`	the licence of the source it came from

Every sentence pair is written twice, once in each direction, because a parallel pair teaches both, so the file covers all twenty directions and a recipe that wants one of them filters on direction. prompt and response are the pair written as a single request and its answer, with the two languages named in the request, which is one plausible way to ask for a translation and not the only one: source and target are there so that a different wording, a different template or a system prompt can be built from the same pair. Pairs are deduplicated on both of their normalised sentences together within each source. Across sources the pool is not deduplicated: 37 pairs appear under two of the sections below and are kept under both.

`sources/`

The same data before any of that, 2707295 pairs, one directory per source and one file per file of the source, one JSON object per line holding the row number and file the pair came from, the language of its non-English side and the two sentences untouched. Nothing here is deduplicated, stripped, reordered or written in a direction. Use this layer if you would rather pair the sentences yourself, if you want the duplicates a source repeats, or if you want to weight the sources differently from the rewritten layer, which writes every pair of every source once.

Languages

The pool is not balanced across its languages. Turkish, Russian, German, French and Spanish have the most material because the largest source has the most of them, and Hindi has the least. English has no row of its own in the table below because it is on the other side of every pair. The counts are here so that a mixture can be chosen deliberately rather than inherited.

Language	Pairs in `sources/`	Rows in `pool.jsonl`
German (`de`)	412738	824212
French (`fr`)	337871	592566
Spanish (`es`)	246069	431244
Russian (`ru`)	579826	1047242
Simplified Chinese (`zh`)	76853	111310
Japanese (`ja`)	101468	202598
Modern Standard Arabic (`ar`)	97608	124694
Hindi (`hi`)	15225	28442
Swahili (`sw`)	148520	293748
Turkish (`tr`)	691117	1319182

The sources

`sources/tatoeba`

Single sentences written and translated by the volunteers of a public language-learning sentence collection, published as one table of linked sentence pairs. From ymoslem/Tatoeba-Translations at revision c313a0934b5e2f50f78230fdedfe63ea36e1a05f, files data/train-00000-of-00003.parquet, data/train-00001-of-00003.parquet, data/train-00002-of-00003.parquet. 2237285 pairs here, which give 4468004 rows in pool.jsonl. Languages: all eleven, paired with English in both written orders. Provenance class human, licence cc-by-2.0. The source publishes the fields id_src, lang_src, sentence_src, id_tgt, lang_tgt, sentence_tgt and lang_pair, the language codes being three-letter ones, of which the raw layer keeps the row number, the file, the language and the two sentences. Credit: the contributors of the Tatoeba project, under its attribution licence.

Worth knowing. The sentences are short, plain and often about everyday life, because that is what a language-learning collection is for, so this source teaches the shape of a translation rather than the register of an encyclopaedia article. Its Chinese rows carry one code for the language and are written in both the simplified and the traditional script, and its Arabic rows carry one code that covers the standard language and several regional ones, so a row labelled Chinese or Arabic here is not guaranteed to be in the script or the variety a given benchmark asks for.

`sources/infopankki`

The pages of a Finnish public-service website that explains living, working and studying in the country, professionally translated into the same set of languages and sentence-aligned. From Helsinki-NLP/opus_infopankki at revision 52339513e7ee4d1896c804ca4f61d7ee3b35ea93, files ar-en/train-00000-of-00001.parquet, en-es/train-00000-of-00001.parquet, en-fr/train-00000-of-00001.parquet, en-ru/train-00000-of-00001.parquet, en-tr/train-00000-of-00001.parquet, en-zh/train-00000-of-00001.parquet. 298785 pairs here, which give 172388 rows in pool.jsonl. Languages: Arabic, Spanish, French, Russian, Turkish and Chinese with English. Provenance class human, licence cc-by-4.0. The source publishes the fields one translation column holding an object keyed by the two language codes, of which the raw layer keeps the row number, the file, the language and the two sentences. Credit: the Finnish Infopankki service, through the OPUS collection.

Worth knowing. One narrow domain written in an official register, and the same sentence recurs across pages, so it is dense in administrative vocabulary and thin in everything else. Its Chinese is written in the simplified script.

`sources/smol`

Professionally translated sentences and short documents, commissioned to give under-served languages a clean parallel set rather than gathered from the web. From google/smol at revision fdaff3a1a019f89fa30a562a85d7c1d3e9150444, files smolsent/sw_en.jsonl, smoldoc/sw_en.jsonl. 8725 pairs here, which give 17422 rows in pool.jsonl. Languages: Swahili with English. Provenance class human, licence cc-by-4.0. The source publishes the fields sl, tl, id, src, trg and is_src_orig for the sentence file, and id, sl, tl, srcs and trgs, two aligned lists of sentences, for the document file, of which the raw layer keeps the row number, the file, the language and the two sentences. Credit: the authors of the SMOL dataset.

Worth knowing. Small, a few thousand sentences, and only one of the eleven languages. It is here because it is the cleanest human material the pool has for the language whose data is scarcest, not because of its size.

`sources/paracrawl`

Sentence pairs mined from crawled web pages that exist in two languages, from a large open bitext release. From Helsinki-NLP/opus_paracrawl at revision 8bb0bcf0c038a0cb762690b4dbce088b861423ed, files en-sw/train-00000-of-00001.parquet. 132519 pairs here, which give 262050 rows in pool.jsonl. Languages: Swahili with English. Provenance class collected, licence cc0-1.0. The source publishes the fields one translation column holding an object keyed by the two language codes, of which the raw layer keeps the row number, the file, the language and the two sentences. Credit: the ParaCrawl project, through the OPUS collection.

Worth knowing. Web-mined bitext is noisy in a way human-written material is not: boilerplate, misaligned pairs, and pages whose second language is not the one the crawl believed. It is here for volume in a language that has little, and a recipe that filters it by length or by a quality model will get more out of it than one that does not.

`sources/nllb_sample`

A published ten million pair sample of the web-mined bitext assembled for a large multilingual translation model, carrying the alignment scores the mining produced. From slone/nllb-200-10M-sample at revision 112cd775b7d7146372f560738eda4fd53c8a563d, files data/train-00000-of-00005-cf25f10de200dab1.parquet, data/train-00001-of-00005-a6534e9c4eca51c9.parquet, data/train-00002-of-00005-805ecb74951d503f.parquet, data/train-00003-of-00005-6d65323f77298b0a.parquet, data/train-00004-of-00005-c30bd9963644b892.parquet. 29981 pairs here, which give 55374 rows in pool.jsonl. Languages: all eleven, paired with English. Provenance class collected, licence odc-by. The source publishes the fields laser_score, lang1, text1, lang2, text2 and blaser_sim, with language codes written as a three-letter language code and a four-letter script, of which the raw layer keeps the row number, the file, the language and the two sentences. Credit: the authors of the NLLB bitext release and of the published sample.

Worth knowing. The sample is spread over every pair of its two hundred languages rather than over the pairs with English, so only a few thousand of its rows reach this pool. The alignment scores are not carried into the raw layer, which keeps of every source only the row number, the file, the language and the two sentences, so a recipe that wants to threshold on them must read the source itself.

Provenance and licences

No row in the pool was produced by a language model and none was produced from a rule or a template, and the class on each row says how the pair came to be in front of you. human is a pair someone produced as a translation on purpose: the volunteers of a sentence collection, the translators of a public-service website, the professionals commissioned for an under-served language. collected is a pair that was found rather than commissioned, by matching two pages of the web against each other and scoring the match, so it is as good as the match and may hold a translation a machine made before the crawl found it.

The pool as a whole is offered under cc-by-4.0, which is the most restrictive term the sources compose to. Two sources are cc-by-4.0, one is cc-by-2.0, whose own terms allow a derivative under a later version of the licence with the same elements, one is cc0-1.0 and one is odc-by, which asks for attribution and nothing more. Every row and every source directory carries its own licence, so a subset under a single licence can be selected. No source in the pool is non-commercial and no source in it has an undeclared licence.

Filtering

Pairs whose sentences duplicated or overlapped a sentence in a held-out evaluation set were removed before publication, from both layers alike: an exact-match check on the normalised sentence (0 pairs), then a word 8-gram overlap check on the languages that write spaces and a character n-gram check of the equivalent width on Chinese and Japanese (53 pairs). A pair was dropped when either of its two sides was caught. That evaluation set is not distributed here. The overlap check is blunt and costs honest pairs, most of all where the sentences are long. Beyond that and a minimum of 2 characters a side, nothing was filtered: no length, no domain, no alignment score and no language was selected for or against.

Downloads last month: 163