Bornforthis commited on
Commit
eb9ddf6
·
verified ·
1 Parent(s): 28383df

Upload folder using huggingface_hub

Browse files
.gitattributes CHANGED
@@ -57,3 +57,4 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
57
  # Video files - compressed
58
  *.mp4 filter=lfs diff=lfs merge=lfs -text
59
  *.webm filter=lfs diff=lfs merge=lfs -text
 
 
57
  # Video files - compressed
58
  *.mp4 filter=lfs diff=lfs merge=lfs -text
59
  *.webm filter=lfs diff=lfs merge=lfs -text
60
+ 公众号/2025/2月/01-05-大模型微调:如何基于ChatGLM3-6B+Lora构建基本法律常识大模型?/lawzhidao_filter.csv filter=lfs diff=lfs merge=lfs -text
.gitignore ADDED
@@ -0,0 +1,2 @@
 
 
 
1
+ .DS_Store
2
+ .venv
README.md CHANGED
@@ -1,3 +1,5 @@
1
  ---
2
  license: mit
3
  ---
 
 
 
1
  ---
2
  license: mit
3
  ---
4
+
5
+ AI悦创文章涉及的资源!
push.py ADDED
@@ -0,0 +1,15 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ from huggingface_hub import HfApi
2
+ from huggingface_hub import login
3
+ # login()
4
+ api = HfApi()
5
+
6
+ api.upload_folder(
7
+ folder_path=".",
8
+ repo_id="Bornforthis/BornforthisData",
9
+ repo_type="dataset",
10
+ )
11
+
12
+
13
+ # from huggingface_hub import HfApi
14
+ # api = HfApi()
15
+ # api.create_repo(repo_id="super-cool-model")
公众号/2025/2月/01-05-大模型微调:如何基于ChatGLM3-6B+Lora构建基本法律常识大模型?/intro.ipynb ADDED
@@ -0,0 +1,357 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "cells": [
3
+ {
4
+ "cell_type": "markdown",
5
+ "metadata": {},
6
+ "source": [
7
+ "# lawzhidao_filter 说明\n",
8
+ "0. **下载地址:** [百度知道](https://pan.baidu.com/s/18Lwq16VBo6wBD_qLb3i33g)\n",
9
+ "1. **数据概览:** 3.6 万条法律问答数据\n",
10
+ "2. **推荐实验:** FAQ 问答系统\n",
11
+ "3. **数据来源:** 百度知道\n",
12
+ "4. **加工处理:**\n",
13
+ " 1. 过滤了id、url、qid、reply_t、user字段\n",
14
+ " 2. 对question、reply做了脱敏处理"
15
+ ]
16
+ },
17
+ {
18
+ "cell_type": "code",
19
+ "execution_count": 1,
20
+ "metadata": {},
21
+ "outputs": [],
22
+ "source": [
23
+ "import pandas as pd"
24
+ ]
25
+ },
26
+ {
27
+ "cell_type": "code",
28
+ "execution_count": 2,
29
+ "metadata": {},
30
+ "outputs": [],
31
+ "source": [
32
+ "path = 'lawzhidao_文件夹_所在_路径'"
33
+ ]
34
+ },
35
+ {
36
+ "cell_type": "markdown",
37
+ "metadata": {},
38
+ "source": [
39
+ "# 1. lawzhidao_filter.csv"
40
+ ]
41
+ },
42
+ {
43
+ "cell_type": "markdown",
44
+ "metadata": {},
45
+ "source": [
46
+ "## 加载数据"
47
+ ]
48
+ },
49
+ {
50
+ "cell_type": "code",
51
+ "execution_count": 3,
52
+ "metadata": {},
53
+ "outputs": [],
54
+ "source": [
55
+ "pd_all = pd.read_csv(path + 'baoxianzhidao_filter.csv')"
56
+ ]
57
+ },
58
+ {
59
+ "cell_type": "markdown",
60
+ "metadata": {},
61
+ "source": [
62
+ "## 字段说明\n",
63
+ "\n",
64
+ "| 字段 | 说明 |\n",
65
+ "| ---- | ---- |\n",
66
+ "| title | 问题的标题 |\n",
67
+ "| question | 问题内容(可为空) |\n",
68
+ "| reply| 回复内容 |\n",
69
+ "| is_best| 是否为页面上显示的最佳回答 |"
70
+ ]
71
+ },
72
+ {
73
+ "cell_type": "code",
74
+ "execution_count": 4,
75
+ "metadata": {
76
+ "scrolled": false
77
+ },
78
+ "outputs": [
79
+ {
80
+ "data": {
81
+ "text/html": [
82
+ "<div>\n",
83
+ "<style scoped>\n",
84
+ " .dataframe tbody tr th:only-of-type {\n",
85
+ " vertical-align: middle;\n",
86
+ " }\n",
87
+ "\n",
88
+ " .dataframe tbody tr th {\n",
89
+ " vertical-align: top;\n",
90
+ " }\n",
91
+ "\n",
92
+ " .dataframe thead th {\n",
93
+ " text-align: right;\n",
94
+ " }\n",
95
+ "</style>\n",
96
+ "<table border=\"1\" class=\"dataframe\">\n",
97
+ " <thead>\n",
98
+ " <tr style=\"text-align: right;\">\n",
99
+ " <th></th>\n",
100
+ " <th>title</th>\n",
101
+ " <th>question</th>\n",
102
+ " <th>reply</th>\n",
103
+ " <th>is_best</th>\n",
104
+ " </tr>\n",
105
+ " </thead>\n",
106
+ " <tbody>\n",
107
+ " <tr>\n",
108
+ " <th>6725</th>\n",
109
+ " <td>请问车险理赔时,全责一方和无责任一方收到待遇的区别</td>\n",
110
+ " <td>NaN</td>\n",
111
+ " <td>这位朋友提问的有些过于笼统了不是很详细,理论上来讲,从商业险的角度分析,有责任,保险公司才会...</td>\n",
112
+ " <td>0</td>\n",
113
+ " </tr>\n",
114
+ " <tr>\n",
115
+ " <th>6399</th>\n",
116
+ " <td>买保险,一定要找代理人吗,直接去保险公司买不可以吗?</td>\n",
117
+ " <td>买保险,一定要找代理人吗,直接去保险公司买不可以吗?</td>\n",
118
+ " <td>可以的。可以自行去保险公司进行投保,也可以选择在网上投保。不过有代理人的好处在于可以为被保险...</td>\n",
119
+ " <td>1</td>\n",
120
+ " </tr>\n",
121
+ " <tr>\n",
122
+ " <th>4242</th>\n",
123
+ " <td>机动车撞伤人至骨折保险公司该怎么赔偿</td>\n",
124
+ " <td>NaN</td>\n",
125
+ " <td>交通事故赔偿是有标准的,因交通事故造成损失,肇事者向受害者、保险公司对承保车辆造成的损失进行...</td>\n",
126
+ " <td>1</td>\n",
127
+ " </tr>\n",
128
+ " <tr>\n",
129
+ " <th>7481</th>\n",
130
+ " <td>贷款买养老保险如何办理?</td>\n",
131
+ " <td>贷款买养老保险如何办理?</td>\n",
132
+ " <td>助保贷款主要是针对中断缴纳基本养老保险费的接近退休年龄无力续保的困难*员,通过政府担保贴息、...</td>\n",
133
+ " <td>0</td>\n",
134
+ " </tr>\n",
135
+ " <tr>\n",
136
+ " <th>5674</th>\n",
137
+ " <td>摩托车行车证年审应交哪些保险?一定要交驾驶员个人险吗?</td>\n",
138
+ " <td>NaN</td>\n",
139
+ " <td>摩托车买保险最应该买的就是交强险,一般根据排量的不同共分为三个类别,其中50CC及以下的排量...</td>\n",
140
+ " <td>1</td>\n",
141
+ " </tr>\n",
142
+ " <tr>\n",
143
+ " <th>1122</th>\n",
144
+ " <td>惠*安保费贵不贵?一年需要多少钱?</td>\n",
145
+ " <td>NaN</td>\n",
146
+ " <td>年缴保费500元,缴费20年,保障30年。</td>\n",
147
+ " <td>1</td>\n",
148
+ " </tr>\n",
149
+ " <tr>\n",
150
+ " <th>5511</th>\n",
151
+ " <td>农村医保没有交,会把户口注销了吗?本人现不在家无法交医保,乡镇通知我,他说我不交医保就把我的户口</td>\n",
152
+ " <td>销了。是真的吗?</td>\n",
153
+ " <td>不会的,这是不合法的,新农合是指由政府组织、引导、支持,农民自愿参加,个人、集体和政府多方筹...</td>\n",
154
+ " <td>1</td>\n",
155
+ " </tr>\n",
156
+ " <tr>\n",
157
+ " <th>7338</th>\n",
158
+ " <td>新华保险的保单贷款是怎样还的?</td>\n",
159
+ " <td>NaN</td>\n",
160
+ " <td>半年要去签一次息,具体情况,可以直接咨询新华人寿保险公司,新华客服热线9##67</td>\n",
161
+ " <td>0</td>\n",
162
+ " </tr>\n",
163
+ " <tr>\n",
164
+ " <th>1280</th>\n",
165
+ " <td>一起慧99到底有什么优惠相比其他的保险</td>\n",
166
+ " <td>NaN</td>\n",
167
+ " <td>您好!一起慧99</td>\n",
168
+ " <td>0</td>\n",
169
+ " </tr>\n",
170
+ " <tr>\n",
171
+ " <th>6388</th>\n",
172
+ " <td>辞职后,养老保险如果不转移会怎么样</td>\n",
173
+ " <td>我2010年2月在原公司辞职后,养老保险没有转移。如果不转移,我这部分养老保险会怎么处理?</td>\n",
174
+ " <td>会被封存,所以要及时转移。养老保险转移和接续手续:一、申请出具《基本养老保险参保缴费凭证》职...</td>\n",
175
+ " <td>1</td>\n",
176
+ " </tr>\n",
177
+ " <tr>\n",
178
+ " <th>7920</th>\n",
179
+ " <td>慧*安*儿定期重疾是怎么理赔的</td>\n",
180
+ " <td>NaN</td>\n",
181
+ " <td>首先是报案您或被保险人应在知道保险事故发生之日起10日内通知本公司。如果您或受益人故意或者因...</td>\n",
182
+ " <td>1</td>\n",
183
+ " </tr>\n",
184
+ " <tr>\n",
185
+ " <th>3134</th>\n",
186
+ " <td>构不成住院条件的车祸需要赔付精神损失费误工费营养费护理费吗</td>\n",
187
+ " <td>NaN</td>\n",
188
+ " <td>只要存在精神损失、误工、需要增加营养、护理的费用,就可以向侵权人主张赔偿责任。</td>\n",
189
+ " <td>0</td>\n",
190
+ " </tr>\n",
191
+ " <tr>\n",
192
+ " <th>4015</th>\n",
193
+ " <td>基本保险金额是什么意思</td>\n",
194
+ " <td>基本保险金额是什么意思</td>\n",
195
+ " <td>基本保险金额是保单上明确标注的金额,保险金额是能拿到的保险赔付金额,有些保险条款的基本保险金...</td>\n",
196
+ " <td>1</td>\n",
197
+ " </tr>\n",
198
+ " <tr>\n",
199
+ " <th>6848</th>\n",
200
+ " <td>重大疾病保险有必要买吗?</td>\n",
201
+ " <td>我今年25岁,身体很健康,我去买保险,保险公司的人给我的计划里有重大疾病保险的项目,但是我只...</td>\n",
202
+ " <td>重大疾病保险还是很有必要买的。我国的医疗保障体系是由基本医保和商业健康保险组成。如果发生重大...</td>\n",
203
+ " <td>1</td>\n",
204
+ " </tr>\n",
205
+ " <tr>\n",
206
+ " <th>2494</th>\n",
207
+ " <td>库*勒妇科商业医保报销范围有哪些?</td>\n",
208
+ " <td>库*勒妇科商业医保报销范围有哪些?</td>\n",
209
+ " <td>你好,商业医保报销范围比医疗保险报销更广。基本都是能报销的。报销分农村居民和城镇职工:1、居...</td>\n",
210
+ " <td>0</td>\n",
211
+ " </tr>\n",
212
+ " <tr>\n",
213
+ " <th>7341</th>\n",
214
+ " <td>第三者保险营运与非营运什么区别</td>\n",
215
+ " <td>第三者保险营运与非营运什么区别</td>\n",
216
+ " <td>车辆行驶证的“使用性质“一个是营运,一个是非营运。营运需要在运输管理部门办理车辆的道路运输许...</td>\n",
217
+ " <td>1</td>\n",
218
+ " </tr>\n",
219
+ " <tr>\n",
220
+ " <th>4997</th>\n",
221
+ " <td>犹豫期内退保一定要去原来办理的地点吗?</td>\n",
222
+ " <td>犹豫期内退保一定要去原来办理的地点吗?</td>\n",
223
+ " <td>要退保必须去保险公司退,在银行的柜台上是没办法退的,而且退保必须由投保人本人持其身份证去退,...</td>\n",
224
+ " <td>1</td>\n",
225
+ " </tr>\n",
226
+ " <tr>\n",
227
+ " <th>5694</th>\n",
228
+ " <td>保险法的构成主要包括</td>\n",
229
+ " <td>NaN</td>\n",
230
+ " <td>保险法的构成主要包括保险业法、保险合同法*保险特别法。1.保险业法又称保险事业法、保险事业监...</td>\n",
231
+ " <td>0</td>\n",
232
+ " </tr>\n",
233
+ " <tr>\n",
234
+ " <th>1604</th>\n",
235
+ " <td>适合中老年的保险多不多,能买哪些保险?</td>\n",
236
+ " <td>NaN</td>\n",
237
+ " <td>年龄多大呢?保费预算多少?</td>\n",
238
+ " <td>0</td>\n",
239
+ " </tr>\n",
240
+ " <tr>\n",
241
+ " <th>3098</th>\n",
242
+ " <td>汽车购置税属于机动车第三者责任险赔偿范围内吗?</td>\n",
243
+ " <td>NaN</td>\n",
244
+ " <td>购置税你是你购置车辆的时候上牌还需要交的费用。跟保险不是一个范围。</td>\n",
245
+ " <td>0</td>\n",
246
+ " </tr>\n",
247
+ " </tbody>\n",
248
+ "</table>\n",
249
+ "</div>"
250
+ ],
251
+ "text/plain": [
252
+ " title \\\n",
253
+ "6725 请问车险理赔时,全责一方和无责任一方收到待遇的区别 \n",
254
+ "6399 买保险,一定要找代理人吗,直接去保险公司买不可以吗? \n",
255
+ "4242 机动车撞伤人至骨折保险公司该怎么赔偿 \n",
256
+ "7481 贷款买养老保险如何办理? \n",
257
+ "5674 摩托车行车证年审应交哪些保险?一定要交驾驶员个人险吗? \n",
258
+ "1122 惠*安保费贵不贵?一年需要多少钱? \n",
259
+ "5511 农村医保没有交,会把户口注销了吗?本人现不在家无法交医保,乡镇通知我,他说我不交医保就把我的户口 \n",
260
+ "7338 新华保险的保单贷款是怎样还的? \n",
261
+ "1280 一起慧99到底有什么优惠相比其他的保险 \n",
262
+ "6388 辞职后,养老保险如果不转移会怎么样 \n",
263
+ "7920 慧*安*儿定期重疾是怎么理赔的 \n",
264
+ "3134 构不成住院条件的车祸需要赔付精神损失费误工费营养费护理费吗 \n",
265
+ "4015 基本保险金额是什么意思 \n",
266
+ "6848 重大疾病保险有必要买吗? \n",
267
+ "2494 库*勒妇科商业医保报销范围有哪些? \n",
268
+ "7341 第三者保险营运与非营运什么区别 \n",
269
+ "4997 犹豫期内退保一定要去原来办理的地点吗? \n",
270
+ "5694 保险法的构成主要包括 \n",
271
+ "1604 适合中老年的保险多不多,能买哪些保险? \n",
272
+ "3098 汽车购置税属于机动车第三者责任险赔偿范围内吗? \n",
273
+ "\n",
274
+ " question \\\n",
275
+ "6725 NaN \n",
276
+ "6399 买保险,一定要找代理人吗,直接去保险公司买不可以吗? \n",
277
+ "4242 NaN \n",
278
+ "7481 贷款买养老保险如何办理? \n",
279
+ "5674 NaN \n",
280
+ "1122 NaN \n",
281
+ "5511 销了。是真的吗? \n",
282
+ "7338 NaN \n",
283
+ "1280 NaN \n",
284
+ "6388 我2010年2月在原公司辞职后,养老保险没有转移。如果不转移,我这部分养老保险会怎么处理? \n",
285
+ "7920 NaN \n",
286
+ "3134 NaN \n",
287
+ "4015 基本保险金额是什么意思 \n",
288
+ "6848 我今年25岁,身体很健康,我去买保险,保险公司的人给我的计划里有重大疾病保险的项目,但是我只... \n",
289
+ "2494 库*勒妇科商业医保报销范围有哪些? \n",
290
+ "7341 第三者保险营运与非营运什么区别 \n",
291
+ "4997 犹豫期内退保一定要去原来办理的地点吗? \n",
292
+ "5694 NaN \n",
293
+ "1604 NaN \n",
294
+ "3098 NaN \n",
295
+ "\n",
296
+ " reply is_best \n",
297
+ "6725 这位朋友提问的有些过于笼统了不是很详细,理论上来讲,从商业险的角度分析,有责任,保险公司才会... 0 \n",
298
+ "6399 可以的。可以自行去保险公司进行投保,也可以选择在网上投保。不过有代理人的好处在于可以为被保险... 1 \n",
299
+ "4242 交通事故赔��是有标准的,因交通事故造成损失,肇事者向受害者、保险公司对承保车辆造成的损失进行... 1 \n",
300
+ "7481 助保贷款主要是针对中断缴纳基本养老保险费的接近退休年龄无力续保的困难*员,通过政府担保贴息、... 0 \n",
301
+ "5674 摩托车买保险最应该买的就是交强险,一般根据排量的不同共分为三个类别,其中50CC及以下的排量... 1 \n",
302
+ "1122 年缴保费500元,缴费20年,保障30年。 1 \n",
303
+ "5511 不会的,这是不合法的,新农合是指由政府组织、引导、支持,农民自愿参加,个人、集体和政府多方筹... 1 \n",
304
+ "7338 半年要去签一次息,具体情况,可以直接咨询新华人寿保险公司,新华客服热线9##67 0 \n",
305
+ "1280 您好!一起慧99 0 \n",
306
+ "6388 会被封存,所以要及时转移。养老保险转移和接续手续:一、申请出具《基本养老保险参保缴费凭证》职... 1 \n",
307
+ "7920 首先是报案您或被保险人应在知道保险事故发生之日起10日内通知本公司。如果您或受益人故意或者因... 1 \n",
308
+ "3134 只要存在精神损失、误工、需要增加营养、护理的费用,就可以向侵权人主张赔偿责任。 0 \n",
309
+ "4015 基本保险金额是保单上明确标注的金额,保险金额是能拿到的保险赔付金额,有些保险条款的基本保险金... 1 \n",
310
+ "6848 重大疾病保险还是很有必要买的。我国的医疗保障体系是由基本医保和商业健康保险组成。如果发生重大... 1 \n",
311
+ "2494 你好,商业医保报销范围比医疗保险报销更广。基本都是能报销的。报销分农村居民和城镇职工:1、居... 0 \n",
312
+ "7341 车辆行驶证的“使用性质“一个是营运,一个是非营运。营运需要在运输管理部门办理车辆的道路运输许... 1 \n",
313
+ "4997 要退保必须去保险公司退,在银行的柜台上是没办法退的,而且退保必须由投保人本人持其身份证去退,... 1 \n",
314
+ "5694 保险法的构成主要包括保险业法、保险合同法*保险特别法。1.保险业法又称保险事业法、保险事业监... 0 \n",
315
+ "1604 年龄多大呢?保费预算多少? 0 \n",
316
+ "3098 购置税你是你购置车辆的时候上牌还需要交的费用。跟保险不是一个范围。 0 "
317
+ ]
318
+ },
319
+ "execution_count": 4,
320
+ "metadata": {},
321
+ "output_type": "execute_result"
322
+ }
323
+ ],
324
+ "source": [
325
+ "pd_all.sample(n=20)"
326
+ ]
327
+ },
328
+ {
329
+ "cell_type": "code",
330
+ "execution_count": null,
331
+ "metadata": {},
332
+ "outputs": [],
333
+ "source": []
334
+ }
335
+ ],
336
+ "metadata": {
337
+ "kernelspec": {
338
+ "display_name": "Python 3",
339
+ "language": "python",
340
+ "name": "python3"
341
+ },
342
+ "language_info": {
343
+ "codemirror_mode": {
344
+ "name": "ipython",
345
+ "version": 3
346
+ },
347
+ "file_extension": ".py",
348
+ "mimetype": "text/x-python",
349
+ "name": "python",
350
+ "nbconvert_exporter": "python",
351
+ "pygments_lexer": "ipython3",
352
+ "version": "3.7.0"
353
+ }
354
+ },
355
+ "nbformat": 4,
356
+ "nbformat_minor": 2
357
+ }
公众号/2025/2月/01-05-大模型微调:如何基于ChatGLM3-6B+Lora构建基本法律常识大模型?/lawzhidao_filter.csv ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:a15217f164625e4ffb1f7821c96831b59a6756c440b98a4832a6d36149b17979
3
+ size 27654496