| --- |
| license: mit |
| task_categories: |
| - text-generation |
| - fill-mask |
| language: |
| - zh |
| tags: |
| - java |
| - spring-boot |
| - code-completion |
| - peft |
| - lora |
| - qlora |
| - code-dataset |
| - instruction-tuning |
| pretty_name: SpringBoot-Code-Completion-Dataset-zh |
| size_categories: |
| - 100K<n<1M |
| --- |
| # Spring Boot Code Completion Dataset |
|
|
| ## 概述 |
| 这是一个专为 Spring Boot 框架代码补全任务设计的中文优先数据集。通过从 GitHub 上 90 个高质量开源 Spring Boot 项目中提取方法级、类级代码片段及配置文件,构建而成。数据集重点突出 Spring Boot 典型特征(注解驱动、依赖注入、配置绑定等),适用于参数高效微调(PEFT,如 LoRA/QLoRA)下的代码生成研究。 |
|
|
| ## 数据集统计 |
| - **总样本数**:81,085 条 |
| - **训练集**:64,868 条 |
| - **验证集**:8,108 条 |
| - **测试集**:8,109 条 |
| - **优先级 2 样本数**(含典型 Spring Boot 特征,如 @RestController、@Service、@Entity 等):19,740 条 |
| - **优先级 2 占比**:24.34% |
|
|
| ## 数据格式(Alpaca 风格) |
| 每条数据为 JSON 对象,包含以下字段: |
| ```json |
| { |
| "instruction": "请在Spring Boot框架中完成以下Java代码" 或 "请完成以下Java代码", |
| "input": "代码前缀(prefix)", |
| "output": "代码补全部分(completion)", |
| "source_file": "原始文件路径", |
| "priority": 1 或 2 // 2 表示含有 Spring Boot 典型特征 |
| } |
| 提取与清洗流程 |
| |
| 从 GitHub 采集 90 个典型 Spring Boot 项目 |
| 使用 javalang 进行 AST 解析,提取方法/类级代码片段及 application 配置 |
| 多维度 Spring Boot 特征检测(注解、接口实现、包路径、类名后缀等)标记 priority |
| 清洗:精确 MD5 去重 + SentenceTransformer + FAISS 相似度去重(阈值 0.95)+ priority 2 优先保护 |
| 长度过滤:input > 50 字符,output > 20 字符 |
| 划分:80% 训练 / 10% 验证 / 10% 测试 |
| |
| 使用方式 |
| Pythonfrom datasets import load_dataset |
| |
| dataset = load_dataset("您的用户名/springboot-code-completion-dataset") |
| # 或指定子集 |
| train = dataset["train"] |
| 许可 |
| 本数据集仅限学术研究与非商业用途使用。原始代码来源于 GitHub 开源项目,请遵守各项目原许可协议。 |
| 引用 |
| 如果在论文中使用,请引用本仓库: |
| text@misc{唯一2026-springboot-dataset, |
| author = {唯一}, |
| title = {Spring Boot Code Completion Dataset}, |
| year = {2026}, |
| publisher = {Hugging Face}, |
| howpublished = {\url{https://huggingface.co/datasets/您的用户名/springboot-code-completion-dataset}} |
| } |
| 欢迎反馈与合作! |