Go to file

wql 9182e4e09d fix: fix MASTER_PORT		2024-08-25 19:21:28 +08:00
9G-Train	fix: fix sys.path	2024-08-25 12:44:34 +08:00
dataset	add: add belle 1m data	2024-08-25 11:41:54 +08:00
dataset_bin	add: add bin data	2024-08-25 04:33:55 +00:00
logs/tensorboard/9g-sft	add: unfinished log	2024-08-25 18:11:54 +08:00
quick_start_clean	add: add bin data	2024-08-25 04:33:55 +00:00
stream_infer	update readme	2024-04-29 19:37:04 +08:00
.gitignore	add: add gitignore	2024-08-25 12:31:49 +08:00
9g_lora_1.sh	fix: fix MASTER_PORT	2024-08-25 19:21:28 +08:00
9g_lora_1_single.sh	fix: fix MASTER_PORT	2024-08-25 19:21:28 +08:00
9g_lora_1_step500.sh	fix: fix MASTER_PORT	2024-08-25 19:21:28 +08:00
9g_lora_1_step500_single.sh	fix: fix MASTER_PORT	2024-08-25 19:21:28 +08:00
9g_lora_2.sh	fix: fix MASTER_PORT	2024-08-25 19:21:28 +08:00
9g_lora_2_single.sh	fix: fix MASTER_PORT	2024-08-25 19:21:28 +08:00
9g_lora_2_step500.sh	fix: fix MASTER_PORT	2024-08-25 19:21:28 +08:00
9g_lora_2_step500_single.sh	fix: fix MASTER_PORT	2024-08-25 19:21:28 +08:00
9g_lora_3.sh	fix: fix MASTER_PORT	2024-08-25 19:21:28 +08:00
9g_lora_3_single.sh	fix: fix MASTER_PORT	2024-08-25 19:21:28 +08:00
9g_lora_3_step500.sh	fix: fix MASTER_PORT	2024-08-25 19:21:28 +08:00
9g_lora_3_step500_single.sh	fix: fix MASTER_PORT	2024-08-25 19:21:28 +08:00
QuickStart手册.pdf	update quick start	2024-02-28 17:42:58 +08:00
README.md	Update README.md	2024-05-29 16:29:26 +08:00
batch_run.sh	chore: config batch_run	2024-08-25 19:09:19 +08:00
convert.py	update quick start	2024-02-28 17:42:58 +08:00
gpu_status.py	add: add gpu_status	2024-08-25 19:10:55 +08:00
libcpm-1.0.0-cp38-cp38-linux_x86_64.whl	update quick start	2024-02-28 17:42:58 +08:00

README.md

九格百亿级通用基础大模型

启元九格大模型由启元实验室牵头，联合清华大学、哈尔滨工业大学、中国科学院计算技术研究所、北京大学、南开大学等优势单位共同研制。该版本通用大模型参数量为80亿，具有高效训练与推理和高效适配与部署的技术特点，具备文本问答、文本分类、机器翻译、文本摘要等自然语言处理能力。

九格百亿级通用基础大模型的参数量为8B（80亿）。具体的模型训练、推理等内容见：quick start

迈向通用智能的大模型技术系列课程

系列课程全方位介绍人工智能和大模型技术的基础知识和前沿课题，理论学习和实践应用相结合。课程既有“人工智能与大模型通论”和“神经网络与预训练模型”等基础知识，也有“九格大模型生态体系”和“领域大模型实战”等实战主题，基本内容包括大模型训练、微调、知识增强、伦理安全、多模态、具身智能、自主智能体等话题，高级选题包括多语言处理、面向科学研究的大模型应用、高效计算技术、评测与数据科学等话题。课程旨在通过一系列精心设计的单元为学习者提供大型通用人工智能的学习之旅。