全站搜索结果
仓库结构
官方仓库里都有什么
仓库 GeWu-Lab/Gestalt 共 40 余个文件。下面按目录列出主要文件与用途,方便在动手前先知道该看哪一个;本站不镜像代码,也不托管权重。
文件清单
| 路径 | 用途 |
|---|---|
| README.md | 项目说明、News、架构、训练、Quick Start、数据格式、引用、许可证、作者分工 |
| archive/Gestalt.pdf | 论文 PDF 归档 |
| assets/ | 官方标识、金字塔、架构图、评测图、示例图、微信群二维码(本站不搬运) |
| configs/training/gestalt_stage_3.yaml | Stage-III SFT 全部超参 |
| configs/deepspeed/zero_stage2.json | ZeRO-2 配置 |
| gestalt/data/datasets.py | 数据集定义 |
| gestalt/data/stage3.py | 第三阶段数据加载 |
| gestalt/model/builder.py | 模型构建 |
| gestalt/model/config.py | 配置读取 |
| gestalt/model/configuration_llada.py | LLaDA 配置 |
| gestalt/model/flex_attention.py | 灵活注意力(Zone I 受限交换相关) |
| gestalt/model/modeling_gestalt.py | Gestalt 主体模型 |
| gestalt/model/modeling_llada.py | LLaDA 基座模型 |
| gestalt/model/mrope.py | 交错 MRoPE 位置编码 |
| gestalt/model/templates.py | 提示词模板 |
| gestalt/training/trainer.py | 训练器 |
| scripts/training/gestalt_sft.sh | Stage-III 启动脚本(torchrun) |
| scripts/training/train_stage3.py | Stage-III 训练入口 |
| scripts/inference/run_mmu.py | 多模态理解推理 |
| scripts/inference/run_t2i.py | 文生图推理(输出 VQ-VAE token) |
| requirements.txt | 13 项依赖,含版本 |
三类任务与脚本的对应
| task_type | 任务 | 推理 / 训练入口 |
|---|---|---|
| i2t | 图生文、多模态理解(MMU) | scripts/inference/run_mmu.py |
| t2i | 文生图 | scripts/inference/run_t2i.py(输出 VQ-VAE 离散 token) |
| i2i | 图生图 | Stage-III 统一 Parquet schema,README 未单列推理脚本 |
训练统一走 scripts/training/gestalt_sft.sh → scripts/training/train_stage3.py,配置 configs/training/gestalt_stage_3.yaml,DeepSpeed configs/deepspeed/zero_stage2.json。
模型实现的关键模块
modeling_gestalt.py/modeling_llada.py:Gestalt 主体与 LLaDA 基座。flex_attention.py:灵活注意力,对应 Zone I 的受限跨模态交换。mrope.py:交错 MRoPE,保留图像 token 的二维位置。templates.py:提示词模板,与文生图默认空 system prompt 的约定相关。configuration_llada.py/config.py/builder.py:配置与模型构建。data/stage3.py/data/datasets.py:Stage-III 数据加载。
仓库元数据快照
| 创建 / 最后推送 | 2026-09-29 / 2026-10-10 |
|---|---|
| 默认分支 | main |
| star / fork / 未关闭 issue | 28 / 3 / 2 |
| license 字段 | 空(见 上手与资源 的许可证提示) |
| 归档文件 | archive/Gestalt.pdf(论文 PDF) |
元数据是 2026-11-20 的 GitHub API 快照,会变;本站正文不引用 star 等动态数字作结论。
关于 assets 目录:官方仓库里有标识、架构图、评测图、示例生成图与微信群二维码。本站不搬运这些图片,站内图形均为自绘并标注依据,也不使用任何官方标识。
来源:官方仓库 的 README、文件树(GitHub API)与配置文件;最后核对 2026-11-20。