Gestalt 非官方模型资料站标识 Gestalt非官方模型资料站 · GESTALTX.ORG

非官方 · 与论文作者、GeWu-Lab 及各所属机构无关联 · 数据以官方页面为准,最后核对 2026-11-20

仓库结构

官方仓库里都有什么

仓库 GeWu-Lab/Gestalt 共 40 余个文件。下面按目录列出主要文件与用途,方便在动手前先知道该看哪一个;本站不镜像代码,也不托管权重。

文件清单

路径用途
README.md项目说明、News、架构、训练、Quick Start、数据格式、引用、许可证、作者分工
archive/Gestalt.pdf论文 PDF 归档
assets/官方标识、金字塔、架构图、评测图、示例图、微信群二维码(本站不搬运)
configs/training/gestalt_stage_3.yamlStage-III SFT 全部超参
configs/deepspeed/zero_stage2.jsonZeRO-2 配置
gestalt/data/datasets.py数据集定义
gestalt/data/stage3.py第三阶段数据加载
gestalt/model/builder.py模型构建
gestalt/model/config.py配置读取
gestalt/model/configuration_llada.pyLLaDA 配置
gestalt/model/flex_attention.py灵活注意力(Zone I 受限交换相关)
gestalt/model/modeling_gestalt.pyGestalt 主体模型
gestalt/model/modeling_llada.pyLLaDA 基座模型
gestalt/model/mrope.py交错 MRoPE 位置编码
gestalt/model/templates.py提示词模板
gestalt/training/trainer.py训练器
scripts/training/gestalt_sft.shStage-III 启动脚本(torchrun)
scripts/training/train_stage3.pyStage-III 训练入口
scripts/inference/run_mmu.py多模态理解推理
scripts/inference/run_t2i.py文生图推理(输出 VQ-VAE token)
requirements.txt13 项依赖,含版本

三类任务与脚本的对应

task_type任务推理 / 训练入口
i2t图生文、多模态理解(MMU)scripts/inference/run_mmu.py
t2i文生图scripts/inference/run_t2i.py(输出 VQ-VAE 离散 token)
i2i图生图Stage-III 统一 Parquet schema,README 未单列推理脚本

训练统一走 scripts/training/gestalt_sft.sh → scripts/training/train_stage3.py,配置 configs/training/gestalt_stage_3.yaml,DeepSpeed configs/deepspeed/zero_stage2.json。

模型实现的关键模块

  • modeling_gestalt.py / modeling_llada.py:Gestalt 主体与 LLaDA 基座。
  • flex_attention.py:灵活注意力,对应 Zone I 的受限跨模态交换。
  • mrope.py:交错 MRoPE,保留图像 token 的二维位置。
  • templates.py:提示词模板,与文生图默认空 system prompt 的约定相关。
  • configuration_llada.py / config.py / builder.py:配置与模型构建。
  • data/stage3.py / data/datasets.py:Stage-III 数据加载。

仓库元数据快照

创建 / 最后推送2026-09-29 / 2026-10-10
默认分支main
star / fork / 未关闭 issue28 / 3 / 2
license 字段空(见 上手与资源 的许可证提示)
归档文件archive/Gestalt.pdf(论文 PDF)

元数据是 2026-11-20 的 GitHub API 快照,会变;本站正文不引用 star 等动态数字作结论。

关于 assets 目录:官方仓库里有标识、架构图、评测图、示例生成图与微信群二维码。本站不搬运这些图片,站内图形均为自绘并标注依据,也不使用任何官方标识。

来源:官方仓库 的 README、文件树(GitHub API)与配置文件;最后核对 2026-11-20。