首页
看点啥
插画图片
首页 看点啥 全开源基础模型Aether-7B-5Attn由AI初创公司Bidraft发布

全开源基础模型Aether-7B-5Attn由AI初创公司Bidraft发布

2026-07-20 0

韩国AI初创公司Bidraft近日在Hugging Face平台发布了其自主研发的开源基础模型Aether-7B-5Attn。


AI

该模型采用Apache-2.0许可证,不仅公开了模型权重,还完整披露了训练数据配方、全部训练代码、超参数、训练日志、中间检查点和评估代码,致力于打造真正意义上的完全公开型模型。

Bidraft是一家总部位于首尔的AI深科技企业,业务涵盖Pre-AGI级别AI技术以及基于量子计算技术的物理、化学、生命科学和医药研发等领域。

公司提出了由Darwin模型家族、AETHER架构、PROMETHEUS世界模型和HEPHAESTUS嵌入式AI组成的四层集成AGI系统,并在官网明确了"Darwin创造结果,AETHER设计未来"的发展方向。

2026年,Darwin系列模型曾在K-AI排行榜综合排名第一,GPQA Diamond得分90.9%,Polaris全球新药开发排行榜14项冠军,元认知排行榜第一。

Darwin模型家族在Hugging Face的累计下载量已突破100万次。除模型开发外,公司还同步研发了推理加速引擎VKAE和轻量运行引擎VKUE等AI基础设施技术。

Aether-7B-5Attn采用总参数量65.9亿的混合专家架构,每token仅激活约29.8亿参数以提升推理效率。模型集成了Full Attention、Differential Attention、Sliding Window、NSA系列稀疏注意力和Hybrid方式共五种异构注意力机制。49层网络按7乘7拉丁方阵结构排列,避免特定注意力方式集中在特定深度。训练使用16块英伟达B200 GPU,数据规模约1442亿token。数据构成中数学占37.8%,韩语21.6%,英语21.6%,并非以英语为中心的模型,而是同时考虑韩语和英语的自主基础模型。基础模型、指令模型和实时演示均已通过Hugging Face公开。

喜欢(0)

上一篇

电视剧《尾调》剧情简介

电视剧《尾调》剧情简介

下一篇

《奥德赛》的导演克里斯托弗·诺兰质疑AI:透明特洛伊木马

《奥德赛》的导演克里斯托弗·诺兰质疑AI:透明特洛伊木马
猜你喜欢