DeepSeek-V2.5

less than 1 minute read

https://huggingface.co/deepseek-ai/DeepSeek-V2.5

deepseek-ai/DeepSeek-V2.5 · Hugging Face

v2는 논문하고 구조가 있는데 2.5는 없음…

https://github.com/deepseek-ai/DeepSeek-V2

GitHub - deepseek-ai/DeepSeek-V2: DeepSeek-V2: A Strong, Economical, and Efficient Mixture-of-Experts Language Model

MLA가 메인인 논문

Twitter Facebook LinkedIn

Comments

Mamba-3: 지수-사다리꼴 이산화, 복소 SSM, MIMO를 통한 표현력 높은 상태 공간 모델

16 minute read

논문 링크: arXiv 2603.15569 저자: Tri Dao, Albert Gu 소속: Together AI / Carnegie Mellon University

MM-Zero: 데이터 없이 스스로 진화하는 멀티모델 비전-언어 모델

19 minute read

논문 링크: arXiv 2603.09206 저자: Zongxia Li, Hongyang Du, Chengsong Huang, Xiyang Wu, Lantao Yu, Yicheng He, Jing Xie, Xiaomin Wu, Zhichao Liu, Jiarui Zhang...

Less is Enough: LLM의 특성 공간에서 다양한 데이터 합성하기

9 minute read

https://arxiv.org/abs/2602.10388

OPUS: LLM 사전 학습에서 매 반복마다 효율적이고 원칙에 입각한 데이터 선택을 향하여

20 minute read

https://arxiv.org/abs/2602.05400

JunHan