Granite 4.0 Small, Tiny, Micro 출시

• IBM은 2025년 10월 2일 Granite 4.0을 Apache 2.0으로 출시했다. Base와 Instruct 변형이 있으며 크기는 세 가지다. Granite-4.0-H-Small은 총 32B, 활성 9B 파라미터의 하이브리드 전문가 혼합 모델이고, H-Tiny는 총 7B, 활성 1B이며, H-Micro는 3B 밀집 하이브리드다^[1]
• 기존 트랜스포머 아키텍처를 쓰는 3B 밀집 모델 Granite-4.0-Micro는 하이브리드 설계를 아직 지원하지 않는 플랫폼을 위해 포함됐다^[1]
• 하이브리드 모델은 Mamba-2 계층과 트랜스포머 계층을 9:1 비율로 교차 배치하며, IBM은 이를 통해 긴 입력과 다수의 동시 세션에서 RAM 사용량이 70% 이상 줄어든다고 밝혔다. 'H' 모델은 위치 인코딩을 사용하지 않는다^[1][2]
• IBM은 에이전트 작업을 위한 비용 효율 모델로 내세운다. IBM에 따르면 Stanford HELM의 IFEval에서 Granite-4.0-H-Small은 4020억 파라미터의 Llama 4 Maverick을 제외한 모든 오픈 웨이트 모델을 앞서며, Berkeley Function Calling Leaderboard v3에서는 훨씬 큰 모델과 어깨를 나란히 한다. 벤더가 발표한 결과다^[1]
• IBM에 따르면 Granite는 ISO/IEC 42001 인증을 받은 최초의 오픈 모델 계열이 되었고, Hugging Face의 모든 4.0 체크포인트에 암호화 서명을 하며, 최대 10만 달러를 지급하는 HackerOne 버그 바운티를 운영한다^[1][2]

주요 특징

• AMD Instinct MI-300X GPU와 호환되며, Qualcomm Technologies 및 Nexa AI와의 협력을 통해 Qualcomm Hexagon NPU와도 호환된다^[1]
• Tiny와 Small은 항상 활성 상태인 공유 전문가를 갖춘 IBM 최초의 전문가 혼합 모델이다^[1]
• 얼리 액세스 테스터에는 EY와 록히드 마틴이 포함됐으며, IBM은 2025년 말까지 더 큰 크기와 더 작은 크기, 추론 변형을 내놓을 계획이었다^[1]
• watsonx.ai, Hugging Face, Docker Hub, Kaggle, LM Studio, NVIDIA NIM, Ollama, Replicate 및 Dell 플랫폼에서 이용할 수 있으며, SageMaker JumpStart와 Azure AI Foundry는 출시 예정으로 안내됐다^[1]