Bamba는 IBM과 코넬 대학교 연구팀이 공동 개발한 최첨단 하이브리드 언어 모델입니다. 기존 트랜스포머의 2차 함수 수준 메모리 폭증 문제를 해결하기 위해 Mamba-2 상태 공간 계층과 주의 집중 레이어를 번갈아 배치했습니다. 긴 문서 분석 및 긴 대화 세션에서도 키밸류 캐시 메모리 소모를 획기적으로 낮추면서 추론 속도를 2배 이상 끌어올렸습니다.