#암호화폐 속보

바이두, ERNIE 5.5 Flash Base 오픈소스 공개

24x7 뉴스 속보

바이두가 ERNIE 5.5 Flash Base를 공식 오픈소스 공개했다. MoE 구조를 채택했으며 총 파라미터 2800억 개, 토큰당 140억 개가 활성화된다. 33.5조 토큰으로 사전학습했고 사전학습 최대 컨텍스트 길이는 128K, 파인튜닝·추론에서는 최대 100만 토큰 컨텍스트를 지원한다.

관련 속보