7500억 개 파라미터의 무게
LG AI연구원이 국내 최대 규모의 거대언어모델을 선보였습니다. LG AI연구원이 공개한 K-엑사원 2.0은 파라미터 규모가 7500억 개에 달하는 국내 최대 수준의 거대언어모델입니다. 허깅페이스를 통해 오픈웨이트로 공개되었고, 상업적 이용을 포함한 라이선스가 전면 개방되어 누구나 활용할 수 있습니다. 이전 모델이 2360억 개였던 것과 비교하면 규모가 3배 이상 커진 셈인데요. 당연히 더 많은 파라미터는 더 복잡한 문맥 이해와 정교한 추론을 가능하게 합니다.
업사이클링으로 효율을 잡고 글로벌로 눈을 돌리다
이번 모델의 가장 눈에 띄는 점은 처음부터 끝까지 새로 학습시키지 않았다는 겁니다. 전작의 가중치를 재사용하는 업사이클링 방식은 자원 소모를 크게 줄이면서도 모델 규모를 3배 이상 키우는 효과를 냈습니다. 활성 파라미터 역시 230억 개에서 370억 개로 늘었고, 레이어와 전문가 수도 대폭 확장되었습니다. 성능 면에서도 24개 벤치마크 평균 70.1점을 기록해 전작보다 10% 이상 향상되었는데요. 특히 코딩과 에이전틱 코딩 영역에서는 30%나 상승했습니다. 사실 글로벌 경쟁에서 밀리지 않기 위해 지원 언어도 한국어와 영어 등 기존 6개에서 프랑스어와 이탈리아어 등 4개를 추가해 총 10개로 늘렸습니다. 중국의 GLM-5.1이나 알리바바의 큐원 3.5와 비교해 장문 문맥 이해와 지시 이행 영역에서 앞서는 결과를 내기도 했습니다.
정부 서비스에서 대국민 평가까지
엑사원 계열은 이미 공공 현장에서 활약하고 있습니다. 이미 행정안전부와 식품의약품안전처 등 정부 서비스에 엑사원 계열 모델이 탑재되어 실무 성과를 내고 있습니다. 행안부의 AI 안전신문고와 식약처의 신약 심사 AI가 대표적인데요. 이번에 공개된 K-엑사원 2.0 역시 대국민 평가 사이트 개발을 마무리하여 전 국민이 직접 써보고 평가할 수 있는 단계를 준비하고 있습니다. 물론 모델이 커지면 안전성 문제도 중요해집니다. 유네스코 아시아태평양 국제이해교육원과 협력해 위험 영역 판단 기준을 70개 추가했고, 자체 분류체계인 K-AUT의 위험 영역은 296개로 확대되었습니다. LG AI연구원은 앞으로 데이터 품질 고도화와 강화 학습을 통해 잠재력을 더 끌어올릴 계획이라고 밝혔습니다.