SK텔레콤은 오픈소스 커뮤니티 허깅페이스에 자사가 독자 구축한 대규모언어모델(LLM) 'A.X(에이닷 엑스) 3.1'을 공개했다고 24일 밝혔다.

이번에 공개한 A.X 3.1은 340억 개의 매개변수를 기반으로 프롬 스크래치 방식으로 개발됐다. 이는 모델의 초기 단계부터 구조 설계, 데이터 학습까지 모든 과정을 SK텔레콤이 직접 수행한 결과물이다.

A.X 3.1은 기존 버전인 'A.X 3.0'의 성능을 대폭 개선한 모델로, 한국어 대화에 초점을 뒀던 3.0과 달리 수학 및 코드 추론 능력을 강화하며 범용 추론모델로의 확장 가능성을 고려한 것이 특징이다.

이로써 SK텔레콤은 A.X 3.1 모델 2종(표준형, 경량형)과 대규모 학습 기반의 'A.X 4.0' 모델 2종을 포함해 총 4종의 LLM을 오픈소스로 공개했다. 해당 모델들은 학술 연구뿐 아니라 상업적 용도로도 자유롭게 활용할 수 있다.

A.X 3.1(34B)은 상위 모델인 A.X 4.0(72B)에 비해 절반 이하 규모의 매개변수로 구성됐지만, 한국어 서비스에 적용할 경우 약 90% 수준의 성능을 낸다. 벤치마크 기준으로는 KMMLU에서 A.X 3.1이 69.20점을, A.X 4.0이 78.3점을 기록해 88%의 상대 성능을 보였고, CLIcK 평가에서는 각각 77.1점, 85.7점으로 90% 수준의 성능을 나타냈다.

SK텔레콤은 이번 기술 성과를 바탕으로 과학기술정보통신부가 주관하는 '독자 AI 파운데이션 모델 사업'에도 컨소시엄 형태로 참여했다. 반도체, 모델, 데이터, 서비스를 아우르는 독자 기술 기반 풀스택 AI 생태계 조성을 목표로 한다.

SKT 컨소시엄에는 크래프톤, 포티투닷, 리벨리온, 라이너, 셀렉트스타 등 각 분야의 전문 기업들이 참여하고 있으며, 서울대학교와 KAIST의 연구진도 함께한다. SK하이닉스, SK이노베이션, SKB 등 그룹사와 몰로코, 씨메스, 스캐터랩 등도 모델 활용에 대한 의향서를 제출한 상태다.

컨소시엄은 텍스트뿐 아니라 이미지, 음성, 비디오 등 다양한 형태의 데이터를 통합적으로 처리하는 '옴니모달' AI 모델을 개발할 계획이다. 더불어, 트랜스포머를 넘어서는 신규 구조 연구도 병행해 글로벌 경쟁력을 갖춘 초거대 AI 모델 구축에 나선다는 방침이다.

김태윤 SK텔레콤 파운데이션 모델 담당은 "각 분야 선도기업들과의 컨소시엄 구성으로 향후 소버린 AI 분야에서 새로운 성과를 만들어낼 것"이라며 "국내 AI 생태계를 종합적으로 고려해 혁신적인 인공지능 모델을 선보일 계획"이라고 말했다.