최종편집:2024-05-06 06:20 (월)
KT, 초거대 AI '믿음' 출시 ... 환각현상 70% 감소
상태바
KT, 초거대 AI '믿음' 출시 ... 환각현상 70% 감소
  • 김석중 기자
  • 승인 2023.10.31 11:56
  • 댓글 0
이 기사를 공유합니다

31일 온라인 통해 '라지 AI 믿음 기자설명회' 개최
AI '믿음' 모델 개방하고 5대 영역서 AI B2B 사업 본격화
KT AI·빅데이터 사업본부 최준기 본부장이 31일 기자설명회에서 KT 초거대AI 믿음에 대해 설명하고 있다. 왼쪽 두번째부터 KT AI·빅데이터 사업본부 최준기 본부장, KT AI2XL 연구소 배순민 소장, 매스프레소 이용재 대표, 업스테이지 김성훈 대표, KT SW개발본부 조성은 본부장 ⓒKT
KT AI·빅데이터 사업본부 최준기 본부장이 31일 기자설명회에서 KT 초거대AI 믿음에 대해 설명하고 있다. 왼쪽 두번째부터 KT AI·빅데이터 사업본부 최준기 본부장, KT AI2XL 연구소 배순민 소장, 매스프레소 이용재 대표, 업스테이지 김성훈 대표, KT SW개발본부 조성은 본부장 ⓒKT

[매일산업뉴스]KT가 31일 조(兆) 단위 데이터를 사전 학습한 초거대 인공지능(AI) '믿음'(Mi:dm)을 선보이며 스타트업과 함께 1조3000억달러(한화 약 1752조원)에 달하는 글로벌 생성형AI 시장 공략에 나선다. 

국내 기업이 자체 파운데이션 모델을 개방한 사례는 이번이 처음이다.

KT는 이날 서울 서초구 KT 연구개발센터에서 기자설명회를 열어 국내 최초로 1조 토큰(데이터에서 의미를 가지는 최소한의 덩어리) 이상 데이터를 학습한 거대언어모델(LLM) '믿음'을 정식 공개했다.

'믿음' 출시 모델은 총 4종이다. 경량 모델부터 초대형 모델에 이르기까지 기업의 규모와 사용 목적에 맞게 완전 맞춤형(Full Fine-Tuning)으로 사용할 수 있도록 했다. 또 AI 풀스택을 통해 KT클라우드와 함께 믿음의 기업전용 AI 클라우드팜(Large AI Cloud Farm)을 패키지로 제공한다. 이를 통해 별도 개발 및 학습 인프라가 없더라도 누구나 합리적인 비용으로 초거대 AI를 활용한 서비스를 개발할 수 있을 전망이다.

KT는 초거대 AI를 활용하고 학습하고자 하는 모든 기업에게 믿음의 파운데이션 모델(Foundation Model)을 개방한다. 이를위해 ‘KT 믿음 스튜디오(KT Mi:dm Studio)’라는 전용 포털을 오픈해 고객에게 편리한 개발 환경을 제공할 예정이다. 여기선 KT 믿음의 파운데이션 모델을 직접 선택, 학습, 서빙 할 수 있는 맞춤형 환경이 구성된다.

파운데이션 모델이란, 방대한 데이터셋으로 학습한 초거대 AI 핵심 기반 모델을 말한다. 오픈 AI사의 자연어 처리 모델 GPT가 대표적이다. 보다 복잡한 기술의 구현이나 시스템의 구축을 위해 기업에서 원하는 형태로 미세조정(Fine-Tuning: 파인 튜닝)을 거쳐 다양한 AI 응용서비스를 만들 수 있다.

초거대 AI를 사용하고 싶지만 수십억에서 수천억에 달하는 파라미터 모델을 직접 만들 여력이 없는 대다수 기업들의 경우, 기존에 공개된 파운데이션 모델을 튜닝해 활용하는 방법이 가능하다. 하지만 데이터 자주권(Sovereign AI) 차원에서 빅테크에 데이터가 종속될 수 있다는 보안 우려가 있고, 무엇보다 기존 상업용 파운데이션 모델은 풀 파인 튜닝(FFT)을 제공하지 못한다는 한계가 있었다.

KT는 이러한 기업고객들의 갈증을 해결하고자 이번에 국내 업계 최초로 조(兆)단위 데이터의 사전 학습을 완료한 자체 파운데이션 모델 믿음을 개방했다. 이를통해 LLM(거대언어모델)의 B2B 사업화를 가속하고, 궁극적으로 기업들이 원하는 AI 사업 모델과 응용 서비스의 폭발적 확산을 이끌어낸다는 계획이다.

아울러 기존 대비 약 27% 가까운 GPU 학습 비용 절감이 가능한 KT Cloud의 HAC(Hyperscale AI Computing) 서비스, 추론 비용을 기존 대비 50% 절감한 리벨리온의 NPU 인프라 등 ‘AI 풀스택’을 효율적인 AI 개발 환경을 위한 맞춤형 통합 패키지로 함께 제공할 예정이다.

KT는 이날 믿음 출시와 함께 수요 기업들이 사용 신청을 할 수 있도록 초거대 AI 믿음 공식 웹사이트도 오픈했다. 신청 기업들은 전문 컨설팅을 통해 사용 협의를 진행하게 된다.

KT는 믿음의 가장 큰 장점이 강력한 ‘신뢰 패키지’라고 밝혔다. 그간 생성형 AI가 산업현장에서 사용되는데 가장 큰 장애물로 여겨진 문제점은 바로 'AI의 환각 답변(할루시네이션)'이었다. KT는 이를 해결하기 위해 검색과 추론, 답변 모든 단계에서 신뢰성을 높일 세 가지 기술을 개발해 믿음에 적용했다. 자체 테스트 결과 시중의 생성형 AI 서비스 대비 환각 현상을 최대 70% 가까이 줄였다고 설명했다.

KT는 AI 반도체 팹리스(반도체 설계기업) '리벨리온' 등과 '믿음'의 기업 전용 AI 클라우드팜도 패키지 형태로 제공한다.

KT클라우드의 그래픽처리장치(GPU) 인프라 종량제 서비스 '하이퍼스케일 AI 컴퓨팅'(HAC)을 이용하면 학습 비용을 기존보다 약 27%, 리벨리온의 신경망처리장치(NPU)를 쓰면 서비스·추론 비용을 약 50% 절감할 수 있다고 회사가 전했다.

수요 기업들이 사용 신청할 수 있는 공식 웹사이트도 이날 문을 열었다.

KT는 '믿음' 출시를 계기로 기업전용 거대언어모델을 사업화하고, 새로운 AI 혁신 사업을 발굴하는 등 기업간거래(B2B) 시장에 집중한다.

특히 글로벌, 제조, 금융, 공공, 교육을 초거대 AI 사업을 확장할 5대 영역으로 규정하고, 업스테이지, 콴다, 에누마, 비아이매트릭스 등과의 협업을 이어간다.

회사는 '믿음' 출시 이전부터 금융권, 지자체, 기업설루션 등 기업 및 기관 100여 곳과 활용 논의를 했다. 기업은행은 '믿음'을 적용한 전문 상품지식 제공 서비스를 선보이기도 했다.

AI컨택센터(AICC)와 인터넷TV(IPTV) '지니TV', 'AI 통화비서' 등 기존 AI 사업을 '믿음'을 바탕으로 고도화하고, 무선서비스와 차량 인포테인먼트 시스템(IVI), 로봇 등에서도 초거대 AI를 활용한 사업을 추진하고 있다.

KT는 내부 업무 프로세스와 고객 서비스에서도 개선을 도모한다.

회사는 '믿음'을 시범 적용한 콜센터에서는 봇 인식률이 5% 개선됐으며, 후처리 속도와 지식 구축 속도도 각각 20%, 30% 향상됐다고 설명했다.

이를 토대로 금융과 통신영역, 지니TV 마케팅, 시니어와 육아상담 등의 영역에서도 믿음을 적용한 업무 프로세스 개선을 진행할 방침이다.

송재호 KT AI·DX융합사업부문장(부사장)은 "초거대 인공지능 시장은 빅테크(거대 정보기술기업)부터 스타트업까지 참여하며 급격한 디지털 혁신이 진행되고 있다"며 "차별화된 초거대 인공지능 모델을 개방하고 대한민국이 디지털 전환을 주도할 수 있도록 모든 역량을 집중하겠다"고 말했다.

한편 블룸버그 인텔리전스의 보고서에 따르면 생성형 AI 시장은 2032년에 약 1조3000억달러 규모로 성장할 것이라 전망한 바 있으며, 한국IDC에선 국내 AI 시장이 2027년 4조4000억원 규모로 성장할 것이라 내다봤다.


관련기사

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
0 / 400
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
주요기사