내부 정보자산 활용, 정보 왜곡 차단
‘정보유출 차단 필터’로 보안고민 해결
[헤럴드경제=김현일 기자] LG CNS가 12일 기업 고객을 위한 생성형 인공지능(AI) 플랫폼 ‘DAP GenAI’를 출시했다.
‘DAP GenAI’는 기업이 가진 문서, 데이터베이스 등 내부 정보자산을 활용하고, 다양한 보안 필터 등을 적용할 수 있는 것이 특징이다. 거짓이나 왜곡된 내용을 생성하는 정보 왜곡현상을 방지해 보안 고민을 해결했다. 고객은 자체 서버나 클라우드 등 보유한 인프라에 ‘DAP GenAI’를 설치만 하면 자유롭게 사용할 수 있다.
LG CNS는 ▷AI 서비스 ▷AI 프롬프트 ▷거대언어모델 운영(LLMOps) 등 ‘DAP GenAI’의 3대 모듈을 통해 언어 AI 도입을 고민하는 기업에게 해답을 제시했다.
먼저 ‘AI 서비스’는 생성형 AI 서비스를 빠르게 기획·개발·배포·운영할 수 있도록 지원한다. 고객은 오픈AI의 ‘챗GPT’, 앤트로픽의 ‘클로드(Claude)’, 구글의 ‘팜2(PaLM2), LG AI연구원의 ‘엑사원(EXAONE)’ 등 거대언어모델(LLM)을 활용해 문서 요약부터 상품 추천, 자료 기반의 보고서 작성 등 복잡한 영역의 서비스를 만들 수 있다.
개발한 서비스는 실제 운영환경에 맞춰 테스트도 가능하다. 이를 통해 발생할 수 있는 다양한 오류를 사전에 해결해 서비스 품질을 한층 높일 수 있다. 또한, 내부 정보유출 방지를 위한 필터 기능도 탑재됐다.
‘AI 프롬프트’에는 AI가 정교한 답변을 할 수 있도록 명령어를 만드는 ‘프롬프트 엔지니어링’ 노하우가 탑재됐다. 고객은 마케팅 문구 생성 등과 같이 LG CNS가 미리 구현한 프롬프트를 즉시 사용하거나 이를 기반으로 최적의 결과를 얻을 수 있는 새로운 프롬프트를 만들어 업무에 빠르게 적용할 수 있다.
‘LLMOps’는 민감한 데이터를 다루는 금융·공공 분야처럼 ‘프라이빗 LLM’을 보유하고자 하는 고객을 위한 모듈이다. 고객은 원하는 LLM을 선택해 보유한 데이터를 학습시킬 수 있다. 은행의 경우 대출·연금·펀드상품 등 다양한 데이터를 LLM에 학습시켜 해당 은행 정보만이 담긴 ‘프라이빗 LLM’을 만들 수 있다. ‘프라이빗 LLM’을 구축하면 내부 정보를 외부로 전송하지 않고도 다양한 AI 서비스를 만들 수 있다.
또한, LLM을 학습시킬 때 파라미터 값을 별도 설정해 LLM의 성능도 유연하게 조정할 수 있으며 만들어진 모델들 간의 성능도 비교해 최적의 결과를 도출하는 LLM을 구현할 수 있다.
LG CNS D&A 사업부장 박상균 전무는 “LG CNS의 생성형 AI 기술 역량을 집약해 고객이 손쉽게 사용할 수 있는 플랫폼을 구현했다”며 “앞으로도 고객이 생성형 AI와 같은 원천기술을 통해 비즈니스를 혁신할 수 있도록 앞장서겠다”고 강조했다.