[VMware Tanzu]
우리 회사에 딱 맞는 프라이빗 생성 AI 언어 모델 구축

기업은 ChatGPT와 같은 생성 AI 언어모델을 사용하여 업무 생산성을 도모할 수 있습니다.

하지만 기업 내부 기밀 데이터의 외부 유출에 대한 우려와 자사 데이터로 훈련되지 못한 모델의

미흡한 성능으로 인해 API 기반의 외부 AI 언어모델에 대한 사용을 주저하고 있습니다.

본 웨비나에서는 이러한 문제를 해결하는 방법으로서, 기업 내부에 온프레미스 프라이빗 클라우드 형태로

오픈소스 소규모 언어모델 (예: LLaMa)을 사용하여, 최신의 내부 데이터로 특정 목적에 맞는

산업 특화 언어 모델로 파인튜닝하는 접근법을 소개합니다.

그리고 Greenplum DB의 pgvector 구문검색 기능을 활용해 최신의 내부 대용량 데이터를 빠르게 검색하여

사실에 기반한 질의응답을 할 수 있는 대화형 AI 서비스를 구축하는 방법을 소개하고 데모를 보여드립니다.

마지막으로, 기업 내부에 교차기능팀으로 언어모델 전담팀을 구성하여 이슈나 업데이트 요건 발생 시

신속히 대응하고, 사용자의 평가에 기반하여 지속적으로 모델을 파인튜닝하고 프롬프트 엔지니어링하는

프로세스를 소개합니다.