생성형 AI 시대와 기업의 준비 (1편)

해당 아티클은 2024년 4월, 삼성SDS가 업종별 고객을 대상으로 진행한 「삼성SDS Gen AI Day」 세미나 중, ‘생성형 AI 시대와 기업의 준비’ 세션 내용을 기반으로 작성하였으며, 1, 2편으로 나누어 게재합니다.

현재는 생성형 AI(Generative AI)를 통해 간단한 문장만으로 이미지나 영상을 만드는 것이 가능한 시대입니다. 혹시, 휴머노이드 로봇 개발 스타트업 '피큐어 AI(Figure AI)'와 ChatGPT 개발사인 OpenAI가 협업해 제작한 로봇 '피규어 01(Figure 01)'의 최근 공개된 시연 영상을 보셨나요? 사람이 "먹을 것을 달라"고 부탁하자, 로봇은 테이블 중앙에 놓인 접시 위의 사과를 건네줍니다. 이 영상이 놀라운 것은 사람이 사과를 지목하지 않았지만, 로봇이 테이블 위의 물체 중에서 유일하게 먹을 수 있는 것이 사과라는 것을 이해했다는 점입니다. 이후, 로봇은 접시를 정리하고, 쓰레기도 치우는 등 사람의 행동을 흉내 내고 자신의 행동에 대한 경험적 추론까지 해냅니다. '피규어 01'은 2024년 1월에 이미 BMW와 계약을 체결해, 미국 사우스캐롤라이나주 스파르탄버그 공장 생산라인에 투입될 예정입니다.[1][2] 또한, 테슬라의 휴머노이드 로봇 '옵티머스' 경우에도 올해 안에 테슬라 전기차 조립 공장에 투입하는 것을 시작으로 내년 말부터 2만 달러 수준으로 시판이 가능할 것이라고 합니다.[3] 이러한 휴머노이드 로봇들의 모습은 ‘AI의 가까운 미래’라고 할 수 있습니다.

휴머노이드 AI 로봇 피규어 01 시연 영상 컷 (출처: 오픈AI)

AI 현재와 미래

현재까지의 인공지능(AI, Artificial Intelligence)는 'Narrow AI'로, 특정 영역의 업무를 잘 수행해 인간의 일을 도와주는 것이었습니다. 그러나, 앞으로 5년 내에는 ‘AGI(Artificial General Intelligence)’라는 - 인간 수준의 지적 능력을 갖추고 인간이 하는 일을 대신해 줄 수 있는 - 시대가 다가올 것이라고 합니다. 빌 게이츠는 "AI가 컴퓨터를 사용하는 방식을 완전히 바꿔놓을 것이다."라고 얘기하고 있는데, 인간이 컴퓨터를 사용해 일하는 만큼 우리의 일하는 방식 자체가 완전히 바뀔 것이라고 예상할 수 있습니다.

그렇다면, 과연 일하는 방식은 어떻게 변화할까요? 앞서 언급한 휴머노이드 로봇은 어떤 것이 먹을 수 있는가를 스스로 판단하고, 집어서 전달해 주는 실행까지 완료했습니다. 기업 업무에 적용해 보면, 사람이 "보고서를 작성해 줘"라는 짧은 한마디를 하면, AI는 목적을 이해하고 기업 내/외부에 어떠한 정보가 있는지, 어떤 정보를 참고해야 하는지를 스스로 판단해 보고서를 작성(실행)합니다. 더 나아가서는 휴머노이드 같은 로봇이 발표를 대신해 줄 수도 있습니다. 이 모든 것이 가까운 미래이며, 가장 크게 변하는 것은 컴퓨터를 다루는 방식으로 볼 수 있습니다. 즉, 커맨드를 직접 입력하거나 마우스 클릭 등의 GUI 방식이 아니라, 사람의 언어로 지시하는 'LUI(Language User Interface)'의 시대로 바뀌고 있다고 할 수 있습니다.

결국, 기업의 일하는 방식은 사람이 질의/지시만 하면, 기업 내부의 '생성형 AI 플랫폼'이 명령을 이해하고 기업의 내부 시스템/문서나 외부 데이터를 스스로 끌어와 학습하여 기업의 밸류체인 전 영역에서 실행까지를 자동으로 수행해 주게 될 것입니다. 구매 시스템에서 PO 트랜잭션을 바로 처리하거나, 로봇이 직접 물류를 실행할 수도 있고, 판매/서비스 영역에서는 매장의 키오스크나 휴머노이드 로봇을 통해 고객 응대까지 수행하는 세상이 곧 올 것입니다.

기업 업무 방식의 미래 (출처: 삼성SDS)

사람은 질의/지시만! 생성형 AI가 스스로 연결, 생성, 분석 수행

프로세스

• R&D
• 구매
• 제조
• 물류
• 마케팅
• 판매/서비스
• 경영지원

질의/지시 와 생성형 AI 플랫폼은 같고 프로세스로 연결되어 있음

시스템

• ERP
• SRM
• PLM
• MES
• SCM
• CRM

문서

• 계약서
• 표준프로세스
• 설비 메뉴얼
• 규제문서
• 작업지침서
• AS 가이드

외부

• SNS
• 뉴스
• 블로그
• 리포트
• 공사자료
• 타상품 정보

초 연결로 생성형AI 플랫폼으로 연결됨

삼성SDS 생성형 AI 솔루션

삼성SDS는 AI를 통한 일하는 방식의 혁신을 지원하는 엔터프라이즈 생성형 AI 서비스를 제공하며, '생성형 AI 플랫폼/솔루션', Filter, LLMOps 등의 '생성형 AI Tech. Stack', 그리고 'AI 클라우드 인프라 서비스' 전 영역에 대한 「컨설팅~구축~매니지드 서비스」를 통해, 초확장/초연결/초지능 기반으로 기업의 업무를 보다 빠르고 편리하게 변화시킵니다.

삼성SDS가 제공하는 '생성형 AI 플랫폼/솔루션' 중에서, 공통 업무에 대한 밸류체인을 자동화하는 'Brity Copilot'과 초연결과 초지능을 담당하는 'FabriX' 플랫폼에 대해 간단한 기능과 시연 내용에 대해 설명하겠습니다.

Enterprise AI로 변화된 Workplace (출처: 삼성SDS)

제조, 공공, 금융, 서비스...

• R&D
• 구매
• 생산
• 물류
• 마케팅
• 판매/서비스
• 경영지원

생성형 AI 플랫폼 & 솔루션

1

brity Copilot

Gen AI 기반 협업 솔루션

• 메일
• 메신저
• 미팅
• 드라이브

2

FabriX

기업용 Gen AI 플랫폼

• Chat Service
• Assistant Studio
• Promot 템플릿

3

Brity Automation

E2E업무 자동화 솔루션

• Bot
• Designer
• Agent

삼성SDS 생성형 AI Tech, Stack

• Filter
• Orchestrator
• Plug-in
• Cognitive Search
• Multi Agent
• LLMOps
• Security
• Private LLM
• Public LLM

4

AI 클라우드 인프라 서비스

• Samsung Cloud Platform
• AWS
• A
• Google cloud
• oracle cloud

5

• 컨설팅
• RAGaaS
• FtaaS
• MSP Copilot
• 운영

1. Brity Copilot

Brity Copilot은 삼성SDS의 협업 솔루션인 Brity Works를 기반으로 활용할 수 있는 '기업 맞춤형 생성형 AI 서비스'입니다.

Brity Works는 86개 사, 50만 명 이상의 임직원이 사용하고 있는 솔루션으로 메일, 결제, 메신저, 미팅, 드라이브로 구성되며, 30년간의 운영 노하우를 기반으로 서비스를 제공하고 있습니다. 각 솔루션은 개별적으로 사용할 수도 있지만, 유기적으로 연계되어 있어 업무 상황에 따라 최적화해 사용할 수 있습니다. 예를 들어, 메일만으로는 소통이 부족할 경우, 한 번의 클릭으로 메일 수신자들을 포함한 메신저를 개설하거나 온라인 미팅을 개설해 좀 더 구체적으로 커뮤니케이션할 수 있습니다. 또한, 고객 정보 등 민감한 정보는 ‘키워드 필터링’으로 외부 유출을 방지할 수 있습니다. 생성형 AI 기술을 적용한 Brity Copilot을 통해 각 업무에서 도움을 받을 수 있을 뿐만 아니라, 기업의 일하는 방식을 새롭게 바꿀 수 있습니다.

Brity Copilot: 생성형 AI 기반 협업 솔루션 (출처: 삼성SDS)

데모는 「미팅 → 메신저 → 메일 → 문서작성」의 시나리오로 진행하겠습니다.

① 미팅 (Brity Meeting)
Brity Meeting을 활용한 온라인 미팅 시, ‘실시간 자막’과 함께 오른쪽 Copilot 영역에서 '자막 스크립트'를 제공하며, 한국어 기준 94% 이상의 높은 정확도로 명확한 커뮤니케이션을 지원합니다. 회의에 늦게 참여하더라도 스크립트로 회의 내용을 확인할 수 있고, 외국인이 참여한 회의라도 선택된 언어로 번역된 스크립트가 함께 제공되어 별도의 통역사가 필요하지 않습니다. 회의에 참석하지 못한 동료가 미팅의 진행 상항을 궁금해한다면 Copilot에게 "지금까지의 회의 내용을 요약해 달라"라고 요청하고, 요약된 내용을 Brity Messenger로 내용을 전달해 줄 수 있습니다. 회의가 종료되면, Copilot이 자동으로 회의록을 생성하여 Brity Mail을 통해 참석자에게 공유해 줍니다.

Brity Meeting Copilot - 회의록 생성 (출처: 삼성SDS)

② 메신저 (Brity Messenger)
Brity Messenger에 새로운 대화방이 개설되었습니다. 스크롤을 올려 대화 내용을 확인할 수도 있지만 Copilot의 '대화 요약'을 선택해 내용을 확인한 후 업무를 진행할 수 있습니다. 메신저 중에 외부 지식 검색이 필요할 경우, 별도의 검색 창으로 이동할 필요 없이 Copilot에서 '정보 검색하기' 선택 후 "생성형 AI 활용 사례를 설명해 줘"라고 요청하면 답변을 생성해 줍니다. 이때, 답변이 적절한 경우 간단하게 Drag & Drop으로 메신저를 통해 공유해 줄 수 있습니다. 또한, 사내 문서 관리 시스템에 저장된 문서를 대상으로 검색이 필요할 경우에는 '파일 검색하기'를 선택하고, 예를 들어, '제조 분야'를 키워드로 입력 후 요청하면 최신순의 관련 문서 리스트를 확인할 수 있습니다. 문서 리스트 중 원하는 문서를 하나하나 열어서 확인할 수도 있지만, Copilot의 '파일 요약'을 선택해 요약된 내용을 확인하고 메신저를 통해 공유할 수 있습니다.

Brity Messenger Copilot 기능 (출처: 삼성SDS)

③ 메일 (Brity Mail)
Brity Messenger의 Copilot을 통해 답변받은 '생성형 AI 활용 사례'의 내용을 Brity Mail을 통해 보고하는 시나리오입니다. Brity Mail의 Copilot에 ‘생성형 AI 활용 사례’에 대한 답변 내용을 붙이고 '작성자', '보고 대상' 등을 명시해 업무 보고 메일을 써달라고 요청하면 메일 초안을 작성해 줍니다. 길이나 스타일을 변경할 수 있고, 생성된 초안을 검토한 후 본문에 추가해 바로 메일을 보낼 수 있습니다. Copilot이 자동 생성해서 보낸 Meeting의 회의록 메일은 참석자, 주요 내용, 액션 아이템이 간단히 정리되어 있습니다. '회의록으로 이동하기'를 통해 좀 더 자세한 회의 내용을 볼 수 있으며, 회의록의 '회의 요약'을 통해 전체 요약, 특정인 또는 참석자별 요약 내용을 확인할 수 있습니다. 그리고, 대화 내용 자체가 궁금하다면 '대화 기록'을 통해 Brity Meeting의 Copilot이 작성한 자막 스크립트 자체를 확인/검토할 수 있습니다.

④ 문서 작성 (Brity Drive)
작성된 문서 초안에 대해 최종 마무리하는 작업입니다. 워드 문서 초안에 필요한 내용은 다 포함되어 있으나 템플릿 형식으로 작성되지 않았기 때문에, Copilot에게 '문서 서식 변환'을 요청해 표준 보고서 형식에 맞게 수정할 수 있습니다. 물론, 포맷, 들여쓰기, 자간, 폰트 등의 표준 보고서 양식은 미리 설정할 수 있고, 자동으로 변환해 주는 만큼 사용자는 보고서 내용 자체에 집중할 수 있습니다. 또한, 보고서 내용 일부를 표로 변환할 경우, Copilot을 통해 '표 생성'을 자동화할 수 있고, 생성된 표와 표에 대한 해석의 내용을 문서에 바로 추가할 수 있습니다.

삼성SDS는 이러한 Brity Copilot 솔루션을 시범 사용 중에 있으며, 사용 경험을 바탕으로 1,000명 규모의 기업에 적용한다고 하면 월 4.9천 시간, 연간 43억 원의 절감 효과와 업무 효율화를 기대할 수 있습니다.

2. FabriX

FabriX는 기업 전용 생성형 AI 모델을 통해 사내·외 다양한 지식 정보를 활용하고 사내 업무 시스템을 연계할 수 있는 플랫폼으로, 사용자를 위한 'Chat Portal', 'Assistant Portal'과 다양한 Use Case를 개발하고 사용할 수 있도록 지원하는 'Platform(PaaS)'으로 구성되어 있습니다. ‘Platform(PaaS)’ 영역은 다양한 LLM 선택하고 문서 기반의 답변을 위한 벡터화나 레거시 DB 연결 등의 기능을 포함한 LLMOps, RAG*, Filter, Orchestrator, Security 등의 다양한 모듈로 구성되어 기업의 생성형 AI 서비스 구현의 핵심 역할을 수행합니다.

* RAG(Retrieval Augmented Generation): 검색 증강 생성

FabriX 서비스 구성도 (출처: 삼성SDS)

Chat Portal

• Chat
• Prompt Mgmt.
• Knowledge

Assistant Portal

• Assistant Studio

Plarform

• Cog. Search
• LLMOps
• Filter
• Plug-in
• Data Extractor
• Orchestrator

Catalog

데모는 「'Chat Portal'의 지식 카탈로그 및 Prompt Mgmt. 기능과 'Platform(PaaS)' 영역의 API를 활용해 Use Case화한 브라우저 및 뉴스 요약」으로 진행하겠습니다.

① RAG 자동화를 통한 최신 매뉴얼이나 논문에 대한 질의/응답
LLM(Large Language Model)은 사전 학습된 모델로, 최신 데이터를 매번 학습시킬 수가 없습니다. 그래서, 정확한 답변을 위해서는 회사의 다양한 지식 및 최신 문서를 활용한 RAG 자동화로 LLM이 최종 답변을 생성할 수 있도록 해야 합니다. 예를 들어, '갤럭시 S24'의 기능에 대한 정보가 필요할 경우, 사람이 해당 매뉴얼을 다 읽고 정보를 찾아내는 것은 상당한 시간이 소요됩니다. LLM이 학습하지 않은 갤럭시 S24의 최신 매뉴얼에서 원하는 정보를 질의하기 위해서는 FabriX-Chat Portal의 '지식 카탈로그'에서 갤럭시 S24 매뉴얼을 등록(업로드)하며, 그 과정에서 파일의 「전처리, 청킹, 임베딩, 그리고 벡터라이제이션」까지 자동으로 완료되어 검색이 가능하게 됩니다. 만약, 이 과정을 수작업으로 진행한다면 전문가와 많은 시간이 필요한 부분입니다. 이후, 사용자는 Chat Portal의 '지식 카탈로그'로 등록된 갤럭시 S24 매뉴얼을 선택하고, 대화 타입도 '지식 기반 대화'로 선택하게 되면 갤럭시 S24 기능에 대한 질의가 가능해집니다.

FabriX-Chat Portal의 지식 카탈로그(문서) 등록 화면 (출처: 삼성SDS)

이처럼 제품 매뉴얼뿐만 아니라, 다양한 업무 매뉴얼이나 업무 지식들도 동일한 방법을 적용하여 Q&A나 요약할 수 있습니다. 외부의 다양한 최신 논문이나 트렌드에 대한 파악과 정보가 필요한 R&D나 마케팅 업무에서도 '지식 카탈로그'를 통해 수십 개의 대용량 영문 논문들을 한 번에 올려서, 질의하고 한글로 번역된 답변을 얻을 수 있습니다.

② 대용량 파일에 대한 요약/번역
기업은 리포트 작성을 위해 여러 정보를 요약해야 하는 경우가 많습니다. 예를 들어, 삼성SDS 닷컴에 등재되는 인사이트 리포트(아티클) 중 하나를 요약할 경우, FabriX-Chat Portal에서 '새 대화 작성'을 선택한 후, '내용 요약(파일)'에 아티클 PDF나 Word 파일을 선택/로드하고, ‘개조식-3문장 내외’ 등의 다양한 '스타일'과 '언어(한국어, 영어)'를 선택하면 원하는 스타일의 요약본을 생성합니다. 개조식으로 생성된 답변은 프롬프트를 통해 표 형식으로도 전환 요청할 수 있습니다.

③ Prompt Mgmt.
요약된 정보를 메일로 보내거나 번역 등의 반복적인 업무 패턴은 규격화해서 재사용할 수 있습니다. FabriX-Chat Portal은 '프롬프트 템플릿'을 제공하며, 사전에 정의된 프롬프트 템플릿을 사용할 수 있고, 개인이 만들어서 다른 사람과 공유해 사용할 수 있도록 '프롬프트 스튜디오' 기능도 제공합니다.

기 정의된 '메일 초안 작성' 프롬프트의 경우, '보내는 사람', '받는 사람', '메일 내용', 친근하게 등의 '스타일'과 '길이', '언어' 등을 입력/선택 후 실행하면 원하는 포맷의 메일 초안을 작성해 줍니다. 사용자 정의 프롬프트 템플릿을 생성하기 위해서는 프롬프트 템플릿에 있는 '새 템플릿 만들기'를 선택하고, ‘초보자 추천’ 또는 ‘중급자 이상’을 선택해서 만들 수 있습니다. ‘중급자 이상(프롬프트 스튜디오에서 생성)’을 선택하면, 새로운 프롬프트 템플릿의 제목과 본문을 입력할 수 있습니다. 제목은 '나만의 모임 참석 요청 메일 템플릿'으로 입력하고, 본문은 이메일 초안 작성 예시를 - 작성 목적, 배경 상황, 전달할 내용, 논조, 이메일 수신자 등의 변수와 {변수 입력값}를 참고해서 메일 작성을 요청하는 프롬프트 - 활용해 '모임 장소'라는 필드(변수)를 추가합니다. 각 변수는 여러 줄 입력이나 필수 여부 등을 선택할 수 있으며, 해당 템플릿에 대한 역할, 언어, LLM 모델 및 공개 범위 등을 설정해 등록/활용할 수 있습니다. 현재, FabriX를 사용하는 고객들은 사용자 정의 프롬프트 템플릿 기능이 매우 유용하다고 평가하고 있습니다.

FabriX-Chat Portal의 사용자 정의 프롬프트 템플릿 생성 화면 (출처: 삼성SDS)

④ 브라우저 및 뉴스 요약 Use Case
사용자는 FabriX-Platform(PaaS)의 다양한 RAG, LLMOps, Filter 등의 API 서비스를 활용해 Use Case를 개발할 수 있습니다.

'Browser Copilot' Use Case는 브라우저에 Chat 기능을 추가한 케이스입니다. 브라우저 오른쪽 영역에 Copilot 영역이 생기고, 브라우저 왼쪽의 외부 인터넷 뉴스를 클릭하면 뉴스의 내용이 자동으로 요약됩니다. 상세한 뉴스 화면에서 일부 내용을 선택하면, 해당 부분만을 자동 요약하거나 번역할 수 있습니다. 또한, '뉴스 요약' Use Case를 제공합니다. 마케팅, 홍보, 경영진들은 빠른 시간 내에 뉴스 내용을 파악해야 하는데, '뉴스 요약' Use Case 화면에서 지면 뉴스 형식의 PDF 이미지를 등록하면 OCR 기능을 통해 텍스트를 인식하고 요약본을 생성해 줍니다. 요약본은 특정한 요약 템플릿을 적용한 워드 파일이며, '요약본 다운로드'를 통해 그 결과를 받을 수 있습니다. 그 외에도 Platform(PaaS)의 API를 이용해서 다양한 사내 솔루션이나 인사, 총무 등의 시스템을 연계해 Use Case를 추가 확장할 수 있습니다.

이러한 기능들을 제공하는 삼성SDS의 FabriX는 자체 LLM뿐만 아니라 고객별 학습이 가능한 Multi-LLM을 제공하고, RAG 및 Prompt 최적화 경험을 통해 정확도 높은 답변을 제공합니다. 현재, 10만 명 이상의 고객이 글로벌하게 사용 중인 플랫폼으로 검증된 다수의 Use Case를 확보하고 있습니다.

▷ 1편에서는 사람은 질의/지시하고 생성형 AI가 스스로 연결, 생성, 실행까지를 자동화하는 ‘AI의 현재와 미래’, 그리고 이를 지원하는 삼성SDS의 생성형 AI 플랫폼 ‘FabriX’와 공통 업무를 자동화하는 ‘Brity Copilot’에 대한 기능 및 데모 내용을 소개했습니다. 2편에서는 생성형 AI 도입을 위한 기업의 3가지 주요 고민 사항인 ‘어디에 적용해야 할지(Use Case)’, 어떤 솔루션과 인프라로 최적의 아키텍처(Architecture)를 구성할지’, ‘기업 데이터를 어떻게 보호할지(Security)’에 대해 살펴보겠습니다.

References
[1] https://www.mk.co.kr/news/culture/11006684
[2] https://www.autodaily.co.kr/news/articleView.html?idxno=513595
[3] https://www.digitaltoday.co.kr/news/articleView.html?idxno=516804

▶   해당 콘텐츠는 저작권법에 의하여 보호받는 저작물로 기고자에게 저작권이 있습니다.
▶   해당 콘텐츠는 사전 동의 없이 2차 가공 및 영리적인 이용을 금하고 있습니다.