Business AI Agent로 혁신하는 업무 프로세스

2024-10-16 김지현

생성형 AI 기술의 발전으로 인해 다양한 사무직의 업무에서 혁신적인 변화가 기대된다. 전략, 기획, 법무, HR, 재무, 마케팅 등 여러 업무 영역에서 생성형 AI 기술 기반의 'AI 에이전트'를 통해 업무의 생산성을 높일 수 있을 것으로 기대된다. 이렇게 업무에 적용된 AI를 가리켜 BAA(Business AI Agent)라고 부른다. 이러한 솔루션들은 초개인화, 초자동화, 초지능화라는 세 가지 주요 기대 효과를 가져올 수 있다. 초개인화는 각 사용자의 업무 스타일과 필요에 맞춘 맞춤형 지원을 의미하며, 초자동화는 단순 반복 작업의 자동화를 넘어 다양한 시스템 간의 연동과 최적화를 통해 전사적 효율성을 극대화하는 것을 목표로 한다. 초지능화는 AI가 복잡한 업무 문제를 분석하고 최적의 해결책을 제시함으로써 기업이 더욱 전략적인 의사결정을 내릴 수 있는 환경을 구축하는 것을 의미한다.

AI로 인한 초개인화의 기회

업무를 도와주는 솔루션이나 일반적인 RPA 툴들은 모든 개별 개인의 업무에 맞게 최적화해서 제공하기 어렵다. 회사 차원에서 ROI를 고려해 도입 영역을 선택해 구축, 개발, 운영해야만 한다. 그만큼 비용과 시간이 들기 때문에 대상 영역을 모든 개인에게 맞출 수가 없다. 반면, AI 기반의 BAA(Business AI Agent) 툴은 모든 개인의 업무 특성에 맞게 개인화가 가능하다는 강점을 가지고 있다.

예를 들어, 삼성SDS의 Brity Copilot은 직원들이 이메일 작성, 데이터 분석, 문서 작성과 같은 일상 업무를 신속하게 처리하도록 지원하며, 자연어 처리를 통해 사용자의 의도를 이해하고 최적의 결과를 제시한다. 기존의 업무용 솔루션처럼 따로 업무 특성에 맞게 구축, 개발할 필요가 없다. 개별 개인들이 일상적으로 수행하는 업무에 스며들어 반복적이고 소모적인 작업 시간을 줄여준다. 법무팀의 계약서 작성이나, HR의 면접 결과 통보 메일, 마케팅팀의 지난 분기 프로모션 결과 분석 등 다양한 업무별로 일괄 대응이 가능하다. 심지어 마케팅팀의 개별 구성원들의 업무 내역이 모두 달라도 AI Agent는 각각의 작업별로 활용이 가능하다.

우리 업무의 모든 커뮤니케이션 곳곳에서 업무 편의를 도와주는 Brity Works의 AI Agent

이 같은 초개인화를 가능하게 하는 핵심 기술 중 하나가 대규모 언어 모델(LLM, Large Language Model)이다. LLM은 방대한 데이터 세트를 학습하여 인간의 언어를 이해하고 생성하는 능력을 갖춘 모델로, 사용자의 의도를 깊이 있게 파악하고 맞춤형 대응을 할 수 있다. 이러한 LLM은 사용자가 이전에 수행한 업무 기록, 이메일, 문서 내용 등을 분석해 사용자의 선호도와 업무 스타일을 학습하며, 이를 바탕으로 개인화된 솔루션을 제공한다. 예를 들어, OpenAI의 GPT-4나 Google의 PaLM과 같은 모델들은 자연어 처리와 생성 능력을 활용해 각 사용자가 필요로 하는 정보를 실시간으로 제공하고, 복잡한 질문에도 정확하게 답변할 수 있다. 이와 같은 LLM 기반 기술 덕분에 BAA는 사용자 개개인의 업무 특성에 맞춘 최적의 결과를 제시하며 초개인화를 실현하고 있다.

AI Agent의 동작 원리와 작동 과정 (➀업무를 계획하고 ➁업무를 실행한 후 ➂그 결과를 반영하여 ➃최종산출물을 사용자에게 전달한다)

Microsoft Copilot은 윈도우와 오피스에 탑재되어 사용자의 이전 작업 내역과 패턴을 분석하여 개인화된 추천을 제공하며 이를 통해 사용자가 필요로 하는 정보를 빠르게 얻고 작업을 효율적으로 수행할 수 있도록 돕는다. 더 나아가, 윈도우11에는 '리콜'이라고 부르는 기능이 제공되어, 5초마다 PC의 모든 작업을 스냅샷으로 기록한다. 이렇게 기록된 데이터를 기반으로 사용자가 필요로 하는 그 어떤 정보든 검색이 가능하다. 예를 들어, 채팅 앱에서 대화를 나눈 메시지나 웹으로 검색해 봤던 페이지, 열어본 파일 등에 대한 정보들을 AI로 검색할 수 있다. 이는 LMM(Large Multimodal Model) 덕분에 가능해진 기능으로 AI가 글이 아닌 화면을 인식하고 이해할 수 있어 보다 스마트한 작업 수행을 가능하게 해준다.

윈도우 11에 탑재된 리콜 기능

또한, LTM(Long Term Memory)도 초개인화의 성능을 가능하게 해준 기술이다. 사용자와의 다양한 대화 내역을 장기간 기억하고 분석하여 사용자의 선호도와 과거의 행동 패턴을 깊이 있게 이해하는 데 도움을 준다. 이를 통해 AI는 더 개인화된 솔루션을 제공할 수 있으며, 사용자가 이전에 논의한 주제나 과업을 지속적으로 기억하고 반영함으로써 더욱 정교한 맞춤형 지원을 할 수 있다. 예를 들어, OpenAI의 ChatGPT는 LTM 기능을 활용하여 사용자와의 지속적인 대화 흐름을 유지하고 이를 바탕으로, 기존의 대화 내용을 기반으로 개인별 상황에 맞게 필요한 정보를 제공한다.

그 외에도, 개인화를 가능하게 하는 AI 기술로는 Meta의 BlenderBot과 같은 대화형 AI가 있다. 이러한 솔루션들은 사용자의 질문이나 요청을 지속적으로 학습하고, 그에 따라 개인화된 응답을 생성하는 기능을 가지고 있다. 사용자의 대화 맥락을 깊이 있게 파악하고, LTM을 결합하여 사용자의 필요에 맞춘 최적의 결과를 제공함으로써 초개인화를 실현하고 있다.

이러한 기술들은 각 개인의 업무 스타일에 맞는 맞춤형 솔루션을 제공함으로써, 사용자가 더 빠르고 효율적으로 업무를 수행할 수 있도록 돕는다. 이를 통해 기업은 각 직원이 가진 역량을 최대한 발휘할 수 있는 환경을 조성하고, 궁극적으로는 조직 전체의 생산성과 경쟁력을 크게 향상할 수 있다.

업무 시간을 단축해 주는 초자동화

초자동화는 모든 업무 프로세스를 자동화하고 최적화하여 운영 효율성을 극대화해 준다. 이러한 초자동화를 가능하게 한 기술적 배경에는 LAM(Large Action Model)과 랭체인(LangChain) 등의 기술이 있다. LAM은 대규모 데이터 세트를 학습하여 다양한 액션을 수행할 수 있는 모델로, 단순한 언어 처리 능력을 넘어 실제 업무 수행에 필요한 복잡한 작업을 자동화할 수 있다. 랭체인은 여러 단계의 작업을 연결하여 실행할 수 있는 기술로 각 단계에서 최적의 결정을 내릴 수 있도록 지원하며, 이를 통해 복잡한 비즈니스 프로세스의 자동화가 가능해진다.

애플은 2024년 말 아이폰의 제한된 메모리와 리소스에서 실행할 수 있는 경량화된 LLM에 대한 연구 논문과 짧은 비디오에서 3D 아바타 애니메이션을 생성할 수 있는 헉스(HUGS, Human Gaussian Splats)라는 생성 AI 기술을 발표했다. 또한, 애플이 발표한 MLLM(Multimodal Large Language Model)인 Ferret-UI는 스마트폰의 화면을 이해하고 사용자 지시에 따라 스마트폰을 대신 작동시켜 준다. 아이콘과 텍스트 메뉴를 인식하고 사람의 명령에 담긴 의도를 인식해서 앱을 실행해 대신 화면을 조작해 준다. 일종의 LAM으로 이런 AI가 PC나 스마트폰에 탑재되면 키보드, 마우스, 손가락 터치를 이용해 기기를 조작하던 기존의 작동 방식에 일대 혁신이 일어날 것이다. 이러한 기술들이 개인 PC나 스마트폰을 넘어 우리 업무 현장에 도입되어 BAA의 완성도를 더욱 높여주고 있다.

Apple에서 연구 중인 Ferret-UI는 화면을 보고 대신 앱을 작동시켜 준다

이렇게 스마트폰을 넘어 컴퓨터, 노트북과 같은 디바이스에 AI가 스며들어 기기 사용의 편의를 높이고 업무의 자동화를 꾀해줄 수 있는 것은 기기에 AI가 탑재되어 가능해질 수 있는 것이다. 이를 가리켜 온디바이스 AI라고 부른다. 예를 들어, 애플의 인텔리전스 기능이나 삼성의 AI폰은 사용자의 컴퓨팅 작업과 인터넷 사용을 더욱 자동화하는 데 기여하고 있다. 이러한 온디바이스 AI 기술은 사용자의 데이터를 디바이스 내에서 처리함으로써 개인정보 보호를 강화하고, 실시간으로 맞춤형 솔루션을 제공할 수 있는 장점을 가지고 있다. 앞으로는 컴퓨터나 기타 스마트 디바이스에도 이러한 온디바이스 AI 기술이 점점 더 많이 접목되어, 우리의 일상적인 컴퓨팅 작업과 인터넷 사용을 혁신적으로 변화시킬 것으로 전망된다.

삼성SDS의 Brity Automation은 RPA와 AI 기술을 결합해 다양한 시스템과 애플리케이션 간의 데이터를 연동하고 복잡한 비즈니스 로직을 자동화하는 데 중점을 두고 있다. 예를 들어, 금융 서비스 기업에서는 Brity Automation을 사용해 수많은 데이터를 신속하게 처리하고, 실시간으로 고객에게 맞춤형 서비스를 제공하는 등 효율성을 높이는 사례가 늘어나고 있다. 또한, Microsoft의 Copilot 및 Google의 Duet AI 같은 해외 주요 기술 기업들도 업무 자동화 및 협업 솔루션 시장에서 하이퍼오토메이션을 적극적으로 도입하고 있다. 이러한 솔루션들은 각각의 플랫폼 내에서 사용자가 더 직관적으로 업무를 수행하도록 돕는 AI 기능을 제공하고 있다. 예를 들어, Microsoft의 Copilot은 Excel에서 복잡한 데이터 분석을 수행하거나 Word에서 문서를 자동으로 작성하도록 돕는 등 사용자의 업무 부담을 줄이고 생산성을 극대화한다. Zoom이나 Webex, Microsoft Teams, Brity Meeting의 AI 기능은 비대면 회의 이후 자동으로 회의록을 작성해 주는 것은 물론 자동 번역과 통역, 미팅에 늦게 도착했을 때 놓친 내용을 Q&A로 알려주는 등 회의 보조 기능을 제공해 준다. 이렇게 다양한 업무에 도움을 주는 BAA는 단순한 업무 보조 도구가 아니라 기업 경쟁력을 높이는 전략적 자산으로 자리 잡고 있음을 시사한다.

AI Agent를 이용한 자동화된 업무 수행

업무 프로세스의 초지능화 가능성

BAA는 단순히 반복 작업을 줄이는 것을 넘어 조직 내 업무 프로세스를 '초지능화' 할 수 있는 가능성을 열어준다. 이는 AI가 단순히 우리 업무의 시간을 줄여주는 것을 넘어 더 나은 결과물을 만드는데 기여할 수 있다는 것을 말한다. 예를 들어, 제조업 분야에서는 AI 기반의 지능화 솔루션을 통해 생산 라인을 최적화하고, 실시간 데이터를 분석하여 문제를 예방하는 등의 방식으로 더 나은 품질 관리를 가능하게 해줄 수 있다. AI가 탑재된 자동차는 사람도 미쳐 인식조차 하지 못한 도로 위의 포트홀을 인식해 타이어 파손이나 차량 전복 등의 사고를 예방할 수 있도록 회피 혹은 속도 조절을 하고, 이 포트홀의 위치를 후방 차량에 전달하고, 도로관리청 등에 자동 신고할 수 있다.

특히, 최근 발전한 COT(Chain-of-Thought) 기술은 문제 해결을 위해 사람이 하는 일련의 사고 과정을 모방하여 AI가 문제를 논리적으로 분석하고 최적의 솔루션을 도출할 수 있도록 해준다. 기존의 LLM이 인간이 할 수 있는 일을 인간보다 더 빨리 해주는 것에 최적화되었다면, COT는 인간도 하기 어려운 것을 더 잘할 수 있도록 해준다. 이러한 기술의 발전은 AI가 추론 과정을 통해 사용자에게 더 나은 의사결정을 지원할 수 있는 환경을 제공한다는 점에서 의미가 크다. 즉, 기존 AI는 더 빨리 하는 속도에 집중한 반면, COT는 시간은 더 걸리더라도 더 잘하는 퀄리티에 집중한 것이다. 덕분에 인간을 도와 우리가 해결하고자 하는 문제를 더 잘 해결할 수 있도록 도와줄 수 있게 되었다.

여러 단계를 거치며 더 깊은 생각을 하는 COT

일례로 OpenAI o1과 같은 추론 모델은 기존의 LLM보다 복잡하고 난해한 문제를 해결할 수 있는 능력을 제공한다. 이러한 모델들은 인간이 쉽게 생각해내기 어려운 문제 해결 방법을 제시할 수 있어 단순히 생산성을 높이는 것을 넘어 실제 업무의 품질을 향상하는데 기여하고 있다. 추론 능력의 발전은 LLM이 사용자에게 최적화된 해결책을 제공할 수 있는 근간이 된다. 실제 o1은 과학 분야에서 박사급 수준의 능력을 갖췄고 IQ 테스트에서도 120으로 평가받고 있다. o1 모델은 기존의 OpenAI가 개발한 GPT라는 모델과는 다르다. 추론에 특화된 o1은 수학, 코딩과 같은 복잡한 추론과 문제 해결이 특화되어 일반적 대화보다는 어려운 문제 해결에 적합하다. 일례로, 새로운 암 치료제 개발이나 혁신적인 배터리 기술 개발, 인류가 풀지 못한 과학, 수학 문제와 각종 가설의 증명 등에 뛰어난 성과를 보여준다. 하지만, 복잡한 절차를 거쳐서 문제 해결 방안을 찾다 보니 리소스를 많이 소모하고 속도가 느리다는 단점을 가진다.

OpenAI의 더 깊은 단계별 사고에 전문적인 새로운 모델 o1

이같은 추론 모델을 복잡한 재무 분석이나 법률 자문과 같은 고도화된 업무에 적용할 경우 사람이 해결하는 것보다 더 나은 결과를 보여줄 수 있다. 업무 시간만 단축하는 것이 아니라 업무 질을 높일 수 있는 것이다. 이 기술이 적용된 BAA는 문제를 여러 단계로 나누어 생각하고, 각각의 단계에서 최적의 선택을 제시함으로써 더욱 신뢰할 수 있는 결과를 얻도록 돕는다. 덕분에 비즈니스 현장에서 우리가 직면한 문제에 대해 깊이 있는 분석과 함께 단계별 해결책을 제시함으로써 업무의 초지능화를 실현할 수 있도록 도울 수 있다.

이제 AI Agent는 글을 잘 이해해서 검색과 요약 정리, 분석을 잘 해주는 것을 넘어 사진과 소리를 인식해 특정한 작업까지도 수행해 줄 수 있게 되었다. 덕분에 AI Agent의 할 수 있는 용도가 더욱 강력해지고 있다. 즉, 인간의 언어를 이해하고, 우리가 보고 듣는 것을 인식하며, 다양한 작업을 수행할 수 있는 그런 자동화된 초지능형 AI가 구현되고 있다. 그런 AI Agent는 영화 아이언맨의 자비스처럼 인류에게 기계와 소프트웨어 그리고 인터넷 서비스를 사용하는 데 있어 초개인화, 초자동화된 서비스의 구현을 가능하게 해줄 것이다. 이를 가능하게 해주는 기술이 바로 AI의 삼두마차인 LLM, LMM, LAM이다. 이제 앞으로 HW, SW를 이용하는 것은 인간이 아닌 AI일 것이다. 사람 대신에 우리의 명령을 인식해 그 의도에 맞게 하드웨어는 물론 소프트웨어를 자동으로 조작시켜 주는 AI Agent 시대의 개막이 멀지 않았다. 또한, 그런 것을 가능하게 해주는 온디바이스 AI와 COT 등의 기술이 고도화되면서 보다 완벽한 BAA가 우리 앞에 성큼 다가오게 된 것이다.

이미 미국의 대형 금융 기업인 JP모건과 헬스케어 기업인 UnitedHealth Group은 이러한 AI 에이전트를 도입해 반복적인 행정 업무를 자동화하고, 고객 맞춤형 서비스 제공을 강화하고 있다. 이를 통해 각 영역의 직원들이 보다 창의적이고 전략적인 업무에 집중할 수 있는 환경을 만들어 나가고 있으며, 이는 조직의 생산성과 경쟁력을 크게 향상하는 결과를 가져오고 있다. 이러한 BAA는 기존의 RPA처럼 반복적 업무를 자동화해 주는 것을 넘어, 보다 나은 효율성과 효과성을 도모하는 데 중점을 두고 있다. 예를 들어, 미국에서는 다양한 스타트업들이 이러한 BAA 솔루션을 개발하고 있으며, 이미 많은 기업이 이를 도입하여 업무 효율성을 극대화하고 있다. 대표적인 사례로는 기업용 자동화 솔루션을 제공하는 'UiPath'와 'Automation Anywhere'가 있으며, 이들은 AI와 RPA를 결합하여 다양한 업무 프로세스를 자동화하고 있다. 또한, 스타트업 'Cognigy'는 자연어 처리 기반의 AI 에이전트를 통해 고객 지원과 같은 반복적인 업무를 지능적으로 처리할 수 있도록 돕고 있다.