AI Agent, 비즈니스 워크플로우와의 통합 – 2편

AI Agent, 비즈니스 가치 창출

미래를 선도하는 AI 애플리케이션이 핵심은 AI Agent가 될 것이며, 앞으로 몇 년 동안 인공지능을 정의하는 주제 중 하나가 될 것입니다. AI Agent는 데이터에서 학습하고, 추세를 분석하고, 예측을 하는 것뿐만 아니라, 다른 시스템과 자율적으로 상호작용하여 결정을 내리고 그에 따라 행동하는 인공지능의 차세대 버전으로, 기업 또는 개인을 대신하여 보이지 않게 행동하고 작업을 수행하는 AI 시스템입니다. AI Agent에 대해 '팔을 가진 AI'라고 설명하기도 하는데, 이는 다양한 비즈니스 영역에서의 사용 사례와 새로운 가능성을 열었습니다.^[22]

AI Agent는 이미 기업의 창의성, 생산성 향상, 고객 만족도 향상을 위한 혁신의 조력자로서 상당한 효과를 가져오고 있습니다. AI Agent가 제공하는 정확성, 효율성, 빠른 의사 결정, 비용 절감 및 기타 많은 이점은 전 세계 기업들이 AI를 비즈니스에 활용하도록 합니다.^[9] AI Agent는 기술 혁신을 주도하며 기계, 데이터 및 디지털 세계와의 상호작용을 변화시키고 있으며, 고객 서비스부터 자율 주행 차량에 이르기까지 기본적인 작업을 넘어, 불가능하다고 생각했던 방식으로 학습하고, 적응하고, 결정을 내립니다.^[30] 이러한 AI Agent는 비즈니스에 어떻게 적용되고 있을까요? 주요 기능과 업종 측면에서 살펴보겠습니다.

비즈니스 기능별

AI Agent는 기본적으로 데이터 처리 및 분석, 머신러닝, 추론 및 의사결정, 패턴 인식, 로보틱스 시스템 제어, 창의적 활동, 학습 및 훈련, 커뮤니케이션, 연구 등의 기능을 수행하며, 기업의 프로세스에서 없어서는 안 될 부분이 되었습니다. AI Agent는 다양한 업무에 걸쳐 확산되고 있습니다.

① 가상 비서(Virtual assistant)
가상 비서는 NLP 기반으로 자연스러운 의사소통을 시뮬레이션하면서 다양한 작업을 수행할 수 있습니다. 애플 'Siri', 아마존 'Alexa' 및 'ChatGPT'부터 기업의 웹사이트 챗봇에 이르기까지 질문에 대한 답변을 제공하고, 특정 작업을 용이하게 합니다. 이러한 가상 비서는 스스로 학습할 수 있으며. 서비스나 회사의 내부 시스템과 통합이 가능하여 점점 더 확대되고 있습니다. 직원들은 가상 비서를 활용하여 회의 일정을 예약하고 일정을 수립할 수 있으며, 기업은 고객 경험을 개선하기 위한 에이전트를 구현할 수 있습니다.^[9] 고객 지원을 위한 가상 비서는 24시간 근무하며 사용자의 질문과 우려 사항을 해결할 수 있습니다. 인도의 한 가전제품 기업은 "챗봇이 초기 고객 문의의 60% 이상을 처리하므로 상담원은 더 복잡한 문제에 집중할 수 있으며, 우리 지원팀의 판도를 바꾸어 놓았습니다."라고 말했습니다. 이러한 디지털 비서는 주문 추적에서 일반적인 문제 해결까지 일관된 어조로 처리할 수 있습니다. 그러나 질문에 답하는 것만이 전부는 아닙니다. 최신 가상 비서는 점점 더 진화하고 있으며, 스마트 홈 시스템이 잠재적인 배관 문제를 감지하고 문제를 알아차리기도 전에 AI Agent가 자동으로 서비스 예약을 요청할 것입니다.^[31]

② 코딩 및 소프트웨어 개발(Coding & software developments)
코드 생성, 평가 및 재작성 등의 소프트웨어 개발은 기업의 AI Agent 활용에서 가장 큰 비중을 차지합니다.^[5] AI 기반 소프트웨어 개발 에이전트는 자동으로 코드를 생성하고, 문제를 디버깅하고, 개선 사항을 제안할 수 있어, 개발자는 보다 복잡한 작업에 집중할 수 있습니다. 예를 들어, 'GitHub Copilot'은 인공지능을 사용하여 사용자가 입력하는 코드 줄을 완성할 뿐만 아니라 섹션 코드를 추천하여 프로그래밍 속도를 크게 높입니다. 마찬가지로 'DeepCode'는 즉각적인 코드 검사를 통해 개선을 제안하여 버그의 가능성을 줄이는 동시에 코드 품질을 향상합니다. 이로 인해, 소프트웨어 개발 주기가 빨라지고 새로운 소프트웨어 버전 사이의 기간이 짧아진 다양한 산업 분야에서 AI Agent에 대한 수요가 높아졌습니다.^[20] 소프트웨어 개발을 지원하거나 자동화하는 AI Agent에는 코드 생성을 위한 'GPT Engineer', 'Codegen', 코드 디버깅을 위한 'Fixie', 코드 마이그레이션을 위한 'Grit' 및 일반 코딩일 지원하는 'GitHub Copilot X', 'Cursor' 등이 포함됩니다.^[34]

③ 산업용 자율 로봇(Autonomous robots)
가상 비서는 직원과 고객과의 상호작용을 변화시키고, 물리적 비서는 제조 및 물류에 혁신을 일으키고 있습니다. 첨단 센서와 AI 두뇌를 갖춘 산업용 로봇은 인간의 지속적인 제어 없이 전 세계 공장과 창고에서 복잡한 작업을 수행하고 있습니다.[31] 산업용 로봇은 일반적으로 환경을 인식하고 공간을 탐색할 수 있는 센서가 장착되어 있습니다. 기계 학습을 통해 데이터를 분석하여 결정을 내리고, 통합 요소 또는 기타 장치의 도움으로 작동하며, 품목 포장, 의료 운영, 농업의 수확 및 동물 관리 등을 수행합니다.^[9] 아마존의 물류 센터가 좋은 예입니다. 주황색 로봇 드라이브 유닛은 거대한 창고를 돌아다니며 제품 선반 전체를 인간 피커에게 전달합니다. 이러한 인간-로봇 협업은 효율성을 획기적으로 향상해 Amazon이 놀라운 속도로 주문을 처리할 수 있게 해주었습니다. 그러나, 단지 속도만이 아닙니다. AI로 구동되는 로봇은 제조에 있어 정밀도와 안전성을 높이고 있습니다. 자동차 공장에서 로봇은 인간과 함께 작업하며 위험한 용접 작업을 처리하거나, 초인적인 정확도로 품질 관리 검사를 수행합니다.^[31]

[그림 1] 로봇 물류창고 Multi-Agent Orchestration, Tech l Gistics(출처: beyondx.ai^[35])

④ 자율 주행 차량(Autonomous vehicles)
AI Agent의 가장 눈에 띄는 응용 분야는 자율 주행 자동차입니다. 테슬라, 웨이모, 우버 등의 회사는 인간의 개입 없이 복잡한 도시 거리를 주행할 수 있는 차량으로 가능성의 경계를 넓히고 있습니다. 구글의 자율주행차 프로젝트에서 파생된 웨이모는 이미 일부 도시에서 무인 택시 서비스를 제공하고 있습니다. 자동차, 트럭, 드론을 포함한 자율 주행 차량은 도로와 환경을 탐색할 수 있어 상품을 배송하고 승객을 운송하며 독립적으로 검사를 수행할 수 있습니다. 대중교통에서 자율 주행 버스와 기차는 경로를 최적화하고 일정을 개선하며 안전을 강화합니다. 또한, 자율 주행 차량은 교통사고를 획기적으로 줄이고, 교통 혼잡을 완화하며, 스스로 운전할 수 없는 사람들에게 이동성을 제공할 수 있는 잠재력을 가지고 있습니다.^[11][31]

⑤ 규정 준수(Regulatory compliance)
기업은 의사결정을 포함한 모든 활동이 관련 규정을 준수하는지 확인해야만 합니다. 규정 준수 확인은 매우 구조화되고 패턴 기반의 반복적인 작업입니다. 규정 준수 팀은 잠재적인 규정 위반을 신고하고 개선안을 제안하는 ‘분석가’와 규정 준수 조치를 감독하고 최종 결정하는 ‘관리자’로 구성됩니다. AI Agent는 분석가의 업무를 수행하고, 관리자는 중요한 결정이 확정되기 전에 검토할 수 있습니다.^[6] 스타트업 기업 중 하나인 'Norm Ai'의 에이전트는 회사의 운영을 지속적으로 검토하고, 활동이 특정 규정을 준수하지 않는 경우를 식별하여 개선 조치를 제안합니다.^[32]

⑥ 대규모 맞춤형 학습 AI(AI in education)
교육은 자율적인 AI Agent에 의해 변화하고 있습니다. AI 기반 교육 시스템은 각 학생의 고유한 학습 속도와 스타일에 맞게 개인화된 학습 경험을 제공합니다. 이러한 디지털 교사는 즉각적인 피드백을 제공하고, 학생이 어려움을 겪고 있는 영역을 식별하며, 맞춤형 연습 문제를 생성할 수 있습니다. AI Agent는 객관식 시험 채점 등의 일상적인 작업을 처리하여, 교사는 학생과 일대일 커뮤니케이션과 상호작용에 더 많은 시간을 할애할 수 있습니다. AI Agent는 교육에 있어 전 세계 학생들에게 더 참여적이고 효과적인 학습 경험을 제공하며, 교사의 능력을 강화하고 범위를 확장합니다.^[31]

⑦ 사기 방지 에이전트(Anti-fraud agent)
온라인 거래가 확산함에 따라, 사기의 피해자가 될 위험이 증가하고 있습니다. 사기 탐지 에이전트는 의심스러운 패턴을 감지하여 사기 행위를 방지하기 위해 작동합니다. 온라인 배송, 보험 및 금융 거래의 보안을 강화하고 기업의 고객을 보호합니다. 페이팔은 사기 방지 시스템을 조기에 채택하여 사기율을 매출의 0.32%(시장 평균 1.32%)로 줄였습니다.^[9]

⑧ 모니터링 에이전트(Monitoring agent)
모니터링 시스템의 목적은 프로세스 또는 시스템의 상태를 추적하고, 잠재적인 문제 및 표준에서 벗어난 부분을 식별하며, 의사 결정을 위한 정보를 제공하는 것입니다. 해당 에이전트는 센서, 카메라, 네트워크 등의 다양한 데이터를 자동으로 수집, 분석 및 해석하기 위해 AI를 사용합니다. 이를 통해, 제조 회사는 고장을 예측하고, 의료 기관은 질병을 진단하며, 은행은 거래를 추적할 수 있습니다. 이 모든 것을 통해 더 적은 리소스를 사용하면서 위험을 줄이고 품질과 성능을 높일 수 있습니다.^[9] 또한, 환경에서는 드론과 센서를 통해 오염 수준을 추적하고, 야생 동물의 움직임을 관찰하며, 자연재해를 모니터링합니다.^[11]

비즈니스 도메인별

산업별 AI Agent 시장은 특정 부문에서 고도로 전문화된 AI 도구에 대한 수요 증가로 크게 성장하고 있습니다. 도메인별 전문화된 지능형 Agent는 다양한 엔터프라이즈 비즈니스 기능과 긴밀히 통합될 수 있으며, 사용자의 선호도와 능력에 따른 '초개인화'의 출현으로 더욱 강화되고 있습니다.

[그림 2] 다양한 산업에서의 AI Agent(출처: markovate.com^[12])

Agent AI Across Various Industries

• Autonomous Vehicles

  Adbanced driver-assistance systems

• Healthcare

  Electronic health records

• Finance

  Customoer relationship management systems

• Customer Service

  Sentiment analysis chatbot

① 금융
금융 산업은 엄격하게 통제된 환경에서 효율성, 보안 및 고객 참여를 강화하기 위해 AI Agent를 적극 활용할 것입니다. 이를 통해, 개인화된 금융 상품을 제안하여 투자 포트폴리오를 최적화하고, 대출자의 신용도를 평가하며, 개인의 재정을 관리할 수 있도록 지원함으로써 사기를 방지합니다.^[9]

뱅크오브아메리카의 AI 기반 가상 비서 에리카(Erica)는 고객의 월평균 지출액과 고객이 매달 구매하는 품목을 분석하여 고객의 잔액 관리, 결제 이상 징후 감지 등의 서비스와 대출 신청 등의 일반적인 작업을 수행합니다. 또한, 금융 산업에서는 컴플라이언스 절차 및 규제 보고의 자동화가 요구되는데, 현재 은행 및 기타 금융 기관은 AI Agent를 활용하여 효과적으로 컴플라이언스를 유지하고 수동 백엔드 작업의 부담을 줄일 수 있습니다.^[20]

② 헬스케어
멀티모달 AI 에이전트는 의사가 의료 이미지를 포함한 다양한 소스의 의료 데이터를 분석하여 질병을 진단하고, 개인화된 환자 치료 계획을 수립하며, 환자의 기록을 관리하는 등의 업무를 지원할 수 있습니다. 정확도 향상은 의료 산업에서 중요한 관심사입니다. 필리핀 TMC(The Medical City) 병원의 방사선 전문의는 더 빠르고 정확한 진단을 위해 AI Agent를 활용하기 시작했습니다. '루닛 인사이트 CXR'은 내부 모델을 사용하여 폐 허탈, 기흉 등 치명적일 수 있는 이상을 식별합니다. TMC 병원 의료진은 루닛 인사이트 CXR을 의사의 초기 진단을 확인하거나, 반박하는 ‘두 번째 눈’의 역할로 활용합니다. 에이전트가 진단을 확인하면 의사의 의심이 완화되고, 반박하는 경우에는 의사는 더 세밀히 검토하여 오탐을 줄일 수 있습니다.^[10]

또한, AI 기반 자율 로봇은 수술 중 외과의를 돕고, 병원 환경 내에서 약물을 전달하거나, 환자를 들어 올리고 옮겨 치료를 지원할 수 있습니다. 의료 분야의 에이전트는 유망한 화합물을 식별하고 효능을 예측하여 약물 개발을 가속하며,^[9][11] 의료 기기에 엣지 AI를 사용하면 실시간 건강 모니터링과 응급 상황에 신속하게 대응할 수 있습니다.^[22]

③ 제조
제조사들은 로봇, 디지털 트윈 등 최첨단 AI 기술을 도입해 제조 효율화를 추진 중에 있습니다. 제조 및 창고 보관에서 AI 자율 로봇은 품목 이동, 상품 포장, 조립 라인에서 반복적인 작업을 수행합니다. 이를 통해, 인적 오류를 최소화하여 사고를 줄이고 전반적인 안전을 개선할 수 있으며, 재난 지역이나 심해 탐사 등 위험한 환경에서 산업 로봇은 인명을 위험에 빠뜨리지 않고 제조 업무를 수행할 수 있습니다.^[11] 제조업에서는 AI Agent를 활용하여 기계를 모니터링하고 유지 보수가 필요한 시기를 예측하여 가동 중지 시간을 줄이거나 장비 수명을 연장하는 등 예측 유지 보수가 가능합니다. 지멘스^[9]의 경우, 예측 유지 보수 AI Agent를 활용하여 다운타임을 40% 줄이고, 생산성을 10% 향상했습니다. AI Agent는 실시간으로 제품을 검사하고 결함을 식별하여 품질을 보장할 수 있으며, 생산 물류 및 수요와 관련된 데이터를 분석하여 공급망 프로세스를 최적화할 수 있습니다.^[30] 또한, 복잡한 생산 프로세스를 관리하는데 사용되어 변화하는 조건과 요구에 실시간으로 적응할 수 있습니다.

④ 리테일
AI Agent는 실시간 제품 추천과 거래를 지원하고, 온라인 쇼핑 경험을 개선하여 전자 상거래에서 고객의 참여를 향상합니다. 특히, 팬데믹 이후 온라인 소매의 부상은 AI Agent 성장의 중요한 동인^[21]이 되고 있습니다. AI Agent는 사용자 선호도, 검색 기록 및 구매 패턴을 기반으로 개인화된 제품을 추천하거나 가상 체험을 제공하여 쇼핑 경험을 향상하고, 수요 예측 및 재입고 프로세스를 자동화하여 재고 수준을 최적화할 수 있습니다. 또한, 시장 동향을 포함한 고객 데이터 분석을 통해 구매 행동에 대한 인사이트를 제공함으로써, 마케팅 전략을 맞춤화할 수 있습니다.^[30] 생성형 AI의 통합은 보다 매력적이고 상호작용하는 전자 상거래 플랫폼을 가능하게 합니다.

AI Agent는 고객 서비스의 접점을 자동화할 수 있고, 가격을 동적으로 조정할 수 있습니다.^[10] 기업은 고객에게 24시간 지원을 제공하기 위해 AI 챗봇을 개발하고, 고객 서비스 분석 시스템을 채택하여 궁극적으로 개인화된 쇼핑 경험과 충성도를 높이며, 문제를 신속하게 해결하고 있습니다. Amazon은 LLM 개발로 전환하여 매출의 35%를 차지하는 제품 추천 시스템을 구축했습니다.^[9]

⑤ 물류 및 공급망
팬데믹 이후 디지털 유통 추세가 가속화되고, 퀵커머스, 라스트 마일 배송, 그리고 실시간 추적 및 투명성에 대한 소비자의 니즈가 증가하며 물류의 혁신이 요구되고 있습니다. 최근 물류센터들은 단순 상품을 보관하는 설비와 장비 중심의 창고에서 AI, IoT, 클라우드 등 첨단 기술 기반의 스마트 물류센터로 전환하고 있습니다. AI Agent는 공급망을 최적화하고 모든 단계의 효율성을 높여, 자율 로봇(피킹), 수요 예측, 재고 관리, 배송 경로 추적 및 최적화 등의 작업을 해결합니다. 이를 통해, 비용을 절감하고 배송 속도를 높이며 고객 서비스를 개선합니다.

실제 AI 에이전트 사용 사례는 DHL을 들 수 있습니다.^[36] DHL은 AI Agent를 활용하여 더 빠르고 원활한 라스트 마일 배송에 주력하고 있습니다. 예측 모델을 통해 항공/선박의 도착 정보를 예측하고, 패키지가 배송 차량에 로딩되면 'Wise Systems'을 통해 경로를 최적화한 후, 'Follow My Parcel'이라는 기능을 통해 고객에게 예상 배송 시간을 공유해 고객 경험을 개선합니다. 드론, 카메라 및 AI 기술을 접목해 실시간으로 물류 창고 내 재고를 모니터링하고 자연어 기반 대화형 AI를 활용해 물류창고 작업자가 물류 정보를 실시간으로 빠르게 파악할 수 있도록 지원하고 있습니다. 또한, 물류 창고 내 환경에서는 비전 피킹 기술로 '스마트 안경'을 활용을 검토하고 있는데, 작업자가 휴대용 스캐너에 의존하는 대신 바코드를 읽고 음성 명령에 반응하는 웨어러블 안경으로 시간을 절약할 수 있습니다.

기업의 도입 전략

AI Agent는 클라우드 컴퓨팅의 초창기를 떠올리게 합니다. 많은 기업이 보안과 제어에 대한 우려로 클라우드 이전을 주저했으나, 오늘날 클라우드 네이티브 기업은 산업을 재편하고 있습니다. 기업이 AI Agent를 수용하기 위해서는 비즈니스 프로세스를 살펴보고, 인공지능에 더 많은 자율성을 부여하려는 의지가 필요합니다. 또한, 데이터에 대한 개인정보 보호 및 보안, 인간 감독의 역할, 윤리적 고려 사항 등을 탐색해야 합니다.

AI Agent의 발전 속도는 놀라울 정도로 빨라지고, 경쟁 우위는 더욱 복잡해지고 있습니다. 이러한 시점에서 기업은 AI Agent를 도입/구축하기 위한 전략적 접근이 필요합니다.^[10]

(1) 달성하려는 계획과 목표에 대해 명확히 정의
효율성 향상, 운영 비용 절감 등의 명확한 목표(KPI)를 설정하면 에이전트 구현 프로세스를 선정하고 성공 여부를 측정하는 데 도움이 됩니다. 전체 프로세스에 대한 포괄적인 검토와 평가를 수행한 후, AI Agent를 통해 운영을 간소화하거나 효율성을 높이거나 고객 경험을 개선할 수 있는 영역을 식별합니다.^[11] 기업은 일상적인 작업을 자동화 등 즉각적이고 실질적인 가치를 제공할 수 있는 프로세스 영역에 집중하여 작게 시작해야 합니다.^[4] 소규모 파일럿 프로젝트로 시작하여 목표에 부합하는 결과를 달성하는지 검증한 후, 결과를 통해 학습하고 더 광범위한 기능으로 확장할 수 있습니다. 큰 중단 없이 AI Agent를 통합하려면, IT, 운영, 규정 준수 및 경영진을 포함하는 부서 간 감독을 수립해야 하며, 먼저 격리된 워크플로우에서 에이전트 개발 및 배포를 테스트해야 합니다.

(2) 기술 인프라에 대한 투자
기업은 데이터 유입 및 자율 에이전트 배포를 처리할 수 있는 기술 인프라에 투자해야 합니다. 여기에는 AI 및 기계 학습 프레임워크와의 호환성을 보장하고, 확장 가능한 데이터베이스를 설정하며, 정보 교환을 위한 안전한 채널을 구축하는 것을 포함합니다.^[11] AI Agent가 효과적으로 작동하기 위해서는 고품질의 데이터가 중요하므로, 기업은 강력한 데이터 인프라를 구축하는 데 우선순위를 두어야 하며,^[22] 데이터 수집 및 관리 시스템을 제대로 갖춰야 합니다. 정제되고 구조화된 고품질 데이터를 통해 AI Agent는 정확하고 관련성 있는 응답을 제공할 수 있습니다.^[10]

(3) 올바른 AI 에이전트 유형 선택
비즈니스 프로세스 요구 사항에 가장 적합한 AI 에이전트 유형을 선택합니다. 예를 들어, 일반적인 고객 문의를 처리하기 위해서는 '단순 반응 에이전트'로 충분할 수 있습니다. 변화하는 고객 요구에 적응하고 더 복잡한 작업을 위해서는 '목표 기반 에이전트' 또는 '학습 에이전트'를 고려할 수 있습니다.^[10] 그러나, 대부분의 고급 AI 시스템은 여러 유형의 AI 에이전트가 조합되어 있다고 볼 수 있습니다. 예를 들어, 자율 주행 차량에는 유틸리티 기반 에이전트, 목표 기반 에이전트, 모델 기반 반응 에이전트 및 학습 에이전트가 포함됩니다. 복잡한 프로세스이기 때문에 실행하는 많은 부품이 필요합니다. 공급망 관리 AI 에이전트도 마찬가지입니다. 물류, 재고 관리, 재고 입고, 배송을 최적화하기 위해 여러 유형의 에이전트를 사용하게 됩니다.^[37]

(4) 기존 시스템과 통합
즉시 배포 가능한 Agent는 최소한의 설정으로 에이전트를 바로 배포할 수 있고, 직관적인 인터페이스가 함께 제공되어 사용자가 쉽게 사용할 수 있습니다. 해당 에이전트는 맞춤형 솔루션을 개발하는 것에 비해 초기 투자 비용이 적어 중소기업에 적합합니다. 그러나, 기업에는 AI Agent에 연결해야 하는 다양한 레거시 시스템과 애플리케이션이 존재합니다. 이러한 경우, 다양한 엔터프라이즈 시스템과 원활하게 통합되도록 설계하여,^[21] 기존 시스템이 AI Agent를 통해 강력한 데이터 통합 및 의사 결정을 처리하고, 복잡한 워크플로우를 자동화하는 기업의 맞춤형 AI Agent를 구축할 수 있습니다. 이러한 통합으로 정보의 흐름이 원활해지고, 실시간 데이터에 엑세스하며, 다른 소프트웨어에 대한 제어 및 연결된 장치를 통해 실제 작업을 수행하는 등^[31] AI Agent의 기능이 향상되어 업무를 보다 효과적으로 지원할 수 있습니다.

(5) 사용자 경험에 집중
AI Agent는 최종 사용자를 염두에 두고 설계해야 합니다. 상호작용이 직관적이며, 응답이 시기적절하고 정확하여 긍정적인 고객 경험을 제공해야 합니다. AI Agent를 철저하게 테스트하여 배포 전에 잠재적인 문제를 식별하고, 고객의 기대치를 충족하는지 확인합니다. 현재의 경쟁 환경에서 매력적인 제품만으로는 충분하지 않습니다. 고객은 모든 접점에서 쉽게 사용할 수 있는 훌륭한 서비스를 원합니다. 기업의 77%는 효과적인 고객 경험을 제공하는 데 어려움을 겪고 있습니다. 여러 채널을 관리해야 하고, 사일로화된 데이터 소스와 부서 간 커뮤니케이션의 복잡성에 기인합니다. AI Agent는 이러한 부분에서 중요한 역할을 합니다. 작업을 자동화하고 '현장에서 학습'할 수 있으므로, 기업은 최적의 고객 경험을 제공하기 위해 직원 커뮤니케이션에만 의존할 필요가 없습니다. AI Agent는 고객 상호작용을 실시간으로 모니터링하고 영업 담당자에게 실행 가능한 지원을 제공할 수 있으며, 시간과 비용을 절약하면서 고객에게 더 나은 서비스를 제공할 수 있습니다.^[10]

(6) 모니터링 및 최적화
AI Agent의 성능 요소를 정기적으로 모니터링하고 사용자 피드백을 수집합니다. 이 정보를 사용하여 AI Agent를 지속적으로 개선하여 효과적이고 관련성 있는 상태를 유지하도록 합니다. 이러한 최적화는 변화하는 고객 요구에 적응하고 전반적인 성능 개선에 도움이 됩니다.^[10]

(7) 인적 감독을 위한 계획
성공적인 AI Agent를 구축하기 위한 한 가지 핵심은 인간의 감독, 즉 'Human-in-the-loop’입니다. 에이전트는 많은 작업을 자율적으로 처리할 수 있지만 완전히 신뢰할 수 없기 때문에, 필요한 경우 사람의 개입을 계획하는 것이 중요합니다. 인간이 언제, 어떻게 지원할 수 있는지에 대한 명확한 지침을 보장하여 더 복잡하고 민감한 상호작용에 대한 안전망을 제공합니다.^[10] 기업은 AI Agent를 구축하고, 이를 활용하면서 지속적으로 개선할 방법을 찾아야 하며, 이는 AI 생태계와 인간의 협업이 진화하는 과정입니다. 기업의 워크플로우에는 에이전트의 작업을 검토하고 승인할 수 있는 위치에 이미 인간이 포함되어 있습니다. 고객 지원의 경우, 고객과의 상호작용에서 항상 주요 조치를 검토하고 승인할 수 있는 고객이 있습니다. 시스템의 설계에 따라 고객 지원 관리자도 포함할 수 있으며, 인간의 감독과 입력을 통해 에이전트의 방향을 수정하고 생산적인 결과를 보장하는 데 도움이 될 수 있습니다.^[6]

(8) 데이터 개인정보 보호 및 보안
AI 시스템이 정교해지고 민감한 데이터를 처리함에 따라, 개인정보 보호 및 보안 문제가 매우 중요해졌습니다. 기업은 강력한 데이터 보호 조치에 투자하고 AI Agent가 개인정보 보호 및 보안 조치를 염두에 두고 설계되었는지 확인해야 합니다. 여기에는 데이터를 보호하고 고객 신뢰를 유지하기 위한 유럽 연합의 GDPR(General Data Protection Regulation)*과 같은 개인정보 보호 규정 준수 및 정기적인 보안 감사가 포함됩니다.^[10][30] AI 에이전트가 비즈니스 요구 사항에 부합하도록 가드레일을 생성하고, 위험을 제어하는 보안 기술을 채택하거나 개발할 수 있습니다.^[8] * GDPR: EU가 운영하는 개인정보 보호 규정으로 개인정보 수집, 저장, 사용 등 데이터 활용에 대한 투명한 관리를 요구. EU 거주 시민의 데이터를 처리하는 모든 조직에 적용되며, 위반 시 강력한 벌금을 부과

(9) AI 리터러시 문화 조성
미국 국가인공지능자문위원회(NAIAC)는 AI 리터러시를 ‘AI 툴만이 아니라 AI를 통한 결과물을 사용하고, 비판적으로 평가할 수 있는 역량’으로 정의하고 있습니다. 인공지능의 이점과 위험성을 이해하고, 우리 생활에 어떻게 영향을 미칠지에 대한 평가를 할 수 있어야 한다는 뜻입니다. 이러한 측면에서 기업은 기술만이 아니라, AI Agent를 수용하고 이에 적응하는 문화를 조성해야 합니다. 이를 위해서는 에이전트를 대체물이 아니 협력적인 관계로 생각할 수 있어야 합니다. 또한, 기업 전체 직원이 AI의 기능과 한계를 이해하도록 하면 AI 기술을 보다 효과적으로 채택하고 사용하는 데 도움이 될 수 있습니다.^[11][22] AI Agent의 역할에 대해 직원을 교육하고, 업무 자동화 및 효율화 등 AI 기술의 지원 측면을 강조하여 일자리 이동에 대한 우려를 해결하며, 에이전트의 사용을 보완하는 영역에서 인력의 기술을 향상하기 위한 교육 프로그램을 제공합니다.^[11]

(10) AI 거버넌스 체계 수립/적용
AI가 보편화되고 딥페이크 등 악의적인 활동에 사용될 가능성이 높아짐에 따라, 기업은 AI Agent의 윤리적이고 책임감 있는 사용을 위한 명확한 지침과 AI 거버넌스 프레임워크를 구축해야 합니다. 또한, -특정 AI 관행에 대한 금지, 고위험 AI 시스템에 대한 엄격한 의무, AI 애플리케이션에 대한 투명성 등을 요구하는- EU 연합의 AI 규제 등을 포함한 글로벌 규제 사항을 탐색하고, 규정 준수 조치에 대한 사전 예방적인 참여를 준비해야 합니다.^[22]

AI Agent 시스템을 정기적으로 평가하고 조정해야 하며,^[11] 에이전트 개발 프로세스의 시작부터 윤리적 고려 사항을 적용하면 위험을 피하고 새로운 규정에 부합하는 데 도움이 될 수 있습니다. 이러한 노력은 ‘AI 의사 결정 프로세스의 투명성’, ‘AI 출력 공정성’과 ‘편향 최소화’, ‘인간의 감독과 개입을 위한 메커니즘’ 등을 포함합니다. 이를 통해, 책임감 있는 혁신 문화를 조성하고, AI 윤리와 거버넌스에 대해 지속적으로 논의하고 참여합니다.^[22] 또한, 기업은 데이터 거버넌스 프레임워크에 우선순위를 지정하여 AI 에이전트가 신뢰할 수 있고 강력한 데이터 소스를 활용하도록 합니다.

글을 마치며…

인공지능이 업무와 일상생활의 다양한 측면으로 통합됨에 따라, 관련된 기술들이 진화하고 있습니다. 이러한 측면에서 AI Agent는 필수 불가결한 요소가 되고 있으며, 에이전트의 채택은 비즈니스 환경에서 중요한 전환점이 될 것입니다. 기존에는 사전 정의된 입력에 의존하여 작업을 자동화했으나, 이제 인공지능은 인간의 개입을 최소화하여 업무를 수행하고 학습할 수 있습니다. 머신러닝(ML), 대형 언어 모델(LLM) 및 자연어 처리(NLP) 도구가 발전함에 따라, AI Agent는 학습하고 개선하며 정보에 입각한 결정을 내리는 능력도 발전하여 다양한 부분에서 핵심 요소가 될 것임이 분명합니다. AI Agent는 기업 혁신에 어떠한 영향을 미칠까요? 에이전트는 기업의 더 빠른 의사 결정을 지원하고, 프로세스의 자동화를 통해 워크플로우 간소화 및 생산성을 향상하며, 개인화된 경험을 개선하는 등 다양한 이점을 제공합니다.^[10] AI Agent의 급속한 진화는 개인 비서에서 복잡한 개발자 도구에 이르기까지 산업을 재편하고 있으며,^[30] 복잡한 문제를 해결하는 데 더욱 능숙해지고 있습니다. 의료 분야에서는 질병 진단과 환자 치료를 지원하고, 금융 분야에서는 시장 동향 분석과 포트폴리오를 관리합니다. 공급망을 최적화하고, 제조 부문에서는 생산 라인의 최적화를 통해 낭비를 줄이며, 소매 부문에서는 고객 경험을 개인화하고 재고를 관리하는 등 AI Agent의 응용 분야는 무궁무진합니다.

글로벌 컨설팅사의 설문 조사에 따르면, 72% 이상의 기업이 이미 AI 솔루션을 배포하고 있으며, 생성형 AI 대한 관심이 높아지고 있습니다. 또한, 기업의 10%가 이미 AI Agent를 사용하고 있으며, 82%는 향후 3년 이내에 이메일 생성부터 소프트웨어 코드, 데이터 분석에 이르기까지 다양한 업무를 자동화하기 위해 AI Agent를 비즈니스에 통합할 계획이라고 답했습니다. 기업들은 AI Agent가 워크플로우의 자동화를 확대하고, 고객 서비스와 만족도를 개선하며, 잠재적인 생산성 향상이 위험보다 더 클 것이라고 예상하고 있습니다. 이러한 흐름을 감안할 때, 기업이 AI Agent를 미래의 AI 로드맵에 통합하기 시작한 것은 어쩌면 당연한 일입니다.^[10][25]

그러나, AI Agent를 구축하는 것은 결코 쉬운 일이 아닙니다. 아키텍처가 매우 복잡하기 때문에 다양한 LLM, 기계 학습, 자연어 처리, RAG 스택, 고급 데이터 아키텍처 및 엔지니어링 등의 AI 전문 지식이 필요합니다. AI 시스템과 효과적으로 협업하고, 결과를 이해하며, AI에서 생성된 인사이트를 기반으로 정보에 입각한 결정을 내리는 능력도 중요합니다. 또한, 윤리, 거버넌스 및 위험 관리 기술은 기업이 AI Agent를 배포하는 데 필수적입니다.^[22] 그러나, 기업은 이러한 복잡한 일들을 수행할 수 있는 전문 지식이나 인력을 보유하지 않은 경우가 더 많기 때문에, 급변하는 AI 기술에 대한 이해와 경험이 풍부한 '생성형 AI 전문 기업과의 협력'이 필요합니다. 이러한 파트너십을 통해, 기업은 수천 명의 사용자가 테스트한 검증된 AI Agent에 엑세스할 수 있으며, 전문가의 지식과 경험을 바탕으로 비즈니스 워크플로우에 생성형 AI를 통합하여 맞춤형 AI Agent를 구축하고 진정한 하이퍼오토메이션을 실현할 수 있습니다.

삼성SDS는 삼성 클라우드 플랫폼(SCP)을 포함한 다양한 글로벌 클라우드의 ‘생성형 AI GPU 인프라'부터, 최적화된 Multi LLM과 기업의 데이터/시스템을 연계하여 손쉽게 멀티 에이전트(Multi Agent) 개발을 지원하고 업무 효율을 혁신하는 생성형 AI 플랫폼 'FabriX'를 제공합니다. FabriX는 검증된 업종별 220여 개의 Use Case를 보유하고 있으며, 현재 26개 관계사, KB금융 9개사, 10여 개의 공공기관 등이 생성형 AI 플랫폼으로 활용하고 있습니다. 또한, 메일, 메신저, 화상회의 등 협업 및 일상적인 사무 작업에 생성형 AI를 적용하여 생산성을 높이고 효율화를 지원하는 Personal Agent인 'Brity Copilot'를 제공합니다. Brity Copilot은 글로벌 최고 수준의 국문 인식률을 제공하며, FabriX와 함께 100여 개의 기업에 도입되어 일하는 방식을 바꿔나가고 있습니다. 마지막으로, 생성형 AI와 연계하여 기업 업무의 시작부터 마무리까지 끊김 없는 자동화를 제공하는 비즈니스 자동화 플랫폼인 'Brity Automation'을 제공합니다. 해당 솔루션은 기존의 단순 반복 업무를 자동화하는 규칙 기반의 'RPA(Robotic Process Automation)'와 복잡하고 긴 프로세스 간 연계를 가능하게 하는 'BPA(Business Process Automation)'를 포함하며, '생성형 AI'를 적용하여 인터랙티브한 비즈니스 프로세스 자동화를 구현합니다.

[그림 3] Hyper-automation Powered by Samsung SDS AI Agent(출처: 삼성SDS)

Agent 서비스	Custom Agent 구매 Agent 물류 Agent 경영지원 Agent Legacy system 구매 시스템 물류 시스템 경영지원 시스템	Solution Agent Brity Agent Brity Copilot, Mail, Messenger, Meeting, Drive Automation Agent Brity Automation, RPA*,BPA*,Document AI SRM Agent emro, Caidentia SCE Agent Cello Square, Cello 글로벌사 Gen AI 오퍼링 SCM Agent o9, o9 AI Digital Brain CRM Agent Einstein 1 Platform HCM Agent Workday Ai ERP Agent BTP
Biz. 애플리케이션
Gen AI 플랫폼	FabriX 플랫폼 서비스 : Agent API, AI Portal, Agent Studio, Multi-Agent Orchestration 사내 정보 카탈로그 : Knowledge, API, Data, Asset
Gen AI 인프라	Samsung Cloud Platform, GPUaaS*, Microsoftm oracle cloud, aws, google Cloud, On-premise

*RPA(Robotic Process Automation), BPA(Business Process Automation), GPUaaS(GPU as a Service)

삼성SDS는 이러한 생성형 AI 오퍼링과 축적된 생성형 AI 서비스 경험을 바탕으로 기업의 시스템에 생성형 AI를 결합하여 시스템별 전문 'AI Agent' 구축을 위한 End-to-End 서비스를 제공합니다. 이를 통해, AI 혁신의 과정에 수반되는 복잡한 문제를 함께 해결하면서 AI Agent 시스템과의 협업을 통해 업무를 변화시키고, 기업의 진정한 하이퍼오토메이션을 실현하여 지속 가능한 성장과 혁신을 지원할 것입니다.

References
[1] https://www.zdnet.com/article/agentic-ai-is-the-top-strategic-technology-trend-for-2025/
[2] https://www.dubaichronicle.com/2024/11/20/top-10-strategic-technology-trends-new/
[3] https://botpress.com/blog/top-artificial-intelligence-trends
[4] https://www.forbes.com/councils/forbesbusinesscouncil/2024/10/01/the-rise-of-ai-agents-unlocking-their-full-potential/
[5] https://www.cio.com/article/3489045/ai-agents-will-transform-business-processes-and-magnify-risks.html
[6] https://www.forbes.com/sites/robtoews/2024/07/09/agents-are-the-future-of-ai-where-are-the-startup-opportunities/
[7] https://blog.getodin.ai/ai-agents-in-2024-trends-tech-enthusiasts-should-watch/
[8] https://www.pega.com/agentic-ai?utm_source=google&utm_medium=cpc&utm_campaign=G_APAC_NonBrand_AI_CE_Exact_(CPN-111067)_EN&utm_term=autonomous%20ai%20agents&gloc=9195713&utm_content=pcrid%7C720004649719%7Cpkw%7Ckwd-2014509039311%7Cpmt%7Ce%7Cpdv%7Cc%7C&gad_source=5&gclid=EAIaIQobChMIhpLv6NHYiQMVyv1MAh2AtAPNEAAYAyAAEgIMSvD_BwE&gclsrc=aw.ds
[9] https://indatalabs.com/blog/ai-agents-examples
[10] https://www.salesforce.com/ap/agentforce/what-are-ai-agents/
[11] https://shelf.io/blog/the-evolution-of-ai-introducing-autonomous-ai-agents/
[12] https://markovate.com/blog/agentic-ai-architecture/
[13] https://aws.amazon.com/ko/what-is/ai-agents/
[14] https://www.magicaiprompts.com/docs/ai-agent/what-is-ai-agent/
[15] https://www.ibm.com/kr-ko/think/topics/ai-agents
[16] https://blog.naver.com/mr10002/223385305223
[17] https://www.unite.ai/ko/chatdev-communicative-agents-for-software-development/
[18] https://www.analyticsvidhya.com/blog/2024/07/ai-agent-frameworks/
[19] https://www.letta.com/blog/ai-agents-stack
[20] https://www.marketsandmarkets.com/Market-Reports/ai-agents-market-15761548.html?gad_source=1&gclid=EAIaIQobChMImPrxt_zkiQMV3tEWBR25GS5oEAAYAiAAEgIQBfD_BwE
[21] https://www.grandviewresearch.com/industry-analysis/ai-agents-market-report
[22] https://www.justthink.ai/blog/the-top-ai-agent-trends-to-watch
[23] https://aws.amazon.com/ko/blogs/machine-learning/generative-ai-and-multi-modal-agents-in-aws-the-key-to-unlocking-new-value-in-financial-markets
[24] https://www.softwebsolutions.com/resources/autonomous-ai-agents
[25] https://www.cio.com/article/3488553/ai-agents-loom-large-as-organizations-pursue-generative-ai-value.html
[26] https://langchain-ai.github.io/langgraph/concepts/multi_agent/#multi-agent-architectures
[27] https://blog.getaura.ai/ai-agents-skills-data-trends
[28] https://www.cio.com/article/3563765/ai-makes-edge-computing-more-relevant-to-cios.html
[29] https://www.akamai.com/glossary/what-is-ai-on-edge-networks
[30] https://autogpt.net/state-of-ai-agents-in-2024/
[31] https://smythos.com/artificial-intelligence/autonomous-agents/future-of-autonomous-agents/
[32] https://www.norm.ai/platform
[33] https://www.greenlite.ai/
[34] https://agilayer.com/ai-agent-projects-2024-themes-trends-and-opportunities/
[35] https://beyondx.ai/mulryurobos-canggoreul-deo-ddogddoghage-meolti-eijeonteu-okeseuteureisyeoneul-wihan-haegsim-gineunge-daehae/
[36] https://www.dhl.com/discover/en-global/logistics-advice/logistics-insights/ai-in-logistics-and-last-mile-delivery
[37] https://botpress.com/ko/blog/real-world-applications-of-ai-agents