지능형 기술의 새로운 패러다임, AI 에이전트

2024-12-16 Lucas Mearian

이 글은 IDG의 아티클을 전재하여 제공합니다.
[원문보기]

AI 에이전트(AI Agent)는 생성형 AI 진화의 최신 단계로, 인간의 행동을 모방하고 자율적으로 작업을 수행할 수 있는 기술을 의미합니다.

출처: Shutterstock/Ole.CNX

생성형 AI는 지난 2년 동안 프롬프트 엔지니어링과 명령어 미세 조정에서 시작해 챗봇 답변의 정확성을 높이기 위해 외부 지식 소스를 통합하는 방향으로 빠르게 발전해 왔습니다. 가장 최근의 진전은 자율 에이전트(autonomous agent)입니다. 자율 에이전트는 환경을 인식하고 결정을 내리며, 특정 목표를 달성하기 위해 행동을 취할 수 있는 AI 기반 애플리케이션을 말합니다. 핵심은 ‘에이전시(agency)’, 즉 소프트웨어가 독립적으로 행동할 수 있는 능력입니다. 기존 생성형 AI 도구가 텍스트, 이미지, 음악 등 콘텐츠 생성에 초점을 맞췄다면, AI 에이전트는 문제 해결과 복잡한 작업 실행에 더 중점을 둡니다.

AI 에이전트를 간단히 정의하면, LLM과 전통적인 소프트웨어 애플리케이션이 결합해 자율적으로 작업을 수행하는 시스템입니다. 딜로이트 보고서에 따르면, 2025년에는 생성형 AI를 사용하는 기업의 25%가 AI 에이전트의 파일럿 프로젝트나 개념 증명을 시작할 것으로 예상됩니다. 2027년에는 이 비율이 절반까지 증가할 전망입니다. 딜로이트는 “2025년 후반부터 일부 AI 에이전트 애플리케이션이 실제 워크플로우에 도입될 가능성이 있습니다.”며, “AI 에이전트는 지식 노동자의 생산성을 높이고 다양한 워크플로우를 더욱 효율적으로 만들 수 있습니다. 하지만 ‘자율성’이라는 측면에서의 광범위한 채택은 시간이 걸릴 것이다.”라고 언급했습니다.

여러 기업이 크고 작게 생성형 AI 기반 에이전트를 서둘러 선보이고 있습니다. 마이크로소프트는 지난 11월 M365 코파일럿에 자동화된 에이전트를 추가한다고 발표했으며, 시스코는 고객 서비스를 위한 에이전트를 지난 10월 공개했습니다. 같은 달, 아틀라시안은 로보(Rovo) 생성형 AI 어시스턴트를, 아사나는 에이전트를 구축할 수 있는 AI 스튜디오를 각각 발표했습니다. 즉, AI 에이전트는 곧 다른 생성형 AI 도구만큼 널리 사용될 가능성이 높습니다.

AI 에이전트의 핵심 작동 방식

AI 에이전트는 개방형 웹, 모바일 앱, OS에서 자율적으로 작업을 수행할 수 있는 특화된 에이전트를 제공합니다. 대화형 웹 에이전트라는 특정 유형의 AI 에이전트는 챗봇과 유사하게 작동하지만, 조지아 공과대학교 전기컴퓨터공학 및 인터랙티브 컴퓨팅 교수 래리 헥에 따르면 단순한 텍스트 채팅을 넘어 다중 모달 대화를 통해 사용자와 상호작용합니다. 기존의 가상 비서인 시리, 알렉사, 또는 구글 어시스턴트가 제한된 생태계 내에서 작동하는 것과 달리 대화형 웹 에이전트는 사용자가 개방형 웹과 앱에서 자유롭게 작업을 수행할 수 있도록 돕습니다. AI 에이전트는 다양한 분야에서 널리 사용될 것으로 예상됩니다. 가장 일반적인 사용례는 웹 검색 엔진의 확장 기능이나 시리, 알렉사, 구글 어시스턴트 같은 기존 가상 비서에 통합되는 형태일 것으로 전망합니다.

AI 에이전트의 산업별 활용 사례

다양한 기술 기업, 클라우드 서비스 업체 등이 독자적인 AI 에이전트 솔루션을 개발하거나 전략적 인수를 통해 시장 점유율을 확대하고 있습니다. 신생업체의 AI 에이전트 기술을 라이선스하거나, 회사를 인수하지 않고 관련 기술을 보유한 직원만 채용하는 방식도 점차 늘어나고 있습니다. 딜로이트에 따르면, 지난 2년 동안 엔터프라이즈 시장을 타깃으로 하는 AI 에이전트 신생업체에 20억 달러 이상이 투자됐습니다.

AI 에이전트는 예상치 못한 곳에서도 이미 활용되고 있습니다. 예를 들어, 자율주행 차량 대부분은 센서를 통해 주변 데이터를 수집한 뒤, AI 에이전트 소프트웨어를 사용해 지도 작성 및 차량 주행을 제어합니다. AI 에이전트는 자율주행 차량의 경로 최적화, 교통 관리, 실시간 의사 결정 등 여러 중요한 역할을 수행합니다. 심지어 차량이 언제 유지보수가 필요한지 예측하기도 합니다.

IDC 리서치의 그룹 부사장 리투 조티에 따르면, 앞으로 AI 에이전트는 자동화된 운전 경험 전반을 혁신할 잠재력을 지니고 있습니다. 예를 들어, 올해 초 엔비디아는 자율주행 차량을 위한 LLM 기반 에이전트인 에이전트 드라이버(Agent Driver)를 출시했는데, 이는 더 “인간에 가까운 자율주행”을 구현하는 데 초점을 맞추고 있습니다.

Industry Examples (출처: IDC)

AI 에이전트는 금융, 의료 등 다양한 산업에서 폭넓게 활용되고 있습니다. 금융 산업에서는 고객 신원확인(Know Your Customer, KYC) 애플리케이션의 일환으로 정보를 수집하고, 의료 분야에서는 대화형 설문을 통해 환자 상태를 조사하거나 처방전을 갱신하는 데 사용됩니다. AI 에이전트가 처리할 수 있는 작업은 매우 다양합니다.

자율 진단 시스템: 망막 스캔과 같은 의료 이미지를 분석해 진단과 치료 방안을 제안합니다.
알고리즘 기반 트레이딩 봇: 금융 시장 데이터를 분석하고 트렌드를 예측하며, 최소한의 인간 개입으로 거래를 실행합니다.
보험 산업의 AI 에이전트: 여러 채널에서 핵심 데이터를 수집하고 이를 분석해 상태 업데이트를 제공합니다. 가입 전 사전 질문을 처리하고 전자 승인을 제공하는 역할도 합니다.
공급망 커뮤니케이션 에이전트: 솔루션 제공업체의 성과를 추적하고 지연을 감지 및 대응함으로써 고객이 공급망을 최적화하고 비용이 많이 드는 중단을 최소화할 수 있도록 돕습니다. 이를 통해 조달팀은 시간 소모적인 수동 모니터링과 긴급 대응 업무에서 벗어날 수 있습니다.
영업 자격 심사 에이전트: 이 에이전트는 리드를 조사하고, 기회 우선순위를 정하고, 개인화된 이메일과 응답을 통해 고개 지원을 안내하며 영업팀이 우선순위가 높은 기회에 집중할 수 있도록 돕습니다.
고객 의도 및 고객 지식 관리 에이전트: 많은 통화량과 인력 부족, 높은 고객 기대치에 직면한 고객관리팀에서 첫 접점을 맡아 고객 질문을 파악하고, 적절한 정보를 제공하거나 다음 단계를 안내함으로써 고객에게 긍정적인 첫인상을 형성할 수 있습니다.

에이전트는 고객 서비스 담당자와 협력해 고객 문제를 해결하는 방법을 배우고, 지식 기반 문서를 자율적으로 추가해 팀 전체에서 최상의 실무를 확산합니다.

개발자를 위한 AI 에이전트 도구

알파고(AlphaGo), 알파제로(AlphaZero), 오픈AI의 도타 2(Dota 2) 봇과 같은 AI 에이전트 시스템은 강화 학습을 사용해 게임이나 시뮬레이션에서 자율적으로 전략을 세우고 의사 결정을 내려 보상을 극대화하도록 훈련할 수 있습니다.

AI 에이전트는 과거의 상호작용과 행동을 기억하는 기능을 갖추고 있기 때문입니다. IDC에 따르면, 이런 경험을 저장하고 ‘자기반성’이나 평가를 수행해 향후 행동에 정보를 제공할 수도 있습니다. 이런 메모리 기능을 바탕으로 AI 에이전트는 시간이 지나면서 더욱 정교한 작업을 수행할 수 있도록 연속성과 성능을 개선합니다. 심지어 익숙하지 않은 기술에 대한 자체 연구를 수행해 사용법을 배울 수도 있습니다.

코그니션 랩스(Cognition Labs)의 데빈 AI(Devin AI)는 소규모 소프트웨어 엔지니어팀이 수행하던 작업을 자율적으로 처리할 수 있는 DIY AI 에이전트 도구입니다. 데빈 AI는 애플리케이션을 처음부터 끝까지 구축하고 배포할 수 있으며, 코드베이스의 버그를 독립적으로 찾아 수정할 수 있습니다. 또한 자체 AI 모델을 학습하고 미세 조정하는 기능도 갖추고 있습니다.

AI 에이전트 소프트웨어 개발 동향

소프트웨어 개발 전문 시장조사기관 에반스 데이터(Evans Data Corp.)가 434명의 AI/ML 개발자를 대상으로 다국적 설문 조사를 실시한 결과, 생성형 AI 도구를 활용해 가장 많이 개발할 것으로 예상되는 항목은 소프트웨어 코드였으며, 알고리즘과 LLM이 뒤를 이었습니다. 또한 응답자들은 생성형 AI를 통해 개발 주기를 단축하고 ML 기능을 더 쉽게 추가할 수 있을 것으로 예상했습니다.

개발자는 생성형 AI 도구에 자연어 프롬프트나 부분적인 코드를 입력해 더 빠르고, 종종 더 정확하게 코드를 작성할 수 있습니다. 일부 이메일 플랫폼에서 제공하는 AI 기능처럼 코드를 실시간으로 자동 완성하도록 제안하기도 합니다. 가트너에 따르면, 2027년까지 전체 전문 개발자의 70%가 AI 기반 코딩 도구를 사용할 것으로 전망됩니다. 이는 2023년 9월 기준 10% 미만에서 크게 증가한 수치입니다. 또한 가트너는 향후 3년 내에 전체 기업의 80%가 AI 보강 테스트 도구를 소프트웨어 엔지니어링 툴체인에 통합할 것으로 예상했습니다. 2023년 초 약 15%였던 비율에서 큰 폭으로 늘어날 전망입니다.

생성형 AI를 활용한 소프트웨어 개발 도구 중 가장 널리 사용되는 도구 중 하나는 깃허브 코파일럿(GitHub Copilot)입니다. 이 도구는 깃허브, 챗GPT 개발사 오픈AI, 그리고 마이크로소프트가 개발한 생성형 AI 모델로 구동됩니다. 공개 리포지터리에 포함된 모든 자연어 데이터를 학습합니다. 깃허브는 여러 AI 에이전트를 해 협력적으로 코딩 작업을 해결할 수 있는 다중 AI 에이전트 시스템을 구현했습니다. 다중 에이전트 시스템은 여러 애플리케이션이 공통된 목적을 위해 함께 작업하도록 합니다. 예를 들어, 깃허브가 올해 초 코파일럿 네이티브 개발자의 기술 프리뷰로 출시한 코파일럿 워크스페이스(Copilot Workspace)는 여러 전문 에이전트가 협력하고 소통해 단일 에이전트보다 더 효율적으로 복잡한 문제를 해결할 수 있게 합니다. 깃허브 블로그에 따르면, 코파일럿 워크스페이스와 코드 스캔 자동 수정과 같은 AI 에이전트 코딩 도구는 개발자가 더 효율적으로 보안성이 높은 소프트웨어를 구축할 수 있도록 돕습니다.

AI 에이전트의 과제

AI 에이전트 기술은 부정적인 결과를 초래할 수 있습니다. 예를 들어, AI 에이전트가 온라인 고객의 의도를 더 잘 파악할 수 있다면, 검색 및 브라우징 중 민감한 정보가 노출될 위험이 커질 수 있습니다. AI 에이전트가 사용자의 의도를 더 정확하게 이해함으로써 기업이 이 데이터를 더 높은 수준으로 수익화할 수 있게 될 것입니다. 하지만, 사용자 의도를 더 세밀하게 파악할 수 있는 만큼 안전장치를 마련하지 않으면 보안 및 개인정보 보호 문제가 발생할 가능성도 커질 수 있습니다.

AI 에이전트 도구 대부분은 안전하고 신뢰할 수 있다고 주장하지만, 이들의 안전성과 신뢰성은 사용되는 정보 출처에 따라 달라집니다. 에이전트가 사용하는 데이터 소스는 제한된 기업 데이터에서부터 개방형 인터넷에 이르기까지 다양할 수 있습니다. 후자의 경우 생성형 AI 출력에 영향을 미치고 오류나 환각(hallucination)을 초래할 수 있습니다. 정보 접근에 대한 안전장치를 설정하면 관리자가 AI 에이전트의 행동에 제한을 둘 수 있습니다. 제니티(Zenity)의 마케팅 디렉터 앤드류 실버먼은 이런 이유 때문에 사용자 교육과 훈련은 AI 에이전트와 코파일럿의 안전한 구현과 사용에 필수적이라고 강조했습니다.

사용자는 이런 도구를 작동하는 방법뿐 아니라 그 한계, 잠재적 편향, 그리고 보안상의 영향을 이해해야 합니다. 의심스러운 AI 행동을 인지하고 보고하는 방법, AI 도구의 적절한 사용례 이해, AI 시스템과 상호작용 시 데이터 프라이버시 유지와 같은 주제를 훈련 프로그램에 포함해야 합니다.

이 글이 좋으셨다면 구독&좋아요

여러분의 “구독”과 “좋아요”는
저자에게 큰 힘이 됩니다.

Lucas Mearian

Computerworld의 Senior Reporter