공공 디지털 혁신, 초거대 AI와 클라우드 준비

2024-06-21 홍은주

- 해당 아티클은 2024년 4월, 삼성SDS가 공공 고객을 대상으로 진행한 「삼성SDS Gen AI Day」 세미나 중, ‘공공 디지털 혁신을 위한 도약: 초거대 AI 및 클라우드 동향’과 ‘디지털 플랫폼 정부를 위한 클라우드: Samsung Cloud Platform’ 내용을 기반으로 작성했습니다. -

인공지능 기술은 1956년 개념이 정립된 이후, 2016년 알파고의 바둑 우승으로 세상을 놀라게 했습니다. 2022년에는 ChatGPT의 등장으로 '생성형 AI'라는 화두를 쏘아 올리고, 이제는 상상을 초월할 정도로 확산되어 우리의 일상에 스며들고 있습니다. 최근, 휴머노이드 로봇 개발 스타트업인 '피겨 AI(Figure AI)'와 ChatGPT 개발사인 'OpenAI'가 협업해 제작한 로봇 '피겨01(Figure 01)'의 시연 영상이 공개되었는데, 사람이 "먹을 것을 좀 달라"라고 부탁하면 로봇이 테이블 위에서 유일하게 먹을 수 있는 것이 사과라는 것을 이해하고 사람에게 건네줍니다. 이렇게, 사람이 질의/지시하면 AI가 스스로 판단하고 실행하는 세상이 바로 우리의 가까운 미래로 다가왔습니다.

AI 기술의 발전 (출처: 과학기술정보통신부)

'생성형 AI’, ‘초거대 AI' 등으로 대변되는 인공지능이라는 신기술을 맞이하는 상황에서 공공의 디지털 혁신을 위한 클라우드 도입/전환은 지금까지 어떻게 진행되었고, 2024년에는 무엇을 준비해야 하는지 살펴보려고 합니다.

공공 디지털 혁신의 여정

디지털 대전환 시대에 정부는 '클라우드 퍼스트 정책'을 펼치면서 클라우드를 공공기관에 도입하도록 독려하고, 행안부 주도에서 기관별 추진, 그리고 다양한 환경의 변화를 겪으면서 민간 클라우드 도입을 진행해 왔습니다.

(1) 클라우드 전환/통합 사업
2021~2022년에는 많은 공공기관들이 행안부 예산을 받아서 클라우드 인프라 전환 사업을 추진했고, 2023년에는 정부 정책하에 클라우드 인프라 도입뿐만 아니라 부처별로 클라우드 네이티브 전환에 대한 로드맵을 수립했습니다. 즉, 2030년까지 1만여 개의 정부 기관 시스템을 클라우드 네이티브로 전환하기 위한 본격적인 준비를 시작한 한 해였습니다. 그리고, 2024년은 바로 범정부 초거대 AI 도입과 클라우드 네이티브가 확대되는 원년이라고 할 수 있습니다.

공공기관 클라우드 도입 경과

행안부는 그동안 공공기관에 클라우드를 빠르게 도입하고 적합하게 적용하기 위해 다양한 ‘도입 모델’을 만들었습니다. 그중 대표적인 것이 '민간 클라우드 센터(민간형)'입니다. 민간형 모델은 CSAP(Cloud Security Assurance Program) 인증을 받은 - 삼성SDS와 같은 - 민간 클라우드 서비스 사업자의 '공공 퍼블릭 클라우드(Public Cloud)' 인프라(서비스)를 활용해 공공기관의 업무 시스템을 전환, 구축, 운영/관리하는 것으로, 인터넷을 접속하는 'DMZ 영역'과 내부 업무를 수행하는 'Private Zone'으로 구성되며 논리적으로 구분되어 있습니다. 이 모델은 빠른 클라우드 전환은 가능하나, 국가 안보 등의 민감 정보를 처리하는 시스템을 제외한 보안 등급이 낮은 일반 업무에만 활용할 수 있습니다. 2023년 기준으로, 기관을 소개하거나 대민 서비스를 제공하는 등의 5,465개 시스템이 해당 모델을 기반으로 전환되었습니다. 여기서 한 가지 유념해야 할 점은, 공공 데이터에 대한 보안은 매우 중요한 문제로 2024년 2월 과기부가 업무 시스템에 대한 '상·중 등급 평가 기준 행정'을 예고했기 때문에, 각 공공기관은 앞으로 시스템별 보안 등급에 따라 어떠한 보안을 적용해야 하는지를 파악하고 준비해야 합니다.

두 번째로는 '공공 클라우드 센터(민·관 협력형)'입니다. 해당 모델은 민간 데이터센터와 행정·공공기관이 협력하여 기관의 특성에 맞는 '프라이빗 클라우드(Private Cloud)를 구축하는 것입니다. 민간 클라우드 사업자의 Private·Dedicated 클라우드 서비스를 활용하고, 유관 기관과 지방 행정에 관련된 스타트업 기업들도 함께 클라우드 환경을 사용할 수 있기 때문에 많은 지자체들이 디지털 혁신의 발전을 이루는 모델로서 활용하고 있습니다. 대표적으로 2022년 전북도청이 삼성SDS와 함께 진행한 지자체 시범사업에 적용한 모델이며, '삼성 클라우드 플랫폼(Samsung Cloud Platform)'을 활용해 물리적인 전용 클라우드를 구성하고 민감한 내부 시스템을 클라우드로 전환했습니다.

공공 클라우드 - 민·관 협력형

공공 클라우드 센터 - 민.관 협력형

민간 주도형, 민간 구축형을 설명하는 테이블
	민간 주도형(설비협력)	민간 구축형(설비+설비협력)
민감정보 시스템	지차체/공공기관 데이터센터 On-Site Cloud (전용), Private 지차체/공공기관 건물운영 보안관제 AP운영	민간 데이터 Private Cloud (전용), Private 지차체/공공기관 보안관제 AP운영
민감정보 시스템	On-Site Cloud (전용), DMZ 민간 클라우드 서비스 제공자 설비운영	Public Cloud (공유) 민간 클라우드 서비스 제공자 건물운영 설비운영

특장점

행정부 클라우드 컴퓨팅 서비스 활용 모델 시범사업(~22년)

민간 주도형 모델(2): 세종시
민간 구축형 모델(3): 전남도청,광주시청,경남도청,제주시청

Private Dedicated Cloud 서비스

(2) 디지털 서비스 전문계약 제도
이러한 행안부의 클라우드 도입 모델들을 기반으로 공공기관의 클라우드 전환은 2021년부터 '디지털 서비스 전문계약 제도'를 활용해 빠르게 추진되었습니다. 디지털 서비스 전문계약 제도는 온라인상의 전문 시스템을 통해 원하는 디지털 서비스의 계약을 진행하는 방식입니다. 2024년 3월 5일 기준으로 디지털 서비스 전문계약 제도를 통해 1,182건, 총 4,483억 원의 계약이 진행되었습니다. 기존에는 사업을 계획하고, 발주 및 용역 계약까지 80일 이상 소요되었습니다. 그러나, 삼성SDS와 같은 클라우드 컴퓨팅 서비스 사업자들이 과기부의 '이용 지원 시스템'을 통해 심사를 거쳐 서비스를 등록하고, 각 공공기관은 조달청의 '디지털 서비스몰'을 통해 원하는 서비스를 선택해 2주 내외로 계약을 완료할 수 있습니다. 2021년 고성능 컴퓨팅 자원 임차 용역(NIPA) 등 대규모 계약을 포함한 많은 사업에서 활용되면서 다양한 디지털 신기술 서비스를 빠르게 적용하고 있습니다.

디지털 서비스 전문계약 제도)

디지털 플랫폼 정부

정부는 2023년까지 클라우드 인프라 환경 구축에 집중해 왔고, 앞서 말씀드린 것처럼 2024년은 범정부 초거대 AI(생성형 AI) 도입과 클라우드 네이티브가 확대되기 시작할 것입니다.

'디지털 플랫폼 정부'에 대해 들어보셨나요? 매우 익숙한 단어일 것입니다. 디지털 플랫폼 정부는 디지털 플랫폼을 통해서 각 기관의 시스템과 데이터를 연계/공유할 수 있는 환경을 만들고, 정부 주도로 진행한 것에서 민간의 기술을 빠르게 적용하기 위해 민간 협업을 추진하는 것입니다. 또한, AI와 데이터를 활용할 수 있는 인프라 환경으로 바꾸자는 개념입니다. 즉, 공공의 디지털 혁신은 '디지털 플랫폼과 초거대 AI 등의 혁신적인 기술을 기반으로 클라우드 네이티브를 지속적으로 추진'하면서 진행될 것입니다. 이를 위해서는 정부의 전폭적인 지지와 예산이 필요합니다. 디지털 플랫폼 정부(DPG)의 올해 예산은 2023년 4,207억 원 대비 123% 성장한 9,386억 원으로 확정되었으며, '국민을 위한 정부, 똑똑한 원팀 정부, 민관 성장플랫폼, 신뢰·안심 DPG 구현'의 4개의 영역으로 실행 과제들이 정의되고 집행될 예정입니다.

디지털 플랫폼 정부 추진 방향

초거대 AI 준비

디지털 플랫폼 정부의 추진 과제의 핵심은 '초거대 AI'입니다. AI를 어떻게 도입하느냐가 핵심이고, 2023년 4월에는 '디지털 플랫폼 정부 실현 계획'을 통해 초거대 AI에 대한 「기술·산업 인프라 구축, 혁신 생태계 조성, 제도·문화 정착」까지 포함한 추진 과제들이 발표되었습니다. 각 기관은 정부의 추진 과제에 주목하고, 공공·행정 초거대 AI 서비스 개발을 위해 PoC나 컨설팅을 통한 개념검증 과제를 자체적으로 추진하면서 단계별로 준비하고 있습니다.

초거대 AI 개념 검증 과제 현황

Use Case 발굴 예산준비 과제수행 개별사업 PoC(proof of concept)

기관명	개념검증 과제
고용노동부	노동위원회 데이터 기반의 조사보고서 작성지원 시스템 실증
관세청	해외직구 등 수출입컨설팅(FTA 협정 포함) 등 AI 직구비서 서비스
국립중앙도서관	도서관 데이터를 학습한 도서관 서비스 질의응답 챗봇 서비스
국민권익위원회	국민 고충 민원의 민원 의도를 파악, 자동 답변추천 및 자동처리 실증
국민연금공단	국민연금 관련 다양한 민원에 대한 AI 기반의 대민응대 챗봇 서비스 실증
국세청	세법, 상담 등 업무 수행을 지원하는 비대면 업무 도움 서비스 실증
국회도서관	국회의 다양한 의회 정보와 뉴스 및 소셜미디어 분석, 알림 서비스 실증
근로복지공단	산재보상 실시간 상담서비스 지원 및 산재 신청 서비스 테스트 및 실증
법무부	범죄예방업무를 위한 문서제작에 사용되는 입력 값 검증하는 서비스 실증
서울교통공사	도시철도 안전관련 데이터 학습한 AI가 현장근로자 대상 해결방안 등 제공
소상공인시장진흥공단	계약 등 규정 가이드를 기반으로 행정업무를 지원하는 서비스 실증
수원시청	지자체 업무 관련 검색, 요약, 분석, 챗봇 등 행정지원 서비스 실증
양산시청	공문서 기반의 사업계획, 보도자료 등 초안 작성 및 요약 정리 서비스 실증
인천교통공사	인천 도시철도 시내버스, 장애인 콜택시 등 실시간 민원 상담 서비스
조달청	사업계획 및 제안요청서 작성을 위한 RFP 초안을 생성하는 서비스
중소기업중앙회	정책 건의, 사후관리 등 업무 효율화 목적의 민원 응대 챗봇 서비스 실증
한국건강증진개발원	기 구축된 흡연예방 및 금연실천 콘텐츠 기반의 QA 서비스 테스트
한국공항공사	공항이용 정보를 예측 추천하고, 관련 편의시설등을 안내하는 서비스
한국관광공사	기관 보유 서비스에 AI를 적용, 사용자 맞춤형 관광지, 여행지 검색 서비스

(1) Use Case 및 정부 준비
공공 업무에 특화된 AI 서비스 Use Case는 어떠한 것이 있을까요? 대표적으로 행정업무 처리, 복지 문제 대응, 민원 대응 등에 적용할 수 있습니다. 예를 들어, 국회 도서관의 경우 4개의 소속 기관이 있고, 소속 기관들이 산출한 기록물들은 이관하도록 되어 있습니다. 이관된 기록물을 대상으로 AI를 적용해 지능형 검색을 한다면 관련 데이터에 좀 더 쉽게 접근할 수 있습니다. 법제처 경우에도 재판이나 수사기록 데이터 대상으로 AI를 적용해 요약된 정보를 얻을 수 있고, 지침 문서나 학습 데이터 기반으로 '119 신고 대응'이나 대화형 챗봇 서비스를 통한 '민원 상담 대응'도 가능합니다.

정부는 이미 초거대 AI의 기반을 마련하기 위해 'AI로 공문서 작성' 등의 민·관 협력을 통한 시범 서비스 개발에 돌입했으며, 2024년 1월에는 '초거대 AI에 대한 로드맵 구축'을 발표하며 많은 사업들을 진행하고 있습니다. 그중 대표적인 것이 '국가 LLM(Large Language Model) 개발'로, 2025년까지 정부 차원의 LLM을 구현해 대국민 서비스 만족도를 높이고 공무원 업무 혁신을 추진하는 것입니다. 단순히 민원 서비스 등 단위 업무에 AI를 도입하는 수준이 아니라, 기관 간에 공유할 수 있는 데이터를 기반으로 범국가적인 초거대 AI 환경에서 공공 포털 일원화와 맞춤형 서비스를 제공하고 부처 간에 협력하고 혁신할 수 있는 환경을 만들어 놓겠다는 것이 정부의 방향입니다.

(2) 초거대 AI 도입 전략
초거대 AI를 도입하기 위해서는 어떠한 준비가 필요할까요? 삼성SDS는 2023년부터 삼성 관계사와 대외 고객사의 니즈를 통해 200여 건의 Use Case를 확보했습니다. 이러한 Use Case는 공통적으로 적용 가능한 것도 있고, 업무에 특화된 것도 존재합니다. 초거대 AI 도입을 위해서는 어떠한 업무에 초거대 AI 적용이 필요한지를 함께 고민하고, 이를 통해 가장 우선시되고 효율성을 높일 수 있는 업무를 찾아 Use Case로 선정해야 합니다. 이러한 과정에서 필요한 데이터가 무엇인지 찾을 수 있습니다. 초거대 AI를 도입하고 적용할 때의 핵심은 '데이터'입니다. 초거대 AI가 어떤 데이터를 학습하고, 어떤 Use Case에서 데이터를 활용할 것인가가 가장 중요하기 때문입니다. 그래서, 기존 데이터는 유형별로 정리/분류하고 활용할 수 있는 형태로 변경해야 하며, 다른 기관에 공유 가능한가에 대한 고민도 함께 해야 합니다.

그렇다면, 생성형 AI 서비스는 어떻게 구축할까요? 공공 업무의 대부분은 행정망 안에 있고, 행정망 내의 데이터 활용이나 외부 데이터 연계 등 많은 고민이 있습니다. 2023년 6월, 국정원은 생성형 AI 활용에 대한 보안 가이드라인을 공지했습니다. ChatGPT 등 API 기반으로 생성형 AI를 활용한 서비스를 구축하기 위해서는 데이터 익명화, API 키 관리 등 데이터 유효성과 기밀성을 보장하는 '데이터 보안'과 '시스템 보안'에 대한 가이드라인을 따라 구축해야 하는데 이것은 매우 어려운 일입니다. 그래서, 고효율/고보안 인프라부터 사내 데이터/시스템과 사외 시스템과의 연계, 다양한 LLM 연계 및 최적화된 서빙, 사용자를 위한 Portal이나 Chat Service, 레거시 시스템의 Copilot 개발을 지원하는 서비스 등을 제공하는 'AI 플랫폼'의 활용이 필요하며, 삼성SDS는 초거대 AI 도입을 위한 생성형 AI 서비스 플랫폼인 'FabriX'를 제공하고 있습니다.

삼성SDS 생성형 AI 서비스 플랫폼, FabriX

초거대 AI 서비스는 'AI 플랫폼'을 활용해 다양한 아키텍처로 구성될 수 있습니다. Private은 내부망에 'Private LLM'과 'AI 플랫폼'을 두고 내부망 안에서 모든 데이터를 처리할 수 있게 구성하는 것입니다. Private LLM의 Fine-tuning과 서빙을 위한 GPU 인프라가 필요하고, 데이터의 외부 유출을 최소화할 수 있습니다. Public 구성은 OpenAI의 GPT나 HyperCLOVA X 등 외부에서 제공하는 'Public LLM'과 'AI 플랫폼'을 통해 기업의 데이터를 활용하는 것으로, LLM 및 기타 서비스 사용료가 발생하고 내부의 데이터를 어떻게 외부 AI 플랫폼으로 보낼지 등에 대한 정의가 필요합니다. 그러나, 대부분의 공공기관에서는 Hybrid 구성을 필요로 합니다. 즉, AI 플랫폼은 내부망 안에 공통으로 두고 'Private LLM'이나 API 연계한 외부 'Public LLM'을 선택할 수 있으며, RAG(Retrieval-Augmented Generation) 기술을 통해 내부 데이터를 활용할 수 있습니다.

생성형 AI 적용 아키텍처

행정·공공기관이 초거대 AI를 도입하는 과정에는 Use Case 발굴, 클라우드 인프라 및 AI 플랫폼 기반 아키텍처 구성, 활용 데이터 정의 및 전처리 등 다각도로 고민할 것이 많기 때문에, 전문 파트너와 함께 컨설팅부터 기술 검증 및 설계, 서비스 구축, 서비스 운영, 서비스 활용/확산의 사이클을 종합적으로 진행하는 것이 필요합니다.

클라우드 네이티브 준비

행정∙공공기관의 기존 시스템 고도화나 신규 시스템을 대상으로 불가피한 사유를 제외하고 2023년까지 클라우드 네이티브 적용이 의무화되었습니다.

(1) 정부 사업 추진 계획
클라우드 네이티브는 클라우드 성숙도 최고 단계로, 클라우드 기반의 컨테이너와 MSA(Microservices Architecture)를 적용해 애플리케이션을 구축/실행하는 것입니다. 2023년 5월, 행안부는 각 기관의 시스템에 대해 부처별로 '클라우드 네이티브 전환 로드맵'을 자체 수립하고 추진하도록 안내하며, 2026년 이후에는 현행 시스템의 50%, 신규 시스템의 70% 달성을 목표로 제시했습니다. 또한, 2024년 1월에는 정부 주관으로 클라우드 네이티브를 빠르게 추진하기 위한 설명회를 실시하고, 기관들이 제출한 사업계획서를 검토/선정하여 클라우드 네이티브 전환을 위한 예산 지원을 발표했습니다.

범정부 공통 클라우드 플랫폼

(2) 클라우드 네이티브 도입 전략
이러한 시장 환경에서 각 행정∙공공기관은 클라우드 네이티브 전환을 위해 기관의 정보시스템에 대한 H/W, S/W, 응용 프로그램 등의 현황을 정리하여 자원 포트폴리오를 준비/점검해야 합니다. 클라우드 전환은 ‘이용 기획–도입 준비-도입/이용’의 단계로 추진되는데, 정부의 클라우드 전환 가이드라인을 참고해 프로세스를 진행해야 합니다. '이용 기획 단계'에서는 삼성SDS와 같은 클라우드 파트너와 함께 인프라를 포함해 어떤 시스템을 언제까지 전환할지에 대해 논의해야 합니다. 이때 중요한 것의 하나는 자원의 노후화이며, 노후화된 자원과 우선 개선이 필요한 업무를 중심으로 빠르게 전환할 수 있도록 운영까지를 고려한 전환 통합 계획을 수립합니다. '도입 준비 단계'에서는 보안, 안정성, 확장성, 유관 기관 정보화 사업 사전 협의, 이용료 산정 및 예산 확보 등을 고려해야 합니다. 특히, '도입/이용 단계'의 사업 추진 방식 결정 시에는, 디지털 플랫폼 정부의 방향성에 따라 디지털 혁신을 위한 다양한 사업이 추진될 것이므로 정부의 어떤 예산을 받아 활용할 수 있는지 등을 함께 검토해 보면 도움이 될 것입니다.

클라우드 네이티브 전환을 위한 단계

맺음말

공공의 클라우드 네이티브와 초거대 AI 도입은 선택이 아닌 필수가 되었고, 각 공공기관에 적합한 모델을 선택하고 빠르게 적용하기 위해서는 종합적인 관점에서 차근차근 준비해야 합니다. 클라우드 도입과 초거대 AI 적용을 통한 디지털 혁신은 기관의 평가 항목으로도 분명히 포함되어 있습니다. 삼성SDS와 같은 클라우드 및 AI 전문 업체와 함께, 초거대 AI와 클라우드 네이티브 전환을 위한 정부의 가이드라인을 기반으로 각 단계를 하나씩 밟아가면서 성공적인 디지털 혁신을 추진하시기 바랍니다.

이 글이 좋으셨다면 구독&좋아요

여러분의 “구독”과 “좋아요”는
저자에게 큰 힘이 됩니다.

홍은주

삼성SDS 전략마케팅팀

IT 동향 분석, 프로세스 혁신 및 경영전략 수립의 컨설팅 업무 경험을 기반으로, 삼성SDS 닷컴 내 Digital Transformation 및 솔루션 페이지 기획/운영 업무를 수행하였고 SDS 주요 사업영역별 동향/솔루션 분석을 통한 컨텐츠 기획 및 마케팅을 수행하고 있습니다.

Use Case	일반 지식검색	사내 지식검색	결산리포트 작성	...
Gen AI Service	Portal	Chatbot	Copilot	...
System/Data		KMS	ERP	...
LLM Model	상용	오픈소스	업종 특화	...
Infra	Public	Private	On-prem.	...

공공 디지털 혁신, 초거대 AI와 클라우드 준비

공공 디지털 혁신의 여정

공공 클라우드 센터 - 민.관 협력형

디지털 서비스 정의

계약방법 규종

전문시스템 운영

디지털 플랫폼 정부

초거대 AI 준비

구현 시 필요 요소

고려사항

GenAI Service Platform

Private

내부망

Hybrid

내부망

Public

내부망

클라우드 네이티브 준비

클라우드 플랫폼

이용기획단계

도입준비단계

도입 및 이용단계

맺음말