젠슨 황, “AGI 시대 5년 남았다”
올해 3월 열린 엔비디아의 개발자 연례 행사 ‘GTC (GPU Technology Conference) 2024’에서 CEO 젠슨 황은 중요한 예견을 공개적으로 밝혔습니다. 바로 인공 일반 지능(Artificial General Intelligence, 이하 AGI) 시대가 5년 남았다는 공언이었습니다. 인공지능의 발전은 복잡한 작업은 물론 우리의 일상, 일하는 방식, 인간이 세계를 인식하는 방식 등에 근본적인 변화를 가져오고 있습니다. 그 중심에는 AGI가 자리 잡고 있으며, AGI는 단순한 기계적 학습을 넘어서 인간의 지능을 전방위적으로 모방하고자 하는 목표를 가지고 있습니다.
AGI는 복잡한 문제 해결부터 창의적 작업에 이르기까지 인간과 유사한 수준의 이해와 처리 능력을 발휘할 수 있는 시스템을 지향하고 있습니다. AGI에 대한 논의는 이제 단순한 기술적 문제를 뛰어 넘어 인간의 지능 자체에 대한 고민과 함께 AGI가 가져올 편리함과 위험성 등 다양한 주제를 포함하고 있습니다. 이에 본 리포트는 AGI의 이론적 정의와 목표, 핵심 기술 및 응용 분야, 향후 발전 방향 등을 살펴보겠습니다.
인공 일반 지능(AGI) vs 특정 목적 인공지능(Narrow AI)
역사적으로 인공지능 학자들의 초기 목표는 인간의 지능과 비교할 수 있는 수준의 지적 능력을 가진 기계 혹은 시스템을 구축하는 것이었습니다. 예를 들어 의사결정론 및 인지심리학의 권위자인 허버트 사이먼 (Herbert Simon)은 1965년 그의 저서
특정 목적 인공지능(Narrow AI)
AGI를 이해하기 위해서는 ‘특정 목적 인공지능’에 대한 이해가 먼저 필요합니다. 특정 목적만을 수행하기 위해 개발된 ‘특정 목적 인공지능’은 주어진 특정 분야나 한정된 작업에 대해 인간 수준 혹은 그 이상의 성능을 보여주는 인공지능을 일컫습니다. 그래서 영어로 좁다는 뜻의 Narrow AI라는 이름으로도 불립니다. 인간의 역량으로 수행하기 어려운 방대한 양의 데이터 분석, 반복적이고 복잡한 수학적 연산 등을 컴퓨터에게 맡겨 에러가 적은 우수한 인공지능 모델을 만들어내는 것이 ‘특정 목적 인공지능’의 일반적인 목표입니다.
인공 일반 지능(AGI)
반면 AGI는 다양한 분야에서 인간과 유사한 학습, 이해, 추론 능력을 지닌 지능의 형태를 지향합니다. 이런 뜻에서 AGI는 Full AI 혹은 Strong AI라고도 불립니다. 사람은 언어 학습, 문제 해결, 예술 창작 등 다양한 분야에서 일정 수준의 능력을 발휘할 수 있는데, AGI의 목표는 이러한 인간의 일반적 지능을 컴퓨터에서 재현하는 것입니다. 이는 궁극적으로 컴퓨터가 인간과 동등한 수준의 창의적 사고와 문제 해결 능력을 유연하게 가지게 하는 것을 포함합니다.
그런데 AGI가 여전히 개발되지 않았으며, 관련 기술이 계속 발전하고 있는 만큼 명확한 정의가 학계 혹은 업계에 존재하지는 않습니다. 딥러닝 연구로 유명한 제프리 힌턴 (Geoffrey Hinton)도 최근 AP와 진행한 인터뷰에서 AGI의 개념이 아직은 모호하다라는 입장을 보였습니다. 힌턴은 ‘초지능’이라는 뜻의 ‘superintelligence’가 AGI를 설명하는데 더 정확할 것이며 인간이 하는 거의 모든 인지적인 행동에 대해 인간만큼 좋은 성능을 보이는 인공지능이 AGI라고 설명했습니다. 다음 표는 AGI와 Narrow AI의 차이점을 요약한 것입니다. AGI와 Narrow AI 모두 인공지능의 분야지만 정의, 능력, 적용 범위 등에서 차이를 보입니다.
AGI 구현을 위한 주요 기술 및 응용 분야
현재 AGI를 향한 연구는 세계적으로 활발히 이루어지고 있으며 이 분야 선두 기업으로는 OpenAI, Google, Meta, Microsoft 등이 있습니다. 대표적으로 OpenAI의 GPT 시리즈는 인간과 유사한 자연어 생성 능력을 보여주며, 이는 AGI 개발에 있어서 중요한 진전으로 평가되고 있습니다.
AGI를 통해 인간의 오감과 인지 능력을 구현하기 위해서는 딥러닝, 자연어 처리, 컴퓨터 비전 등 다양한 기술이 필요합니다. AGI 개발에 필요한 기술적 원리와 응용 분야를 살펴보겠습니다.
딥러닝 (Deep Learning)과 머신러닝 (Machine Learning)
인간과 유사한 수준의 인지 능력을 가진 AGI를 개발하는 과정에서 딥러닝과 머신러닝은 필수 불가결한 기술입니다. 인간의 생각 방식, 행동 원리 등을 구현할 수 있는 핵심 기술이 딥러닝과 머신러닝이기 때문입니다. 이들 기술은 데이터로부터 복잡한 패턴을 학습해 낮은 에러의 의사 결정을 내리는 인공지능 시스템의 기반을 형성합니다.
익히 알려진 바와 같이 딥러닝은 의료 이미징 분석에 큰 변화를 가져왔습니다. 예를 들어 구글의 DeepMind는 유방암 진단에서 인간 전문가보다 더 높은 정확도를 보여주는 모델을 개발했습니다. 이러한 기술은 더 빠르고 정확한 진단을 가능하게 하여 환자 치료에 큰 변화를 가져오고 있습니다.
온라인 게임 분야에서도 딥러닝 기술은 인간 플레이어와 비슷한 활약을 보입니다. DeepMind의 AlphaStar는 프로 게이머들과 경쟁할 수 있는 수준으로 스타크래프트 II 게임을 플레이합니다. 이는 딥러닝 기반의 인공지능 기술이 독립적인 학습과 복잡한 전략 계획을 똑똑하게 수행할 수 있음을 보여줍니다. 이렇듯 딥러닝과 머신러닝은 기본적으로 AGI가 다양한 상황과 문제에 유연하게 대응할 수 있는 기반을 마련해 줍니다.
자연어 처리(Natural Language Processing, NLP)
자연어 처리 (NLP)는 기계가 인간의 언어를 이해하고 생성하는 능력을 개발하는 데 중요한 기술입니다. 이는 AGI가 인간과 자연스럽게 소통하고, 복잡한 언어 기반 작업을 수행할 수 있게 만드는 핵심 요소 중 하나입니다. OpenAI의 GPT 시리즈는 NLP 분야에서 놀라운 진보를 보여주고 있으며, 이 기술이 어떻게 텍스트 생성, 번역, 요약과 같은 고도의 언어 처리 작업을 수행할 수 있는지를 보여줍니다.
컴퓨터 비전 (Computer Vision)
컴퓨터 비전은 기계가 시각적 데이터를 이해하고 해석하는 능력을 개발하는 기술로, AGI에 있어서 또 다른 핵심 요소입니다. 이 기술은 컴퓨터가 사진, 비디오, 실시간 환경을 보고 이해할 수 있게 함으로써, 인간과 유사한 방식으로 시각적 정보를 처리할 수 있도록 합니다. 자율주행 자동차에서 컴퓨터 비전은 실시간으로 주변을 인식하고 해석하여 안전한 운전 결정을 내리는 데 사용됩니다. 자율주행 기술은 머신러닝 알고리즘을 통해 실시간으로 주행 환경을 파악하고, 복잡한 결정을 내리며 도로 상황에 맞게 운행되도록 조정합니다. Tesla, Waymo, Cruise 등 여러 회사들은 자율주행 분야에서 혁신을 주도하고 있는 상황입니다.
로보틱스 (Robotics)
로보틱스는 AGI를 물리적 세계와 상호 작용하게 하는 데 필수적인 기술입니다. 로봇은 AGI가 실제 환경에서 작업을 수행하고, 사람과 같은 방식으로 객체를 조작하고, 이동할 수 있게 해 줍니다. 예를 들어 Amazon은 자신들의 첫 자율주행 로봇인 Proteus와 휴머노이드 Digit을 실전 배치해 물류 센터에서 인간 작업자가 빠르고 안전하게 작업할 수 있도록 돕고 있습니다. Boston Dynamics의 로봇들은 복잡한 환경에서의 이동 능력과 물체 조작 능력을 보여주며, AGI가 실제 세계에서 유용하게 활용될 수 있는 가능성을 보여줍니다.
기호적 추론 vs. 확률적 추론
AGI는 단순한 데이터 처리를 넘어서 복잡한 추론과 결정을 내릴 수 있어야 합니다. 이를 위해 기호적 추론(symbolic reasoning)과 확률적 추론(probabilistic reasoning) 같은 방법이 연구되고 있습니다. 이러한 추론 기술은 AGI가 불확실성을 관리하고, 복잡한 문제 해결 과정에서 합리적인 결정을 내릴 수 있게 해 줍니다.
기호적 추론은 데이터와 규칙을 명확한 기호로 표현하고, 이러한 기호들 간의 관계를 바탕으로 결론을 도출하는 접근 방법입니다. 기호적 추론은 정형화된 환경에서 효과적이며, 인간의 사고 방식을 모방하여 규칙 기반의 결정을 내립니다. 예를 들어, 수학 문제를 푸는 과정이나 체스와 같은 전략 게임에서 다음 경우의 수를 계산하는 데 사용될 수 있습니다. 기호적 추론은 인공 지능의 초기 연구에서 매우 중요한 역할을 했으며, 명시적인 지식 표현과 논리적 추론을 필요로 하는 작업에서 여전히 활용되고 있습니다.
반면 확률적 추론은 불확실성을 다루는 데 쓰입니다. 이 방식은 가능한 여러 결과에 대한 확률을 기반으로 추론을 수행하여, 불확실한 정보를 가지고 결정을 내리는 접근 방식입니다. 확률적 추론은 현실 세계의 불확실성을 반영할 수 있다는 특징 때문에 기상 예측, 질병 진단, 금융 시장 분석과 같이 불확실한 정보를 기반으로 한 결정을 요구하는 분야에서 쓰이고 있습니다.
기호적 추론과 확률적 추론은 얼핏 보기에 상호 대립되는 개념 같지만 사람이 커피숍에서 커피를 고르는 소소한 문제에서부터 기업이나 정부 수준의 심오한 문제까지 거의 모든 종류의 의사 결정에 흔히 사용하는 방법론입니다. 따라서 AGI가 이 두 가지 방식의 추론을 모두 통합하여 사용할 수 있다면, 불확실성이 크고 복잡한 실세계 문제를 해결하는 데 있어 인간과 유사한 또는 그 이상의 추론 능력을 발휘할 수 있을 것입니다. 기호적 추론은 명확하고 구조화된 문제 해결에, 확률적 추론은 불확실성을 포함한 문제에 강점을 가지며, AGI 시스템 개발은 이러한 다양한 추론 방식을 통합하는 방법을 모색하고 있습니다.
심리 인식과 사회적 지능
AGI가 진정으로 인간과 같은 지능을 갖추려면, 심리적 인식과 사회적 지능도 중요합니다. 즉 인간의 감정에 공감하고, 사회적으로 상호 소통할 수 있는 기능이 필요합니다. 이는 심리 인식 기술과 사회적 지능 연구를 통해 가능해질 것입니다. 즉 AGI가 인간의 감정 상태를 하고 커뮤니케이션하며, 사회적 상황에서 적절한 반응을 할 수 있도록 합니다.
AGI가 초래할 갈등과 향후 규제 방향
AGI의 상용화는 사회 전 분야에 상당한 영향을 미칠 것으로 보입니다. 여기서 ‘상당한’이라는 표현은 그 크기 뿐 아니라 긍정과 부정의 의미를 가진 이중적 뜻을 담고 있습니다.
메디컬 분야를 예로 들어보겠습니다. 이 분야에서는 진단과 치료를 위해 현재도 다양한 인공지능과 로봇 기술이 활발히 쓰이고 있습니다. 그런데 향후 AGI가 실전 배치된다면 진단과 치료 방법에 있어 보다 혁신적인 개선이 예상되며 동시에 일자리 대체와 같은 사회적, 경제적, 정치적 문제 또한 야기될 수 있습니다. 즉 지금은 인간 의사의 진단에만 권위를 부여하고 있지만 향후 AGI가 내릴 진단에도 비슷한 수준의 권위를 줘야 한다는 필요성이 제기될 수 있기 때문입니다. 이러한 인간과 AGI의 갈등은 기존 데이터를 기반으로 결정의 권위 혹은 해석의 권위가 중요한 분야라 할 수 있는 법률, 언론 등의 분야에서도 비슷한 양상으로 벌어질 것입니다.
윤리적으로도 AGI는 상당한 논란을 야기할 것입니다. 자율 주행 기술은 AGI의 윤리 문제를 이야기할 때 흔히 언급되는 주제입니다. 차도를 건너는 사람을 피하기 위해 운전자가 타고 있는 차량을 도로 밖으로 주행시켜 운전자를 위험에 빠뜨려야 하는가 하는 문제가 대표적입니다. 현재는 이러한 사고 발생시 사법 기관의 판단으로 잘잘못을 가리고 가해자(사람)에게 그에 상응하는 벌을 줍니다. 그러나 AGI가 가해자가 된다면 사법 기관의 판단이 제대로 된 법적 효용성을 가질 수 있을지에 대한 논의부터 필요할 것입니다.
또 다른 인간이라 할 수 있는 AGI가 초래할 변화는 이처럼 우리가 살아가는 방식과 사회가 작동하는 기본 구조에 큰 영향을 미칠 것이므로 AGI 연구와 개발 과정에서 단순히 기술적 문제 뿐 아니라 사회적, 윤리적 갈등에 대한 심도 깊은 고민이 수반되어야 합니다.
인공지능 규제와 관련해서는 UC 버클리 대학의 Center for Human-Compatible Artificial Intelligence의 Micheal Cohen과 동료들이 최근 Science에서 제안한 프레임워크를 주목할 만합니다. 저자들은 인공지능, 특히 장기 계획을 세울 줄 아는 능력을 가진 강화학습 시스템(long-term planning agent, LTPA)의 위협이 클 것이라 예측하고 있습니다.
(이해를 돕기 위한) 저자들의 LTPA에 대한 정의 : We define an LTPA as an algorithm designed to produce plans, and to prefer plan A to plan B, when it expects that plan A is more conducive to a given goal over a long time horizon. - By Michael K. Cohen et al. -
그 이유는 LTPS에게 보상을 극대화하는 목표를 주고 어느 시점에서 인간이 그 보상을 제한한다면, LPTA가 보상을 극대화하기 위해 인간의 개입을 제한하려는 강한 동기가 생길 수 있기 때문입니다. 인간의 개입을 인공지능이 제한한다는 것은 결국 인간 입장에서는 제어가 어려운 위험한 인공지능이 된다는 것입니다. 따라서 저자들은 다음 그림과 같이 LPTA 개발 단계에서부터 규제가 필요하며 의무적인 보고가 필요하다고 제안합니다.
출처: Science
AGI의 미래는 흥미롭지만 동시에 불확실한 분야임에 틀림없습니다. AGI의 실현 가능성과 상용화 시기는 다양한 기술적, 윤리적, 사회적 요인에 의해 결정될 것입니다. 국가 간의 외교 문제, 시장의 경쟁 양상도 영향을 미칠 것입니다.
그럼에도 AGI 연구와 개발은 계속될 것이며, 이에 따라 인간이 문제를 해결하고, 물건을 제조하고, 시스템을 구축하고 데이터를 다루는 방식 등에 근본적인 변화가 발생할 것임은 분명합니다. 젠슨 황의 예견처럼 5년 후 우리는 어떤 AGI 세상을 맞이하게 될지 궁금해집니다.
참고자료
[1] Melanie Mitchell ,Debates on the nature of artificial general intelligence. Science 383, eado7069(2024).DOI:10.1126/science.ado7069
[2] https://techcrunch.com/2024/03/19/agi-and-hallucinations/
[3] Simon, H. A. (1965). The shape of automation for men and management (Vol. 13). New York: Harper & Row.
[4] https://web.eecs.umich.edu/~kuipers/opinions/AI-progress.html
[5] Summit, A. S. (2023). The Bletchley Declaration by Countries Attending the AI Safety Summit. Recuperado de: https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023.
[6] https://apnews.com/article/agi-artificial-general-intelligence-existential-risk-meta-openai-deepmind-science-ff5662a056d3cf3c5889a73e929e5a34
[7] Michael K. Cohen et al.,Regulating advanced artificial agents. Science 384,36-38(2024).DOI:10.1126/science.adl0625
[8] https://www.aboutamazon.com/news/operations/10-years-of-amazon-robotics-how-robots-help-sort-packages-move-product-and-improve-safety
▶ 해당 콘텐츠는 저작권법에 의하여 보호받는 저작물로 기고자에게 저작권이 있습니다.
▶ 해당 콘텐츠는 사전 동의 없이 2차 가공 및 영리적인 이용을 금하고 있습니다.
