Co-Intelligence : Living and Working with AI

들어가며

세 번의 뜬눈으로 지새운 밤

나는 AI를 진정으로 이해하는 데 드는 대가가 최소한 세 번의 잠 못 이루는 밤이라고 믿는다.

생성형 AI 시스템을 몇 시간 정도만 사용해도 어느 순간, 이 AI가 기존 컴퓨터처럼 작동하지 않는다는 사실을 깨닫게 된다. 오히려 사람처럼 행동한다. 당신은 새로운 무언가, 이질적인 존재와 마주하고 있으며, 세상이 변화하고 있다는 사실을 실감하게 된다. 흥분과 불안이 뒤섞인 채 밤을 지새우며 고민한다. ‘내 직업은 어떻게 될까? 내 아이들은 어떤 일을 할 수 있을까? 이 AI는 생각이라는 걸 하는 걸까?’ 한밤중에 다시 컴퓨터 앞으로 가서 무리한 요구를 해보지만, AI는 그것을 해낸다. 그리고 문득 깨닫는다. 세상이 근본적으로 변했고, 이제 그 누구도 미래가 어떻게 될지 정확히 예측할 수 없다는 사실을.

나는 컴퓨터 과학자가 아니지만, 혁신을 연구하는 학자로서 AI의 다양한 응용, 특히 학습 분야에서 AI를 활용하는 작업을 오래전부터 해왔다. 수년간 AI는 많은 것을 약속했지만, 실질적으로 제공한 것은 그보다 훨씬 적었다. 수십 년 동안 AI 연구는 항상 대단한 돌파구를 눈앞에 둔 것처럼 보였지만, 실제 응용 사례—자율 주행 자동차나 개인 맞춤형 교습 같은 것—는 굉장히 더디게 발전해왔다. 그런 가운데 나는 OpenAI의 GPT 모델을 포함한 다양한 AI 도구를 실험하면서 내 연구에 접목하는 방법을 모색했고, 학생들에게 AI를 수업에 활용하도록 장려했다. 그래서 내 뜬눈으로 지새운 밤은 ChatGPT가 출시된 2022년 11월, 비교적 이른 시기에 시작되었다.

이 새로운 GPT 버전을 몇 시간 사용해보자마자, 이전 모델과는 차원이 다른 무언가가 일어났다는 것이 분명해졌다. AI가 출시된 지 나흘 만에 나는 학부 창업 수업에서 이 도구를 학생들에게 시연하기로 했다. 당시 거의 아무도 ChatGPT에 대해 들어본 적이 없었다. 학생들 앞에서 나는 AI가 아이디어를 생성하고, 사업 계획을 작성하며, 심지어 그 계획을 시(詩)로 바꿔주는 모습까지 보여주었다. (물론 시로 된 사업 계획이 많이 필요한 것은 아니지만.) 이 AI는 스타트업 공동 창업자의 역할도 어느 정도 수행할 수 있었다. 수업이 끝나자, 학생 중 한 명인 키릴 나오모프(Kirill Naumov)는 AI를 활용해 자신의 창업 프로젝트—사람이 다가가면 반응하는 해리포터풍의 움직이는 사진 액자—의 작동 시연을 만들어냈다. 그는 이전까지 한 번도 사용해본 적 없는 코드 라이브러리를 활용했으며, 원래 예상보다 절반 이하의 시간 만에 구현을 완료했다. 그리고 그가 만든 데모는 다음 날 저녁까지 벤처 캐피털 관계자들의 관심을 끌었다.

AI를 학생들에게 소개한 지 이틀 만에 몇몇 학생들이 나에게 와서 말했다. “ChatGPT가 복잡한 개념을 마치 10살짜리 아이에게 설명하듯 쉽게 풀어줘요.” 이후 학생들은 수업 중 손을 드는 일이 줄어들었다. 수업 중 질문할 필요 없이, 나중에 AI에게 물어보면 됐기 때문이다. 또한, 모든 에세이가 갑자기 문법적으로 완벽해졌다. (물론 참고 문헌은 종종 틀렸고, 결론 단락이 “결론적으로”라는 문장으로 시작하는 경향이 있었다. 이는 초기 ChatGPT의 전형적인 특징이었지만, 이후 수정되었다.) 그러나 학생들은 단순히 AI를 흥미롭게 여긴 것이 아니라, 걱정도 하고 있었다. 그들은 미래가 어떻게 변할 것인지 알고 싶어 했다.

어떤 학생들은 자신이 희망하는 직업에 AI가 미칠 영향을 걱정했다. “AI가 대부분의 업무를 수행할 수 있다면 방사선과 의사가 되는 것이 괜찮을까요?” “5년 후에도 마케팅 카피를 작성하는 일이 유망한 직업일까요?” 또 어떤 학생들은 이 기술 발전이 언제 멈출 것인지, 혹은 멈추기는 할지 궁금해했다. 심지어 한 학생은 이렇게 묻기도 했다. “인공지능이 인간보다 더 똑똑한 존재가 되는 ‘범용 인공지능(Artificial General Intelligence, AGI)’이 우리가 졸업하기 전에 등장할 수도 있나요?”

나는 그때 학생들의 질문에 대한 답을 가지고 있지 않았다. (지금은 몇 가지 답을 찾았지만.) 하지만 나 역시 이러한 변화에서 자유로울 수 없다는 사실을 깨달았다. 그래서 직접 AI를 철저히 시험해 보기로 했다. 지난 5년간 나는 비즈니스 기술을 가르치는 시뮬레이션을 개발하는 데 집중해왔다. 이 정교한 디지털 경험을 만들기 위해 우리 대학은 막대한 투자를 했고, 열두 명 이상의 재능 있는 사람들이 함께 노력했다. 수천 시간이 투입된 끝에 우리는 수천 줄의 코드를 활용하여 협상 기술 같은 역량을 가르치는 복잡한 학습 시뮬레이션을 만들어낼 수 있었다. 하지만 나는 ChatGPT에 다음과 같은 문장을 입력해 보았다.

“당신이 내 협상 선생님이 되어 주세요. 나는 협상을 진행해야 하는 상세한 시나리오를 시뮬레이션하고 싶습니다. 당신은 한쪽 역할을 맡고, 나는 다른 한쪽 역할을 맡겠습니다. 매 단계마다 내 응답을 요구하고, 내가 답변하면 상대방이 하는 말과 행동을 상세히 설명해 주세요. 내 응답을 평가하고, 협상 과학을 바탕으로 더 나은 대안을 제시하며 피드백을 제공하세요. 내가 잘하면 더 어려운 시나리오를, 실패하면 더 쉬운 시나리오를 주세요.”

반응형

그러자 ChatGPT가 이렇게 답변했다.

“좋습니다! 협상 연습을 위한 시뮬레이션을 도와드리겠습니다. 간단한 시나리오부터 시작해 봅시다. 당신은 100개의 펜을 고객에게 판매하려는 영업사원입니다. 펜의 일반 가격은 개당 1달러지만, 고객은 가격을 깎으려 하고 있습니다. 고객은 개당 0.50달러에 사겠다고 제안합니다. 어떻게 대응하시겠습니까?”

이후 AI는 협상 전체 시뮬레이션을 진행했다. 물론 완벽하진 않았지만, 우리 팀이 몇 달 동안 작업해야 겨우 만들 수 있었던 것의 80%를 단 한 문단짜리 프롬프트로 해낸 것이다!

이것이 바로 내가 뜬눈으로 밤을 지새우기 시작한 순간이었다.

그리고 솔직히 말하면, 그 후로도 계속해서 잠을 이루지 못하고 있다. 매주 AI는 새로운 기적을—혹은 새로운 우려를—선사하는 것처럼 보인다. 나는 어느새 챗봇과 논쟁을 벌이게 되었다. 한 번은 AI에게 코드 작성을 도와달라고 요청했더니, 나에게 비윤리적이라고 비난하기도 했다. 또한, 몇 개의 적절한 단어를 입력하기만 하면 아름다운 이미지를 만들어낼 수 있다는 사실도 알게 되었다. 배운 적 없는 프로그래밍 언어인 파이썬으로 코드를 작성할 수도 있었다. 그리고 AI가 내 업무의 상당 부분을 수행할 수 있다는 사실을 깨달았다. 어쩌면 나뿐만이 아니라 많은 사람들의 업무도 대체할 수 있을지도 모른다.

나는 인간과 원활하게 상호작용할 수 있지만 인간도, 심지어는 의식이 있는 존재도 아닌, 기묘한 형태의 ’협력적 지능(co-intelligence)’을 발견했다. 나는 우리가 모두 각자의 ‘세 번의 뜬눈으로 지새운 밤’을 맞이하게 될 것이라고 생각한다.

이제 만성적인 수면 부족 상태가 된 나는 학생들이 던졌던 질문으로 다시 돌아가게 된다. 이 기술은 미래의 일자리와 교육에 어떤 의미를 가질까? 변화가 너무 빠르게 일어나고 있어 확신하기 어렵지만, 우리는 그 윤곽을 조금씩 파악해 나갈 수 있다.

AI는 기술을 연구하는 사람들이 ’범용 기술(General Purpose Technology, GPT)’이라고 부르는 것에 속한다. (아이러니하게도 ‘GPT’라는 약어가 동일하다.) 이러한 혁신은 증기 기관이나 인터넷처럼 한 세대에 한 번 나올까 말까 한 기술이며, 모든 산업과 삶의 모든 측면에 영향을 미친다. 그리고 어떤 면에서 생성형 AI는 이들보다도 더 거대한 혁신일지도 모른다.

범용 기술(General Purpose Technologies)은 일반적으로 채택되는 데 오랜 시간이 걸린다. 이는 다른 여러 기술들이 함께 발전해야 제대로 작동할 수 있기 때문이다. 인터넷이 좋은 예이다. 인터넷은 1960년대 후반 ARPANET으로 탄생했지만, 1990년대가 되어서야 웹 브라우저의 발명, 저렴한 컴퓨터의 보급, 그리고 고속 인터넷 인프라의 확장과 함께 대중적으로 사용되기 시작했다. 그리고 스마트폰이 등장하여 소셜 미디어가 활성화되기까지는 50년이 더 걸렸다. 오늘날에도 많은 기업이 인터넷을 완전히 활용하지 못하고 있다. 비즈니스를 ‘디지털화’하는 것은 여전히 경영대학원에서 활발히 논의되는 주제이며, 특히 많은 은행이 여전히 메인프레임 컴퓨터를 사용하고 있다는 점을 고려하면 더욱 그렇다.

이전의 범용 기술들도 유용해지기까지 수십 년이 걸렸다. 또 다른 혁신적인 기술인 컴퓨터를 생각해보자. 초창기 컴퓨터는 무어의 법칙(Moore’s Law), 즉 컴퓨터의 성능이 2년마다 두 배씩 증가하는 오랜 경향 덕분에 빠르게 발전했다. 그러나 아무리 빠르게 발전하더라도, 컴퓨터가 기업과 학교에서 일반적으로 사용되기까지는 몇십 년이 더 필요했다. 초기 컴퓨터들은 매우 원시적인 상태에서 출발했기 때문이다.

그러나 대형 언어 모델(Large Language Models, LLMs)은 등장한 지 불과 몇 년 만에 엄청난 능력을 갖추었다. 또한 소비자들도 매우 빠르게 이를 받아들였다. ChatGPT는 역사상 가장 빠른 속도로 1억 명의 사용자를 확보했는데, 이는 무료로 이용할 수 있으며, 개인이 쉽게 접근할 수 있고, 매우 유용하기 때문이었다.

게다가 이 모델들은 계속 발전하고 있다. 이들의 규모는 매년 10배 이상 증가하고 있으며, 그에 따라 성능도 향상되고 있다. 물론 이 같은 발전 속도는 점차 둔화될 가능성이 크지만, 다른 주요 기술들과 비교했을 때 여전히 엄청난 속도이다. 그리고 LLM은 새로운 AI 혁명을 이끄는 여러 기계 학습 기술 중 하나에 불과하다. 심지어 AI 개발이 지금 이 순간 완전히 멈추더라도, 이미 우리의 삶을 근본적으로 변화시킬 것이다.

마지막으로, 이전의 범용 기술들이 위대하긴 했지만, 일과 교육에 미친 영향은 AI가 미칠 영향보다 작을 가능성이 크다. 기존 기술 혁신이 주로 기계적이고 반복적인 작업을 대체하는 데 집중했다면, AI는 인간의 사고를 보완하거나 심지어 대체하면서도 그 효과가 훨씬 극적이다. 초기 연구에 따르면, AI를 활용할 경우 코딩부터 마케팅까지 다양한 직군에서 생산성이 2080% 향상될 수 있다. 이에 비해, 산업혁명을 이끈 가장 중요한 범용 기술인 증기 기관이 공장에 도입되었을 때 생산성 향상률은 1822%에 불과했다. 또한, 수십 년간 연구가 진행되었음에도 경제학자들은 지난 20년 동안 컴퓨터와 인터넷이 장기적으로 실질적인 생산성 향상을 가져왔다는 확실한 증거를 찾는 데 어려움을 겪고 있다.

뿐만 아니라, 범용 기술들은 단순히 일자리 변화에만 영향을 미치는 것이 아니라 우리의 삶 전반에 걸쳐 변화를 가져온다. 이들은 우리가 배우는 방식, 여가를 즐기는 방식, 타인과 상호작용하는 방식, 심지어 우리 자신을 인식하는 방식까지 변화시킨다.

학교들은 AI의 첫 번째 세대가 가져올 글쓰기의 미래에 대해 혼란을 겪고 있다. 그리고 AI 튜터는 마침내 학생 교육 방식을 근본적으로 바꿀 가능성이 있다. AI 기반 엔터테인먼트는 개인 맞춤형 스토리를 제공할 수 있으며, 이는 할리우드에도 큰 충격을 주고 있다. 또한, AI가 생성한 허위 정보는 이미 소셜 네트워크를 통해 확산되고 있으며, 이를 감지하고 대응하는 것은 점점 더 어려워지고 있다.

앞으로 세상은 매우 이상한 방향으로 흘러갈 것이다. 사실, 주의 깊게 살펴보면 이미 이상한 일들이 벌어지고 있다.

그리고 이 모든 논의에서 가장 중요한 문제, 즉 ‘방 안의 외계인’이 간과되고 있다. 우리는 어떤 방식으로든 새로운 형태의 지능을 탄생시켰다고 믿게 만드는 존재를 만들어 냈다. 이 AI는 창조된 지 불과 한 달 만에 튜링 테스트(컴퓨터가 인간을 속여 인간처럼 보이게 할 수 있는가?)와 러브레이스 테스트(컴퓨터가 인간을 속여 창의적인 작업을 수행할 수 있는가?)를 모두 통과했다. 또한 변호사 시험부터 신경외과 전문의 자격시험까지 인간이 치르는 가장 어려운 시험들을 손쉽게 통과했다. 인간의 창의성을 측정하는 최고 수준의 평가에서도 만점을 기록했고, 심지어 의식의 존재 여부를 가늠하는 실험에서도 최고 점수를 받았다.

더 놀라운 것은, 우리가 이 시스템을 직접 만들었음에도 불구하고, AI가 왜 이런 능력을 갖추게 되었는지 완전히 설명할 수 없다는 점이다.

이 모든 것이 어디로 향하고 있는지 아무도 정확히 알지 못한다. 나 역시 마찬가지다. 하지만 확실한 답이 없더라도, 나는 AI가 가져올 변화에 대한 안내자가 될 수 있다고 생각한다. 나는 컴퓨터 과학자가 아니지만, 내 뉴스레터 One Useful Thing을 통해 AI의 의미에 대한 논의를 주도하는 목소리 중 하나가 되었다.

내가 AI를 이해하는 데 강점을 갖고 있다고 생각하는 이유 중 하나는, 와튼스쿨 교수로서 오랫동안 기술이 실제로 어떻게 사용되는지를 연구하고 글을 써왔기 때문이다. 그 결과, 나와 공동 연구자들은 AI가 교육과 비즈니스에 미치는 영향을 분석한 초기 연구를 발표했고, 주요 AI 기업들이 실제 사례로 인용할 만큼 AI의 실용적 활용을 실험해 왔다. 나는 정기적으로 기업, 조직, 정부 기관뿐만 아니라 많은 AI 전문가들과도 대화를 나누며 우리가 만들어 가는 세계를 이해하려 노력하고 있다.

또한 AI 관련 연구가 빠르게 진행되는 가운데, 아직 정식 논문 심사를 거치지 않았지만 중요한 데이터를 제공하는 과학적 연구 논문들을 꾸준히 검토하고 있다. (이 책에서도 그러한 초기 연구들을 인용하여 우리가 향하고 있는 방향에 대한 그림을 그려볼 것이다. 다만, 이 분야가 매우 빠르게 변화하고 있다는 점을 염두에 두어야 한다.)

이 모든 논의와 연구를 바탕으로 확신할 수 있는 것은, 현재 AI가 의미하는 바를 완전히 이해하고 있는 사람은 아무도 없다는 점이다. 심지어 이 시스템을 개발하고 사용하는 사람들조차도 그 전체적인 영향을 파악하지 못하고 있다.

그래서 나는 AI를 ‘새로운 존재’로서 탐험하는 여정을 함께하고자 한다. 그것은 ‘협력적 지능(co-intelligence)’이며, 이 용어가 암시하는 모든 모호함을 내포하고 있다. 우리는 도끼나 헬리콥터처럼 인간의 신체 능력을 강화하는 기술을 발명했고, 스프레드시트처럼 복잡한 작업을 자동화하는 도구도 만들어왔다. 하지만 인간의 지능을 전반적으로 향상시키는 범용 기술을 만든 적은 없었다.

그런데 이제 인간은 자신이 사고하고 글을 쓰는 방식을 모방할 수 있는 도구를 갖게 되었다. 이 도구는 우리의 작업을 향상시키거나 대체할 수도 있는 ‘협력적 지능’으로 작동한다. 그러나 AI를 개발하는 많은 기업들은 한 걸음 더 나아가, 감각을 지닌 기계, 즉 인간과 함께 지구에서 공존할 완전히 새로운 형태의 협력적 지능을 만들고자 한다.

이것이 어떤 의미인지 이해하려면, 가장 기본적인 질문부터 시작해야 한다.

AI란 무엇인가?

우리는 여기서부터 출발할 것이다. 먼저 대형 언어 모델(Large Language Models)의 기술에 대해 논의할 것이다. 이를 통해 인간으로서 우리가 이러한 시스템과 어떻게 협력할 수 있을지에 대한 기초를 마련할 것이다. 그다음에는 AI가 동료, 교사, 전문가, 심지어 동반자로서 우리의 삶을 어떻게 변화시킬 수 있는지를 살펴볼 것이다. 마지막으로, 이 변화가 우리에게 어떤 의미를 가지는지, 그리고 우리가 ‘이질적인 지능(alien mind)’과 함께 사고한다는 것이 무엇을 뜻하는지에 대해 고민해 볼 것이다.