뮌헨에서 봅시다. - AI가 가져오는 파괴적인 혁신
: 뮌헨에서 봅시다. - AI가 가져오는 파괴적인 혁신. 그리고 아서 Slack Bot 만들기
뮌헨에서 봅시다
2023년 10월, 마이크로소프트의 Strategic Partnership Team에서 연락이 왔습니다. 유럽-아시아의 스타트업들을 대상으로 독일의 뮌헨에서 흥미로운 행사를 진행할 생각이라서 몇몇 회사의 CEO나 CTO들을 초대하는데, 한국에서 정육각을 초대하고 싶다는 연락이었습니다. 마이크로소프트와 함께하며 워낙 멋진 결과들을 많이 만들어냈던지라 이런 초대는 너무나도 반가운 일이었습니다. 장소는 독일의 뮌헨이었고 여기에 참석하는 사람들이 얼마나 멋진 사람들인지에 대한 소개도 들을 수 있었습니다. 이런 기회들이 매일 주어지는 것이 아니므로 당연히 기회가 된다면 참석하겠다는 답을 보냈고 이런저런 대화를 하다 이렇게 마지막 메세지를 받았습니다. “뮌헨에서 봅시다!”
이 시점에 정육각에서는 이전 글에서 작성했었던 리뷰를 도입한다고 준비를 하고 있었는데 리뷰의 도입을 마무리하고 가면 딱 좋은 시점이라고 생각했습니다. 그러면서 아서에 대해서 운영해본 경험을 갖고 다른 참가자들과 이야기를 해보면 더 멋진 아이디어들을 얻을 수 있을 것이라는 기대도 갖게 되었습니다.
폭설로 마비된 도시
독일에 간 김에 둘러본 각 도시의 크리스마스 마켓. 독일의 겨울은 여행 비수기로 알려져 있지만 이 마켓들만 찾아다녀도 충분히 방문할 이유가 된다고 생각한다.
2024년 부터는 운항을 안하지만 한달 전까지만 해도 왕복 90만원이라는 엄청난 가성비를 자랑하는 에어프레미아의 인천-프랑크푸르트 항공권을 살 수 있었기에 저는 폭설로 도시가 마비되기 전에 독일에 들어가 있을 수 있었습니다. 거의 500km정도 떨어져 있던 쾰른에 며칠전에 가 있었던지라 폭설을 느끼지 못하기도 했고, 주말에 눈이 많이 오더라도 제가 예약한 기차는 일요일 밤에 출발하는 야간열차였던데다가 철도는 원래 날씨의 영향을 별로 안받으니까 괜찮을 것이라고 생각했습니다. 하지만 예약시간을 몇시간 앞두고 결국 제가 예매한 열차가 취소되어 버렸고, 급하게 뮌헨으로 들어갈 방법을 찾아야하는 상황에 직면했습니다. 근처에 있는 뉘른베르크라는 도시까지 어떻게든 고속열차로 가면, 두시간 단위로 운영하는 긴급편성된 고속열차를 이용해 도시로 들어갈 수 있다는 것을 알아내서 겨우 한밤중에 뮌헨 중앙역까지 갈 수 있었습니다. 뮌헨 중앙역에 도착해서는 폭설로 도시가 마비되어 있던 와중에도 운이 좋게 남아있던 버스노선이 호텔까지 연결되어 있어서 도시에 들어설 수 있었습니다.
폭설로 마비된 도심. 환경보호를 이유로 염화칼슘을 쓰지 않는 독일이다보니 한참동안이나 눈이 남아있다.
나중에 알게 된 사실이지만 전세계에서 뮌헨으로 와야하는 참가자 그리고 마이크로소프트의 팀원들 모두가 엄청난 고생들을 했었고 여러 도시들을 거쳐서 들어온 팀부터 독일 바로 근처인 브뤼셀까지 왔다가 항공노선이 먼저 열린 스페인까지 다시 넘어가서 들어온 사람도 있었고, 행사가 시작할 때 원격으로 공항에서 참여를 시작한 팀원도 있었습니다. 그래도 문제 해결과 판단, 추진력에 일가견이 있는 사람들이다보니 그런 상황에서도 거의 모두가 나름의 해법을 찾아내서 행사에 참여했습니다. 결과적으로 다들 잘 도착한 덕분에 뮌헨까지 온 각자의 여정은 처음 만난 사람들 끼리 말 그대로 아이스 브레이킹을 하기에 아주 좋은 소재로 사용되었습니다.
인공지능에 대한 마이크로소프트의 생각
일본에서 찾아온 Son이 올린 행사 사진과 글
행사에서는 너무나도 많은 얘기를 들었고 세상을 바라보는 새로운 시각을 얻을 수 있었습니다. 소제목을 마이크로소프트의 생각이라고는 했지만 제가 행사에서 듣고 얘기했던 내용들을 제 기억과 관점에 따라서 해석한 내용들이기 때문에 마이크로소프트의 공식적인 생각은 아니고 이를 듣고 해석한 제 의견이 포함되어 있습니다. 또한 고작 이틀간의 일정이었지만 너무나도 흥미로운 주제들이 많았고 모든 내용을 정리해서 설명하기엔 아직 부족하다보니 그중에 인상깊었던 두가지 주제에 대해서 적어보고자 합니다. 첫번째는 정부의 규제와 인공지능의 파급력, 그리고 두번째는 인공지능이 가져오는 개발자 혁명에 대해서 입니다.
인공지능에 관련된 영역을 다루면서 전세계의 각 정부의 규제에 대해서 생각해본적은 없었습니다. LLM을 개발하는 입장도 아니고, 새로운 학습 데이터가 필요한 것도 아니었기에 GPT-4를 단지 사용하는 입장에서는 크게 고민할 필요가 없는 일이라고 생각했습니다. 기술적인 발전에 있어서도 터미네이터의 스카이넷이 만들어질 수 있는 시대에 왔다는 얘기들이 있긴 했지만 아직은 그런 특이점에 오지 않았다고 판단하고 있었습니다. 그런데 다음의 두 가지 주제에 대해서 고민해보면 예상보다 특이점이 가까이에 와있다는 것을 알 수 있습니다.
인공지능에 대해서 각국 정부에서 규제를 하려고 하는데 특히 유럽과 미국에서는 이에 대한 규제안이 벌써 만들어져가고 있습니다. 이 규제중에 가장 관심을 끄는 항목은 어떤 인공지능이 결과를 내놓을 때 이 결과를 내놓기 위해 학습한 원본 데이터를 증빙할 수 있어야 한다는 것이 있습니다. 인공지능이 세상에 막 나오기 전까지 컴퓨터 프로그램이 표시하는 결과물은 모두 프로그래머가 정의한 결과물이었습니다. “컴퓨터는 거짓말을 하지 않는다”라는 유명한 말처럼 모든 결과는 입력으로 부터 수많은 함수들 그리고 더 아래 단계로 내려가면 논리회로로 구성된 전기적 결과일 뿐이었습니다. 기판에 들어간 벌레가 합선을 일으키거나, 권한을 몰래 획득한 다른 해커가 데이터를 변경해서 프로그래머가 예상하지 못한 결과가 나오는 순간들 마저도 인과관계라는 것이 항상 존재했습니다.
지금은 현대자동차가 인수한 보스턴 다이나믹스의 로봇. GPT-4는 글로 결과를 출력하지만 만약 이 로봇에 연결되어 행동을 하기 시작한다면 스카이넷이 만들어질 수도 있다.
하지만 인공지능이 등장하게 되면서 더이상 그 개발자는 이 결과가 사용자의 입력으로 부터 어떻게 계산되어 나오는지를 설명하기 어려워졌습니다. 인공지능이 내놓은 답이 함수에서 계산된 결과가 아니라 학습한 모델에서 도출되다 보니 이제는 답이 어떤 것들의 상호작용으로 도출된 것인지를 알 수 없는 상황에 이르렀습니다. 정부의 규제는 이러한 현대 기술에 대한 우려에서 시작합니다. 아직 세상에 대한 이해가 부족한 어린이에게 불이나 칼을 준다면 그것은 맛있는 요리, 안전한 집을 만들어내는 것이 아니라 스스로를 다치게 할 뿐이므로 이에 대해 좀더 잘 아는 어른이 사용법을 알려주어야 합니다. 그런 어른이 없고 우리가 잘 이해하는 기술이 아니라면 거리를 두고 천천히 접근하기라도 해야합니다. AI를 만들어내는 엔지니어들은 마치 원자력을 발견해버린 상황과 같아졌습니다. 새로운 에너지원이자 엄청난 변화를 만들어낸 원자력이 갖고 있는 방사능처럼, 충분히 파급력이 있으면서도 위험을 내포하는 결과를 만들어 낸 것입니다. 그래서 정부에서는 안전한 이용을 위해 규제를 해야한다고 판단한다는 것이었습니다.
정부에서 안전성을 위해 법적으로 인공지능을 규제한다면 인공지능을 이용하는 입장에서도 스스로 위험을 방지하는 방법을 적용해볼 수 있습니다. 대표적으로 두 개 이상의 다른 모델을 사용해서 서로의 결과를 검증해나가는 방법이 있습니다. 단순히 글을 대신 작성해주는 영역에서 인공지능 모델이 어떤 잘못된 결과를 가져오는 것은 치명적이지 않지만 예를들어 암을 진단하는 영역에서는 진단의 정확도에 따라서 그 결과가 치명적일수 있습니다. 따라서 이런 경우에 두개 이상의 모델에서 결과를 얻어 비교함으로서 보다 안전한 사용을 만들어낼 수 있습니다. 아직은 하나의 모델을 사용하는 것도 비용이 겨우 맞춰지는 수준이지만 기술비용은 계속해서 낮아지고 있고 여러 뛰어난 모델들이 나오면서 여러 모델의 결과를 바탕으로 결론을 내는 형태가 자리잡을 것으로 예상됩니다.
개발자, 기획자, 디자이너의 구조가 다시 바뀐다
개발자 혁명. 어떤 형태의 개발을 하는지에 따라서 다르겠지만 Github Copilot이라는 단어는 모든 개발자들이 알고 있는 단어일 것이고 심지어 작성하는 코드의 과반수 이상을 Copilot이 작성하는 프로젝트들도 있을 정도로 Copilot은 개발의 영역에 깊숙하게 침투해 있습니다. 과거에는 소스코드의 작성이 개발자의 역할이었고, 각 언어가 제공하는 함수의 특성이 무엇인지를 이해해야 했으며 다양한 라이브러리들을 알아봐야 했습니다. 문제가 발생하면 Stack Overflow에서 검색을 해봤고 다른 사람들의 해결책들을 하나하나 시도해보며 답을 찾아야 했습니다. 하지만 이제는 Copilot이 내 코드를 자동으로 완성해주며 심지어 작성하고 싶은 함수의 기능을 자연어로 정의하면 그에 맞는 함수가 만들어지는 시대가 되었습니다. 또한 Stack Overflow에서 검색을 할 필요가 없어져서 브라우저와 개발툴을 동시에 켜놔야하는 필요성도 많이 낮아졌습니다. 그리고 이 모든 기능의 사용료가 월 20달러에 불과한 멋진 시대가 되었습니다.
코드를 개발자가 작성하지 않고 Copilot이 작성한다면 개발자가 하는 일은 무엇이 남을까요? 심지어 앱을 개발할 때 Bing Image Creator, DALL E 3와 같은 이미지 생성 AI를 이용하면 간단하게 디자인 결과물까지도 얻어낼 수 있는 현실은 개발자 뿐만 아니라 디자이너의 역할까지도 흔들고 있습니다. 디자인의 영역도 Adobe에서 AI를 붙여서 굉장히 많은 변화를 만들어내고 있죠. 결국 개발자가 해야하는 역할은 프로그램에 대한 설계, 그리고 코드에 대한 관리와 조정입니다. 그러니까 좀더 경험이 많은 시니어 개발자가 하는 역할은 그대로 남게 되고 코드를 많이 작성하고 디버깅을 하는 역할들은 Copilot이 주로 하게 됩니다. 기획을 바탕으로 설계를 하고 여기에 Copilot이 원하는 결과를 만들어 낼 수 있도록 가이드를 하면 이전에는 하나의 개발 팀에서 하는 역할을 한명의 개발자가 Copilot들과 함께 만들어 낼수 있게 되는 것입니다. 업무의 정의와 형태가 완전히 바뀌게 되는 것이고 이런 PC의 등장, 스마트폰의 등장과 같이 파괴적인 혁명은 단시간에 이루어져왔다는 것을 볼때 앞으로 몇 년 안에 이런 변화가 다가오게 될 것입니다.
몇 년이 지난 후에도 지금의 업무 형태를 유지하는 기업과 개발팀, 개발자들은 많이 있겠지만 누군가는 앞서나가게 되고, 이 흐름에 앞서가려면 Copilot과 일하는 방법에 익숙해질 필요가 있습니다. 신입사원은 협업을 배우고, 시니어가 되면 팀을 관리하는 방법을 배우듯 개인에게 주어진 인턴인 Copilot을 어떻게 해야 쉽게 사용하는지, 더 효율적으로 사용할 수 있는지를 알려면 많이 사용해봐야 합니다. 그리고 이것은 비단 개발자 뿐만 아니라 다른 모든 영역에서도 일어날 일들이 될 겁니다.
그래서 이런 얘기들을 듣고 회사로 돌아와서 한 일이 Copilot을 더 효과적으로 쓰기 위한 작업들이었습니다. 이미 개발팀에서는 과반수가 Github Copilot을 사용해왔었기에 어느정도 익숙해져가고 있었지만 전체 팀원에게는 아니었기에 사람들이 업무에 AI를 활용하는 방향으로 움직였으면 좋겠다는 생각이 들었습니다. 그래서 이제 익숙한 업무 형태인 채팅을 통한 업무에 아서를 적용해보기로 했습니다.
아서에 대해 알고 싶다면 아서를 만난 이야기를 참고해주세요.
독일에서 일하기 그리고 행사 마무리하기
행사 마무리 사진.
잠깐 다른 얘기를 해보자면 독일에서 행사에 참석하고, 원격으로 회사의 일을 해보는 것은 꽤 흥미로운 경험이었습니다. 제게 가장 긴장되는 순간이 언제냐고 물어보면 (이제는 끝난) 예비군 훈련이 있을 때와 비행기에 탑승해서 공중에 있을 때라고 대답하곤 합니다. 개발자로서 인터넷에 연결된 컴퓨터만 있다면 전세계 어디에서든 일할 수 있긴 하지만 온라인 커머스 그리고 24시간 돌아가는 생산/물류 시스템이 있다보니 언제 어떤 문제가 생길지 알 수 없고, 여러 팀원들이 서로 상호 보완할 수 있게 구성하더라도 한계가 있다보니 인터넷으로부터 끊기는 순간이 가장 긴장되는 순간입니다. 그래서 365일 늘 노트북을 들고다니며 우선순위를 정해둔 다양한 알람에 대해 24시간 대비를 하게 됩니다. 하지만 예비군 훈련장에서, 그리고 비행기 안에서는 어떠한 일도 할 수 없기 때문에 항상 긴장을 하게 됩니다. (이번에 이용한 에어프레미아는 제한적이었지만 기내 인터넷을 이용할 수 있어서 세상이 많이 좋아졌구나라는 생각을 하긴 했습니다.) 반대로 온라인을 유지할 수 있다면 해외에 있더라도 크게 부담스럽지는 않습니다. 그런 의미에서 독일은 굉장히 방문해 있기 좋은 국가였습니다.
독일과의 시차는 8시간으로 독일에서 새벽 1시가 우리나라의 오전 9시, 아침10시가 우리나라의 오후 6시이기 때문에 야간에 숙소에서 인터넷이 안정적인 상황이 주 업무시간과 겹쳤고, 그러다보니 낮에 행사에 참여하거나 다른 활동을 하더라도 업무에 큰 영향을 주지 않았습니다. 심지어 겨울의 독일은 일찍 어두워지고 늦은 밤의 활동이 적다보니 저녁 9시쯤부터 4시간정도를 자고 일어나면 회사의 업무를 이어갈 수 있었습니다.
독일에 다녀온 직후 도입한 아서 slack 버전
AutoCAD가 개발되기 이전 엔지니어링 사무실의 모습. PC가 이 모습을 바꿔두었고, 요즘은 Copilot이 한번 더 변화를 만들고 있다.
아직은 대부분의 사람들이 인공지능에 대해 무언가 앞으로 다가올 미래에 있고 가능성이 매우 많이 보이지만 나의 삶을 바꾸지는 않는 것으로 받아들이고 있다고 생각합니다. 하지만 뮌헨을 다녀오고 난 뒤 생각한 것은 인공지능이 마치 PC의 등장처럼 매우 전문적인 분야에서 제한적으로 사용되다가 어느 순간에 우리의 삶을 차지할 것이라는 확신이었습니다. 그리고 그 파격적인 변화의 과정에서는 마치 스마트폰의 시대처럼 이전의 강자들은 더이상 이전 시대의 무기를 사용하지 못하기에 빠르게 적응한 기업들에게 기회가 찾아올 것이라고 생각했습니다. 그래서 Digital Native 세대들인 지금의 어린아이들이 따로 배운적이 없어도 스마트폰을 자연스럽게 사용하고, 글을 몰라도 음성인식으로 원하는 영상을 유튜브에서 찾아 보는 것처럼 정육각과 초록마을의 구성원들이 AI Native에 가까워져야 앞서나갈 수 있을것이라는 결론으로 이어졌습니다.
슬랙을 이용하면 이렇게 사내용 여러 봇을 만들수가 있다. 업무 기록을 확인하는 영역부터, 구내식당의 점심 메뉴을 알려주는 등 이미 봇을 사용하는데에는 아주 익숙했다.
이전 글에서 썼듯이 아서라는 인터프리터를 내세운 것은 사용자들이 인공지능을 하나의 도구가 아니라 무엇이든 할 수 있는 한 명의 사람으로 받아들일 수 있게 하기 위함이었습니다. 이번에는 사내에 이미 잘 사용되고 있는 Slack을 활용해보기로 했습니다. 지금 이순간에도 회사의 구성원들은 서로 물어보거나 확인해야할 내용이 있을 때 Slack으로 메세지를 보내 질문을 하고 답변을 하고 있고, 심지어 서로 만나면 얼굴을 알아보지 못하는 팀원과도 전혀 문제없이 대화를 하고 있습니다. 따라서 만약 아서가 팀원들 중 하나인 상태가 된다면, (아직은 아니지만 튜링테스트를 통과할 정도로 자연스러워 진다면) 구성원들은 인공지능을 자연스럽게 받아들이게 될 것이고 AI Native세대가 될 수 있을 것이라고 생각했습니다. Slack은 이미 엄청나게 다양한 API를 제공하고 있고, 이를 통해 Chatbot을 만드는 것은 간단한 검색과 적당한 개발 지식으로도 하루만에 만들 수 있을만큼 Third party 개발에 대한 생태계를 완성시켜 둔 상태였습니다. 또한 이미 저희는 여러 봇들을 도입해둔 상태였고, Azure OpenAI GPT-4 리소스에 대한 활용은 기존에 마이크로소프트와의 여러 협업을 통해 익숙해진 상황이었기 때문에 이를 Slack Bot에 연결하는 것은 그리 어렵지 않은 작업이었습니다.
슬랙 봇 구성도. Slack은 이미 API, Webhook, Custom Bot을 지원하고 있어 이런 기술을 결합하기 편하다.
아서 슬랙 봇은 이렇게 작동합니다. Slack에서 사용자가 아서를 찾아 말을 걸면 이 내용은 Webhook으로 Slack Bot API에 연결되어 서버로 전달됩니다. 이때 서버에서는 이 사용자가 이전에 대화를 한 내용이 있는지를 CosmosDB에 확인합니다. 그리고 나서 기존에 질문을 했던 내용이 있다면 이 내용을 포함해 Prompt를 생성하고 그렇지 않다면 새롭게 Prompt를 생성합니다. 이렇게 CosmosDB를 사용하는 이유는 GPT-4에 메모리 기능이 없기 때문인데 그래서 대화를 자연스럽게 이어가기 위해서는 이전의 대화 내용을 계속해서 누적해 Prompt에 쌓아서 질의를 해야합니다. 물론 이렇게 되면 대화가 반복됨에 따라 점점 Prompt의 양이 증가하게 되고 GPT-4의 응답시간이 오래 걸리며 무엇보다 사용하는 토큰이 많아져서 비용이 비싸지게 됩니다. 따라서 연속적인 대화의 횟수를 서버에서 미리 20회로 제한하게 하였습니다.
생성한 Prompt를 Azure OpenAI에 넣어서 GPT-4의 응답을 받으면 이 응답을 해석한 후 최종 답변을 추출해내게 됩니다. 그러면 이 응답을 Slack Chat API를 통해 다시 처음 사용자가 말을 건 것에 이어서 응답을 하게 되죠. 또한 이 응답을 CosmosDB에 기록해서 다음에 이어지는 대화가 될 수 있게 관리합니다. 이렇게 해서 아서 Slack 버전을 완성시켰습니다.
아서의 작동 예시. 물론 개발에 관련이 없는 요청들도 처리가 가능하다.
아서 Slack 버전의 장점은 무엇보다 업무를 하고 있는 Slack에 별다른 전환작업 없이 이어서 GPT를 사용할 수 있다는 것에 있습니다. 또한 GPT-4 모델을 사용할 수 있는 서비스는 굉장히 제한적인데 이를 (회사가 Azure 인프라 사용으로 지불하지만) 개인 입장에서 별다른 비용 없이 사용할 수 있다는 것도 아주 편리한 부분입니다. 그리고 ChatGPT와 같이 열려있는 서비스에는 질의 내용에 회사의 기밀을 포함하는 것이 정보의 유출 가능성 때문에 위험한 부분이 있지만 아서 Slack 버전은 외부로 정보가 나가지 않으므로 아주 자유롭게 대화를 할 수 있다는 장점도 있습니다. 이를 통해 구성원 모두가 아서를 일종의 Copilot으로 사용할 수 있게 하였습니다.
아직 도입을 한지 몇 주 지나지 않았지만 이미 많은 구성원들이 아서 Slack 버전을 사용하고 있고 “공부잘하는 짝꿍”, “짧은 질문 긴 대답”, “愚問賢答”, “하루 중 언제나 간편하고 쉽게 물어볼 수 있는 퍼스널 영감 제조기” 등의 평을 받고 있습니다. 각자 회사에서 Slack Bot을 사용하는데 어려움이 없고 마이크로소프트의 Azure 인프라를 사용중이라면 그리 어렵지 않으니 각자 회사에서 도입을 해보면 업무를 하는 모습이 많이 바뀐다는 것을 느껴볼 수 있으실겁니다. (혹시 관련해서 궁금한 점이 있다면 [email protected]로 연락주시면 아는 선에서 설명을 드려보겠습니다. Azure 인프라를 사용하는 것에 관련해서 물어보시는 것도 좋습니다.)
마무리
마이크로소프트에서 초대를 해준 덕분에 다녀온 뮌헨에서의 일정은 인공지능이 마치 산업혁명, 정보화혁명, PC의 발명, 인터넷의 등장, 스마트폰시대와 같이 세상을 바꾼 혁신의 하나가 될 수 있을것이라는 확신을 주었습니다. 이 행사의 주제가 인공지능이었던 것은 아니지만, 마치 우리가 일을 할때 컴퓨터라는 것을 굳이 얘기하지 않아도 우리의 많은 일상에 이미 들어와있는 것 처럼 인공지능도 그렇게 될 것이기에 인공지능에 대한 얘기들을 위주로 진행이 되었습니다. 핸드폰이라는 것을 얘기하면 굳이 스마트폰이라고 말하지 않아도 설치된 앱, 전화, 메세지, 인터넷 등을 자연스럽게 떠올리듯 인공지능 역시 그런 위치를 차지하게 될 것이고 AI Native 세대가 탄생하게 될 겁니다.
소프트웨어를 개발하고 다룰 수 있다는 것이 아주 강력한 무기였던 시대에서 인공지능을 다룰 수 있는 시대로 바뀌어 가고 있는데, 이미 마이크로소프트 그리고 OpenAI가 이것을 주도해나가고 있다는 데에는 의심의 여지가 없습니다. GPT-4에 준하거나 그 이상의 인공지능을 만드는 것은 뛰어난 전문가들과 인프라를 위한 큰 자원이 필요한데 이것을 따라가는 것은 어렵지만 잘 활용해서 부가가치를 만들어 내는 것은 어렵지 않습니다. 그래서 정육각 그리고 초록마을에서는 인공지능을 사업에 적용하는 다양한 시도들을 해보려고 합니다.