Microsoft + OpenAI Conference 온라인 참석 후기

개인적으로 나는 얼리어답터는 아니기도 하고, 하루가 다르게 새로운 기술이 쏟아지는 시장에서 피로감을 느끼는 사람 중 하나였기 때문에 chatGPT가 돌풍을 일으키고 있을 당시에도 '또 새로운 게 나왔나', '이게 그렇게 대단한가? 얼마나 가는가 보자' 같은 회의적인 시각으로 바라봤었다.

새로운 기술을 남들보다 먼저 쓰는 것에 희열을 느끼는 사람들도 있겠지만, 안정되고 검증된 기술을 사용하는 것을 선호하는 편이라 chatGPT가 나왔을 때도 일단 기다려보려는 자세를 취했다. 그러는 사이에 벌써 GPT-3.5가 나오고, GPT-4가 출시를 했다. 세상이 이렇게 빨리 바뀌어도 괜찮나 싶은 생각이 들 만큼 빠르게 바뀌고 있다.

내가 사용하고 있는 Notion에도 AI 어시스턴트가 추가되고, GPT를 활용한 새로운 Bing 검색을 써보기 위해 대기 리스트가 생기는 등 인공지능이 내 생활에 영향을 주기 시작하니 더이상 가만있을 수 없겠다는 생각이 들었다. 그래서 ChatGPT를 비롯한 인공지능 모델에 대해서 본격적으로 알아보기 위해 어제 (3월 30일) 오전 9시 30분부터 11시 30분까지 열린 마이크로소프트 + OpenAI 콘퍼런스에 온라인으로 참석했다.

Microsoft Events

기업관점에서의 생성AI(ChatGPT)와 활용방안

기업 관점에서 생성AI를 어떻게 활용할 수 있을지 알아보는 시간이었다. 단순한 예로 문서 작성을 지원하는 것부터, 복잡한 문서를 해석하거나 요약해 주는 기능, 챗봇 등이 있을 것이다. 그중에서 가장 와닿는 예는 고객 대응이었다. 사람 대신 챗봇이 고객 응대 전부를 해주는 경우도 가능하지만, 사람이 응대하는 경우 개개인의 숙련도 차이가 있을 텐데 그 부분을 매우는데 AI가 활용될 수 있을 것이다. 매뉴얼이나 약관에서 특정 정보를 찾는다던가 고객의 요구사항을 요약해 줌으로써 응대가 훨씬 쉬워질 것으로 보인다.

그런데 AI를 선뜻 사용하지 못하는 이유가 있다. 바로 회사의 정보가 유출될 수 있다는 걱정 때문인데 MS는 신뢰성 기반의 AI 서비스를 제공함을 강조했다. 그래서 고객의 데이터는 학습에 사용하지 않는다고 강조했고, 데이터는 가장 포괄적인 기업 규정을 준수하고 보안을 적용하고 있다고 했다. 이런 보장이 없는 한 기업이 사용하기는 힘드니까 반드시 지켜져야 할 텐데, chatGPT 출시가 불과 4개월 전(2022년 11월 30일)인데 벌써 이런 서비스를 개시한다니 MS답다.

Azure OpenAI & ChatGPT 실제 사례 및 시나리오에 따른 아키텍처

OpenAI를 Azure 상에서 운영하고 있으니 ChatGPT를 사용하는 것은 당연히 가능할 것이고, 추가적으로 텍스트를 생성할 수 있는 GPT, 코드를 생성해 주는 Codex - 아마 코파일럿에 적용된 모델을 범용적으로 쓸 수 있게 개량한 것이 아닐까, 그리고 이미지를 생성해주는 DALLE 2를 제공한다.

기본적인 생성 AI모델만으로는 부족할 것이고 기업 내부 데이터를 활용한 트레이닝(파인 튜닝?), 프롬프트 엔지니어링을 통한 콘텍스트 추가로 사용자화 할 수 있다고 설명한다. 범용적인 AI 모델 + 작업에 따른 파인 튜닝을 작업 범주에 따라서만 할 수 있는 거라고 생각했었는데, 이걸 기업의 데이터를 통한 사용자화에도 염두에 두고 생각한 방법인지 모르겠지만, 기발한 것 같다.

시연 중 한 컷.. 보험 약관이 들어있는 몇 백 페이지짜리 pdf로 트레이닝 한 뒤 질문을 하면 거기에 답변을 하고 답변에 대해서 citation을 달아주고 있다. 완전 소름...

AI와 함께하는 일하는 방식의 완전한 변화

MS는 Copilot으로 브랜딩을 하려는 건지.. Github Copilot, 최근에 나온 Copilot X에 이어서 MS 365 Copilot도 출시했다.

내가 사용하는 툴에 AI가 내장되어 있어서 생산성을 획기적으로 올려줄 것으로 예상된다. chatGPT를 사용하듯이 자연어로 명령을 할 수 있으니 프롬프트 엔지니어링 하듯이 조금만 배우면 누구나 사용할 수 있게 될 것 같다.

명령어 예시를 보면

[A document]와 [B spreadsheet]의 내용을 기반으로 2장 분량의 제안서 초안 만들어줘
[A document]의 내용을 파워포인트 5장으로 요약해 주고, 관련된 이미지도 포함해 줘.
다음 주 목요일 12시에 열리는 신제품 발표회의 초대 이메일을 작성해 줘.

특히 신기했던 기능 중 하나는 라이브 미팅을 하는 도중에 Copilot을 사용하는 것이었다. 내가 미팅에 늦게 들어간 경우 '내가 부재중에 회의에서 논의된 내용 요약해 줘'라고 명령하거나 '이번 회의에서 어떤 결정이 내려졌고, 다음 단계는 무엇인지 정리해 줘.'라고 회의 내용 요약을 요청할 수 있다. 🤩이 기능에 적응되면 Office 365 영원히 구독해야 할지도...

마치며

AI의 성능이 뛰어나긴 하지만 결국 무엇을 할지, 어떻게 할지는 사람이 정하는 것이다. 그래서 사람이 하는 일을 대체하기보다는 도와줄 것인데 사용하는 사람과 사용하지 않는 사람 사이에는 큰 생산성 차이가 날 것이다. 다양한 분야에서 다양한 배경을 가진 사람들이 인공지능을 활용하는 사례들이 나타나고 있기 때문에 내 주변에서도 어떤 것을 AI를 활용하여했을 때 개선 또는 향상할 수 있을지 고민해 보자.