본문 바로가기

OpenAI

LLM 개발자라면 알아야 할 숫자들 LLM(Large Language Model) 개발자들이 알고 있으면 좋은 숫자들이 있어서 공유해보려고 한다. 비용 예측을 해보거나 시스템 규모를 산정해 보기 위해 간단히 계산할 때 알고 있으면 유용할 것 같다. 프롬프트 40-90% : "Be concise"를 프롬프트에 추가해서 절감할 수 있는 비용 LLM 모델을 사용할 때 응답의 토큰 양에 따라 비용을 지불하기 때문에 응답을 간결하게 받을 수 있다면(be concise) 돈을 많이 아낄 수 있다. 1.3:1 - 단어 당 평균 토큰 수 영어 단어에 한정해서 1 단어당 평균 1.3 토큰이 된다고 한다. 토큰 수는 비용 지불 단위이기도 하고 LLM의 콘텍스트 윈도우 사이즈도 토큰으로 정의하기 때문에 알아두는 게 좋다. 비용 ~50:1 - GPT-4와 GP.. 더보기
ChatGPT 무료 세미나 & 리소스 '구슬이 서말이라도 꿰어야 보배'라는 말이 있는데, 요즘 내 처지를 보는 것 같다. ChatGPT를 활용한 사례들이 주위에서 들리고 알려주겠다는 사람들도 넘쳐나는데 보지 못하고 있다. 내일은 무조건 봐야지라며 브라우저에 탭으로 띄워둔지 어느새 한 달이 다 되어가는듯; 이렇게 놔둘 바에야 포스팅으로 남겨두면 더 동기부여가 될 것 같아서 정리해본다. 챗GPT 러닝 데이 매주 화요일 저녁에 유튜브 라이브로 무료 세미나를 볼 수 있고, 지난 세미나도 유튜브에서 다시보기를 할 수 있다. 보고 싶은 세미나 주제가 많았는데 밀리다보니 더 안 보게 되는듯; 라이브만이라도 챙겨보면 도움이 많이 될 것 같다. 다시보기는 유튜브 링크를 통해서 목록을 확인하면 된다. 🚀 챗GPT 러닝데이: 무료 온라인 세미나 안내 🚀 이번 .. 더보기
ChatGPT로 인한 새로운 패러다임 세미나 참석 후기 4월 20일에 온라인으로 참석했던 세미나인데 늦게나마 작성해 보는 참석 후기 링크를 통해서 들어가면 다시보기를 볼 수 있기 때문에 관심 있다면 한번 보시면 좋을 것 같다. 라이브 당시에는 동시통역을 해주시는 분들이 있었지만 다시 보기에 자막은 없어서 이해하는데 조금 불편할 수는 있다. 그래도 슬라이드에 텍스트가 있고 코드 예제의 경우 일시 정지하고 직접 돌려볼 수 있으니 라이브를 볼 때보다 관심 있는 부분에 더 집중해서 볼 수 있는 장점이 있다. 이번 세미나의 어젠다는 아래와 같다.ChatGPT로 인한 새로운 패러다임27차 Tech 세미나 진행합니다. 이번 Tech 세미나는 특별히 글로벌 온라인 강의 플랫폼인 Udemy와 함께 합니다. ChatGPT로 인한 새로운 패터다임이라는 주제로 Udemy의 대표 .. 더보기
Google Bard 사용기 & ChatGPT 결과와 비교 ChatGPT가 출시된 이후로 빅테크기업들의 생성형 AI 개발 경쟁이 가속됐다. 메타, 아마존, 구글까지 가세해서 생성형 AI 서비스를 선보이고 있는데 그 중에서 구글의 Bard(바드)를 써보고 ChatGPT와는 어떤 차이가 있는지 확인해보려고 한다. Bard 사용(가입) 신청 먼저 Bard를 사용하려면 구글 아이디가 있어야 하고, 대기열에 등록한 뒤 기다려야 한다. 첨부한 링크를 통해 사이트에 들어가서 'Join Waitlist' 버튼을 누르면 끝이다. Bard Bard is your creative and helpful collaborator to supercharge your imagination, boost productivity, and bring ideas to life. bard.google.. 더보기
Microsoft + OpenAI Conference 온라인 참석 후기 개인적으로 나는 얼리어답터는 아니기도 하고, 하루가 다르게 새로운 기술이 쏟아지는 시장에서 피로감을 느끼는 사람 중 하나였기 때문에 chatGPT가 돌풍을 일으키고 있을 당시에도 '또 새로운 게 나왔나', '이게 그렇게 대단한가? 얼마나 가는가 보자' 같은 회의적인 시각으로 바라봤었다. 새로운 기술을 남들보다 먼저 쓰는 것에 희열을 느끼는 사람들도 있겠지만, 안정되고 검증된 기술을 사용하는 것을 선호하는 편이라 chatGPT가 나왔을 때도 일단 기다려보려는 자세를 취했다. 그러는 사이에 벌써 GPT-3.5가 나오고, GPT-4가 출시를 했다. 세상이 이렇게 빨리 바뀌어도 괜찮나 싶은 생각이 들 만큼 빠르게 바뀌고 있다. 내가 사용하고 있는 Notion에도 AI 어시스턴트가 추가되고, GPT를 활용한 새로.. 더보기