요즘 세간에 화제가 되고 있는 프롬프트 엔지니어링에 대해 간략히 조사한 내용을 기록해봅니다.
정의
자연어 처리 시스템에서 사용되는 기술로, 사용자의 쿼리를 이해하는 데 중점을 두어 사용자의 쿼리에 따라 적절한 응답을 생성하는 것을 목표로 합니다.
개요
일반적으로 챗봇의 대화 흐름은 사용자가 질문을 하고, 챗봇은 사전 정의된 대화 흐름을 기반으로 사전 정의된 응답을 제공합니다. 그러나 이 방법은 사용자의 쿼리에 대한 적절한 응답을 제공하지 못할 수 있습니다. 또한, 사용자의 쿼리를 이해하고 적절한 응답을 생성하는 챗봇의 능력에 초점을 맞추어 이 문제를 해결합니다.
역할
사용자의 쿼리를 이해하고 적절한 응답을 생성합니다.
챗봇과 사용자 간의 자연스러운 대화 흐름을 유지합니다.
챗봇의 대화 능력을 향상시킵니다.
특성
데이터 기반입니다. 즉, 데이터를 기반으로 대화 흐름과 응답이 생성됩니다.
자연어 이해(NLU), 자연어 생성(NLG) 등 AI 기술을 활용합니다.
사용자의 쿼리에 따라 동적으로 응답을 생성합니다.
자연스러운 대화 흐름을 만듭니다. 즉, 대화는 미리 정의된 대화 흐름이 아닌 사용자의 쿼리를 기반으로 합니다.
미래
프롬프트 엔지니어링은 챗봇과 같은 자연어 처리 시스템 개발을 주도하는 필수 기술입니다. 더 발전된 자연어 이해와 세대 기술이 발전함에 따라, 더 발전된 대화 능력을 가진 챗봇이 개발될 것으로 기대됩니다. 이 기술은 또한 의료, 금융, 교육 등 다양한 분야에서 응용 가능성이 높습니다.
ChatGPT를 무료로 한 번 써보고 싶은데 어디서 어떻게 써볼 수 있는지 궁금하신 분들을 위해 제가 한 번 정리해봅니다. 2023년 3월 21일시점에선 두 가지 방법이 있습니다. OpenAI 공식 사이트와 마이크로소프트 검색엔진 '빙'에서 이용하는 것입니다. 여기에서는 OpenAI 공식 사이트에서 이용하는 방법에 대해 설명드리고자 합니다.
ChatGPT-3가 나온지 얼마 되지도 않은 시점에서 ChatGPT-4를 발표하였습니다. 더 많은 발전과 기술력을 가지고 돌아온 ChatGPT-4가 궁금하기도 해서 알아보고 기록으로 남겨봅니다. 물론 공식홈페이지에서 더욱 자세한 내용을 확인할 수 있으니 아래 링크를 남기도록 하겠습니다.
사용자가 제출한 텍스트와 함께 사진을 처리할 수 있습니다. 아래 이미지에 대해 사용자가 한 질문과 대답이 참 놀라웠는데요.
출처 : OpenAI
사용자 : 이 사진의 웃음 포인트가 뭐야? 패널별로 설명해줘.
GPT-4 : 해당 이미지에는 라이트닝 케이블 어댑터가 있는 세 개의 패널이 있습니다. 패널1. 스마트폰 충전 포트에 VGA 케이블(주로 컴퓨터 모니터에 사용되는 큼직한 파란색 15핀 커넥터)이 꽂혀 있습니다. 패널 2. VGA 케이블 사진이 담긴 라이트닝 케이블 어댑터 포장이 있습니다. 패널 3. VGA 케이블 끝에 작은 라이트닝 케이블(주로 아이폰이나 다른 애플 기기 충전용으로 쓰임)의 클로즈업 사진입니다. 해당 사진의 웃음 포인트는 투박한 구형 VGA 케이블을 작은 최신 스마트폰 충전 포트에 연결하는 모순적인 상황에서 나옵니다.
이미지를 가지고 웃음 포인트를 찾아내는 놀라운 능력이 생겼습니다. 이미지를 단순히 설명하는 것에 그치지 않고 사람들만이 가질 수 있을꺼라 생각했던 유머까지 갖추게 된 것 같아 오히려 무섭다라는 표현을 쓰고 싶을 정도네요.
처리 가능 단어수
무료 버전의 ChatGPT에서 3,000 단어 제한 대신 최대 25,000 단어를 사용하여 응답할 수 있습니다. 이는 CatGPT-4가 응답에서 더 많은 문맥을 제공하고 더 큰 텍스트 입력을 처리할 수 있도록합니다.
창작력과 정확도 향상
이전 버전인 ChatGPT-3.5보다 더 정확하고 창의적이며 협력적이라고 합니다. 또한 "사실적인 응답을 생성할 가능성이 40% 더 높다"고합니다. 특히, 미국 변호사 시험을 보게 했을 때, ChatGPT-3에서는 불합격을 하였지만 ChatGPT-4에서는 상위 10%라는 놀라운 성적을 받으며 합격하였습니다. 향후 더욱 더 발전하게 되면 정말 변호사와 판사를 대체할 수 있을지도 모르겠네요.
ChatGPT-3와 ChatGPT-4의 차이점
모델
ChatGPT-3은 transformer 기반 모델이고, ChatGPT-4는 transformer와 convolutional neural networks (CNNs) 및 recurrent neural networks (RNNs)와 같은 다른 기계 학습 모델을 결합한 멀티 모델입니다. 이 조합은 ChatGPT-4가 텍스트, 이미지 및 비디오와 같은 다양한 유형의 데이터를 동시에 처리할 수 있도록합니다 .
이미지 처리 추가
ChatGPT-3은 텍스트 입력만 처리할 수 있지만, ChatGPT-4는 텍스트 외에 이미지도 처리할 수 있습니다.
매개변수
ChatGPT-3보다 훨씬 더 많은 매개 변수를 가지고 있습니다. ChatGPT-3의 매개 변수 수는 1750억 개이고, ChatGPT-4의 매개 변수 수는 1조 개가 될 예정입니다. 더 많은 매개 변수는 모델이 더 많은 데이터를 처리하고 더 복잡한 패턴을 학습할 수 있도록합니다. 이는 모델이 더 정확한 예측을 수행하고 더 나은 결과를 생성할 수 있도록합니다
단어 처리능력
ChatGPT-3보다 더 많은 단어를 처리할 수 있으며, 더 많은 컨텍스트를 제공할 수 있습니다. ChatGPT-4는 무료 버전의 ChatGPT의 3,000 단어 제한 대신 최대 25,000 단어를 사용하여 응답할 수 있습니다. 이는 대화형 챗봇이 더 큰 텍스트 입력을 처리하고 더 많은 컨텍스트를 제공할 수 있도록합니다.
현재 GPT-4가 발표된 시점에서 좀 늦은감이 있지만 일단 정리하여 기록하면서 공부하기 위해 남겨봅니다.
ChatGPT와 GPT-3는 모두 OpenAI에서 개발한 인공지능 모델입니다. GPT-3는 GPT 시리즈의 최신 버전이며, ChatGPT는 GPT-3의 일부로 볼 수 있습니다. 따라서 두 모델은 매우 유사하지만 몇 가지 차이가 있습니다.
1. 모델 크기와 학습 데이터의 양
GPT-3는 175억 개의 파라미터와 45TB의 학습 데이터를 기반으로 합니다.
ChatGPT는 6억 5천만 개의 파라미터와 570GB의 학습 데이터를 사용합니다.
위 내용에 대해)
이 글을 보면서 파라미터오 학습 데이터가 이렇게 차이나는 줄 몰랐네요. 압도적으로 GPT-3이 방대하다는 걸 알 수 있습니다.
2. 대화 생셩 능력
GPT-3는 자연스러운 대화 생성 능력이 ChatGPT보다 높아 더 매끄러운 대화를 생성할 수 있습니다. 이러한 이유로는, GPT-3의 학습 데이터 양과 모델 규모가 크다는 것에 있습니다.
위 내용에 대해)
자연스러운 대화 생성 능력이 있다라고 하는데, 그 근거로 학습 데이터 양과 모델 크기를 봐서는 그럴꺼 같다라고 생각할 수 있지만 실제로 사용해보면서 느껴보지 않으면 그 차이가 어느정도인지 가늠하기 힘들 것 같다는 생각을 했습니다.
3. 이용가능한 서비스
GPT-3는 일부 대규모 기업들과 파트너십을 맺어 인공지능 서비스를 제공하고 있지만, ChatGPT는 대개 온라인 상에서 무료로 제공되는 인공지능 채팅봇 등의 애플리케이션에서 사용됩니다.
위 내용에 대해)
GPT-3은 기업용, ChatGPT는 개인용이라는 개념으로 다가가면 제일 쉬울 것 같네요. 이 중에서 개인용이라면, 현재 OpenAI사이트에서도 가입만 하면 무료로 이용할 수 있습니다. 그리고 마이크로소프트 검색엔진 '빙'에서도 사용할 수 있어서 재미로 접근하긴 쉬울 것 같습니다. 또한, 유료이긴 하지만 개발자를 위한 API도 공개해놓고 있다고 하네요.
요즘 세간을 떠들썩하게 하는 녀석, ChatGPT에 대해서 여기저기서 알아본 내용을 정리해보았습니다.
ChatGPT란?
개요
ChatGPT(Chat Generative Pre-trained Transformer)는 OpenAI에서 개발한 대화형 인공지능 모델로, transformer 모델을 기반으로하여 만들어진 생성 모델입니다. 이름에서 볼 수 있듯이, 사전에 학습되어 언어 생성 작업을 수행합니다. 작년에 발표한 기준으로는, ChatGPT는 GPT-3.5 아키텍처를 기반으로 하는 것으로 알려졌습니다. 이 모델은 엄청난 양의 데이터를 학습하여 다양한 자연어 처리 작업에 뛰어난 성능을 보이는데, 대화 생성, 질문 답변, 요약, 번역 등 다양한 언어 처리 작업을 수행할 수 있습니다. 이 뛰어난 능력을 통해 인공지능 채팅봇으로 각 사회에서 필요로 하는 다양한 분야에서 활용될 수 있습니다.
특징
자연스러운 대화 생성
대화형 인공지능 모델로, 사용자와 자연스러운 대화를 나눌 수 있습니다
다양한 언어 모델
다양한 언어 모델, 다양한 언어로 대화를 나눌 수 있습니다
학습된 모델
방대한 양의 데이터를 기반으로 학습된 모델이기 때문에 자연어 처리 작업에서 매우 뛰어난 성능을 보입니다
개인화
사용자의 대화 기록을 이용하여 개인화된 대화를 생성할 수 있습니다
요금
ChatGPT의 무료 버전과 유료 버전의 차이점은 다음과 같습니다.
ChatGPT Plus는 유료버전으로 한 달에 20달러가 듭니다.
API 호출 제한: 무료 버전은 일정 시간 동안 API를 호출할 수 있는 최대 횟수가 제한되어 있습니다
API 요청 수: 무료 버전의 API 요청 수는 제한되어 있지만 유료 버전의 경우 API 요청 수가 무제한입니다
매개 변수 수: 유료 버전인 ChatGPT Plus는 약 1,200억 개의 매개 변수를 가지고 있으며, 무료 버전은 약 175억 개의 매개 변수를 가지고 있습니다
약간의 혜택: ChatGPT Plus는 최대 이용자 수가 많을 때에도 ChatGPT를 이용할 수 있도록 해줍니다
