ChatGPT 플러그인이란 무엇이며 어떻게 작동합니까?

2023/07/17

ChatGPT는 대중에게 공개된 이후 지난 몇 개월 동안 전 세계를 휩쓸었습니다. 사실, 몇 달밖에 안 됐나요? 그것이 만든 영향은 수년 동안 주변에 있었던 것처럼 느껴집니다.

그러나 모든 미덕에도 불구하고 그렇게 작지 않은 작은 결점이 하나 있었습니다. 최신 정보에 액세스할 수 없었습니다. 그것이 가진 유일한 정보는 2021년 중반까지였습니다. 그러나 OpenAI는 마침내 그것을 바꾸기 시작했습니다. 아니요, 최신 데이터에 대해 학습되지 않았습니다. 그러나 OpenAI는 마침내 일부 타사 서비스뿐만 아니라 인터넷에 연결할 수 있는 ChatGPT의 플러그인에 대한 초기 지원을 구현하고 있습니다!

ChatGPT 플러그인이 무엇인가요?

플러그인은 특별히 언어 모델용으로 설계된 도구입니다. 그들은 챗봇의 기능을 향상시키고 이전에는 불가능했던 작업을 수행하도록 합니다. 예를 들어 이제 스포츠 점수, 주가와 같은 실시간 정보를 검색하고, 항공편 예약과 같은 사용자 대신 작업을 수행하고, 회사 문서와 같은 지식 기반 정보를 검색할 수 있습니다.

ChatGPT 출시 이후 플러그인은 사용자가 가장 많이 요구하는 항목이었고 OpenAI가 마침내 제공했습니다. 그러나 그들의 릴리스는 점진적이고 반복적인 롤아웃이 될 것입니다. 처음에 OpenAI는 몇 가지 타사 플러그인과 몇 가지 자체 플러그인만 출시했습니다.

플러그인을 빌드하려는 개발자뿐만 아니라 사용자의 액세스도 현재 제한되어 있습니다. 또한 최종 사용자로서 현재 ChatGPT Plus 사용자에게만 액세스 권한이 부여되고 있지만 ChatGPT는 향후 롤아웃을 확장할 계획이라고 말합니다.

액세스는 대기자 명단에 등록한 후에만 요청할 수 있습니다 . 여기에는 액세스를 원하는 이유와 피드백을 제공할 의향이 있는지에 대한 간단한 설문지를 작성해야 합니다.

타사 플러그인 목록에는 다음이 포함됩니다.

Expedia – 이 플러그인을 사용하면 호텔, 항공편 등의 가용성 및 가격에 대한 완전한 정보와 함께 ChatGPT로 다음 여행을 계획할 수 있습니다.
FiscalNote – 이 ChatGPT 플러그인을 사용하면 실시간으로 법률, 정치, 규제 정보 및 데이터에 액세스할 수 있습니다.
Instacart – ChatGPT를 사용하여 인근 식료품점과 슈퍼마켓에서 식료품을 주문합니다.
KAYAK – ChatGPT 내에서 KAYAK을 사용하여 정의된 예산 내에서 자동차, 호텔, 렌터카 등을 찾으세요.
Klarna 쇼핑 – ChatGPT 대화 내에서 다양한 온라인 상점의 가격을 검색하고 비교합니다.
Milo Family AI – 부모가 육아를 강화할 수 있는 플러그인입니다.
OpenTable – 채팅에서 레스토랑 추천 및 예약 링크를 가져옵니다.
Shopify에서 쇼핑 – 다양한 브랜드의 제품을 검색합니다.
Slack – Slack과 함께 ChatGPT를 사용하여 커뮤니케이션을 간소화하세요
말하기 – AI 기반 언어 튜터 받기
Wolfram – ChatGPT를 받아 계산, 수학 지식 등에 액세스하십시오.
Zapier – 이 플러그인을 사용하여 ChatGPT 내에서 5000개 이상의 앱과 상호 작용합니다.

또한 OpenAI 자체에는 브라우징(웹 브라우저) 및 코드 인터프리터와 Retriever라는 오픈 소스 플러그인의 두 가지 플러그인이 있습니다. 모든 플러그인은 현재 알파 테스트 단계에 있습니다.

이 플러그인은 어떻게 작동합니까?

OpenAI에 따르면 플러그인은 ChatGPT와 같은 언어 모델의 “눈과 귀”입니다. 언어 모델에 대한 사실은 훈련 데이터에서만 학습할 수 있고 학습이 제한될 수 있다는 것입니다. ChatGPT는 자체적으로 텍스트 기반 지침만 제공할 수 있습니다. 이러한 플러그인은 이러한 지침을 따르도록 할 수 있을 뿐만 아니라 너무 최근이거나 너무 개인적이거나 너무 구체적이어서 훈련 데이터에 포함될 수 없는 정보를 제공할 수 있습니다.

그러나 AI 모델이 지침을 따르고 사용자를 대신하여 작업을 수행하는 것에 대해 생각할 때 발생하는 안전 문제가 있습니다. 이것이 플러그인이 느리게 출시되는 이유입니다. OpenAI는 안전을 핵심 원칙으로 구축하고 있으며 실제 사용을 모니터링할 것입니다.

이러한 플러그인 모델 중 일부가 어떻게 작동하는지 살펴보겠습니다.

브라우징

이것은 ChatGPT를 인터넷에 연결하는 플러그인이며 OpenAI 자체의 두 플러그인 중 하나입니다. 이 플러그인은 Microsoft의 Bing 검색 API를 그다지 흥미롭지 않은 상황에서 사용합니다. 두 회사는 수년 전부터 거래를 해왔습니다. 초기 투자 외에도 Microsoft는 이제 OpenAI 기술을 사용하여 새로운 Bing AI를 지원합니다.

이 모델은 인터넷 검색 방법을 알고 있을 뿐만 아니라 언제 인터넷을 검색해야 하는지, 언제 검색하지 않아야 하는지도 알고 있습니다. 예를 들어 사용자가 ChatGPT에 Oscars 2023에 대한 정보를 요청하면 인터넷에서 쿼리를 정확하게 검색합니다. 그러나 처음으로 개최된 오스카상에 대해 물으면 인터넷을 검색하지 않습니다. 해당 정보가 훈련 데이터의 일부이기 때문입니다.

따라서 ChatGPT가 인터넷을 탐색하게 하려면 ‘브라우징’ 모델/플러그인을 선택해야 합니다.

이제 사용자가 인터넷 검색을 요구하는 프롬프트를 입력하면 그렇게 합니다. 봇이 정보에 익숙해지는 데 시간이 필요하므로 프로세스에 시간이 걸립니다. ‘Browsing the web..’ 타일을 확장하여 응답을 생성하기까지 ChatGPT의 동작 흐름을 볼 수 있습니다.

여기에서 검색한 검색어, 클릭한 링크, 실시간으로 읽는 시기를 확인할 수 있습니다. 텍스트 기반 웹 브라우저를 사용하므로 검색 결과를 넘어 실제로 웹 사이트를 읽고 탐색할 수 있습니다.

ChatGPT가 이벤트를 파악하면 이전과 마찬가지로 자연어 모델로 답변을 제공합니다. 그러나 답은 브라우징 모델로 생성될 때 인용을 포함합니다. 인용을 클릭하면 해당 웹사이트로 이동합니다. 이 특정 측면은 Bing Chat AI와 동일합니다.

안전 관점에서 볼 때 텍스트 기반 브라우저는 특정 위험을 줄이는 GET 요청만 할 수 있습니다. 예를 들어 모델은 인터넷에서 정보를 검색할 수만 있지만 양식 제출과 같은 “트랜잭션” 작업은 수행할 수 없습니다.

코드 해석기

OpenAI의 두 번째 플러그인인 Code Interpreter 모델은 ChatGPT에 Python 인터프리터를 제공합니다. 또한 수명이 짧은 디스크 공간도 제공합니다.

세션은 단일 채팅 중에 활성 상태이므로 다음 통화는 이전 통화 위에 구축될 수 있지만 상한 시간 제한이 있습니다. 또한 코드 해석기는 파일 업로드 및 결과 파일 다운로드도 지원합니다.

이를 안전하게 유지하기 위해 OpenAI는 샌드박스 및 방화벽 실행 환경에 보관합니다. 코드 해석기에 대한 인터넷 액세스도 비활성화됩니다. OpenAI에 따르면 이 이동이 모델의 기능을 제한하더라도 처음에는 올바른 이동이라고 생각합니다.

대화를 시작하기 전에 ‘코드 해석기’ 모델을 선택해야 합니다.

사용자가 Code Interpreter 플러그인을 사용해야 하는 프롬프트를 입력하면 ChatGPT는 이를 사용하여 필요한 계산을 수행합니다. 브라우징과 마찬가지로 사용자는 ‘작업 표시’를 클릭하여 ChatGPT의 계산 흐름을 볼 수 있으며 계산의 모든 단계가 표시됩니다.

초기 테스트에서 OpenAI는 이 플러그인이 특정 시나리오에서 유용하다는 것을 발견했습니다. 여기에는 다음이 포함됩니다.

양적 및 질적 수학적 문제 해결, 솔직히 말해서 사용자는 이전에 ChatGPT가 쓰레기라는 것을 알았습니다.
많은 사용자가 흥분하는 데이터 분석 및 시각화를 수행합니다.
형식 간 파일 변환

OpenAI는 사용자가 코드 해석기가 시도하면서 수행할 수 있는 더 유용한 작업을 발견할 것으로 기대합니다.

타사 플러그인

나머지 플러그인은 플러그인 모델에 속합니다. 여기에는 개발자가 사용할 수 있는 OpenAI의 오픈 소스 Retriever 플러그인과 12개의 타사 플러그인도 포함됩니다.

드롭다운에서 플러그인 모델을 선택하면 사용자는 스토어에서 원하는 플러그인을 설치할 수 있습니다.

간단히 말해서 플러그인이 작동하는 방식은 다음과 같습니다.

사용자가 플러그인을 설치하여 활성화하고(자동으로 활성화되지 않음) 대화를 시작하면 OpenAI는 플러그인에 대한 간단한 설명을 메시지로 ChatGPT에 삽입합니다. 이 메시지는 최종 사용자에게 표시되지 않지만 플러그인의 설명, 끝점 및 예제가 포함됩니다. 따라서 대화에서 플러그인을 사용하기로 선택할 때까지 ChatGPT는 이에 대한 지식이 없습니다. 모든 대화에서 사용하려는 플러그인을 활성화해야 합니다.

이제 ChatGPT에 쿼리를 입력할 수 있습니다. 봇이 플러그인 호출과 관련이 있다고 판단하면 API 호출을 사용하여 이를 수행합니다. 즉, 플러그인을 호출해야 하는지 여부를 스스로 결정할 수 있습니다.

그런 다음 생성하는 응답에 플러그인에서 얻은 결과를 포함합니다.

다음은 ChatGPT가 OpenTable, Wolfram 및 Instacart의 플러그인을 사용하는 방법의 예입니다. 사용자가 ChatGPT에게 토요일에는 비건 식당을 추천하고 일요일에는 비건 레시피를 추천해 달라고 요청합니다. 그들은 또한 Wolfram을 사용하여 권장하는 레시피의 칼로리를 계산하고 Instacart에서 레시피의 재료를 주문하도록 요청합니다. AI 봇이 바로 그렇게 합니다.