오픈AI, 챗GPT 및 위스퍼 API 출시…챗GPT 비용 90% 절감 가능

2023/03/02글쓴이:

오픈AI가 기업용 챗GPT 응용프로그램 인터페이스(API)를 출시했다. 이제 API에서 챗GPT(ChatGPT) 및 위스퍼(Whisper) 모델을 사용할 수 있게 되어 개발자는 채팅뿐만 아니라 최첨단 언어 및 음성-텍스트 변환 기능에 액세스할 수 있게된 것이다.

오픈AI, 챗GPT API 공개… 챗GPT 비용 90% 절감

1일(현지시간)오픈AI가 이날 일련의 시스템 전반의 최적화를 통해 챗GPT(ChatGPT) API를 공개했다. 12월부터 챗GPT의 비용을 90% 절감할 수 있었으며, 이제 그 절감된 비용을 API 사용자에게 전달할 수 있게 되었다고 밝혔다.

ChatGPT API

API는 일반적으로 GPT 모델은 모델에 ‘토큰(컴퓨터가 이해하는 언어단위)’ 시퀀스로 표시되는 구조화되지 않은 텍스트를 사용한다. ChatGPT 모델은 대신 메타데이터와 함께 메시지 시퀀스를 사용한다.즉, 내부적으로 입력은 여전히 모델이 사용할 수 있도록 ‘토큰’ 시퀀스로 모델에 렌더링되며, 모델에서 사용하는 원시 형식은 채팅 마크업 언어(Chat Markup Language, ChatML)라는 새로운 형식이다.

외신에 따르면 오픈AI는 챗GPT API를 기업에 판매하기 시작했다고 보도했다. 기사에 따르면 오픈AI는 챗GPT 기술 핵심인 GPT-3.5 터보모델을 API로 제공한다.

이외에도 이제 개발자 및 연구자들은 훨씬 빠르고 비용 효율적인 결과를 얻을 수 있는 오픈소스 위스퍼(Whisper) 대형-v2(Large-v2) 모델을 API에서 사용할 수 있으며, 챗GPT API 사용자는 지속적인 모델 개선과 함께 전용 용량을 선택하여 모델을 더욱 세밀하게 제어할 수 있는 옵션을 기대할 수 있게 되었다.

또한, 개발자들의 피드백에 귀를 기울여 개발자들의 요구를 더 잘 충족할 수 있도록 API 서비스 약관을 개선했다고 덧붙였다.

GPT-3.5 터보

챗GPT(ChatGPT) 모델 제품군인 GPT-3.5 터보(GPT-3.5-Turbo)는 챗GPT 제품에 사용되는 것과 동일한 모델로 가격은 1,000 토큰당 0.002달러로 기존 GPT-3.5 모델보다 10배 저렴하다. 토큰 1천개는 영어 단어 1.5개에 해당한다. 또한 채팅이 아닌 다양한 사용 사례에 가장 적합한 모델로, 초기 테스터들이 프롬프트에 약간의 조정만으로 텍스트 다빈치-003(Text-Davinci-003)에서 GPT-3.5 터보로 마이그레이션 할 수 있다.

GPT-3.5 터보모델에 지속적인 접근을 필요로하는 기업 맞춤형 서비스도 생겼다. 대용량 토큰을 필요로 하는 기업용 서비스다. 오픈AI는 이를 위한 전용 데이터센터도 구축한 상태다. 이 서비스는 하루에 토큰이 4억5천개 이상 필요한 기업에 유용하다.

안드로이드 버전 다운로드	iOS 버전 다운로드
신규 유저 한정 이벤트(입금 및 거래 시 10,055USDT 보상) <<<<

챗GPT API 적용 사례

최근 해당 API를 구매해 적용하기 시작한 기업들이 등장하고 있다. 인스타카트가 대표적이다. 인스타카트는 온라인 식료품 배송 기업이다. 기존 모바일 앱을 개선하기 위해 챗GPT API를 구매했다.

고객들은 챗GPT와 대화하며 요리법 제안을 받거나 메뉴 지정을 안내받을 수 있다. 또 요리법 제안을 받으면서 자동으로 재료를 쇼핑 카트에 넣을 수 있다. 해당 서비스는 올해 말 나온다.

쇼핑몰 앱 쇼파이도 챗GPT API를 적용했다. 제작사는 이 API를 통해 고객들에게 맞춤형 쇼핑 추천을 공급하겠다고 밝혔다.

스냅챗을 운영하는 스냅도 마찬가지다. 스냅은 챗GPT API를 활용해 새로운 챗봇 ‘마이AI’를 지난달 말 출시한 바 있다.

오픈AI , ‘위스퍼’ API 공개

이 외에도 오픈AI는 음성-텍스트 변환모델인 ‘위스퍼'(Whisper) API를 공개했다.

오픈AI가 지난해 9월 공개한 위스퍼는 웹에서 수집한 68만 시간의 다국어 및 멀티태크스 데이터로 학습한 자동음성인식(ASR) 시스템이다. 음성을 다양한 언어로 옮기거나, 이를 영어로 번역해준다. 당시 오픈AI는 “대규모의 다양한 데이터셋을 기반으로 억양이나 주변 소음에 대한 견고성(robustness)이 향상됐다”라며 “데이터셋의 3분의 1은 비영어 데이터”라고 설명했다.

오픈AI는 “지난해 9월 공개된 위스퍼는 개발자 커뮤니티로부터 찬사를 받았지만 실행하기 어려운 모델이었다”라며 “이젠 API를 통해 위스퍼 대형-v2 모델을 사용할 수 있게 됐다. 최적화된 스택으로 다른 서비스 대비 빠른 서비스를 보장한다”고 강조했다.

현재 위스퍼 API는 분당 0.006달러로,트랜스크립션(원어로 트랜스크립션) 또는 번역(영어로 트랜스크립션) 엔드포인트를 통해 이용할 수 있으며, 다양한 형식(m4a, mp3, mp4, mpeg, mpga, wav, webm)을 허용한다.

안드로이드 버전 다운로드	iOS 버전 다운로드
신규 유저 한정 이벤트(입금 및 거래 시 10,055USDT 보상) <<<<

위스퍼 API 적용 사례

이에 따라 AI 콜센터도 확산될 전망이다.

한국어 학습 서비스 스픽(Speak)도 위스퍼 API를 적용한 교육서비스를 선보였다. 예를들어 햄버거 가게에서 음식을 주문하는 상황에서 영어로 말하면 AI가 이를 인식하고 그에 맞는 답을 해준다. 오픈AI는 “스픽은 한국에서 가장 빠르게 성장하고 있는 영어 앱”이라며 “모든 레벨의 언어 학습자에게 인간 수준의 정확도를 제공하는 위스퍼는 개방형 대화연습과 정확한 피드백을 제공한다”고 설명했다.

또한 이미 글로벌 전자상거래 기업 쇼피파이는 자체 쇼핑 어시스턴트 서비스에 챗GPT를 적용했다. ‘따뜻한 우드 찾아줘’라고 입력하면 그에 맞는 상품을 추천해주는 서비스인데, 앞으로는 문자가 아니라 간단히 말만 하면 될 전망이다.

BTCC 거래소

12년 보안 무사고
암호화페 라이센스를 확득한 믿음직한 거래소
전세계 규제 준수
세계 최저 수수료 (0.03%)
최대 150배 레버리지 제공
선물 거래량 기준 세계 5위
무료 모의 거래 가능
풍부한 유동성 및 오더북
토큰화 주식 및 암호화폐 출시
원화입금 지원
24×7 시간 한국어 고객서비스 제공
최신 시장 동향 및 투자 교육 제공
PC/모바일 거래 가능
다양한 이벤트

가입하고 암호화폐 투자를 시작하세요

App Store또는Google Play를 통해 BTCC 앱 다운로드

BTCC 소셜 미디어 팔로우

스캔하여 다운로드

오픈AI 챗GPT GPT 모델 챗GPT API 위스퍼 GPT-3.5 터보 '위스퍼' API 챗GPT 제품 챗GPT API 적용 위스퍼 API 적용

Exchange for a better future

제품

서비스

가이드

BTCC 정보

이용 약관

고객센터

커뮤니티

빠른 링크

위험 알림: 암호화폐 거래는 전망이 밝은 산업으로 수익을 크게 낼 수도 있지만 그만큼 위험이 따릅니다. 특히 레버리지 거래는 이익이 확대되는 동시에 리스크도 수반해 커지니 암호화폐 시장, 레버리지 거래, 거래 규칙 등을 충분히 이해하고 거래하시기 바랍니다. 거래할 때는 감당이 가능한 리스크 범위 내에서 거래하는 것을 추천합니다.