OpenAI는 2026년 10월 22일 Decisions API를 정식 출시했습니다. 이 서비스는 애플리케이션과 자동화 워크플로 안에서 빠르고 범위가 명확한 선택을 할 수 있도록 개발자를 위해 설계된 전문 도구입니다. GPT-6 Luna 기반으로 구축됐으며, 문서 분류, 요청 라우팅, 에이전트의 다음 작업 선택 등의 업무를 대상으로 하고 입력 토큰에 대해서만 요금을 부과합니다.
주요 내용
- OpenAI에 따르면 이 서비스는 Responses API를 통한 GPT-6 Luna보다 범위가 제한된 의사결정을 최대 10배 빠르게 내릴 수 있습니다.
- Box와 Datadog은 특정 평가에서 더 빠른 성능을 보고했으며, 이는 모든 애플리케이션에 적용되는 보편적 벤치마크는 아닙니다.
- 이번 출시로 GPT-Live 네이티브 통합, 프롬프트 캐싱, 미국과 EU 내 지역별 처리가 추가됩니다.
목차
Decisions API, 더 큰 워크플로 안의 작은 의사결정 겨냥
OpenAI의 정식 출시 발표는 가능한 답이 사전에 정의된 반복적 의사결정을 중심으로 제품을 소개합니다. 개발자는 질문, 허용되는 답변, 문맥을 제공하며, 문맥에는 텍스트와 이미지 또는 네이티브 JSON이 포함될 수 있습니다.
이 서비스는 개방형 응답 대신 확률, 선택 결과 또는 점수를 반환합니다. 따라서 워크플로 분기를 선택하거나, 조건이 참인지 평가하거나, 정의된 평가 기준에 따라 입력을 채점하는 데 적합합니다.
실질적인 차이는 폭넓은 답변을 생성하는 것과 다른 애플리케이션이 실행할 수 있는 제약된 선택을 내리는 것 사이에 있습니다. OpenAI는 애플리케이션이 이러한 개별적으로는 작은 의사결정을 대규모로 반복하면 지연 시간과 비용이 누적될 수 있다고 밝혔습니다.
| 항목 | 세부 내용 |
|---|---|
| 일반 입력 요금 | 입력 토큰 100만 개당 $0.10. |
| 캐시된 입력 요금 | 캐시된 입력 토큰 100만 개당 $0.01. |
| 출력 토큰 요금 | 없음. |
| 요청당 질문 수 | 최대 400개로, 이전 한도의 두 배. |
고객 테스트에서 성능 향상 확인…비교 기준은 서로 달라
Box는 보험증명서 사례 30건에 대해 문서 라우팅을 평가했습니다. Box의 플랫폼 및 통합 부문 제품 관리 부사장인 비스와룹 팔리트는 라우트 선택 속도가 Responses API를 이용했을 때보다 약 5배 빨라졌고 정확도는 동일했다고 밝혔습니다. 신뢰도가 낮은 사례는 검토자에게 전달했습니다.
Datadog은 에이전트가 생성한 rshell 명령어를 실행하기 전에 위험도를 평가하는 데 이 서비스를 사용하고 있습니다. Datadog의 스태프 엔지니어 AJ 스투이벤버그는 사용 가능한 최첨단 모델보다 p95 지연 시간이 40배 빨랐으며 정확도는 비슷했다고 말했습니다. p95 지표는 요청의 95%가 완료되는 응답 시간을 나타냅니다.
이 결과들은 서로 다른 작업과 비교 시스템을 대상으로 합니다. 구체적인 고객 활용 사례를 보여주지만, 모든 배포에서 동일한 속도 향상이나 정확도를 달성한다는 뜻은 아닙니다.
가격과 배포 옵션이 구현 방식 좌우
OpenAI는 입력 토큰에 요금을 부과하며, 출력 토큰에 대한 별도 요금은 없습니다. 프롬프트 캐싱을 이용하면 재사용되는 문맥에 더 낮은 요금이 적용되므로, 동일한 지침을 반복적으로 적용하는 애플리케이션에서는 이러한 가격 구조가 중요합니다.
공개 베타 이후 OpenAI는 실시간 대화 중 의사결정을 지원하는 GPT-Live 네이티브 통합도 추가했습니다. 고객 지원 에이전트가 уточ질문을 해야 할지, 요청을 라우팅할지, 문제를 상위 단계로 에스컬레이션할지 결정하는 등의 용도를 고려할 수 있습니다.
미국과 EU에서는 지역별 처리를 이용할 수 있고, 자격을 갖춘 고객에게는 Zero Data Retention(데이터 보존 없음) 옵션이 제공됩니다. 이는 배포 옵션에 관한 설명이며, 모든 고객이 동일한 데이터 통제를 자동으로 제공받는다는 의미는 아닙니다.
결론
Decisions API는 전용 엔드포인트를 통해 현재 이용할 수 있습니다. 개발자가 다음으로 할 일은 Decisions Playground에서 대표 사례를 대상으로 반복적 의사결정을 테스트해 속도, 정확도, 비용이 자신의 워크플로에 적합한지 확인하는 것입니다.
더 많은 뉴스 읽기
면책 조항
이 FinanceVelix 기사는 일반적인 정보를 제공하며, 개인별 금융·투자·법률·세무 자문이 아닙니다. 시장 가격, 금리, 경제 여건은 변할 수 있으며 투자에는 손실 위험이 따릅니다. 사실관계는 게시 당시 이용 가능한 자료를 반영하며 이후 바뀔 수 있습니다. 중요한 정보는 독립적으로 확인하고 필요할 경우 자격을 갖춘 전문가와 상담하십시오. 자산, 기업 또는 서비스를 언급하는 것은 이를 보증하는 의미가 아닙니다.
