GPT-Live의 native Decisions 연동은 무엇을 더 빠르게 하고, 앱은 어디까지 직접 맡아야 할까요?
요약 듣기
요약 보기 
이 문서의 출발점은 아주 실무적이에요. 사용자가 아직 말을 하는 중에도 앱이 빠르게 판단해서 반응하고 싶다는 거예요. 여기서 핵심은 GPT-Live가 Decisions를 직접 부를 수 있게 해서, 앱을 한 번 거쳐 다시 판단 API를 호출하는 왕복을 줄인다는 점입니다. 가상의 비유로 보면, 접수원이 요청을 받아 중간 데스크에 다시 전달시키는 대신 곧바로 담당 창구로 넘기는 모습에 가까워요. 그래서 문서가 말하는 빠름은 답변 문장의 품질 이야기가 아니라, 판단 요청이 오가는 경로를 짧게 만든다는 뜻으로 이해하면 됩니다.
그다음에는 '언제 판단을 돌릴 것인가'를 나눠서 봐야 해요. 문서는 두 갈래를 보여줍니다. 하나는 Live가 사용자의 요청을 듣고, 앱이 처리할 수 있는 종류라고 알아챘을 때 위임하는 방식이에요. 이때는 session.delegation에 선택 질문을 넣고, 세션 지침으로 어떤 상황에서 위임할지 알려줍니다. 다른 하나는 대화 흐름에 맞춰 반응하는 트리거 방식이에요. 사용자가 말하는 중의 입력 자막 조각이나, Live가 답하는 중의 출력 자막 조각을 기준으로 session.triggers에서 판단을 받습니다. 앞의 방식은 '이 요청을 어떤 작업으로 넘길까'에 가깝고, 뒤의 방식은 '지금 이 말에 맞춰 어떤 반응을 낼까'에 가깝다고 보면 이해가 쉬워요.
설정에서 헷갈리기 쉬운 용어도 정리해 볼게요. Live 연결은 이미 동작하고 있어야 하고, Decisions에 쓸 수 있는 권한도 필요합니다. 대신 문서에 따르면 Decisions 전용 알파 헤더를 따로 붙일 필요는 없어요. 세션 안에서는 지침이 '언제 위임할지'를 정하고, 질문들이 '무엇을 돌려받을지'를 정합니다. 그리고 한 번의 네이티브 결정 요청으로 여러 질문에 각각 답을 받을 수 있어요. 예를 들어 온도, 성에 제거기, 추가 응답 필요 여부를 한 번에 물을 수 있다는 뜻입니다. 또 대화 도중 질문 내용 자체는 바꿀 수 있지만, session.update를 보낸 뒤 해당 session.updated를 기다리고 나서 그 단계의 decision item을 추가해야 해요. 반면 위임 타입은 세션을 만들 때 정하며, 그 세션 안에서는 고정됩니다. 대화 transcript는 Live가 자동으로 Decisions로 보내 준다는 점도 같이 알아두면 흐름이 훨씬 또렷해져요.
자동차 음성 비서 예시는 이 구조를 한눈에 보여줘요. Live는 한 번의 요청에서, 개발자가 정의한 액션들 가운데 무엇을 할지 고르게 하고, 동시에 앱이 Responses API까지 불러야 하는지도 판단하게 할 수 있습니다. 예시의 질문은 세 가지예요. 실내 온도를 올릴지 내릴지 아니면 관련 없어서 none인지, 앞유리 성에 제거기를 켤지 끌지 아니면 none인지, 그리고 요청이 이 실내 제어 범위를 넘어서는지입니다. 여기서 none은 실패가 아니라 그 항목은 이번 요청에서 건드리지 않는다는 뜻이에요. 그래서 '좀 춥다'라는 말에는 온도만 올리고 다른 항목은 none으로 둘 수 있고, '앞유리 성에를 없애고 샌프란시스코로 가는 길과 식당도 찾아 달라'는 말에는 성에 제거기는 켜되, 추가로 Responses 호출이 필요하다고 표시할 수 있어요. 문서는 이 세 질문이 한 요청 안에서 서로 독립적으로 답해진다고 분명히 말합니다.
실행 단계에서는 Decisions가 직접 차를 조작하는 것이 아니라, 앱이 무엇을 할지 결정에 필요한 선택 결과를 주고, 실제 작업은 앱이 처리한다는 점이 중요해요. 먼저 session.delegation.created에서 delegation.id를 저장해 둡니다. 이후 같은 delegation_id를 가진 decision.event가 오면, 그 안에서 decision.completed를 찾아 질문 이름별 답을 읽어요. 만약 답이 none이면 그 액션은 아무 작업도 하지 않는 no-op입니다. 이벤트를 필터링하는 구조라면 session.delegation.created와 decision.event를 모두 허용해야 하고요. 예시에서 'I feel a little cold'가 들어오면 Decisions는 temperature_up, none, no를 고릅니다. 그다음 앱은 실제로 온도를 올리고, 문서의 표현대로 actual setting을 읽어 확인한 뒤, 확인된 cabin state를 decision.item.create로 다시 보냅니다. 여기서는 의도를 적는 것이 아니라 최신 상태 스냅샷을 붙이는 흐름이에요. 그리고 대시보드 상태가 바뀔 때만 전체 cabin state의 간단한 스냅샷을 추가하고, 가장 최신 스냅샷을 현재 상태로 취급하라고 합니다. 이전 입력을 그대로 남겨 두는 것은 프롬프트 캐싱에 도움이 되기 때문이라고 문서가 설명해요. 마지막으로 decision.item.created를 기다린 뒤, 같은 delegation ID로 session.commentary.append를 보내면 Live가 사용자에게 자연어로 알려 줍니다.
요청이 차량 실내 제어를 넘어가면 흐름이 한 단계 더 늘어납니다. 샌프란시스코 예시에서는 Decisions가 none, on, yes를 고른 뒤, 앱이 먼저 성에 제거기를 켜고 상태를 확인해 기록합니다. 그다음에는 서버에서 Responses API를 호출해야 해요. 이때 문서는 운전자의 전체 요청과 cabin 결과를 함께 넣으라고 합니다. 그래야 Responses가 'there' 같은 표현을 샌프란시스코와 연결할 수 있다고 적고 있어요. 이후 Responses가 function_call을 내놓으면, 앱이 그 함수 이름과 인수에 맞춰 실제 함수를 실행하고, 실제 결과나 오류를 같은 call_id에 맞춰 function_call_output으로 돌려보냅니다. 그리고 final answer가 나올 때까지 그 흐름을 계속합니다. Live 쪽으로 다시 보내는 것은 중간 로그 전체가 아니라, Responses의 간결한 최종 답과 확인된 cabin state뿐이에요. 즉 네이티브 Decisions 연동은 빠른 분기와 판단을 맡기기 좋지만, 외부 도구 실행과 최종 상태 반영은 여전히 앱과 서버의 책임으로 남아 있습니다.
트리거 쪽은 위임과는 다른 용도예요. 문서의 예시는 디지털 캐릭터가 사용자의 말에 맞춰 표정과 제스처를 바꾸는 경우입니다. 사용자가 말하는 중에는 input transcript delta를 보고, Live가 말하는 중에는 output transcript delta를 보고 반응할 수 있어요. 예시 설정은 expression, intensity, gesture를 각각 separate choices로 묻습니다. 여기서 중요한 것은 이 트리거들이 delegation과 독립적으로 돈다는 점이에요. 그래서 앱은 '요청을 처리할지'와 '지금 어떤 표정이나 몸짓을 낼지'를 서로 다른 흐름으로 받을 수 있습니다. 예를 들어 'I got the job!' 같은 입력 자막 조각에 대해 happy, medium, nod가 돌아오면, 앱은 그 결과를 받아 캐릭터 반응에 반영하면 돼요.
다만 트리거는 조건과 한계를 꼭 같이 봐야 해요. WebRTC 이벤트를 필터링한다면 decision.event만 열어 두는 것으로는 부족합니다. 설정한 트리거의 원본 transcript 이벤트도 함께 허용해야 해요. 문서에 따르면 source transcript event가 허용되지 않으면 트리거 결과 자체가 전달되지 않습니다. 또 결과에는 어떤 transcript delta가 원인이었는지 source_event_id가 붙는데, Live는 대기 중인 delta를 합칠 수 있고 결과도 순서가 뒤바뀌어 도착할 수 있어요. 그래서 각 방향마다 가장 최신의 관련 결과를 적용하라고 합니다. 마지막으로 입 모양은 이 결정 결과로 움직이는 것이 아니라 오디오에서 구동하라고 따로 적혀 있어요. 이 부분은 '대화 감정 반응'과 '립싱크'가 같은 신호가 아니라는 뜻으로 받아들이면 됩니다.