GPT-6 Luna Decisions API

A Zurelay cobra $0.04 por 1M de tokens de entrada, contra o preço de tabela da OpenAI de $0.10, pelo que poupa 60%. A saída é gratuita, tal como na OpenAI. O modelo conta a sua entrada uma vez, mais cerca de 110 a 160 tokens próprios por cada pergunta: uma verificação com uma pergunta sobre um texto curto ronda os 160 tokens, duas perguntas cerca de 320, e uma entrada de 2600 tokens com quatro perguntas cerca de 3200. Os pedidos que falham não têm custo.

A API da OpenAI para responder a perguntas de classificação ou pontuação sobre uma entrada, com várias perguntas num só pedido. Em vez de escrever texto, o modelo devolve uma resposta tipada para cada pergunta: uma probabilidade para um predicado, um dos seus valores com probabilidades para uma escolha, ou uma posição na sua escala com probabilidades para uma pontuação. O GPT-6 Luna Decisions é o modelo que responde.

Create a Zurelay API key, set the OpenAI SDK's base URL to https://api.zurelay.com/v1 e call client.decisions.create with model set to gpt-6-luna-decisions, an input e a list of questions. In Node.js that needs openai 7.30.0 or later. Or POST the same JSON to https://api.zurelay.com/v1/decisions with your key as a Bearer token. The docs at https://zurelay.com/docs/openai-decisions have examples in Python, Node.js and cURL.

Sim. Em /v1/decisions, o ID de modelo gpt-6-luna funciona tal como gpt-6-luna-decisions, pelo que o código escrito a partir da documentação do SDK da OpenAI, que indica gpt-6-luna, funciona depois de mudar o URL base e a chave. O campo model da resposta indica gpt-6-luna-decisions. Nos endpoints de chat, gpt-6-luna continua a ser o GPT-6 Luna, o modelo de chat.

Um predicado pergunta qual a probabilidade de uma afirmação sobre a entrada ser verdadeira e devolve uma probabilidade de 0 a 1, por exemplo 1 para um pedido de reembolso claro. Uma escolha seleciona um de 2 a 255 valores que indicar, como faturação, hardware ou envio, e devolve o valor, uma confiança e a probabilidade de cada valor. Uma pontuação coloca a entrada em 2 a 10 níveis que indicar, do mais baixo para o mais alto, como muito negativo, negativo e neutro, e devolve o nível esperado como um índice a partir de 0, por exemplo 0.18 para quase só o primeiro nível. Um pedido pode combinar os três tipos.

Sim. Coloque as imagemns na entrada como partes input_image de uma mensagem user, como URL de dados em base64 ou ligação https pública, em PNG, JPEG, WebP ou GIF, com detail definido como low, high, auto ou original. Uma imagem de 1200 por 630 acrescenta cerca de 750 tokens em high ou auto e cerca de 150 em low. Os dados estruturados entram como partes input_json. Não lê PDF, áudio nem vídeo.

Qualquer pergunta pode voltar como {"type": "refusal"} em vez de uma resposta, enquanto as outras perguntas do pedido continuam a ser respondidas. Nos nossos testes, a entrada "Refund requested 38 hours ago." com o predicado "Page on-call?" foi recusada. Verifique o type de cada resposta antes de a ler e volte a perguntar de forma mais clara, ou encaminhe o caso para uma pessoa.

Até 1 050 000 tokens, contando a entrada e todas as perguntas em conjunto: nos nossos testes, uma entrada de 918K tokens funcionou. Um pedido aceita de 1 a 64 perguntas, uma escolha de 2 a 255 valores únicos e uma pontuação de 2 a 10 níveis. A Zurelay verifica o pedido antes de este chegar ao modelo, pelo que um pedido malformado é recusado com um erro claro e não tem custo.

Nos nossos testes, as respostas chegaram em 0,3 a 1 segundo, cerca de 1 segundo com uma imagemm, e uma entrada de cerca de 900K tokens demorou cerca de 10 segundos. As respostas chegam completas: a API não faz streaming.

Mensagens system, developer e assistant, itens de chamada de funções e ferramentas, streaming e imagemns dentro das instruções de uma pergunta: cada um é recusado com um erro 400 que explica o motivo. Coloque o contexto numa mensagem user ou nas instruções de uma pergunta. prompt_cache_key e prompt_cache_options são aceites e ignorados: a cache é automática e todos os tokens de entrada custam o mesmo.

Sim. Os pedidos para gpt-6-luna-decisions são executados no GPT-6 Luna Decisions da OpenAI, e a Zurelay não o substitui por outro modelo nem por um modelo de chat instruído a comportar-se como ele. A Zurelay é um serviço independente e não está afiliada nem é recomendada pela OpenAI.