Perguntas[azure](server)

Carreguei arquivos na minha conta do Azure e atingi minha cota (100):

Os arquivos foram enviados com:

from openai import AzureOpenAI
from config import AZURE_OPENAI_CONFIG

client = AzureOpenAI(
    azure_endpoint=AZURE_OPENAI_CONFIG["azure_endpoint"],
    api_key=AZURE_OPENAI_CONFIG["api_key"],
    api_version=AZURE_OPENAI_CONFIG["api_version"],
)

with open('training_set.jsonl', 'rb') as tf:  
    training_resp = client.files.create(file=tf, purpose="fine-tune")  

Como posso remover todos os meus arquivos de uma vez?

Eu uso um token obtido com az account get-access-tokenpara implantar GPTs ajustados no Azure, atualizá-los (por exemplo, alterando sua taxa máxima de acerto) ou removê-los.

Li em https://learn.microsoft.com/en-us/cli/azure/account?view=azure-cli-latest :

az account get-access-token: Obtenha um token para que os utilitários acessem o Azure.

O token será válido por pelo menos 5 minutos e, no máximo, 60 minutos. Se o argumento de assinatura não for especificado, a conta corrente será usada.

Atualmente, os tokens que obtenho são válidos por 15 minutos.

Como posso alterar a duração da validade de um token obtido com az account get-access-token?

Implantei um minimodelo GPT 4o ajustado no Azure, região northcentralus.

Estou recebendo este erro no portal do Azure ao tentar editá-lo (eu queria alterar a taxa máxima de acertos):

Este modelo não está disponível no recurso selecionado do Serviço OpenAI do Azure. Saiba mais sobre a disponibilidade do modelo.

Meu recurso selecionado no portal do Azure está em northcentralus:

No entanto, https://learn.microsoft.com/en-us/azure/ai-services/openai/concepts/models?tabs=global-standard%2Cstandard-chat-completions#fine-tuning-models afirma que o minimodelo GPT 4o ajustado está disponível no Azure, região northcentralus:

O que eu perdi? Por que estou recebendo o erro "Este modelo não está disponível no recurso selecionado do Serviço OpenAI do Azure"?

Implantei o minimodelo GPT 4o com ajuste fino seguindo o tutorial do Azure sobre ajuste fino do GPT. Código para a fase de implantação:

# Deploy fine-tuned model

import json
import requests

token = '[redacted]'
subscription = '[redacted]'
resource_group = "[redacted]"
resource_name = "[redacted]"
model_deployment_name = "gpt-4o-mini-2024-07-18-ft" # Custom deployment name you chose for your fine-tuning model

deploy_params = {'api-version': "2023-05-01"}
deploy_headers = {'Authorization': 'Bearer {}'.format(token), 'Content-Type': 'application/json'}

deploy_data = {
    "sku": {"name": "standard", "capacity": 1},
    "properties": {
        "model": {
            "format": "OpenAI",
            "name": "gpt-4o-mini-2024-07-18.ft-[redacted]", #retrieve this value from the previous call, it will look like gpt-4o-mini-2024-07-18.ft-[redacted]
            "version": "1"
        }
    }
}
deploy_data = json.dumps(deploy_data)

request_url = f'https://management.azure.com/subscriptions/{subscription}/resourceGroups/{resource_group}/providers/Microsoft.CognitiveServices/accounts/{resource_name}/deployments/{model_deployment_name}'

print('Creating a new deployment...')

r = requests.put(request_url, params=deploy_params, headers=deploy_headers, data=deploy_data)

print(r)
print(r.reason)
print(r.json())

O token foi gerado via az account get-access-token.

Segui este guia para evitar que usuários vinculem suas contas do 365 a aplicativos não autorizados.

Em seguida, configurei o fluxo de trabalho de consentimento do administrador para permitir que os administradores examinem essas solicitações.

A conta de administração não tem uma caixa de correio anexada. É possível enviar essas solicitações para uma conta de e-mail fora do locatário?

O limite de taxa (tokens por minuto) de uma instância do Azure OpenAI corresponde aos tokens de entrada, aos tokens de saída ou à soma de ambos?

Tenho vários grupos de recursos e instâncias na minha conta do Azure. No entanto, a Interface de Linha de Comando (CLI) do Azure não lista nenhum grupo nem recurso na minha conta do Azure:

franck [ ~ ]$ az group list
[]
franck [ ~ ]$ az resource list
[]

Por que o Azure CLI não lista nenhum grupo nem recurso na minha conta do Azure?

O que as contagens de token representam na aba de métricas no Azure OpenAI? Eu entendo o que é um token, e que uma contagem de token conta quantos tokens o LLM recebeu (tokens de entrada) e emitiu (tokens de saída), mas não entendo o que o valor no gráfico significa. Por exemplo, é o número de tokens usados ​​em um minuto?

Estou testando um cenário em que precisamos encaminhar todo o tráfego para uma VM, então essa VM deve encaminhar o tráfego para a máquina pretendida. (não consigo dizer "por quê").

1. Criado Vnet "VN", Subnet "SN", 3 NICse 3 VMs(usando: Standard_DS1_v2tamanho e o mais recente Win 2022 image).
2. Todos estão em uma região do Azure na mesma conta e assinatura.
3. Criei routing table "RT"e adicionei dois routes.
4. Tornou VM2o IP estático.
5. Ativado IP Forwardingem VM2.
6. Firewall do Windows desabilitado em todas as VMs.

Os IPs são:

VM     |     IP
----------------------  
VM1    |     10.3.1.4  
VM2    |     10.3.1.5  
VM3    |     10.3.1.6 

Rotas RT:

Name     |   Address Prefix |     Next Hop Type       |    Next Hop Address
----------------------------------------------------------------------------
VM1-VM3  |   10.3.1.6/32    |     Virtual Appliance   |    10.3.1.5
VM3-VM1  |   10.3.1.4/32    |     Virtual Appliance   |    10.3.1.5

Antes de anexar a RTtabela de roteamento à SNsub-rede, a rede está ok e posso conectar pingde qualquer lugar para qualquer lugar.

Após anexar o RT, SNfaça ping de qualquer para qualquer mensagem " Request timed out".

O que eu tentei:

1. sub-redes diferentes: também não funciona.
2. adicionando nsge permitindo ICMP.
3. adicionando nsge permitindo todo o tráfego ( anypara any).
4. recriando tudo.
5. uma conta e assinatura diferentes.
6. perguntou à IA se era possível. Ela respondeu "Sim".
7. tentei muitos vídeos do YouTube com o mesmo resultado. A única diferença é que eles usam contas reais (pagas) do Azure.
8. Eu até tentei instalar o Serviço de Roteamento e Acesso Remoto (RRAS), configurei-o para roteamento LAN e adicionei rotas estáticas com o gateway do host como gateway.

Não tenho mais opções e não faço ideia.

O que está errado?

Vejo que o provedor azurermazurerm_monitor_metric_alert tem , mas não parece oferecer suporte a alertas de cota do Azure . Vários AIs acham que posso usar azurerm_monitor_metric_alertcom um escopo como `/subscriptions/${data.azurerm_subscription.current.subscription_id}/providers/Microsoft.Compute/locations/${location}/providers/Microsoft.Quota/quotas/standardDPLDSv5Family"

mas esse não parece ser o caso. Parece ser impossível gerenciar alertas de cota de assinatura via terraform. Isso está certo?

Onde posso visualizar a lista de modelos OpenAI implantados no Azure?

Pensei que estivesse em "Gerenciamento de Recursos", mas não o vejo mais: