Azure OpenAI API를 API Management에 등록하는 방법 | Named Value 설정 팁 포함

 

Azure API Management에서 Azure OpenAI를 API로 등록하는 방법

Azure OpenAI서비스를 Azure API Management에 등록하면, 효율적으로 OpenAI API를 관리하고 보호할 수 있다.

---

1. 사전 준비

아래 사항은 준비되어 있는 환경에서의 가이드

- APIM 생성

- Open AI 리소스 생성

 

2. Azure OpenAI API 를 APIM API로 등록하기

<<Azure 리소스에서 직접 가져오기>>

1. API 추가: 'API' 메뉴에서 '+ API 추가'를 클릭합니다.
2. Azure 리소스에서 만들기: 'Azure OpenAI Service'를 선택합니다.
3. 기본 사항 설정:
   • Azure OpenAI 리소스 선택
   • API 버전 선택 : 자동으로 선택 된다.
   • 표시 이름 및 설명 추가
   • Base URL 설정 (예: https://jbtest.azure-api.net/jbtest-oai/openai)
     • Improve SDK compatibility 체크박스에 체크 표시하여 OpenAI SDK 호환성(/openai) 보장하도록 한다.
4. 정책 설정: 'azure-openai-token-limit' 및 'azure-openai-emit-token-metric' 정책을 추가해 토큰 사용량을 관리할 수 있습니다.
5. 검토 및 생성: 설정을 확인하고 '만들기'를 클릭

 

3. Named Value를 사용한 OpenAI Key 등록 및 사용

1. Named Value 생성

• Azure Portal에서 API Management 인스턴스를 선택합니다.
• 왼쪽 메뉴에서 Named values를 선택합니다.
• '+ 추가'를 클릭하여 새 Named Value를 생성합니다.
• 이름: OPENAI_API_KEY
• 값: OpenAI API Key를 입력합니다.
• 비밀값(Secret) 옵션을 활성화하여 키를 암호화된 상태로 저장합니다.
• '확인'을 클릭하여 Named Value를 저장합니다.

2. 정책에서 Named Value 사용하기

• API Management에서 OpenAI API를 선택합니다.
• 정책(Policies) 편집기로 이동합니다.
• 다음과 같이 set-header 정책을 추가합니다

4. API 테스트

1. API 선택: 생성한 API를 선택합니다.
2. 테스트 탭 이동: 상단 '테스트' 탭을 클릭합니다.
3. 작업 선택: 배포한 모델과 호환되는 작업을 선택합니다.
4. 매개 변수 입력: deployment-id와 api-version을 입력합니다.
5. 요청 전송: 필요한 매개변수를 입력한 후 '보내기'를 클릭하여 API를 테스트합니다.

나의 경우는 내부모드로 구성하여, 테스트 기능에서 테스트가 불가했다. 

APIM과 동일한 vnet에 존재하는 VM을 생성하여 테스트 했다.