LakeNote.dev

Azure API Management에서 Azure OpenAI를 API로 등록하는 방법Azure OpenAI서비스를 Azure API Management에 등록하면, 효율적으로 OpenAI API를 관리하고 보호할 수 있다.1. 사전 준비아래 사항은 준비되어 있는 환경에서의 가이드- APIM 생성- Open AI 리소스 생성 2. Azure OpenAI API 를 APIM API로 등록하기>API 추가: 'API' 메뉴에서 '+ API 추가'를 클릭합니다.Azure 리소스에서 만들기: 'Azure OpenAI Service'를 선택합니다.기본 사항 설정:Azure OpenAI 리소스 선택API 버전 선택 : 자동으로 선택 된다.표시 이름 및 설명 추가Base URL 설정 (예: https://jbtes..

Azure DevOps Pipeline 자동화로 반복 업무 개선하기반복 업무의 문제점소프트웨어 개발 과정에서 자주 반복되는 작업 중 하나는 브랜치 생성 후 변경된 소스를 개발 환경에 배포하고, 검증 후 main 브랜치에 병합하여 운영 환경에 배포하는 일입니다.이 과정에서 가장 번거로운 부분은 소스 코드 수정 후 매번 파이프라인을 수동으로 실행해야 한다는 점이었습니다. 이러한 반복적인 작업을 줄이기 위해 Azure DevOps Pipeline의 trigger 설정을 활용하여 자동화를 구현했습니다.자동화 목표특정 브랜치(dev/0313)에 커밋하면 자동으로 개발 환경에 배포하도록 설정dev 브랜치 하위의 모든 브랜치에서도 자동으로 배포하도록 구성기존 문제점초기 파이프라인 설정은 다음과 같았습니다:trigge..

질문에 답을 찾는 자료 찾기 참고자료.https://www.youtube.com/watch?v=SHB-qKxjooMhttps://azure.microsoft.com/ko-kr/pricing/details/cognitive-services/openai-service/ Azure OpenAI 서비스 - 가격 책정 | Microsoft AzureAzure Open AI Service 가격 책정 정보입니다. 무료 Azure 계정으로 인기 서비스를 사용해 보고 선불 비용 없이 종량제로 결제하세요.azure.microsoft.com  Azure OpenAI 서비스는 고객이 GenAI 애플리케이션을 구축할 수 있도록 다양한 배포(Deployment) 옵션을 제공합니다. 주요 배포 옵션은 Standard, Batch,..

huggingface 모델을 다운 받아서 서비스 해보려고 하니빌드하는데 MS hosted agent 가 힘들어 한다. Free disk space on / is lower than 5%; Currently used: 95.22% 메시지가 발생한다.  소스 중에 지울게 있나 봤더니.git 폴더를 삭제했더니 8G -> 4G로 줄었다. 다시 Build Pipeline 시작!또 no space left on device 메시지가 발생했다. 이럴때는 job에 아래 구문을 추가 해주자.- job: build  pool:    vmImage: ubuntu-latest  workspace:    clean: all  참고: https://learn.microsoft.com/en-us/azure/devops/pipeli..

API Management에API를 등록하고, Backend 연결을 완료했다. Test 탭에서Header, Body 아무 것도 입력하지 않고 테스트를 시도했더니Backend에 도달해서Backend가 응답한 메시지를 그대로 가지고 왔다. 응답 코드: 400, Bad Requestbody: 에러 메시지에 대한 내용이 담겨있는데, 우리가 어떤 기술로 Backend를 운영하고 있는지 들킬(?) 메시지가 나온다.  Backend가 패키지라 메시지를 수정할 수 없으니APIM에서 처리할 수 있을거 같아서 매뉴얼을 찾아봤다. 해결 방법은 Outbound Policy를 활용했다.https://learn.microsoft.com/ko-kr/azure/api-management/api-management-howto-poli..

Azure API Management - API를 관리가 필요하다면, 이 서비스를 생성할지 고민하게 될 것 같다. https://learn.microsoft.com/ko-kr/azure/api-management/api-management-key-concepts Azure API Management - 개요 및 주요 개념Azure API Management 서비스의 주요 시나리오, 기능 및 개념을 소개합니다. API Management는 전체 API 수명 주기를 지원합니다.learn.microsoft.com 나는 이미 만들어진 서비스를 먼저 만났고, (인수인계 받음) 아무도 아는 사람이 없고 활용도 안되고 있어서 찾아보고 해보면서 경험했던 내용을 남겨본다. 내부모드 - 번역 때문인가 이해하는데 한참 걸린..

대소문자 때문에 고생

API Management를 쓰고는 있는데, 아무도 그에 대해서 아는 사람이 없었다.그래서 설명서 한참을 보고 이해한 내용들 중에서 내부모드에 대해서 정리 해본다. 내부모드를 이해하게 된 계기는APIM을 통해서 API를 호출하면, AKS에 만들어둔 Backend를 호출하도록 운영하고 있던 상황 원래는 APIM & AKS가 같은 subnet 내에 위치했는데,Backend가 다른 구독(subnet도 바뀜)에 있는 AKS로 이사를 갔다.  일단 내부모드란API Management 인스턴스를 가상네트워크(특정 subnet)에 배포하는 개념이다.https://learn.microsoft.com/ko-kr/azure/api-management/api-management-using-with-internal-vnet?..

Promptflow로 개발된 모델을 서비스 하기 위해서 몇달 고군분투 했다.그 시간 동안 이해하게 된 Promptflow 에 대해 정리해본다. Promptflow?LLM 개발주기(프롬프트 엔지니어링, 테스트, 배포, 모니터링 등)를 간소화하도록 설계된 개발 도구https://microsoft.github.io/promptflow/ Prompt flow — Prompt flow documentationReference provides technical information about prompt flow API. - Command line Interface reference: pf - Python library reference: promptflow - Tool reference: LLM Tool, Pyt..

환경: Azure DevOps / Azure Artifacts 어제까지만 해도 문제 없던 소스가 빌드가 안된다.compileJava를 실패했다고, 그래 그럴수 있지...근데 detachedConfiguration1은 뭐지? - 환경: java8, gradle, Azure pipeline- 에러 메시지 일부FAILURE: Build failed with an exception.* What went wrong:Execution failed for task ':compileJava'> Could not resolve all dependencies for configuration ':detachedConfiguration1'.......##[erorr]Code analysis failed. Gradle exit..