Azure OpenAI 모델을 구성하는 방법 Mendix
최근에 나는 시간을 보냈다 와 함께 작업 Gen AI를 위한 Mendix 모듈. OpenAI 외에도 다른 AI 모델도 지원한다는 것을 알았습니다., in 사실 Azure를 지원할 수 있습니다,마존 베드록및 약간의 독창성으로 – 어떤 대규모 언어 모델에도 맞게 조정되었습니다. 모듈이 너무 마음에 들었고 사용하기도 너무 쉬웠어요. 에 실험과 프로세스가 얼마나 다를 수 있는지 알아보세요 LLM을 다른 것으로 교체할 때 – 이 경우에는 Azure를 사용하기로 했습니다.
시작하기 전에
P필수 조건:
Gen AI에 익숙하지 않은 경우 Mendix 모듈에 대해 알아보려면 이 모듈이 무엇이고 어떻게 사용하는지 설명하는 이전 기사를 살펴보세요.
기본 설정은 건너뛰겠습니다 마켓플레이스 모듈의 이번에, 제가 이미 다루었으니까요. 신분증 차라리 초점 차이점에 대해 알아보려면 먼저 Azure 연결을 추가하고 배포된 모델을 설정하는 것부터 시작합니다.
Azure 계정 설정
Azure 계정 설정은 간편합니다. 빠른; 무료 중에서 선택할 수 있습니다 계정 또는 사용하면서 지불하세요. 무료 계정은 사용할 수 있는 $200 크레딧으로 시작합니다. 귀하의 계정을 만드십시오.. Azure의 Open AI 서비스 가격 책정 가이드에 대해 자세히 알아보세요. LINK.
작성 및 dA를 배치하다주어 오픈 AI r자원
설정하려면 A주레 O펜AI 의지, 따라 이 가이드 에 A주레's 문서.
리소스를 생성하지 않은 경우 소유자에게 액세스를 요청해야 합니다. 에 특정 세부 정보를 보고 액세스합니다(sAPI 키와 같은 경우 기본적으로 볼 수 없을 수 있습니다..
구성 d고용된 mODEL
리소스를 배포한 후 전에, Azure 포털, 그것'추가하고 구성하는 간단한 문제 d에 배치된 모델 Mendix. 루n 앱을 탐색하고 관리자 페이지 “Configuration_Overview” 또는 포함하는 페이지로 스니펫 “Snippet_Configurations” 배포된 모델을 구성합니다.
새 구성을 추가하려면 다음을 선택하세요. 팝업 창이 나타나면, ~에 들어가다 "Di"스플레이 이름"(모든 문자열/표시 전용)을 선택하고 "API 유형"을 "Azure OpenAI"로 설정한 다음 "엔드포인트"에 Azure의 리소스 URL을 입력합니다. 마지막으로, 리소스 대시보드에서 찾을 수 있는 API 키를 입력할 수 있습니다. 하늘색(i당신이 설정하지 않은 경우 리소스를 업데이트하려면 해당 리소스를 업데이트한 사람에게 액세스를 요청해야 할 수도 있습니다.
저장을 클릭하면 창w가 닫히고 구성을 위한 "배포된 모델 관리"라는 새 항목으로 대체됩니다. OpenAI 구성과 달리 배포된 모델은 자동으로 생성되지 않습니다. 절대로 필요한 것 수동으로 하나 추가하세요.
이렇게 하려면 "배포된 모델 추가"를 클릭하기만 하면 됩니다.을 클릭하고 양식에 요청된 세부 정보를 입력하세요. 다시 한번 말씀드리지만, "표시 이름"은 표시용이며 원하는 대로 입력할 수 있습니다. 더 중요한 것은 "배포 이름"이 Azure AI Studio에 표시되는 것과 정확히 일치해야 한다는 것입니다. 이 이름은 "배포" 항목에서 확인할 수 있습니다. 왼손 측면 패널이며, 표의 첫 번째 열에 있는 값입니다. 또한 "O출력 모달리티는 예상 출력에 따라 달라집니다. 모델마다 지원하는 o출력 모달리티, 그리고 당신은 당신의 모델이 무엇인지 확인해야 합니다 지원 (텍스트, 임베딩, 이미지, 파일, 오디오, 비디오 및 기타)). 출력으로 텍스트를 선택하는 경우 다음 값도 설정해야 합니다. "시스템 프롬프트 지원”, “기록이 있는 대화 지원” 및 “함수 호출 지원”.
마지막으로, "Azure API 버전"에 대한 값을 추가해야 하며, 이 값은 Azure Studio에서 구성된 값과 일치해야 합니다. Azure의 버전은 "YYYY-MM-DD" 형식의 날짜를 기준으로 합니다. 이는 다음에서 확인할 수 있습니다. 제삼 모델 배포 페이지의 열 모델의 세부 정보를 열면 하단에 있는 페이지에도 있습니다.
다음으로 클릭하세요 저장 그리고 배치된 것을 닫으세요 모델 페이지.
테스트 new mODEL
이전과 마찬가지로, 구성을 테스트할 수 있습니다. 마우스를 올려보세요. 를 시청하여 이에 대해 더 많은 정보를 얻을 수 있습니다. 삼점 구성에 대한 옵션을 불러오는 메뉴입니다.
드롭 다운에서 배포된 모델을 선택하세요-아래 (down) 메뉴 "테스트" 버튼을 클릭하세요. 문제가 있는 경우 빨간색 메시지가 표시되며, 애플리케이션 로그에서 추가 문제 해결 정보를 확인해야 합니다. Studio Pro 콘솔의 "Open AI Connector" 로그 노드에서 오류를 찾을 수 있습니다.
키 d면담
가장 큰 차이점 Azure의 OpenAI 서비스와 Open AI를 직접 사용하는 것 사이 is 그 A주레는 허용합니다 강화 추가 구성의 비용으로 제어합니다. I 이것을 추천하지 않을 것입니다 someone 처음 해보는 거라 엔터프라이즈급 애플리케이션에는 더 나은 선택이라고 생각합니다. Azure 가격도 더 저렴할 수 있습니다. 장기적으로는 향상된 보안 및 규정 준수 옵션의 추가 이점도 얻을 수 있습니다.