이 시리즈에서는 연습과 실험을 통해 정확하고 효과적인 프롬프트를 만드는 기술을 익히는 방법을 살펴보겠습니다. 부분 1, 우리는 다양한 프롬프트 유형, 프롬프트 생성을 위한 모범 사례, 그리고 5가지 최고의 프롬프트 기술을 다루었습니다. 2부에서는 Tree-of-Thought 프롬프팅과 특히 이 분야에 익숙하지 않은 경우 프롬프팅을 시작하는 방법을 살펴보겠습니다.

사례 트리 오브 생각 프롬핑 사용

따라서 지원 어시스턴트 스타터 앱 하는 Mendix 다운로드하여 요구 사항에 맞게 조정할 수 있는 앱입니다. 검색 증강 생성(RAG) 그리고 함수 호출을 통해 자신의 데이터베이스에 연결하여 이 사용 사례를 프롬프트의 좋은 예로 만들 수 있습니다(지금은 그렇고 나중에 더 많은 것이 나올 것입니다!).

Support Assistant 앱은 GenAI가 IT 관련 문의에 직면한 직원을 대상으로 하는 지원 지원자로서 회사에서 어떻게 사용될 수 있는지 보여주기 위해 만들어졌습니다. 정적 데이터나 이전의 유사한 문제에 기반한 솔루션을 제공하고, 챗봇만으로는 문의를 해결할 수 없는 경우 IT 헬프 데스크에 대한 지원 티켓을 만듭니다. 마찬가지로, 사용자에게 새 라이선스나 하드웨어가 필요한 경우, 봇은 사용자를 위해 새 요청을 열고 경험을 용이하게 할 수 있습니다. 자세한 내용은 아래 애니메이션을 참조하세요.

지원 지원 앱 기능을 달성하기 위해 LLM이 응답을 생성하는 데 도움이 되도록 호출할 수 있는 9개의 기능 마이크로플로가 생성되었습니다. 특정 시나리오에서 어떤 기능을 처리해야 하는지 결정하기 위해 프롬프트가 중요한 역할을 합니다. 따라서 다음 GenAI 강화에서 고려하도록 권장하는 프롬프트의 관련 부분에 집중할 것입니다. Mendix 앱.

전체 프롬프트를 읽으려면 Support Assistant Starter 앱을 다운로드하고 다음을 검색하세요. 티켓봇_액션마이크로플로우 마이크로플로우는 다음 위치에 있습니다 ChatContext에서 요청 생성 활동 및 찾아보기 시스템 프롬프트 매개 변수에서.

시작점으로, 봇에 역할을 할당하고 초기 정보를 제공하는 것이 중요합니다. 지원 지원 앱 예에서, 우리는 문의를 위한 개인 데이터베이스에 액세스할 수 있는 지원자의 페르소나를 할당합니다.

You are a helpful assistant supporting the IT department with employees' inquiries, such as support tickets, licenses (e.g., Mendix) or hardware (e.g., Computer) requests. 
Use the knowledge base and previous support tickets as a database to find a solution to the user’s request without disclosing sensitive details or data from previous tickets.

다음으로, 언어, 톤, 형식을 포함하여 원하는 출력이 어떤 모양이어야 하는지에 대한 몇 가지 세부 정보를 제공합니다.

The user expects direct, and clear answers from you. 
Use language that users who might not be familiar with advanced software or hardware usage can understand. 
The text will be rendered in markdown ...

이제 봇이 '개성'을 갖추었으므로 아래 이미지에 표시된 것처럼 생각의 나무를 사용하여 지침으로 이동합니다. 이를 위해 LLM이 지침을 따르기 쉽도록 각 시나리오를 열거합니다.

예를 들어, 첫 번째 사례로 다음을 고려합니다. 모호하거나 불완전한 요청. 우리는 AI 모델이 사용자의 입력을 해석하는 것을 막고 싶습니다. 잘못된 응답을 제공할 수 있기 때문입니다. 따라서 다음을 포함합니다.

Never assume the user’s issue based on a vague input. 
If the user’s input is not clear or seems incomplete, you must first ask the user for more details to clarify the problem...

Do not proceed to suggest solutions or actions until the user’s issue is clearly understood.

다음과 같은 예시 응답과 함께 이러한 유형의 요청 중 일부를 제공할 수 있습니다.

Example response: "Could you please provide more details about the issue you are experiencing?"

선택적으로 프롬프트에 다음 내용과 예시 응답을 포함하여 봇이 다룰 수 있는 주제를 제한할 수 있습니다.

Avoid answering questions about cooking, music, or dancing. 
Example response: "Your request is not an IT topic. I am here to assist you on support ticket and new licenses or hardware matters."

기본 사항이 확립되면 지침을 특정 사용 사례로 전환할 수 있습니다. 이 경우 user의 요청 지침, 사용 가능한 요청이 처리되는 곳입니다.

There are two types of requests - requesting a new license or hardware, or IT support.

그런 다음 각 요청에 대한 구체적인 지침을 자세히 살펴보고 요구 사항이 충족될 경우 모델이 호출해야 하는 함수 이름을 언급할 수 있습니다.

If the user asks for help with an issue (e.g., battery drain, connection problems, etc.), call the RetrieveStaticInformation function to provide a solution from the knowledge base.

요구 사항이 충족되지 않는 경우 대체 섹션을 포함하는 것은 위의 이미지에 표시된 것처럼 생각의 나무 접근 방식이 여기에서 역할을 하는 곳입니다. Support Assistant 앱 예에서 특정 함수를 호출하는 조건이 충족되지 않을 때마다 LLM은 해결할 정확한 함수가 있을 때까지 다음 조건으로 계속 진행합니다.

예를 들어, 해당 정보가 다음에서 발견되지 않는 경우 정적 정보 검색 함수는 계속 호출합니다. 비슷한 티켓 검색 1. 위의 어느 것도 조건을 충족하지 않을 때만 다음 기능으로 이동하여 새 지원 티켓을 만듭니다. 프롬프트가 명령어 목록일 수 있다는 점을 고려하면, 여러 명령어 반복으로 인해 긴 프롬프트가 생성되는 것을 방지하기 위해 향후 명령을 참조할 수 있습니다. 이 참조의 예는 다음과 같습니다.

If none of the options above help the user, proceed to step 3 Handling New Support Tickets.

따라서 세 번째 단계에 초점을 맞춘 새로운 지원 티켓 처리, 모델이 따라야 할 주문 목록을 다시 가질 수 있습니다. 데모에서 보여준 것처럼 AI 모델은 새로운 티켓 생성을 용이하게 합니다. 따라서 이 단계와 관련된 모델에 대한 가이드라인을 추가할 수 있습니다. 예:

Write the ticket description from the user’s perspective.
If you do not agree with an update request (e.g., the user wants to categorize a Miro license request as a hardware issue), explain to the user why you do not recommend that change. 
However, if the user insists, you can make the change.

당연히 그래프가 표시될 때마다 따라야 할 특정 제한 사항이나 규칙을 포함하려고 합니다. 추가 규칙. 이 단계의 초점은 봇이 따라야 하는 보다 일반적인 규칙으로 간주되기 때문에 이전에 언급된 범주 중 하나에 포함될 수 없습니다.

예를 들어, 앱 제한(예: 봇이 티켓 저장 또는 삭제와 같은 특정 활동을 수행할 권한이 없는 경우 사용자에게 수동으로 해당 작업을 수행하도록 알려야 함)이나 기능 제한(예: 봇이 어떤 함수를 호출해야 할지 잘 모를 때의 대처 방법)이 있습니다.

처음에는 초보자에게는 압도적으로 들리고 보일 수 있지만, 의지할 수 있는 구조가 있는 것이 필수적입니다. 따라서 프롬프트에 새로운 기능, 지침 또는 규칙을 추가해야 할 때마다 이를 맞추기가 더 쉽습니다. 다음 섹션에서는 여정을 시작하는 방법에 대한 추가 팁을 제공합니다.

시작 방법: 제한 없는 프롬프트

프롬프트를 시작하는 것은 도전적인 것처럼 느껴질 수 있습니다. 그러나 이 여정에서 더 자신감을 느끼기 위해 따를 수 있는 몇 가지 권장 사항이 있습니다. 여기에는 다음이 포함됩니다.

작게 시작하고 실험에 집중하세요

첫 번째 시도에서 완벽한 프롬프트는 없습니다. AI 모델이 명령에 어떻게 반응하는지 아이디어를 얻으려면 몇 줄을 쓰는 데 집중하세요. 이는 다음 단계에 관련이 있습니다.

사용 사례를 찾고 모든 요구 사항을 수집합니다.

사용 사례가 없거나 LLM에 대한 기대 사항이 무엇인지 알지 못하면 단순히 프롬프트를 표시하고 모델이 올바른 답변을 제공할 것으로 기대하기 어려울 수 있습니다. 따라서 요구 사항과 요청 목록을 만드십시오.

시나리오부터 즉흥적 창작까지

사용 사례에 대한 모든 시나리오를 기록하고 프롬프트에서 기대되는 내용을 파악하면 첫 번째 프롬프트 초안을 만드는 데 도움이 될 수 있습니다. 프롬프트 유형, 모범 사례, 필요한 경우 프롬프트 기술을 고려하세요.

반복적 개선(테스트, 그리고 더 많은 테스트)

작성된 모든 시나리오를 테스트하여 생성된 프롬프트를 평가합니다. 응답을 평가하기 위해 여러 가지 형태로 질문을 작성해 보세요.

외부 검토

모델을 더욱 개선하려면 외부 피드백이 필요할 수 있습니다. 다른 시각을 갖는 것은 프롬프트에서 해결할 수 있는 새로운 문제를 가져올 수 있습니다.

출력이 예상과 다른 경우

AI 모델이 원하는 출력을 제공하지 못할 수도 있지만 걱정하지 마세요. 문제가 있는 곳에는 (대부분) 해결책이 있습니다. 다음은 그 중 몇 가지입니다.

• 모델 변형을 변경하세요: 모델을 더 높은 변형으로 업데이트하면 성능에 큰 영향을 미칠 수 있습니다. 예를 들어, GPT4 대신 GPT3.5o를 선택하면 아키텍처, 교육 및 전반적인 기능의 개선으로 인해 대부분 작업에서 더 나은 성과를 낼 수 있습니다.
• 대안 찾기: 사용 사례에 따라 대안을 찾는 것은 프롬프트의 명령어 수를 재구성, 단순화 또는 줄임으로써 성능을 개선할 수 있습니다. 예를 들어 함수 호출을 사용하는 경우 프롬프트에 새 명령어를 추가하는 대신 새 함수를 만드는 것이 해결책이 될 수 있습니다.
• 단계별 테스트: 프롬프트가 실패하는 부분을 파악하는 것은 출력이 예상과 다른 이유를 아는 것의 또 다른 대안입니다. LLM에 주어진 각 지침에 대해 여러 질문을 하고 AI 모델이 수행하지 못하는 부분을 파악하면 개선의 초점 영역을 갖는 데 도움이 될 수 있습니다.
• '제로'부터 시작하세요: 때로는 다른 관점에서 프롬프트 개요를 긁거나 프롬프트 기술을 변경하면 성능이 향상될 수 있습니다. 예를 들어, 지시 순서가 변경되거나 세 가지 생각 접근 방식을 선택하기로 결정한 경우입니다.
• 프로젝트 범위 변경: 이것이 가장 바람직하지 않을 수 있지만, 많은 문제가 발생하는 경우 응답의 정확성을 보장하기 위해 프로젝트 범위를 재조정하는 것이 좋습니다. 예를 들어, Support Assistant 앱과 같은 프로젝트의 경우 두 개의 프롬프트가 있을 수 있는데, 하나는 지원 티켓을 처리하고 다른 하나는 라이선스 또는 하드웨어 애플리케이션을 처리합니다.

앞으로 나아가기: 성공을 위한 촉구 작성

이 모든 지식을 바탕으로 신속한 엔지니어링 여정을 시작하고 지침과 팁을 위해 필요한 횟수만큼 이 블로그를 다시 방문할 수 있습니다. 즉, 자유롭게 다시 방문하세요. 신속한 생성을 위한 필수 모범 사례 이 시리즈의 첫 번째 게시물에서 이전에 논의했습니다. 행운을 빌어요!

GenAI 사용 사례를 직접 작업 중이고 도움이 필요하거나 피드백을 제공하고 싶다면, 저희에게 연락해 주시기 바랍니다. 고객 성공 관리자에게 문의하거나 #genai-connectors 채널에서 메시지를 보내 주세요. Mendix 커뮤니티 슬랙. 여기에서 가입하세요!

확인해 볼 추가 리소스: 프롬프트 라이브러리.