Mendix 빠르게 작업하세요.

Mendix 기업용 애플리케이션을 위한 AI 강화 앱 개발에 대한 역동적인 소개를 했습니다. 당사 플랫폼은 스마트하고 직관적이며 개인화된 앱을 제공할 수 있도록 합니다. AI 기능.

우리의 여정에서 최고를 찾기 위해 Mendix 앱 개발자 여러분, 우리는 AWS의 가장 직관적인 AI 서비스를 하나로 모아 스마트한 엔터프라이즈 애플리케이션 개발을 공원을 산책하는 것처럼 쉽게 만들어 냈습니다.

다음을 통해 저희의 여정을 따라갈 수 있습니다.

• 따라서 Mendix 커뮤니티 유튜브 채널
• 따라서 개발자 블로그
• 현재 사용 가능한 것을 확인할 수 있습니다 Mendix AWS 커넥터
• 하지만 자신의 커넥터를 만드는 방법을 배우고 싶다면 다음을 따라야 합니다. 아카데미 학습 경로.

팀으로서 우리의 목적은 개발자가 개발 관행에서 가치 있다고 생각하는 도구를 제공하는 것입니다. 또한 동적이고 사용하기 쉬운 스마트 기능을 조사하고 강조하는 데 시간을 보냅니다.

최근 우리는 AWS에서 새롭게 출시된 서비스를 살펴보았습니다. Amazon Bedrock – 우리가 만든 것 Mendix Amazon Bedrock 커넥터 및 예제 구현.

아마존 베드락이란 무엇입니까?

Amazon Bedrock Amazon과 선도적인 AI 스타트업의 기반 모델(FM)을 API를 통해 제공하는 완전 관리형 서비스입니다.

이를 통해 다양한 FM 중에서 선택하여 사용 사례에 가장 적합한 모델을 찾을 수 있습니다. 기본 모델을 사용하여 서버리스 경험을 빠르게 시작할 수 있습니다.

Foundation 모델이란 무엇인가요?

첫 번째 정의 기초 모델 스탠포드 대학에서 제공했습니다. 여기에는 BERT, GPT-3, Claude, Amazon Titan 등 광범위한 다운스트림 작업에 적용할 수 있는 규모로 광범위한 데이터에서 학습된 모델이 설명되어 있습니다.

Amazon Bedrock에 조기에 접근할 수 있었기 때문에 다음 기초 모델의 최신 버전을 사용할 수 있었습니다.

본문

• 아마존 타이탄 라지 v.1.01
• AI21 랩스 쥬라기-2 울트라
• 인류학적 클로드 2

영상

• 안정성 AI Stable Diffusion XL v2.2.2

이 서비스에 대해 배우는 동안 우리 팀이 더 흥미진진한 일을 하도록 하기 위해 우리는 "우리 대 Amazon Bedrock"이라는 해커톤 데이를 개최하기로 결정했습니다.

시험용 앱에서 얼마나 빨리 진전을 이루었는지 목격하는 것은 놀라운 일이었습니다. 15분 이내에 Amazon Bedrock에서 사용 가능한 모든 모델 목록을 성공적으로 통합하고 검색했습니다.

더욱 인상적인 것은, 단 1시간도 채 안 되어 우리는 이미 Amazon Titan을 실험하고 Stability AI의 Stable Diffusion XL을 사용하여 이미지를 제작하고 있었다는 것입니다.

이 게시물의 후반부에서는 테스트 애플리케이션 내에서 기본 모델을 구현하는 데 있어 겪었던 어려움과 흥미로운 순간을 모두 포함하여 다양한 팀 구성원의 개인적인 경험을 공유하겠습니다.

안정적인 확산 XL

생성적 AI의 세계에서 Stability AI는 레이더에 계속 있어야 할 회사입니다. 이 오픈소스 회사는 2021년에 AI 이니셔티브를 시작했으며, 현재 200,000명 이상의 크리에이터, 개발자, 연구자가 있는 커뮤니티를 보유하고 있습니다.

Stability AI는 강력한 Ezra-1 UltraCluster 슈퍼컴퓨터를 사용하여 Stable Diffusion XL 모델을 만들어 사용자에게 독특한 경험을 제공합니다.

Stable Diffusion XL 2.0은 2022년 XNUMX월에 출시되었지만 Stable Diffusion XL은 여전히 ​​공개적으로만 사용 가능합니다. 베타 버전. Stable Diffusion XL은 텍스트-이미지 AI입니다. 즉, 짧은 프롬프트로 설명적 이미지를 만들고 이미지 내에 단어를 생성할 수 있습니다. 예를 들어, 이 블로그의 모든 그림은 Stable Diffusion XL로 만들었습니다.

Agapi Karafoulidou가 Stable Diffusion XL을 구현하는 방법

"'Us against Amazon Bedrock' 해커톤 동안 저는 Stable Diffusion XL 구현에 뛰어들었습니다. 처음에는 약간 비관적이었지만, 그게 저를 멈추게 하지는 않았습니다.

“Amazon Bedrock 테스트 페이지에서 JSON 형식의 API 요청을 찾을 수 있었습니다. 그것을 손에 넣은 후, JSON 구조를 쉽게 만들었습니다. Mendix 앱을 만든 다음 내보내기 매핑을 생성했습니다.

"그 후, POST API 호출이 있는 마이크로플로가 추가되었고, 물론 필요한 헤더를 추가해야 했습니다. 다행히도 API 요청에서 볼 수 있었습니다. 앱을 실행하고 '완벽한 사진을 주세요'라는 프롬프트를 추가하고 클릭했습니다." 

결과는 다음과 같습니다.

아마존 타이탄

Amazon Titan은 블로그 게시물을 만드는 것과 같은 텍스트 생성 작업을 위한 생성적 대규모 언어 모델입니다. 마지막 문장을 읽고 궁금하시다면, 이 블로그의 요약 부분은 AI의 도움으로 만들어졌지만 나머지 부분은 그렇지 않았습니다. 🙂

물론 Amazon Titan은 모델의 범용 범주에 속하는 많은 데이터 세트로 훈련되었습니다. 자세히 알아보기 아마존 타이탄.

Amazon Titan 구현에 대한 Daan Van Otterloo의 설명

“새로운 Mendix AWS 팀원, 저는 Amazon Bedrock 커넥터로 작업을 시작하게 되어 기뻤고 흥분했습니다. Generative AI는 지난 몇 년 동안 엄청난 도약을 이루었고 ChatGPT가 출시된 이후로 화제가 되었습니다. 이를 통해 Mendix 개발자는 이러한 모델을 애플리케이션에 쉽게 통합할 수 있습니다. 이는 여러 가지 방법으로 많은 애플리케이션에 가치를 더할 것입니다.  

"개인적으로 저는 Amazon Bedrock 커넥터의 예제 구현의 일부를 개발할 기회가 있었습니다. 그래서 저는 대부분의 모델, 특히 Amazon Titan Text Large 모델을 가지고 놀았습니다. 

“이것은 사용자가 다음과 같은 작업을 하는 데 도움이 될 수 있는 범용 생성 LLM(대형 언어 모델)입니다.

• 텍스트 생성
• 코드 생성
• 그리고 아이디어 브레인스토밍 등 기타 사용 사례 

"Amazon Titan과 같은 모델을 사용하는 제가 가장 좋아하는 방법은 영감을 얻는 것입니다. 모델에게 요리법, 선물 아이디어를 묻거나 간단히 영화나 음악을 추천해 달라고 요청하는 것과 같습니다. 

"우리는 REST API 호출을 사용하여 Amazon Bedrock 서비스에 연결하기로 했습니다. 제가 한 방법은 다음과 같습니다.

• 시작하려면 AWS 계정에 로그인하고 Amazon Bedrock 놀이터로 이동했습니다.
• 저는 Amazon Titan Text Large 모델을 선택하여 사용해보기 시작했습니다. (이 페이지에서는 복사하여 사용할 수 있는 요청 JSON 예제도 찾을 수 있습니다. Mendix Amazon Titan을 호출하는 REST 호출에 사용될 내보내기 매핑을 생성하기 위한 것입니다.)
• In Mendix디버거를 사용하여 응답을 확인하고 복사한 다음 응답을 가져오는 데 사용되는 데이터 모델과 마이크로플로우 로직을 생성할 수 있었습니다. 

“이것이 모델을 활용하기 위해 내가 해야 할 전부였고 이제 우리의 창의적인 역량에 달려 있습니다. Mendix "이러한 모델을 사용하여 커뮤니티에서 가치를 창출하세요!"

쥬라기-2 울트라

이스라엘에 본사를 둔 AI21 Labs는 2018년에 자연어를 이해하고 생성할 수 있는 AI 시스템을 구축한다는 사명으로 설립되었습니다. 그들의 제품에는 기초 모델인 Jurassic-2 Ultra가 포함됩니다.

에 따르면 AI21 Labs 문서, Jurassic-2 모델을 사용하면 다음을 수행할 수 있습니다.

''…Python SDK를 사용하거나 사용할 언어 모델에 해당하는 전체 엔드포인트에 HTTP 요청을 게시하여 주어진 텍스트 프롬프트에 대한 텍스트 완성을 생성합니다. 요청에는 프롬프트라고 하는 입력 텍스트와 생성을 제어하는 ​​다양한 매개변수가 포함됩니다. 인증을 위해 요청 헤더에 API 키를 포함해야 합니다. 전체 응답에는 토큰화된 프롬프트, 완성이라고 하는 생성된 텍스트 및 다양한 메타데이터가 포함됩니다.''

Jurassic-2 Ultra 구현에 대한 Nicolas Kunz Vega

"이름에서 암시하는 것과 달리, Jurassic-2 Ultra 기초 모델은 선사 시대와 아무런 관련이 없지만 대신 최첨단 LLM입니다. Jurassic-2 Ultra 모델을 사용하면서 정말 놀랐던 것은 모델에서 반환된 응답을 조작하기 위해 요청을 조정할 수 있는 방법의 수였습니다. 

Amazon Bedrock에서 제공하는 다양한 모델에서 발견되는 보다 일반적인 입력 매개변수(반환할 토큰의 최대 개수나 모델이 응답에서 얼마나 창의적(또는 반복적)이 될지를 제어하는 ​​온도 등) 외에도 Jurassic-2 Ultra는 몇 가지 고급 입력을 제공합니다. 

“예를 들어, 다음을 기준으로 토큰 사용에 대한 처벌 옵션이 있습니다.

• 주어진 프롬프트에 대한 그들의 존재
• 사용 빈도 및
• 생성된 응답에서의 그들의 수 

"이것은 또한 공백, 이모티콘, 숫자 등을 고려하도록 확장될 수 있습니다. 이러한 다양한 입력은 주어진 프롬프트에 대한 응답을 생성할 때 모델에 영향을 미치는 요소를 더 잘 이해하는 데 도움이 되었습니다. 또한 생성 AI가 우리 대부분에게 블랙박스인 것을 신비화하는 데 도움이 되었습니다.  

"응답을 구현하는 데 있어서, 저는 Jurassic-2 Ultra 모델이 지금까지 Amazon Bedrock에서 본 다른 모델보다 더 자세한 응답을 반환한다는 것을 발견했습니다. 생성된 텍스트와 일부 메타데이터 외에도 모든 생성된 토큰과 해당 확률 점수도 제공합니다. 선택한 프롬프트에 대한 최상의 대안을 얻을 수도 있는데, 이는 모델이 출력을 생성할 때 거치는 "AI 사고 과정"으로 볼 수 있습니다. 

“전반적으로 Jurassic-2 Ultra 모델을 구현하는 것은 재미있고 직접적인 경험이었습니다. Mendix 특히 모든 종류의 요청을 빌드하고 이것이 전송되는 응답에 미치는 영향을 확인하는 작업을 합니다. Mendix 앱!"

클라우디아 2

Anthropic은 다음과 같은 회사입니다. 임무 "혁신적인 AI가 사람과 사회가 번영하는 데 도움이 되도록 하기 위해." 샌프란시스코에 본사를 둔 이 회사는 2021년에 전 OpenAI 회원들이 사람들이 의지할 수 있는 시스템을 구축한다는 비전을 가지고 설립했습니다.

Anthropic의 제품 Claude 2는 브랜드 위험을 줄이도록 설계되었습니다(Constitutional AI가 내장되어 있음). 대량의 콘텐츠를 처리할 수 있으며 사용 사례에 따라 개인화할 수 있습니다. 자세히 알아보기 LINK.

Anthropic Claude 2 구현에 대한 Casper Spronk

"Anthropic Claude 2를 구현하는 것은 매우 쉬웠습니다. AWS가 이미 세 모델 모두에 대한 올바른 구문을 제공하고(모델링된 필드를 제외하고는 동일함) 동일한 요청 및 응답 구조를 사용하여 모델을 구현할 수 있었습니다. 

"요청에 버전 열거를 추가한 다음 이를 해당 모델 ID 문자열에 매핑하면 세 모델 모두에 단일 마이크로플로를 사용할 수 있습니다. 그런 다음 최종 사용자가 모델을 선택할 수 있도록 허용할지 또는 모델이 항상 동일할지 여부를 선택하는 것은 모델을 구현하는 개발자에게 달려 있습니다.  

• 요청 본문은 간단한 내보내기 매핑으로 매핑할 수 있습니다.
• 그런 다음 내보내기 매핑의 출력을 일반 요청의 본문으로 설정합니다.
• Invoke Model Generic 마이크로플로우 작업을 호출한 후 응답 본문 특성에 대한 가져오기 매핑이 수행됩니다.
• 그러면 InvokeModelResponseAthropicClaude 엔터티의 완료 특성에는 Claude 2가 생성한 응답이 포함됩니다.  

"Claude 2와 완전한 대화를 하고 싶다면 개발자는 모든 (이전의) 인간 입력에 "Human:" 태그를 추가하고 Claude 2에서 생성된 모든 이전 출력에 "Assistant:" 태그를 추가해야 합니다. 

"모델이 특정 구문을 지나서 아무것도 반환하지 않도록 하려면 요청에 중지 시퀀스를 추가할 수 있습니다. 모델이 해당 단어나 구문을 생성했을 경우 모델은 대신 그 지점까지 생성한 모든 것을 반환합니다."

람다를 통해 Amazon Bedrock을 호출하는 Casper Spronk

"Amazon Bedrock 해커톤에서 우리의 목표 중 하나는 AWS Lambda 함수를 통해서도 Amazon Bedrock을 호출할 수 있는지 테스트하는 것이었습니다. 이는 Amazon Bedrock이 아직 기본적으로 AWS Lambda를 통해 제공되지 않았기 때문에 몇 가지 과제를 안겨주었습니다. Python을 사용하여 Amazon Bedrock을 호출하는 데 필요한 패키지나 일반적인 AWS 기능을 파악해야 했습니다. 

"Python으로 AWS에 액세스하려면 boto3와 botocore라는 두 개 이상의 패키지가 필요합니다. 일반적으로 패키지를 호출할 때 레이어를 업로드하여 람다 함수에 추가해야 합니다. 그러나 우리가 마주친 문제는 다음과 같습니다.

1. boto3 및 botocore 패키지는 이미 람다 함수의 레이어로 사용 가능했으며
2. 이러한 기본 레이어는 우리가 추가할 사용자 정의 레이어보다 먼저 호출됩니다.

"많은 디버깅과 좌절 끝에, 우리는 모든 종속성과 함께 작동하는 Python 함수 전체를 람다 함수로 업로드하기로 했습니다. 이렇게 하면 AWS 기본 boto 패키지 대신 boto3와 botocore의 최신 버전이 호출될 것이라는 희망을 품고서요. 결국 작동했고 작동하는 람다 함수가 생겼습니다!"

요약(AI)

처음에 언급했듯이, 우리는 AI 모델에 이 게시물의 요약을 제공해 달라고 요청했습니다.

안정 확산 XL v2.2.2

쥬라기-2 울트라

Amazon Bedrock은 API를 통해 최신 기반 모델을 제공하는 완전 관리형 서비스로, 개발자가 애플리케이션에서 이러한 모델을 더 빠르고 쉽게 사용할 수 있도록 합니다. 팀으로서 우리는 Amazon Bedrock에 조기에 액세스할 수 있어서 기뻤고, 사용 가능한 모든 모델 목록을 얼마나 빨리 통합하고 검색할 수 있었는지에 감명을 받았습니다.

우리는 "Us against Amazon Bedrock"이라는 해커톤 데이를 개최하여 Stable Diffusion XL, Amazon Titan, Jurassic-2 Ultra 및 Anthropic Claude 2를 포함한 다양한 모델을 실험했습니다. 우리는 짧은 시간 내에 달성할 수 있었던 결과에 감명을 받았고 Amazon Bedrock이 가치 있는 도구라고 믿습니다. Mendix 스마트하고 직관적인 애플리케이션을 만들고자 하는 개발자.

결론적으로 Amazon Bedrock은 강력한 도구입니다. Mendix AI 기능을 갖춘 스마트하고 직관적인 애플리케이션을 만들고자 하는 개발자. 우리는 그것이 빠르고 사용하기 쉽다는 것을 발견했으며, 그것이 가치 있는 추가 기능이라고 믿습니다. Mendix 생태계.

클라우디아 2

블로그 게시물의 주요 내용을 요약하면 다음과 같습니다.

• 이 게시물에서는 API를 통해 기초 모델에 대한 액세스를 제공하는 새로운 서비스인 Amazon Bedrock을 사용하여 AI 기반 앱을 빠르게 구축하는 방법에 대해 설명합니다. Mendix.
• 팀은 서비스를 테스트하기 위해 "Us against Amazon Bedrock" 해커톤을 개최했습니다. 그들은 1시간 이내에 이미지 생성을 위한 Stable Diffusion XL과 텍스트 생성을 위한 Amazon Titan과 같은 모델을 통합하고 결과를 얻을 수 있었습니다.
• 팀원들은 Stable Diffusion XL, Amazon Titan, Jurassic-2 Ultra, Anthropic Claude 2와 같은 다양한 기초 모델을 구현한 경험을 공유합니다. Mendix 개념 증명을 만드는 것.
• 그들은 명확한 문서로 서비스를 사용하기 쉽다는 것을 알았습니다. JSON 기반 API는 쉽게 통합될 수 있습니다. Mendix 수출 매핑을 사용합니다.
• 한 가지 과제는 AWS Lambda에서 Amazon Bedrock을 호출하는 것이었지만, 모든 종속성을 Lambda 함수에 묶어서 작동하도록 했습니다.
• 전반적으로 Amazon Bedrock은 도움이 될 만한 유망한 서비스처럼 보입니다. Mendix 개발자는 강력한 기반 모델을 활용하여 스마트하고 AI 기반 앱을 빠르게 구축합니다. 이 게시물에서는 시작하는 방법을 직접 살펴봅니다.

아마존 타이탄 라지 v1.01

슬립폼 공법 선택시 고려사항
Amazon Bedrock은 API를 통해 Amazon과 선도적인 AI 스타트업의 기초 모델을 제공하는 AWS의 완전 관리형 서비스입니다. 기초 모델을 사용하여 서버리스 경험을 빠르게 시작할 수 있도록 보장합니다. 팀은 Mendix AWS의 가장 직관적인 AI 서비스를 모아 스마트 엔터프라이즈 애플리케이션 개발이 공원에서 산책하는 것처럼 느껴지도록 했습니다. 팀은 해커톤 데이를 개최하여 서비스에 대해 알아보았고, 단 15분 만에 Amazon Bedrock에서 사용 가능한 모든 모델 목록을 성공적으로 통합하고 검색했습니다. 단 XNUMX시간도 채 걸리지 않아 Amazon Titan을 실험하고 Stability AI의 Stable Diffusion XL을 사용하여 이미지를 제작했습니다. 팀원들은 테스트 애플리케이션 내에서 기본 모델을 구현하는 데 대한 개인적인 경험을 공유했는데, 어려움과 흥미로운 순간도 포함되었습니다.

작성자

아가피 카라풀리도우, 캐스퍼 스프롱크, 단 반 오털루, 니콜라스 쿤즈 베가