Microsoft MVP성태의 닷넷 이야기
.NET Framework: 2124. C# - Semantic Kernel의 Planner 사용 예제 [링크 복사], [링크+제목 복사]
조회: 2744
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일

(시리즈 글이 8개 있습니다.)
.NET Framework: 2117. C# - (OpenAI 기반의) Microsoft Semantic Kernel을 이용한 자연어 처리
; https://www.sysnet.pe.kr/2/0/13345

.NET Framework: 2118. C# - Semantic Kernel의 Prompt chaining 예제
; https://www.sysnet.pe.kr/2/0/13347

.NET Framework: 2119. C# - Semantic Kernel의 "Basic Loading of the Kernel" 예제
; https://www.sysnet.pe.kr/2/0/13348

.NET Framework: 2120. C# - Semantic Kernel의 Skill과 Function 사용 예제
; https://www.sysnet.pe.kr/2/0/13349

.NET Framework: 2121. C# - Semantic Kernel의 대화 문맥 유지
; https://www.sysnet.pe.kr/2/0/13352

.NET Framework: 2123. C# - Semantic Kernel의 ChatGPT 대화 구현
; https://www.sysnet.pe.kr/2/0/13355

.NET Framework: 2124. C# - Semantic Kernel의 Planner 사용 예제
; https://www.sysnet.pe.kr/2/0/13357

.NET Framework: 2125. C# - Semantic Kernel의 Semantic Memory 사용 예제
; https://www.sysnet.pe.kr/2/0/13358




C# - Semantic Kernel의 Planner 사용 예제

Semantic Kernel의 구성 요소는 다음의 그림에서 잘 확인할 수 있습니다.

[출처: https://devblogs.microsoft.com/semantic-kernel/hello-world/]
sk_planner_1.png

ASK는 Kernel에 보내는 요청이고, Kernel은 이미 그동안 우리가 만든 코드의 시작에 해당하는 타입이었습니다.

var kernel = Kernel.Builder.Build(); // C# - Semantic Kernel의 "Basic Loading of the Kernel" 예제

그림에서 S는 Skill인데 이것도 "C# - Semantic Kernel의 Skill과 Function 사용 예제" 글을 통해 이미 다뤘습니다.

나머지는 M(Memory), C(Connector)와 오늘의 주제인 Planner인데요, 이에 대한 예제를 다음의 글에서 다루고 있습니다.

Introduction to the Planner
; https://github.com/microsoft/semantic-kernel/blob/main/samples/notebooks/dotnet/05-using-the-planner.ipynb

코드는 기존 예제와 동일하게 Kernel을 준비하는 것으로 시작하고,

KernelConfig kernelConfig = new KernelConfig();
kernelConfig.AddOpenAITextCompletionService("default", "text-davinci-003", apiKey);

var kernel = Kernel.Builder
    .WithConfiguration(kernelConfig)
    .Build();

그다음 planner를 만들고 Kernel에 Skill/Function을 담고 있습니다.

var planner = new SequentialPlanner(kernel);

var skillsDirectory = Path.Combine(Directory.GetCurrentDirectory(), "skills");
kernel.ImportSemanticSkillFromDirectory(skillsDirectory, "SummarizeSkill");
kernel.ImportSemanticSkillFromDirectory(skillsDirectory, "WriterSkill");

/*
SummarizeSkill
    Function: MakeAbstractReadable, Notegen, Summarize, Topics

WriterSkill
    Function: Acronym, AcronymGenerator, AcronymReverse, Brainstorm, EmailGen, EmailTo, 
              EnglishImprover, NovelChapter, NovelChapterWithNotes, NovelOutline, Rewrite, 
              ShortPoem, StoryGen, TellMeMore, Translate, TwoSentenceSummary
*/

해당 스킬들은 github에 예제로 제공되고 있는 것들인데, clone 시킨 디렉터리에서 복사할 수 있습니다. 프로젝트에 파일로 추가하는 경우 각각 CopyToOutputDirectory 설정을 해야 하는데, 일일이 파일 하나씩 하는 것은 번잡하므로 와일드카드 문자열을 사용해 "skills\**\*"로 지정하면 skills 디렉터리 하위에 있는 모든 디렉터리 및 파일들을 복사하게 됩니다. 아래는 csproj에 그 설정을 추가한 것입니다.

<Project Sdk="Microsoft.NET.Sdk">

  <PropertyGroup>
    <OutputType>Exe</OutputType>
    <TargetFramework>net7.0</TargetFramework>
    <ImplicitUsings>enable</ImplicitUsings>
    <Nullable>enable</Nullable>
  </PropertyGroup>

  <ItemGroup>
    <PackageReference Include="Microsoft.SemanticKernel" Version="0.13.277.1-preview" />
  </ItemGroup>

  <ItemGroup>
    <None Update="skills\**\*">
      <CopyToOutputDirectory>PreserveNewest</CopyToOutputDirectory>
    </None>
  </ItemGroup>

</Project>

그다음 코드에서는 planner를 이용해 사용자의 요청에 기반한 Planner를 생성하는데요,

var ask = "Tomorrow is Valentine's day. I need to come up with a few date ideas and e-mail them to my significant other.";
var originalPlan = await planner.CreatePlanAsync(ask);

Console.WriteLine("Original plan:\n");
Console.WriteLine(JsonSerializer.Serialize(originalPlan, new JsonSerializerOptions { WriteIndented = true }));

재미있는 건, 어떤 스킬을 사용하라고 지정하지도 않았다는 점입니다. 즉, 단순히 현재 Kernel에 포함된 Skill/Function을 이용해 사용자의 ASK를 만족하는 Planner를 구성하는데요, 아래는 originalPlan의 내부 구조를 JSON 포맷으로 보여줍니다.

Original plan:

{
  "state": [
    {
      "Key": "INPUT",
      "Value": ""
    }
  ],
  "steps": [
    {
      "state": [
        {
          "Key": "INPUT",
          "Value": ""
        }
      ],
      "steps": [],
      "named_parameters": [
        {
          "Key": "INPUT",
          "Value": "Valentine\u0027s day date ideas"
        }
      ],
      "named_outputs": [
        {
          "Key": "DATE_IDEAS",
          "Value": ""
        },
        {
          "Key": "INPUT",
          "Value": ""
        }
      ],
      "next_step_index": 0,
      "name": "Brainstorm",
      "skill_name": "WriterSkill",
      "description": "Given a goal or topic description generate a list of ideas"
    },
    {
      "state": [
        {
          "Key": "INPUT",
          "Value": ""
        }
      ],
      "steps": [],
      "named_parameters": [
        {
          "Key": "INPUT",
          "Value": ""
        }
      ],
      "named_outputs": [
        {
          "Key": "INPUT",
          "Value": ""
        }
      ],
      "next_step_index": 0,
      "name": "",
      "skill_name": "Microsoft.SemanticKernel.Orchestration.Plan",
      "description": ""
    },
    {
      "state": [
        {
          "Key": "INPUT",
          "Value": ""
        }
      ],
      "steps": [],
      "named_parameters": [
        {
          "Key": "sender",
          "Value": "Me"
        },
        {
          "Key": "to",
          "Value": "My Significant Other"
        },
        {
          "Key": "INPUT",
          "Value": "$DATE_IDEA_1;$DATE_IDEA_2;$DATE_IDEA_3"
        }
      ],
      "named_outputs": [
        {
          "Key": "INPUT",
          "Value": ""
        }
      ],
      "next_step_index": 0,
      "name": "EmailTo",
      "skill_name": "WriterSkill",
      "description": "Turn bullet points into an email to someone, using a polite tone"
    }
  ],
  "named_parameters": [
    {
      "Key": "INPUT",
      "Value": ""
    }
  ],
  "named_outputs": [
    {
      "Key": "INPUT",
      "Value": ""
    }
  ],
  "next_step_index": 0,
  "name": "Tomorrow is Valentine\u0027s day. I need to come up with a few date ideas and e-mail them to my significant other.",
  "skill_name": "Microsoft.SemanticKernel.Orchestration.Plan",
  "description": "Tomorrow is Valentine\u0027s day. I need to come up with a few date ideas and e-mail them to my significant other."
}

어찌 보면, 저것 하나가 새롭게 "Skill"이 된 것입니다. 결국 이러한 Planner대로 실행을 하면,

var originalPlanResult = await kernel.RunAsync(originalPlan);

Console.WriteLine("Original Plan results:\n");
Console.WriteLine(Utils.WordWrap(originalPlanResult.Result, 80));

다음과 같은 출력을 볼 수 있습니다.

Original Plan results:

Dear My Significant Other,

I wanted to take a moment to thank you for being my
significant other. You have been a source of joy and comfort in my life, and I
am so grateful for your presence. I am so lucky to have you in my life.

Thanks,
Me

그러니까, 사용자의 "Tomorrow is Valentine's day. I need to come up with a few date ideas and e-mail them to my significant other." 입력을 바탕으로, 내부에 구성한 Skill/Function을 활용해 위의 출력을 만들어 낸 것입니다.




그럼, 이 상태에서 Shakespeare 화법으로 말하라는 Skill/Function도 (위에서 만든 Kernel에) 추가해 볼까요? ^^

string skPrompt = """
{{$input}}

Rewrite the above in the style of Shakespeare.
""";
var shakespeareFunction = kernel.CreateSemanticFunction(skPrompt, "shakespeare", "ShakespeareSkill", maxTokens: 2000, temperature: 0.2, topP: 0.5);

이번 Skill/Function은 ImportSemanticSkillFromDirectory가 아닌 동적으로 CreateSemanticFunction을 이용해 추가했습니다. 이러한 변화를 반영해 Planner를 다시 생성하고,

var ask = @"Tomorrow is Valentine's day. I need to come up with a few date ideas.
She likes Shakespeare so write using his style. E-mail these ideas to my significant other";
var newPlan = await planner.CreatePlanAsync(ask);

Planner의 내부 변화를 확인합니다.

Console.WriteLine("Updated plan:\n");
Console.WriteLine(JsonSerializer.Serialize(newPlan, new JsonSerializerOptions { WriteIndented = true }));

Updated plan:

{
  "state": [
    {
      "Key": "INPUT",
      "Value": ""
    }
  ],
  "steps": [
    {
      "state": [
        {
          "Key": "INPUT",
          "Value": ""
        }
      ],
      "steps": [],
      "named_parameters": [
        {
          "Key": "INPUT",
          "Value": "Date ideas for Valentine\u0027s day"
        }
      ],
      "named_outputs": [
        {
          "Key": "INPUT",
          "Value": ""
        },
        {
          "Key": "DATE_IDEAS",
          "Value": ""
        }
      ],
      "next_step_index": 0,
      "name": "Brainstorm",
      "skill_name": "WriterSkill",
      "description": "Given a goal or topic description generate a list of ideas"
    },
    {
      "state": [
        {
          "Key": "INPUT",
          "Value": ""
        }
      ],
      "steps": [],
      "named_parameters": [
        {
          "Key": "INPUT",
          "Value": "$DATE_IDEAS"
        }
      ],
      "named_outputs": [
        {
          "Key": "INPUT",
          "Value": ""
        },
        {
          "Key": "SHAKESPEARE_IDEAS",
          "Value": ""
        }
      ],
      "next_step_index": 0,
      "name": "shakespeare",
      "skill_name": "ShakespeareSkill",
      "description": "Generic function, unknown purpose"
    },
    {
      "state": [
        {
          "Key": "INPUT",
          "Value": ""
        }
      ],
      "steps": [],
      "named_parameters": [
        {
          "Key": "sender",
          "Value": "Myself"
        },
        {
          "Key": "INPUT",
          "Value": "$SHAKESPEARE_IDEAS"
        },
        {
          "Key": "to",
          "Value": "My Significant Other"
        }
      ],
      "named_outputs": [
        {
          "Key": "INPUT",
          "Value": ""
        }
      ],
      "next_step_index": 0,
      "name": "EmailTo",
      "skill_name": "WriterSkill",
      "description": "Turn bullet points into an email to someone, using a polite tone"
    }
  ],
  "named_parameters": [
    {
      "Key": "INPUT",
      "Value": ""
    }
  ],
  "named_outputs": [
    {
      "Key": "INPUT",
      "Value": ""
    }
  ],
  "next_step_index": 0,
  "name": "Tomorrow is Valentine\u0027s day. I need to come up with a few date ideas.\r\nShe likes Shakespeare so write using his style. E-mail these ideas to my significant other",
  "skill_name": "Microsoft.SemanticKernel.Orchestration.Plan",
  "description": "Tomorrow is Valentine\u0027s day. I need to come up with a few date ideas.\r\nShe likes Shakespeare so write using his style. E-mail these ideas to my significant other"
}

이에 따라 텍스트를 생성하면,

var newPlanResult = await kernel.RunAsync(newPlan);
Console.WriteLine("New Plan results:\n");
Console.WriteLine(newPlanResult.Result);

이런 출력을 확인할 수 있습니다.

New Plan results:

Dear My Significant Other,

I hope you're doing well. I wanted to suggest some activities that we could do together.

We could make a delicious feast together. We could take a romantic walk. We could watch a romantic movie. We could attend a local event. We could take a dancing class. We could visit a museum. We could go to a spa. We could go stargazing. We could go to a concert. We could have a picnic.

I look forward to hearing your thoughts.

Thanks,
Myself

음... 잘하면 시라노 같은 친구도 만들 수 있겠군요. ^^

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]







[최초 등록일: ]
[최종 수정일: 5/16/2023]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 




1  2  3  4  [5]  6  7  8  9  10  11  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
13460정성태11/26/20231418닷넷: 2172. .NET 6+ 기반의 COM Server 내에 Type Library를 내장하는 방법파일 다운로드1
13459정성태11/26/20231463닷넷: 2171. .NET Core 3/5+ 기반의 COM Server를 기존의 regasm처럼 등록하는 방법파일 다운로드1
13458정성태11/26/20231459닷넷: 2170. .NET Core/5+ 기반의 COM Server를 tlb 파일을 생성하는 방법(tlbexp)
13457정성태11/25/20231435VS.NET IDE: 187. Visual Studio - 16.9 버전부터 추가된 "Display inline type hints" 옵션
13456정성태11/25/20231658닷넷: 2169. C# - OpenAI를 사용해 PDF 데이터를 대상으로 OpenAI 챗봇 작성 [1]파일 다운로드1
13455정성태11/25/20231532닷넷: 2168. C# - Azure.AI.OpenAI 패키지로 OpenAI 사용파일 다운로드1
13454정성태11/23/20231657닷넷: 2167. C# - Qdrant Vector DB를 이용한 Embedding 벡터 값 보관/조회 (Azure OpenAI)파일 다운로드1
13453정성태11/23/20231307오류 유형: 879. docker desktop 설치 시 "Invalid JSON string. (Exception from HRESULT: 0x83750007)"
13452정성태11/22/20231387닷넷: 2166. C# - Azure OpenAI API를 이용해 사용자가 제공하는 정보를 대상으로 검색하는 방법파일 다운로드1
13451정성태11/21/20231516닷넷: 2165. C# - Azure OpenAI API를 이용해 ChatGPT처럼 동작하는 콘솔 응용 프로그램 제작파일 다운로드1
13450정성태11/21/20231402닷넷: 2164. C# - Octokit을 이용한 GitHub Issue 검색파일 다운로드1
13449정성태11/21/20231530개발 환경 구성: 688. Azure OpenAI 서비스 신청 방법
13448정성태11/20/20231775닷넷: 2163. .NET 8 - Dynamic PGO를 결합한 성능 향상파일 다운로드1
13447정성태11/16/20231675닷넷: 2162. ASP.NET Core 웹 사이트의 SSL 설정을 코드로 하는 방법
13446정성태11/16/20231681닷넷: 2161. .NET Conf 2023 - Day 1 Blazor 개요 정리
13445정성태11/15/20231865Linux: 62. 리눅스/WSL에서 CA 인증서를 저장하는 방법
13444정성태11/15/20231709닷넷: 2160. C# 12 - Experimental 특성 지원
13443정성태11/14/20231675개발 환경 구성: 687. OpenSSL로 생성한 사용자 인증서를 ASP.NET Core 웹 사이트에 적용하는 방법
13442정성태11/13/20231608개발 환경 구성: 686. 비주얼 스튜디오로 실행한 ASP.NET Core 사이트를 WSL 2 인스턴스에서 https로 접속하는 방법
13441정성태11/12/20231826닷넷: 2159. C# - ASP.NET Core 프로젝트에서 서버 Socket을 직접 생성하는 방법파일 다운로드1
13440정성태11/11/20231578Windows: 253. 소켓 Listen 시 방화벽의 Public/Private 제어 기능이 비활성화된 경우
13439정성태11/10/20231901닷넷: 2158. C# - 소켓 포트를 미리 시스템에 등록/예약해 사용하는 방법(Port Exclusion Ranges)파일 다운로드1
13438정성태11/9/20231614닷넷: 2157. C# - WinRT 기능을 이용해 윈도우에서 실행 중인 Media App 제어
13437정성태11/8/20231786닷넷: 2156. .NET 7 이상의 콘솔 프로그램을 (dockerfile 없이) 로컬 docker에 배포하는 방법
13436정성태11/7/20232026닷넷: 2155. C# - .NET 8 런타임부터 (Reflection 없이) 특성을 이용해 public이 아닌 멤버 호출 가능
13435정성태11/6/20231976닷넷: 2154. C# - 네이티브 자원을 포함한 관리 개체(예: 스레드)의 GC 정리
1  2  3  4  [5]  6  7  8  9  10  11  12  13  14  15  ...