Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
(연관된 글이 1개 있습니다.)
(시리즈 글이 8개 있습니다.)
.NET Framework: 2117. C# - (OpenAI 기반의) Microsoft Semantic Kernel을 이용한 자연어 처리
; https://www.sysnet.pe.kr/2/0/13345

.NET Framework: 2118. C# - Semantic Kernel의 Prompt chaining 예제
; https://www.sysnet.pe.kr/2/0/13347

.NET Framework: 2119. C# - Semantic Kernel의 "Basic Loading of the Kernel" 예제
; https://www.sysnet.pe.kr/2/0/13348

.NET Framework: 2120. C# - Semantic Kernel의 Skill과 Function 사용 예제
; https://www.sysnet.pe.kr/2/0/13349

.NET Framework: 2121. C# - Semantic Kernel의 대화 문맥 유지
; https://www.sysnet.pe.kr/2/0/13352

.NET Framework: 2123. C# - Semantic Kernel의 ChatGPT 대화 구현
; https://www.sysnet.pe.kr/2/0/13355

.NET Framework: 2124. C# - Semantic Kernel의 Planner 사용 예제
; https://www.sysnet.pe.kr/2/0/13357

.NET Framework: 2125. C# - Semantic Kernel의 Semantic Memory 사용 예제
; https://www.sysnet.pe.kr/2/0/13358




C# - (OpenAI 기반의) Microsoft Semantic Kernel을 이용한 자연어 처리

지인으로부터 Semantic Kernel에 대한 소식을 들었습니다. C# 언어를 처음부터 제공한다고 하시면서, 저에게 호기심을 불러일으켰는데요, ChatGPT에게 물어보니 이런 대답을 해줍니다. ^^

Q: Semantic Kernel이 뭐지?

A: Semantic Kernel은 자연어 처리에서 사용되는 텍스트 분석 기술 중 하나입니다. 텍스트에서 핵심 단어 및 문장을 추출하는 데 사용됩니다.

보통 텍스트 분석을 할 때, 우리는 각 단어가 문맥 안에서 어떤 의미를 가지는지 이해하려고 노력합니다. Semantic Kernel은 이러한 작업을 수행하는 도구 중 하나로, 문맥에서 중요한 역할을 하는 단어를 식별하고, 그 단어들 간의 관계를 분석하여 문장에서 중요한 정보를 추출합니다.

예를 들어, "고양이가 좋아하는 음식은 무엇인가?"라는 질문이 있다면, Semantic Kernel은 "고양이", "좋아하는", "음식"이라는 단어를 중요한 단어로 식별하고, 이들 간의 관계를 분석하여 이 문장의 의미를 파악합니다.

이러한 방식으로 Semantic Kernel은 문장이나 문서에서 중요한 정보를 추출하고, 이를 기반으로 다양한 자연어 처리 작업을 수행하는 데 사용됩니다.


아쉽게도 이것은 틀린 대답입니다. ChatGPT는 현재 마이크로소프트가 만든 "Semantic Kernel"이 뭔지 모르고 있으며 위의 대답은 Apache OpenNLP에서 제공하는 기능 중의 하나를 설명하고 있는 것에 불과합니다. 따라서 오히려 검색 엔진 쪽에 물어보는 것이 낫습니다. 아래는 Bing의 CHAT에서 Q&A 결과를 보여줍니다.

마이크로소프트의 Semantic Kernel은 자연어 텍스트를 분석하고 그 의미와 구조를 포착하는 풍부한 의미 표현을 생성할 수 있는 모델과 도구의 집합입니다. 이것은 마이크로소프트의 디자인 및 인공지능 부사장인 John Maeda가 작성한 글에서 확인할 수 있습니다1. 이것은 대규모 언어 모델(Large Language Model, LLM) AI "프롬프트"와 템플릿, 체이닝 및 계획 기능을 제공하는 경량 SDK인 Semantic Kernel (SK)를 사용하여 전통적인 프로그래밍 언어(C# 및 Python 등)를 쉽게 혼합할 수 있습니다2.


제 수준에서 저 답변을 받아들이자면, ML.NET 라이브러리가 기본적인 머신 러닝과 관련된 기능을 제공하는 것처럼, "Semantic Kernel"은 (현재는 OpenAI/Azure OpenAI를 활용해) 자연어 처리를 할 수 있는 라이브러리라고 보시면 될 것 같습니다.

좀 더 간단히 보면, OpenAI API를 좀 더 쉽게 사용할 수 있도록 SDK를 만들어 둔 것이라고 봐도 무방할 듯합니다.




실제로 간단하게 코딩까지 한번 해볼까요? ^^

Hello, Semantic Kernel!
; https://devblogs.microsoft.com/semantic-kernel/hello-world/

SK(Semantic Kernel)은 현재 오픈소스로,

microsoft/semantic-kernel
; https://github.com/microsoft/semantic-kernel

(지원 언어는 더 늘어날 예정이지만, 우선) C#과 파이썬 SDK로 AI LLM을 통합할 수 있는 경량화된 SDK라고 합니다. 경량화되었다는 것은 곧, 모델 데이터가 로컬에 있지 않다는 의미도 될 것입니다. 실제로 로컬에서 인터넷 접근 없이 독자적으로 사용할 수 있는 것은 아니고, 결국에는 OpenAI/Azure OpenAI와 협업해 결과를 얻는 방식입니다.

C#으로 시작해 보면, 우선, 패키지 참조를 하고,

dotnet add package Microsoft.SemanticKernel --prerelease

// 또는, Install-Package Microsoft.SemanticKernel -Pre

nuget 문서에 따라,

Running prompts with input parameters
; https://github.com/microsoft/semantic-kernel/blob/main/dotnet/README.md

다음과 같이 코딩할 수 있습니다.

using Microsoft.SemanticKernel;

internal class Program
{
    // Install-Package Microsoft.SemanticKernel -Pre

    private static async Task<int> Main(string[] args)
    {
        (string apiKey, _) = GetKeyInfo(@"d:\settings\openai_key.txt");

        var kernel = Kernel.Builder.Build();

        // using OpenAI (만약 Azure OpenAI를 사용한다면, AddAzureTextCompletionService 메서드로 호출)
        kernel.Config.AddOpenAITextCompletionService(
            "davinci-openai",
            "text-davinci-003",               // OpenAI Model name
            apiKey       // OpenAI API Key
        ); // Get Started with OpenAI Completions with .NET

        var prompt = @"{{$input}}

One line TLDR with the fewest words.";

        var summarize = kernel.CreateSemanticFunction(prompt);

        string text1 = @"
1st Law of Thermodynamics - Energy cannot be created or destroyed.
2nd Law of Thermodynamics - For a spontaneous process, the entropy of the universe increases.
3rd Law of Thermodynamics - A perfect crystal at zero Kelvin has zero entropy.";

        string text2 = @"
1. An object at rest remains at rest, and an object in motion remains in motion at constant speed and in a straight line unless acted on by an unbalanced force.
2. The acceleration of an object depends on the mass of the object and the amount of force applied.
3. Whenever one object exerts a force on another object, the second object exerts an equal and opposite on the first.";

        Console.WriteLine(await summarize.InvokeAsync(text1));

        Console.WriteLine(await summarize.InvokeAsync(text2));

        return 0;
    }
}

코드 구조는 간단합니다. 우선 OpenAI API Key (또는, Azure OpenAI Key)가 필요한데요, 지난 글에서 설명했으니 생략합니다.

그다음, AddOpenAITextCompletionService를 호출해 OpenAI 모델과 함께 API Key를 전달해 초기화합니다.

kernel.Config.AddOpenAITextCompletionService(
    "davinci-openai",
    "text-davinci-003",               // OpenAI Model name
    apiKey       // OpenAI API Key
);

첫 번째 인자는 "Service ID"라고 하는데 딱히 이에 대한 정보가 없습니다. 임의로 지정할 수 있는 식별자입니다. 2번째 인자는 OpenAI의 모델 식별자로 역시 지난 글에서 이 값을 구하는 방법을 살펴봤으니 생략합니다.

이후, 사용법은 아주 편안합니다. 입력으로 전달될 텍스트를 간단하게 요약하라는 SemanticFunction을 자연어 기반으로 하나 만들고,

var prompt = @"{{$input}}

One line TLDR with the fewest words.";

var summarize = kernel.CreateSemanticFunction(prompt);

열역학 법칙과 뉴턴의 운동 법칙을 각각 요약하라고 해,

Console.WriteLine(await summarize.InvokeAsync(text1));
// 출력 결과: Energy conserved, entropy increases, zero entropy at 0K.

Console.WriteLine(await summarize.InvokeAsync(text2));
// 출력 결과: Objects move in response to forces

OpenAI로부터 그 출력 결과를 얻을 수 있습니다. 대충 어떤 식인지 이해가 되시죠? ^^

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




참고로, 꼭 의도한 대로 동작하지는 않습니다. 위의 SemanticFunction은 요약을 하라고 했는데요, 아래와 같이 질문을 던져 보면,

string text3 = "windbg에 닷넷 응용 프로그램을 분석하는 기능이 있을까?";
Console.WriteLine(await summarize.InvokeAsync(text3));

// 출력 결과: No, WinDbg does not analyze .NET applications.

요약하라고 했는데, 오히려 질문에 대한 답변을 하고 있습니다. 게다가 동일한 질문을 Bing Chat에 했을 때와는 다른 대답을 내놓습니다. ^^;

bing_chat_qa_1.png

(그 와중에, 대답의 근거가 되는 3개의 참조가 전부 제가 쓴 글입니다. ^^;)

어떠세요? 멀고도 험한 자연어 처리가 Semantic Kernel 라이브러리를 이용하면 이렇게 쉬워지니 여러분은 그저 어떤 응용 프로그램을 만들고 싶은지 상상만 하시면 되겠습니다. ^^




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 6/1/2023]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2023-05-12 03시24분
콘솔에서 Azure OpenAI 및 C#으로 챗봇 만들기 | Niels Swimberghe
; https://dimohy.slogger.today/create-a-chatbot-in-the-console-with-azure-openai-and-csharp

정세일 님이 한글로 잘 정리해주셨습니다. ^^ 위의 글은 OpenAI를 Azure.AI.OpenAI 패키지를 이용해 접근하는 방법을 보여줍니다. 사실, Semantic Kernel은 내부적으로 Azure OpenAI 서비스를 접근할 때 "Azure.AI.OpenAI" 패키지를 이용하는데요, 따라서 Semantic Kernel이 한 단계 더 높은 추상화라고 보시면 되겠습니다.

관련해서 아래와 같은 예제도 참고하시고.

Azure-Samples/openai-dotnet-samples
; https://github.com/Azure-Samples/openai-dotnet-samples

betalgo/openai
; https://github.com/betalgo/openai
정성태

[1]  2  3  4  5  6  7  8  9  10  11  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
13477정성태12/8/202344닷넷: 2182. C# - .NET 7부터 추가된 Int128, UInt128파일 다운로드1
13476정성태12/8/202329닷넷: 2181. C# - .NET 8 JsonStringEnumConverter의 AOT를 위한 개선파일 다운로드1
13475정성태12/7/202381닷넷: 2180. .NET 8 - 함수 포인터에 대한 Reflection 정보 조회파일 다운로드1
13474정성태12/6/202367개발 환경 구성: 690. 닷넷 코어/5+ 버전의 ilasm/ildasm 실행 파일 구하는 방법 - 두 번째 이야기
13473정성태12/5/2023131닷넷: 2179. C# - 값 형식(Blittable)을 메모리 복사를 이용해 바이트 배열로 직렬화/역직렬화파일 다운로드1
13472정성태12/4/2023311C/C++: 164. Visual C++ - InterlockedCompareExchange128 사용 방법
13471정성태12/4/2023456Copilot - To enable GitHub Copilot, authorize this extension using GitHub's device flow
13470정성태12/2/2023692닷넷: 2178. C# - .NET 8부터 COM Interop에 대한 자동 소스 코드 생성 도입파일 다운로드1
13469정성태12/1/2023626닷넷: 2177. C# - (Interop DLL 없이) CoClass를 이용한 COM 개체 생성 방법파일 다운로드1
13468정성태12/1/2023648닷넷: 2176. C# - .NET Core/5+부터 달라진 RCW(Runtime Callable Wrapper) 대응 방식파일 다운로드1
13467정성태11/30/2023627오류 유형: 882. C# - Unhandled exception. System.Runtime.InteropServices.COMException (0x800080A5)파일 다운로드1
13466정성태11/29/2023726닷넷: 2175. C# - DllImport 메서드의 AOT 지원을 위한 LibraryImport 옵션
13465정성태11/28/2023647개발 환경 구성: 689. MSBuild - CopyToOutputDirectory가 "dotnet publish" 시에는 적용되지 않는 문제파일 다운로드1
13464정성태11/28/2023741닷넷: 2174. C# - .NET 7부터 UnmanagedCallersOnly 함수 export 기능을 AOT 빌드에 통합파일 다운로드1
13463정성태11/27/2023668오류 유형: 881. Visual Studio - NU1605: Warning As Error: Detected package downgrade
13462정성태11/27/2023626오류 유형: 880. Visual Studio - error CS0246: The type or namespace name '...' could not be found
13461정성태11/26/2023723닷넷: 2173. .NET Core 3/5+ 기반의 COM Server를 registry 등록 없이 사용하는 방법파일 다운로드1
13460정성태11/26/2023675닷넷: 2172. .NET 6+ 기반의 COM Server 내에 Type Library를 내장하는 방법파일 다운로드1
13459정성태11/26/2023715닷넷: 2171. .NET Core 3/5+ 기반의 COM Server를 기존의 regasm처럼 등록하는 방법파일 다운로드1
13458정성태11/26/2023710닷넷: 2170. .NET Core/5+ 기반의 COM Server를 tlb 파일을 생성하는 방법(tlbexp)
13457정성태11/25/2023701VS.NET IDE: 187. Visual Studio - 16.9 버전부터 추가된 "Display inline type hints" 옵션
13456정성태11/25/2023772닷넷: 2169. C# - OpenAI를 사용해 PDF 데이터를 대상으로 OpenAI 챗봇 작성파일 다운로드1
13455정성태11/25/2023739닷넷: 2168. C# - Azure.AI.OpenAI 패키지로 OpenAI 사용파일 다운로드1
13454정성태11/23/2023794닷넷: 2167. C# - Qdrant Vector DB를 이용한 Embedding 벡터 값 보관/조회 (Azure OpenAI)파일 다운로드1
13453정성태11/23/2023733오류 유형: 879. docker desktop 설치 시 "Invalid JSON string. (Exception from HRESULT: 0x83750007)"
[1]  2  3  4  5  6  7  8  9  10  11  12  13  14  15  ...