Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
(연관된 글이 1개 있습니다.)
(시리즈 글이 8개 있습니다.)
.NET Framework: 2117. C# - (OpenAI 기반의) Microsoft Semantic Kernel을 이용한 자연어 처리
; https://www.sysnet.pe.kr/2/0/13345

.NET Framework: 2118. C# - Semantic Kernel의 Prompt chaining 예제
; https://www.sysnet.pe.kr/2/0/13347

.NET Framework: 2119. C# - Semantic Kernel의 "Basic Loading of the Kernel" 예제
; https://www.sysnet.pe.kr/2/0/13348

.NET Framework: 2120. C# - Semantic Kernel의 Skill과 Function 사용 예제
; https://www.sysnet.pe.kr/2/0/13349

.NET Framework: 2121. C# - Semantic Kernel의 대화 문맥 유지
; https://www.sysnet.pe.kr/2/0/13352

.NET Framework: 2123. C# - Semantic Kernel의 ChatGPT 대화 구현
; https://www.sysnet.pe.kr/2/0/13355

.NET Framework: 2124. C# - Semantic Kernel의 Planner 사용 예제
; https://www.sysnet.pe.kr/2/0/13357

.NET Framework: 2125. C# - Semantic Kernel의 Semantic Memory 사용 예제
; https://www.sysnet.pe.kr/2/0/13358




C# - (OpenAI 기반의) Microsoft Semantic Kernel을 이용한 자연어 처리

지인으로부터 Semantic Kernel에 대한 소식을 들었습니다. C# 언어를 처음부터 제공한다고 하시면서, 저에게 호기심을 불러일으켰는데요, ChatGPT에게 물어보니 이런 대답을 해줍니다. ^^

Q: Semantic Kernel이 뭐지?

A: Semantic Kernel은 자연어 처리에서 사용되는 텍스트 분석 기술 중 하나입니다. 텍스트에서 핵심 단어 및 문장을 추출하는 데 사용됩니다.

보통 텍스트 분석을 할 때, 우리는 각 단어가 문맥 안에서 어떤 의미를 가지는지 이해하려고 노력합니다. Semantic Kernel은 이러한 작업을 수행하는 도구 중 하나로, 문맥에서 중요한 역할을 하는 단어를 식별하고, 그 단어들 간의 관계를 분석하여 문장에서 중요한 정보를 추출합니다.

예를 들어, "고양이가 좋아하는 음식은 무엇인가?"라는 질문이 있다면, Semantic Kernel은 "고양이", "좋아하는", "음식"이라는 단어를 중요한 단어로 식별하고, 이들 간의 관계를 분석하여 이 문장의 의미를 파악합니다.

이러한 방식으로 Semantic Kernel은 문장이나 문서에서 중요한 정보를 추출하고, 이를 기반으로 다양한 자연어 처리 작업을 수행하는 데 사용됩니다.


아쉽게도 이것은 틀린 대답입니다. ChatGPT는 현재 마이크로소프트가 만든 "Semantic Kernel"이 뭔지 모르고 있으며 위의 대답은 Apache OpenNLP에서 제공하는 기능 중의 하나를 설명하고 있는 것에 불과합니다. 따라서 오히려 검색 엔진 쪽에 물어보는 것이 낫습니다. 아래는 Bing의 CHAT에서 Q&A 결과를 보여줍니다.

마이크로소프트의 Semantic Kernel은 자연어 텍스트를 분석하고 그 의미와 구조를 포착하는 풍부한 의미 표현을 생성할 수 있는 모델과 도구의 집합입니다. 이것은 마이크로소프트의 디자인 및 인공지능 부사장인 John Maeda가 작성한 글에서 확인할 수 있습니다1. 이것은 대규모 언어 모델(Large Language Model, LLM) AI "프롬프트"와 템플릿, 체이닝 및 계획 기능을 제공하는 경량 SDK인 Semantic Kernel (SK)를 사용하여 전통적인 프로그래밍 언어(C# 및 Python 등)를 쉽게 혼합할 수 있습니다2.


제 수준에서 저 답변을 받아들이자면, ML.NET 라이브러리가 기본적인 머신 러닝과 관련된 기능을 제공하는 것처럼, "Semantic Kernel"은 (현재는 OpenAI/Azure OpenAI를 활용해) 자연어 처리를 할 수 있는 라이브러리라고 보시면 될 것 같습니다.

좀 더 간단히 보면, OpenAI API를 좀 더 쉽게 사용할 수 있도록 SDK를 만들어 둔 것이라고 봐도 무방할 듯합니다.




실제로 간단하게 코딩까지 한번 해볼까요? ^^

Hello, Semantic Kernel!
; https://devblogs.microsoft.com/semantic-kernel/hello-world/

SK(Semantic Kernel)은 현재 오픈소스로,

microsoft/semantic-kernel
; https://github.com/microsoft/semantic-kernel

(지원 언어는 더 늘어날 예정이지만, 우선) C#과 파이썬 SDK로 AI LLM을 통합할 수 있는 경량화된 SDK라고 합니다. 경량화되었다는 것은 곧, 모델 데이터가 로컬에 있지 않다는 의미도 될 것입니다. 실제로 로컬에서 인터넷 접근 없이 독자적으로 사용할 수 있는 것은 아니고, 결국에는 OpenAI/Azure OpenAI와 협업해 결과를 얻는 방식입니다.

C#으로 시작해 보면, 우선, 패키지 참조를 하고,

dotnet add package Microsoft.SemanticKernel --prerelease

// 또는, Install-Package Microsoft.SemanticKernel -Pre

nuget 문서에 따라,

Running prompts with input parameters
; https://github.com/microsoft/semantic-kernel/blob/main/dotnet/README.md

다음과 같이 코딩할 수 있습니다.

using Microsoft.SemanticKernel;

internal class Program
{
    // Install-Package Microsoft.SemanticKernel -Pre

    private static async Task<int> Main(string[] args)
    {
        (string apiKey, _) = GetKeyInfo(@"d:\settings\openai_key.txt");

        var kernel = Kernel.Builder.Build();

        // using OpenAI (만약 Azure OpenAI를 사용한다면, AddAzureTextCompletionService 메서드로 호출)
        kernel.Config.AddOpenAITextCompletionService(
            "davinci-openai",
            "text-davinci-003",               // OpenAI Model name
            apiKey       // OpenAI API Key
        ); // Get Started with OpenAI Completions with .NET

        var prompt = @"{{$input}}

One line TLDR with the fewest words.";

        var summarize = kernel.CreateSemanticFunction(prompt);

        string text1 = @"
1st Law of Thermodynamics - Energy cannot be created or destroyed.
2nd Law of Thermodynamics - For a spontaneous process, the entropy of the universe increases.
3rd Law of Thermodynamics - A perfect crystal at zero Kelvin has zero entropy.";

        string text2 = @"
1. An object at rest remains at rest, and an object in motion remains in motion at constant speed and in a straight line unless acted on by an unbalanced force.
2. The acceleration of an object depends on the mass of the object and the amount of force applied.
3. Whenever one object exerts a force on another object, the second object exerts an equal and opposite on the first.";

        Console.WriteLine(await summarize.InvokeAsync(text1));

        Console.WriteLine(await summarize.InvokeAsync(text2));

        return 0;
    }
}

코드 구조는 간단합니다. 우선 OpenAI API Key (또는, Azure OpenAI Key)가 필요한데요, 지난 글에서 설명했으니 생략합니다.

그다음, AddOpenAITextCompletionService를 호출해 OpenAI 모델과 함께 API Key를 전달해 초기화합니다.

kernel.Config.AddOpenAITextCompletionService(
    "davinci-openai",
    "text-davinci-003",               // OpenAI Model name
    apiKey       // OpenAI API Key
);

첫 번째 인자는 "Service ID"라고 하는데 딱히 이에 대한 정보가 없습니다. 임의로 지정할 수 있는 식별자입니다. 2번째 인자는 OpenAI의 모델 식별자로 역시 지난 글에서 이 값을 구하는 방법을 살펴봤으니 생략합니다.

이후, 사용법은 아주 편안합니다. 입력으로 전달될 텍스트를 간단하게 요약하라는 SemanticFunction을 자연어 기반으로 하나 만들고,

var prompt = @"{{$input}}

One line TLDR with the fewest words.";

var summarize = kernel.CreateSemanticFunction(prompt);

열역학 법칙과 뉴턴의 운동 법칙을 각각 요약하라고 해,

Console.WriteLine(await summarize.InvokeAsync(text1));
// 출력 결과: Energy conserved, entropy increases, zero entropy at 0K.

Console.WriteLine(await summarize.InvokeAsync(text2));
// 출력 결과: Objects move in response to forces

OpenAI로부터 그 출력 결과를 얻을 수 있습니다. 대충 어떤 식인지 이해가 되시죠? ^^

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




참고로, 꼭 의도한 대로 동작하지는 않습니다. 위의 SemanticFunction은 요약을 하라고 했는데요, 아래와 같이 질문을 던져 보면,

string text3 = "windbg에 닷넷 응용 프로그램을 분석하는 기능이 있을까?";
Console.WriteLine(await summarize.InvokeAsync(text3));

// 출력 결과: No, WinDbg does not analyze .NET applications.

요약하라고 했는데, 오히려 질문에 대한 답변을 하고 있습니다. 게다가 동일한 질문을 Bing Chat에 했을 때와는 다른 대답을 내놓습니다. ^^;

bing_chat_qa_1.png

(그 와중에, 대답의 근거가 되는 3개의 참조가 전부 제가 쓴 글입니다. ^^;)

어떠세요? 멀고도 험한 자연어 처리가 Semantic Kernel 라이브러리를 이용하면 이렇게 쉬워지니 여러분은 그저 어떤 응용 프로그램을 만들고 싶은지 상상만 하시면 되겠습니다. ^^




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 6/1/2023]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2023-05-12 03시24분
콘솔에서 Azure OpenAI 및 C#으로 챗봇 만들기 | Niels Swimberghe
; https://dimohy.slogger.today/create-a-chatbot-in-the-console-with-azure-openai-and-csharp

정세일 님이 한글로 잘 정리해주셨습니다. ^^ 위의 글은 OpenAI를 Azure.AI.OpenAI 패키지를 이용해 접근하는 방법을 보여줍니다. 사실, Semantic Kernel은 내부적으로 Azure OpenAI 서비스를 접근할 때 "Azure.AI.OpenAI" 패키지를 이용하는데요, 따라서 Semantic Kernel이 한 단계 더 높은 추상화라고 보시면 되겠습니다.

관련해서 아래와 같은 예제도 참고하시고.

Azure-Samples/openai-dotnet-samples
; https://github.com/Azure-Samples/openai-dotnet-samples

betalgo/openai
; https://github.com/betalgo/openai

---------------------------------------

(2024-05-22) Enhance your Windows apps with AI through local APIs and Machine Learning models
; https://learn.microsoft.com/en-us/windows/ai/
정성태

[1]  2  3  4  5  6  7  8  9  10  11  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
13765정성태10/12/2024255오류 유형: 928. go build 시 "package maps is not in GOROOT" 오류
13764정성태10/11/2024216Linux: 85. Ubuntu - 원하는 golang 버전 설치
13763정성태10/11/2024223Linux: 84. WSL / Ubuntu 20.04 - bpftool 설치
13762정성태10/11/2024209Linux: 83. WSL / Ubuntu 22.04 - bpftool 설치
13761정성태10/11/2024216오류 유형: 927. WSL / Ubuntu - /usr/include/linux/types.h:5:10: fatal error: 'asm/types.h' file not found
13760정성태10/11/2024246Linux: 82. Ubuntu - clang 최신(stable) 버전 설치
13759정성태10/10/2024565C/C++: 177. C++ - 자유 함수(free function) 및 주소 지정 가능한 함수(addressable function)
13758정성태10/8/2024723오류 유형: 926. dotnet tools를 sudo로 실행하는 경우 command not found
13757정성태10/8/2024476닷넷: 2306. Linux - dotnet tool의 설치 디렉터리가 PATH 환경변수에 자동 등록이 되는 이유
13756정성태10/8/2024401오류 유형: 925. ssh로 docker 접근을 할 때 "... malformed HTTP status code ..." 오류 발생
13755정성태10/7/2024795닷넷: 2305. C# 13 - (9) 메서드 바인딩의 우선순위를 지정하는 OverloadResolutionPriority 특성 도입 (Overload resolution priority)파일 다운로드1
13754정성태10/4/2024759닷넷: 2304. C# 13 - (8) 부분 메서드 정의를 속성 및 인덱서에도 확대파일 다운로드1
13753정성태10/4/2024748Linux: 81. Linux - PATH 환경변수의 적용 규칙
13752정성태10/2/2024810닷넷: 2303. C# 13 - (7) ref struct의 interface 상속 및 제네릭 제약으로 사용 가능파일 다운로드1
13751정성태10/2/2024853C/C++: 176. C/C++ - ARM64로 포팅할 때 유의할 점
13750정성태10/1/2024850C/C++: 175. C++ - WinMain/wWinMain 호출 전의 CRT 초기화 단계
13749정성태9/30/20241038닷넷: 2302. C# - ssh-keygen으로 생성한 Private Key와 Public Key 연동파일 다운로드1
13748정성태9/29/20241125닷넷: 2301. C# - BigInteger 타입이 byte 배열로 직렬화하는 방식
13747정성태9/28/20241022닷넷: 2300. C# - OpenSSH의 공개키 파일에 대한 "BEGIN OPENSSH PUBLIC KEY" / "END OPENSSH PUBLIC KEY" PEM 포맷파일 다운로드1
13746정성태9/28/20241033오류 유형: 924. Python - LocalProtocolError("Illegal header value ...")
13745정성태9/28/20241033Linux: 80. 리눅스 - 실행 중인 프로세스 내부의 환경변수 설정을 구하는 방법 (lldb)
13744정성태9/27/20241103닷넷: 2299. C# - Windows Hello 사용자 인증 다이얼로그 표시하기파일 다운로드1
13743정성태9/26/20241359닷넷: 2298. C# - Console 프로젝트에서의 await 대상으로 Main 스레드 활용하는 방법 [1]
13742정성태9/26/20241069닷넷: 2297. C# - ssh-keygen으로 생성한 ecdsa 유형의 Public Key 파일 해석 [1]파일 다운로드1
13741정성태9/25/2024948디버깅 기술: 202. windbg - ASP.NET MVC Web Application (.NET Framework) 응용 프로그램의 덤프 분석 시 요령
[1]  2  3  4  5  6  7  8  9  10  11  12  13  14  15  ...