Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
(연관된 글이 1개 있습니다.)
(시리즈 글이 8개 있습니다.)
.NET Framework: 2117. C# - (OpenAI 기반의) Microsoft Semantic Kernel을 이용한 자연어 처리
; https://www.sysnet.pe.kr/2/0/13345

.NET Framework: 2118. C# - Semantic Kernel의 Prompt chaining 예제
; https://www.sysnet.pe.kr/2/0/13347

.NET Framework: 2119. C# - Semantic Kernel의 "Basic Loading of the Kernel" 예제
; https://www.sysnet.pe.kr/2/0/13348

.NET Framework: 2120. C# - Semantic Kernel의 Skill과 Function 사용 예제
; https://www.sysnet.pe.kr/2/0/13349

.NET Framework: 2121. C# - Semantic Kernel의 대화 문맥 유지
; https://www.sysnet.pe.kr/2/0/13352

.NET Framework: 2123. C# - Semantic Kernel의 ChatGPT 대화 구현
; https://www.sysnet.pe.kr/2/0/13355

.NET Framework: 2124. C# - Semantic Kernel의 Planner 사용 예제
; https://www.sysnet.pe.kr/2/0/13357

.NET Framework: 2125. C# - Semantic Kernel의 Semantic Memory 사용 예제
; https://www.sysnet.pe.kr/2/0/13358




C# - (OpenAI 기반의) Microsoft Semantic Kernel을 이용한 자연어 처리

지인으로부터 Semantic Kernel에 대한 소식을 들었습니다. C# 언어를 처음부터 제공한다고 하시면서, 저에게 호기심을 불러일으켰는데요, ChatGPT에게 물어보니 이런 대답을 해줍니다. ^^

Q: Semantic Kernel이 뭐지?

A: Semantic Kernel은 자연어 처리에서 사용되는 텍스트 분석 기술 중 하나입니다. 텍스트에서 핵심 단어 및 문장을 추출하는 데 사용됩니다.

보통 텍스트 분석을 할 때, 우리는 각 단어가 문맥 안에서 어떤 의미를 가지는지 이해하려고 노력합니다. Semantic Kernel은 이러한 작업을 수행하는 도구 중 하나로, 문맥에서 중요한 역할을 하는 단어를 식별하고, 그 단어들 간의 관계를 분석하여 문장에서 중요한 정보를 추출합니다.

예를 들어, "고양이가 좋아하는 음식은 무엇인가?"라는 질문이 있다면, Semantic Kernel은 "고양이", "좋아하는", "음식"이라는 단어를 중요한 단어로 식별하고, 이들 간의 관계를 분석하여 이 문장의 의미를 파악합니다.

이러한 방식으로 Semantic Kernel은 문장이나 문서에서 중요한 정보를 추출하고, 이를 기반으로 다양한 자연어 처리 작업을 수행하는 데 사용됩니다.


아쉽게도 이것은 틀린 대답입니다. ChatGPT는 현재 마이크로소프트가 만든 "Semantic Kernel"이 뭔지 모르고 있으며 위의 대답은 Apache OpenNLP에서 제공하는 기능 중의 하나를 설명하고 있는 것에 불과합니다. 따라서 오히려 검색 엔진 쪽에 물어보는 것이 낫습니다. 아래는 Bing의 CHAT에서 Q&A 결과를 보여줍니다.

마이크로소프트의 Semantic Kernel은 자연어 텍스트를 분석하고 그 의미와 구조를 포착하는 풍부한 의미 표현을 생성할 수 있는 모델과 도구의 집합입니다. 이것은 마이크로소프트의 디자인 및 인공지능 부사장인 John Maeda가 작성한 글에서 확인할 수 있습니다1. 이것은 대규모 언어 모델(Large Language Model, LLM) AI "프롬프트"와 템플릿, 체이닝 및 계획 기능을 제공하는 경량 SDK인 Semantic Kernel (SK)를 사용하여 전통적인 프로그래밍 언어(C# 및 Python 등)를 쉽게 혼합할 수 있습니다2.


제 수준에서 저 답변을 받아들이자면, ML.NET 라이브러리가 기본적인 머신 러닝과 관련된 기능을 제공하는 것처럼, "Semantic Kernel"은 (현재는 OpenAI/Azure OpenAI를 활용해) 자연어 처리를 할 수 있는 라이브러리라고 보시면 될 것 같습니다.

좀 더 간단히 보면, OpenAI API를 좀 더 쉽게 사용할 수 있도록 SDK를 만들어 둔 것이라고 봐도 무방할 듯합니다.




실제로 간단하게 코딩까지 한번 해볼까요? ^^

Hello, Semantic Kernel!
; https://devblogs.microsoft.com/semantic-kernel/hello-world/

SK(Semantic Kernel)은 현재 오픈소스로,

microsoft/semantic-kernel
; https://github.com/microsoft/semantic-kernel

(지원 언어는 더 늘어날 예정이지만, 우선) C#과 파이썬 SDK로 AI LLM을 통합할 수 있는 경량화된 SDK라고 합니다. 경량화되었다는 것은 곧, 모델 데이터가 로컬에 있지 않다는 의미도 될 것입니다. 실제로 로컬에서 인터넷 접근 없이 독자적으로 사용할 수 있는 것은 아니고, 결국에는 OpenAI/Azure OpenAI와 협업해 결과를 얻는 방식입니다.

C#으로 시작해 보면, 우선, 패키지 참조를 하고,

dotnet add package Microsoft.SemanticKernel --prerelease

// 또는, Install-Package Microsoft.SemanticKernel -Pre

nuget 문서에 따라,

Running prompts with input parameters
; https://github.com/microsoft/semantic-kernel/blob/main/dotnet/README.md

다음과 같이 코딩할 수 있습니다.

using Microsoft.SemanticKernel;

internal class Program
{
    // Install-Package Microsoft.SemanticKernel -Pre

    private static async Task<int> Main(string[] args)
    {
        (string apiKey, _) = GetKeyInfo(@"d:\settings\openai_key.txt");

        var kernel = Kernel.Builder.Build();

        // using OpenAI (만약 Azure OpenAI를 사용한다면, AddAzureTextCompletionService 메서드로 호출)
        kernel.Config.AddOpenAITextCompletionService(
            "davinci-openai",
            "text-davinci-003",               // OpenAI Model name
            apiKey       // OpenAI API Key
        ); // Get Started with OpenAI Completions with .NET

        var prompt = @"{{$input}}

One line TLDR with the fewest words.";

        var summarize = kernel.CreateSemanticFunction(prompt);

        string text1 = @"
1st Law of Thermodynamics - Energy cannot be created or destroyed.
2nd Law of Thermodynamics - For a spontaneous process, the entropy of the universe increases.
3rd Law of Thermodynamics - A perfect crystal at zero Kelvin has zero entropy.";

        string text2 = @"
1. An object at rest remains at rest, and an object in motion remains in motion at constant speed and in a straight line unless acted on by an unbalanced force.
2. The acceleration of an object depends on the mass of the object and the amount of force applied.
3. Whenever one object exerts a force on another object, the second object exerts an equal and opposite on the first.";

        Console.WriteLine(await summarize.InvokeAsync(text1));

        Console.WriteLine(await summarize.InvokeAsync(text2));

        return 0;
    }
}

코드 구조는 간단합니다. 우선 OpenAI API Key (또는, Azure OpenAI Key)가 필요한데요, 지난 글에서 설명했으니 생략합니다.

그다음, AddOpenAITextCompletionService를 호출해 OpenAI 모델과 함께 API Key를 전달해 초기화합니다.

kernel.Config.AddOpenAITextCompletionService(
    "davinci-openai",
    "text-davinci-003",               // OpenAI Model name
    apiKey       // OpenAI API Key
);

첫 번째 인자는 "Service ID"라고 하는데 딱히 이에 대한 정보가 없습니다. 임의로 지정할 수 있는 식별자입니다. 2번째 인자는 OpenAI의 모델 식별자로 역시 지난 글에서 이 값을 구하는 방법을 살펴봤으니 생략합니다.

이후, 사용법은 아주 편안합니다. 입력으로 전달될 텍스트를 간단하게 요약하라는 SemanticFunction을 자연어 기반으로 하나 만들고,

var prompt = @"{{$input}}

One line TLDR with the fewest words.";

var summarize = kernel.CreateSemanticFunction(prompt);

열역학 법칙과 뉴턴의 운동 법칙을 각각 요약하라고 해,

Console.WriteLine(await summarize.InvokeAsync(text1));
// 출력 결과: Energy conserved, entropy increases, zero entropy at 0K.

Console.WriteLine(await summarize.InvokeAsync(text2));
// 출력 결과: Objects move in response to forces

OpenAI로부터 그 출력 결과를 얻을 수 있습니다. 대충 어떤 식인지 이해가 되시죠? ^^

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




참고로, 꼭 의도한 대로 동작하지는 않습니다. 위의 SemanticFunction은 요약을 하라고 했는데요, 아래와 같이 질문을 던져 보면,

string text3 = "windbg에 닷넷 응용 프로그램을 분석하는 기능이 있을까?";
Console.WriteLine(await summarize.InvokeAsync(text3));

// 출력 결과: No, WinDbg does not analyze .NET applications.

요약하라고 했는데, 오히려 질문에 대한 답변을 하고 있습니다. 게다가 동일한 질문을 Bing Chat에 했을 때와는 다른 대답을 내놓습니다. ^^;

bing_chat_qa_1.png

(그 와중에, 대답의 근거가 되는 3개의 참조가 전부 제가 쓴 글입니다. ^^;)

어떠세요? 멀고도 험한 자연어 처리가 Semantic Kernel 라이브러리를 이용하면 이렇게 쉬워지니 여러분은 그저 어떤 응용 프로그램을 만들고 싶은지 상상만 하시면 되겠습니다. ^^




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 6/1/2023]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2023-05-12 03시24분
콘솔에서 Azure OpenAI 및 C#으로 챗봇 만들기 | Niels Swimberghe
; https://dimohy.slogger.today/create-a-chatbot-in-the-console-with-azure-openai-and-csharp

정세일 님이 한글로 잘 정리해주셨습니다. ^^ 위의 글은 OpenAI를 Azure.AI.OpenAI 패키지를 이용해 접근하는 방법을 보여줍니다. 사실, Semantic Kernel은 내부적으로 Azure OpenAI 서비스를 접근할 때 "Azure.AI.OpenAI" 패키지를 이용하는데요, 따라서 Semantic Kernel이 한 단계 더 높은 추상화라고 보시면 되겠습니다.

관련해서 아래와 같은 예제도 참고하시고.

Azure-Samples/openai-dotnet-samples
; https://github.com/Azure-Samples/openai-dotnet-samples

betalgo/openai
; https://github.com/betalgo/openai

---------------------------------------

(2024-05-22) Enhance your Windows apps with AI through local APIs and Machine Learning models
; https://learn.microsoft.com/en-us/windows/ai/
정성태

[1]  2  3  4  5  6  7  8  9  10  11  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
13800정성태11/3/2024443닷넷: 2308. C# - ICU 라이브러리를 활용한 문자열의 대소문자 변환파일 다운로드1
13799정성태11/2/2024319개발 환경 구성: 732. 모바일 웹 브라우저에서 유니코드 문자가 표시되지 않는 경우
13798정성태11/2/2024431개발 환경 구성: 731. 유니코드 - 출력 예시 및 폰트 찾기
13797정성태11/1/2024450C/C++: 185. C++ - 문자열의 대소문자를 변환하는 transform + std::tolower/toupper 방식의 문제점파일 다운로드1
13796정성태10/31/2024464C/C++: 184. C++ - ICU dll을 이용하는 예제 코드 (Windows)파일 다운로드1
13795정성태10/31/2024380Windows: 268. Windows - 리눅스 환경처럼 공백으로 끝나는 프롬프트 만들기
13794정성태10/30/2024666닷넷: 2307. C# - 윈도우에서 한글(및 유니코드)을 포함한 콘솔 프로그램을 컴파일 및 실행하는 방법
13793정성태10/28/2024685C/C++: 183. C++ - 윈도우에서 한글(및 유니코드)을 포함한 콘솔 프로그램을 컴파일 및 실행하는 방법
13792정성태10/27/2024645Linux: 99. Linux - 프로세스의 실행 파일 경로 확인
13791정성태10/27/2024733Windows: 267. Win32 API의 A(ANSI) 버전은 DBCS를 사용할까요?파일 다운로드1
13790정성태10/27/2024746Linux: 98. Ubuntu 22.04 - 리눅스 커널 빌드 및 업그레이드
13789정성태10/27/2024704Linux: 97. menuconfig에 CONFIG_DEBUG_INFO_BTF, CONFIG_DEBUG_INFO_BTF_MODULES 옵션이 없는 경우
13788정성태10/26/2024726Linux: 96. eBPF (bpf2go) - fentry, fexit를 이용한 트레이스
13787정성태10/26/2024736개발 환경 구성: 730. github - Linux 커널 repo를 윈도우 환경에서 git clone하는 방법
13786정성태10/26/2024842Windows: 266. Windows - 대소문자 구분이 가능한 파일 시스템
13785정성태10/23/2024685C/C++: 182. 윈도우가 운영하는 2개의 Code Page파일 다운로드1
13784정성태10/23/2024729Linux: 95. eBPF - kprobe를 이용한 트레이스
13783정성태10/23/2024646Linux: 94. eBPF - vmlinux.h 헤더 포함하는 방법 (bpf2go에서 사용)
13782정성태10/23/2024657Linux: 93. Ubuntu 22.04 - 커널 이미지로부터 커널 함수 역어셈블
13781정성태10/22/2024767오류 유형: 930. WSL + eBPF: modprobe: FATAL: Module kheaders not found in directory
13780정성태10/22/2024743Linux: 92. WSL 2 - 커널 이미지로부터 커널 함수 역어셈블
13779정성태10/22/2024614개발 환경 구성: 729. WSL 2 - Mariner VM 커널 이미지 업데이트 방법
13778정성태10/21/2024779C/C++: 181. C/C++ - 소스코드 파일의 인코딩, 바이너리 모듈 상태의 인코딩
13777정성태10/20/2024730Windows: 265. Win32 API의 W(유니코드) 버전은 UCS-2일까요? UTF-16 인코딩일까요?
13776정성태10/19/2024816C/C++: 180. C++ - 고수준 FILE I/O 함수에서의 Unicode stream 모드(_O_WTEXT, _O_U16TEXT, _O_U8TEXT)파일 다운로드1
[1]  2  3  4  5  6  7  8  9  10  11  12  13  14  15  ...