Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일

C# - (SharpDX + DXGI) 화면 캡처한 이미지를 빠르게 JPG로 변환하는 방법

예전 글에서,

C# - SharpDX + DXGI를 이용한 윈도우 화면 캡처 소스 코드
; https://www.sysnet.pe.kr/2/0/11400

C# - SharpDX + DXGI를 이용한 윈도우 화면 캡처 라이브러리
; https://www.sysnet.pe.kr/2/0/12238

화면 캡처하는 방법을 소개했는데요, 이에 대해 다음의 질문이 들어왔군요. ^^

C# SharpDX 화면 캡쳐 관련해서 질문 드립니다.
; https://www.sysnet.pe.kr/3/0/5587

그러니까, 해당 질문을 했던 소스 코드를 구현해 보면 다음과 같이 할 수 있습니다.

private void CaptureLoop(DXGIManager manager, byte[] frame)
{
    while (true)
    {
        int signalId = EventWaitHandle.WaitAny(_waitSignals, Timeout.Infinite);

        if (signalId == 0)
        {
            break;
        }

        _bitmap = new Bitmap(manager.Width, manager.Height, PixelFormat.Format32bppArgb);

        Rectangle boundsRect = new Rectangle(0, 0, manager.Width, manager.Height);
        BitmapData bitmapData = _bitmap.LockBits(boundsRect, ImageLockMode.ReadWrite, _bitmap.PixelFormat);

        if (manager.Capture(frame, 1000) == true)
        {
            GCHandle pinnedArray = GCHandle.Alloc(frame, GCHandleType.Pinned);
            IntPtr srcPtr = pinnedArray.AddrOfPinnedObject();
            IntPtr dstPtr = bitmapData.Scan0;

            for (int y = 0; y < manager.Height; y++)
            {
                Utilities.CopyMemory(dstPtr, srcPtr, manager.Width * 4);
                srcPtr = IntPtr.Add(srcPtr, manager.Width * 4);
                dstPtr = IntPtr.Add(dstPtr, bitmapData.Stride);
            }

            pinnedArray.Free();
        }

        _bitmap.UnlockBits(bitmapData);

        // How to: Set JPEG Compression Level
        // https://docs.microsoft.com/en-us/dotnet/desktop/winforms/advanced/how-to-set-jpeg-compression-level
        {
            ImageCodecInfo jpgEncoder = GetEncoder(ImageFormat.Jpeg);

            System.Drawing.Imaging.Encoder myEncoder = System.Drawing.Imaging.Encoder.Quality;
            EncoderParameters myEncoderParameters = new EncoderParameters(1);
            EncoderParameter myEncoderParameter = new EncoderParameter(myEncoder, 80L);
            myEncoderParameters.Param[0] = myEncoderParameter;

            MemoryStream jpgStream = new MemoryStream();
            _bitmap.Save(jpgStream, jpgEncoder, myEncoderParameters);

            // File.WriteAllBytes("c:\\temp\\test.jpg", jpgStream.GetBuffer());
        }

        this.BeginInvoke((Action)(() => this.Invalidate()));
    }
}

그리고 질문하신 분의 의도는, JPG 이미지로 압축을 해 소켓 통신 시 데이터의 양을 줄이고 싶은 것입니다. 실제로, 1920 * 1080 이미지 데이터를 raw 데이터로 전송하면, 1920 * 1080 * 4(rgba)가 되므로 무려 8MB 가까운 크기가 됩니다. 따라서 이미지 압축을 할 만한 충분한 가치가 있는데요. 하나씩 개선을 해볼까요? ^^




우선, Capture에 전달한 버퍼를 위에서는 Bitmap에 새롭게 복사하고 있는데요, 사실 화면 캡처 양식과 Bitmap 데이터의 양식이 같으므로 그런 복사 과정을 생략하고 그냥 Bitmap이 마련한 버퍼를 전달하는 것이 가능합니다. 유의해야 하는 것이, Bitmap의 stride 값이 4의 배수여야 한다는 것인데, 화면 캡처 데이터가 언제나 4의 배수이므로 사실 굳이 데이터 복사 과정이 필요 없는 것입니다.

따라서, 다음과 같이 바꿀 수 있습니다.

_bitmap = new Bitmap(manager.Width, manager.Height, PixelFormat.Format32bppArgb);

Rectangle boundsRect = new Rectangle(0, 0, manager.Width, manager.Height);
BitmapData bitmapData = _bitmap.LockBits(boundsRect, ImageLockMode.ReadWrite, _bitmap.PixelFormat);

if (manager.Capture(bitmapData.Scan0, 1000) == true)
{
    ImageCodecInfo jpgEncoder = GetEncoder(ImageFormat.Jpeg);

    System.Drawing.Imaging.Encoder myEncoder = System.Drawing.Imaging.Encoder.Quality;
    EncoderParameters myEncoderParameters = new EncoderParameters(1);
    EncoderParameter myEncoderParameter = new EncoderParameter(myEncoder, 80L);
    myEncoderParameters.Param[0] = myEncoderParameter;

    MemoryStream jpgStream = new MemoryStream();
    _bitmap.Save(jpgStream, jpgEncoder, myEncoderParameters);
    // File.WriteAllBytes("c:\\temp\\test_bmp.jpg", jpgStream.GetBuffer());

    _bitmap.UnlockBits(bitmapData);
}

코드가 훨씬 간단해졌습니다. 하지만, 실제로 해보면 저렇게 바꿨다고 해서 성능이 그다지 향상되지는 않습니다. 왜냐하면 1920*1080 모니터라고 했을 때 1080번 루프를 도는 것은 컴퓨터에게는 껌이기 때문입니다. ^^;




하지만, (그래도 찜찜한 stride도 그렇고) 굳이 Bitmap을 써야 할 필요가 있을까요? 개인적으로 예전에 OpenCV의 성능이 매우 믿음직스러웠는데요, ^^

내가 만든 코드보다 OpenCV의 속도가 월등히 빠른 이유
; https://www.sysnet.pe.kr/2/0/11423

따라서 OpenCV에 이 과정을 맡기면,

OpenCV 응용 프로그램을 C#으로 구현 - OpenCvSharp
; https://www.sysnet.pe.kr/2/0/11402

C# - SharpDX + DXGI를 이용한 윈도우 화면 캡처 소스 코드 + Direct2D 출력 + OpenCV
; https://www.sysnet.pe.kr/2/0/11407

다음과 같이 재구성할 수 있습니다.

// Install-Package OpenCvSharp4 

Mat src = new Mat(manager.Height, manager.Width, MatType.CV_8UC4);
if (manager.Capture(src.Data, 1000) == true)
{
    ImageEncodingParam[] imParams = new ImageEncodingParam[1];
    imParams[0] = new ImageEncodingParam(ImwriteFlags.JpegQuality, 80);

    byte[] jpgBuffer = src.ImEncode(".jpg", imParams);

    // File.WriteAllBytes("c:\\temp\\test_mat.jpg", jpgBuffer); // 이미지가 정상인지 테스트
}

코드가 상당히 간결해져서 마음에 듭니다. ^^ 그리고 저렇게 해서 나온 최종 크기는 (제 경우에) 1920*1080 화면 캡처 시 178KB 정도입니다.




하지만, 정말 성능이 개선되었을지 테스트를 해봐야 합니다. ^^

제 컴퓨터 기준으로, 처음에 Bitmap을 경유해 JPG로 변환하는 것은 11~12ms 정도가 나왔습니다. 반면 OpenCVSharp으로 바꾼 경우에는 6~7ms가 나옵니다. 시간 상으로는 근소하지만 비율로는 2배 가까이 빨라졌으므로 고속 처리할 때는 OpenCVSharp을 사용할 의미가 충분히 있습니다. ^^

한 가지 재미있는 점은, OpenCVSharp의 옛날 버전으로 하는 경우 성능이 더 안 좋게 나옵니다. 가령 "C# - SharpDX + DXGI를 이용한 윈도우 화면 캡처 소스 코드 + Direct2D 출력 + OpenCV" 글에서 테스트했던 "3.3.1.20171117" 버전에서 위의 테스트를 해보면 24~26ms가 나옵니다.

그러니까, 구 버전의 OpenCVSharp에서 제공하는 Mat.ImEncode의 성능이 닷넷에서 원래 제공하던 ImageCodecInfo보다 2배 넘게 느린 것입니다.

따라서 가능한 최신 버전으로 업데이트하시고... 기왕이면 새로 나온 OpenCvSharp4를 설치하는 것이 좋겠습니다. ^^

참고로, JPEG Encoder를 직접 C#으로 만드는 것도 가능합니다.

A Simple JPEG Encoder in C#
; https://www.codeproject.com/Articles/83225/A-Simple-JPEG-Encoder-in-C

공부 차원에서는 저 소스 코드를 보면 되겠지만, 실제 업무에서는 "내가 만든 코드보다 OpenCV의 속도가 월등히 빠른 이유"의 글에서처럼 C/C++의 힘을 빌리는 것이 성능상 더 좋습니다.

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 12/22/2021]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 




1  2  3  4  5  6  7  8  9  [10]  11  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
12955정성태2/4/20221448개발 환경 구성: 635. 비주얼 스튜디오에서 실행하던 ASP.NET Core (.NET Framework) 응용 프로그램을 명령행에서 실행하는 방법 (2)
12954정성태2/4/20221310VS.NET IDE: 173. 비주얼 스튜디오 - Output 창에 색상이 지정된 출력 결과가 "[39m[22m" 식의 문자로 나오는 문제
12953정성태2/2/20221539Linux: 48. Windows 11 + WSL 우분투 GUI 환경에서 한글 출력
12952정성태2/2/20221560.NET Framework: 1148. C# - ffmpeg(FFmpeg.AutoGen)를 이용한 오디오 필터 예제(filter_audio.c)파일 다운로드1
12951정성태2/2/20221455.NET Framework: 1147. C# - ffmpeg(FFmpeg.AutoGen)를 이용한 오디오 필터링 예제(filtering_audio.c)파일 다운로드1
12950정성태2/1/20221504.NET Framework: 1146. .NET 6에 추가되지 않은 Generic Math (예: INumber<T>)
12949정성태2/1/20221378.NET Framework: 1145. C# - ffmpeg(FFmpeg.AutoGen) - Codec 정보 열람 및 사용 준비파일 다운로드1
12948정성태1/30/20221697.NET Framework: 1144. C# - ffmpeg(FFmpeg.AutoGen) AVFormatContext를 이용해 ffprobe처럼 정보 출력파일 다운로드1
12947정성태1/30/20222316개발 환경 구성: 634. ffmpeg.exe - 기존 동영상 컨테이너에 다중 스트림을 추가하는 방법
12946정성태1/28/20221375오류 유형: 792. .NET Core - 로컬 개발 중에 docker 호스팅으로 바꾸는 경우 SQL 서버 접근 방법
12945정성태1/28/20221372오류 유형: 791. SQL 서버 로그인 시 localhost는 되고, 127.0.0.1로는 안 되는 문제
12944정성태1/28/20222092.NET Framework: 1143. C# - Entity Framework Core 6 개요
12943정성태1/27/20221594.NET Framework: 1142. .NET 5+로 포팅 시 플랫폼 호환성 경고 메시지(SYSLIB0006, SYSLIB0011, CA1416)파일 다운로드1
12942정성태1/27/20222139.NET Framework: 1141. XmlSerializer와 Dictionary 타입파일 다운로드1
12941정성태1/26/20221416오류 유형: 790. AKS/k8s - pod 상태가 Pending으로 지속되는 경우
12940정성태1/26/20221689오류 유형: 789. AKS에서 hpa에 따른 autoscale 기능이 동작하지 않는다면?
12939정성태1/25/20221780.NET Framework: 1140. C# - ffmpeg(FFmpeg.AutoGen)를 이용해 MP3 오디오 파일 인코딩/디코딩하는 예제파일 다운로드1
12938정성태1/24/20221937개발 환경 구성: 633. Docker Desktop + k8s 환경에서 local 이미지를 사용하는 방법
12937정성태1/24/20221729.NET Framework: 1139. C# - ffmpeg(FFmpeg.AutoGen)를 이용해 오디오(mp2) 인코딩하는 예제(encode_audio.c)파일 다운로드1
12936정성태1/22/20221638.NET Framework: 1138. C# - ffmpeg(FFmpeg.AutoGen)를 이용해 멀티미디어 파일의 메타데이터를 보여주는 예제(metadata.c)파일 다운로드1
12935정성태1/22/20221582.NET Framework: 1137. ffmpeg의 파일 해시 예제(ffhash.c)를 C#으로 포팅파일 다운로드1
12934정성태1/22/20221457오류 유형: 788. Warning C6262 Function uses '65564' bytes of stack: exceeds /analyze:stacksize '16384'. Consider moving some data to heap.
12933정성태1/21/20221551.NET Framework: 1136. C# - ffmpeg(FFmpeg.AutoGen)를 이용해 MP2 오디오 파일 디코딩 예제(decode_audio.c)파일 다운로드1
12932정성태1/20/20221842.NET Framework: 1135. C# - ffmpeg(FFmpeg.AutoGen)로 하드웨어 가속기를 이용한 비디오 디코딩 예제(hw_decode.c) [2]파일 다운로드1
12931정성태1/20/20221533개발 환경 구성: 632. ASP.NET Core 프로젝트를 AKS/k8s에 올리는 과정
12930정성태1/19/20221401개발 환경 구성: 631. AKS/k8s의 Volume에 파일 복사하는 방법
1  2  3  4  5  6  7  8  9  [10]  11  12  13  14  15  ...