์˜์–ดํ”„๋ž‘์Šค์–ด์ŠคํŽ˜์ธ์–ด

Ad


์˜จ์›์Šค ํŒŒ๋น„์ฝ˜

Linux์šฉ CLIP-as-service ๋‹ค์šด๋กœ๋“œ

CLIP-as-service Linux ์•ฑ์„ ๋ฌด๋ฃŒ๋กœ ๋‹ค์šด๋กœ๋“œํ•˜์—ฌ Ubuntu ์˜จ๋ผ์ธ, Fedora ์˜จ๋ผ์ธ ๋˜๋Š” Debian ์˜จ๋ผ์ธ์—์„œ ์˜จ๋ผ์ธ์œผ๋กœ ์‹คํ–‰

์ตœ์‹  ๋ฆด๋ฆฌ์Šค๋ฅผ Patchv0.8.1.zip์œผ๋กœ ๋‹ค์šด๋กœ๋“œํ•  ์ˆ˜ ์žˆ๋Š” CLIP-as-service๋ผ๋Š” Linux ์•ฑ์ž…๋‹ˆ๋‹ค. ์›Œํฌ์Šคํ…Œ์ด์…˜์šฉ ๋ฌด๋ฃŒ ํ˜ธ์ŠคํŒ… ์ œ๊ณต์—…์ฒด์ธ OnWorks์—์„œ ์˜จ๋ผ์ธ์œผ๋กœ ์‹คํ–‰ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

OnWorks์™€ ํ•จ๊ป˜ CLIP-as-service๋ผ๋Š” ์ด ์•ฑ์„ ๋ฌด๋ฃŒ๋กœ ๋‹ค์šด๋กœ๋“œํ•˜์—ฌ ์˜จ๋ผ์ธ์—์„œ ์‹คํ–‰ํ•˜์‹ญ์‹œ์˜ค.

์ด ์•ฑ์„ ์‹คํ–‰ํ•˜๋ ค๋ฉด ๋‹ค์Œ ์ง€์นจ์„ ๋”ฐ๋ฅด์„ธ์š”.

- 1. ์ด ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์„ PC์— ๋‹ค์šด๋กœ๋“œํ–ˆ์Šต๋‹ˆ๋‹ค.

- 2. ํŒŒ์ผ ๊ด€๋ฆฌ์ž https://www.onworks.net/myfiles.php?username=XXXXX์— ์›ํ•˜๋Š” ์‚ฌ์šฉ์ž ์ด๋ฆ„์„ ์ž…๋ ฅํ•ฉ๋‹ˆ๋‹ค.

- 3. ์ด๋Ÿฌํ•œ ํŒŒ์ผ ๊ด€๋ฆฌ์ž์—์„œ ์ด ์‘์šฉ ํ”„๋กœ๊ทธ๋žจ์„ ์—…๋กœ๋“œํ•ฉ๋‹ˆ๋‹ค.

- 4. ์ด ์›น์‚ฌ์ดํŠธ์—์„œ OnWorks Linux ์˜จ๋ผ์ธ ๋˜๋Š” Windows ์˜จ๋ผ์ธ ์—๋ฎฌ๋ ˆ์ดํ„ฐ ๋˜๋Š” MACOS ์˜จ๋ผ์ธ ์—๋ฎฌ๋ ˆ์ดํ„ฐ๋ฅผ ์‹œ์ž‘ํ•ฉ๋‹ˆ๋‹ค.

- 5. ๋ฐฉ๊ธˆ ์‹œ์ž‘ํ•œ OnWorks Linux OS์—์„œ ์›ํ•˜๋Š” ์‚ฌ์šฉ์ž ์ด๋ฆ„์œผ๋กœ ํŒŒ์ผ ๊ด€๋ฆฌ์ž https://www.onworks.net/myfiles.php?username=XXXXX๋กœ ์ด๋™ํ•ฉ๋‹ˆ๋‹ค.

- 6. ์‘์šฉ ํ”„๋กœ๊ทธ๋žจ์„ ๋‹ค์šด๋กœ๋“œํ•˜์—ฌ ์„ค์น˜ํ•˜๊ณ  ์‹คํ–‰ํ•ฉ๋‹ˆ๋‹ค.

์Šคํฌ๋ฆฐ ์ƒท

Ad


CLIP ์„œ๋น„์Šค


๊ธฐ์ˆ 

CLIP-as-service๋Š” ์ด๋ฏธ์ง€์™€ ํ…์ŠคํŠธ๋ฅผ ์‚ฝ์ž…ํ•˜๊ธฐ ์œ„ํ•œ ์ €์ง€์—ฐ ๊ณ ํ™•์žฅ์„ฑ ์„œ๋น„์Šค์ž…๋‹ˆ๋‹ค. ๋งˆ์ดํฌ๋กœ์„œ๋น„์Šค๋กœ ์‹ ๊ฒฝ ๊ฒ€์ƒ‰ ์†”๋ฃจ์…˜์— ์‰ฝ๊ฒŒ ํ†ตํ•ฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. 800QPS[*]๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ TensorRT, ONNX ๋Ÿฐํƒ€์ž„ ๋ฐ PyTorch w/o JIT๋กœ CLIP ๋ชจ๋ธ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. ๋Œ€์šฉ๋Ÿ‰ ๋ฐ์ดํ„ฐ ๋ฐ ์žฅ๊ธฐ ์‹คํ–‰ ์ž‘์—…์„ ์œ„ํ•ด ์„ค๊ณ„๋œ ์š”์ฒญ ๋ฐ ์‘๋‹ต์— ๋Œ€ํ•œ ๋น„์ฐจ๋‹จ ์ด์ค‘ ์ŠคํŠธ๋ฆฌ๋ฐ. ์ž๋™ ๋กœ๋“œ ๋ฐธ๋Ÿฐ์‹ฑ์„ ํ†ตํ•ด ๋‹จ์ผ GPU์—์„œ ์—ฌ๋Ÿฌ CLIP ๋ชจ๋ธ์„ ์ˆ˜ํ‰์œผ๋กœ ํ™•์žฅ ๋ฐ ์ถ•์†Œํ•ฉ๋‹ˆ๋‹ค. ์‚ฌ์šฉํ•˜๊ธฐ ์‰ฌ์šด. ํด๋ผ์ด์–ธํŠธ์™€ ์„œ๋ฒ„์—์„œ ํ•™์Šต ๊ณก์„ ์ด ์—†๊ณ  ๋ฏธ๋‹ˆ๋ฉ€ํ•œ ๋””์ž์ธ์ž…๋‹ˆ๋‹ค. ์ด๋ฏธ์ง€ ๋ฐ ๋ฌธ์žฅ ์ž„๋ฒ ๋”ฉ์„ ์œ„ํ•œ ์ง๊ด€์ ์ด๊ณ  ์ผ๊ด€๋œ API. ๋น„๋™๊ธฐ ํด๋ผ์ด์–ธํŠธ ์ง€์›. TLS ๋ฐ ์••์ถ•์„ ์‚ฌ์šฉํ•˜์—ฌ gRPC, HTTP, WebSocket ํ”„๋กœํ† ์ฝœ ๊ฐ„์— ์‰ฝ๊ฒŒ ์ „ํ™˜ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. Jina ๋ฐ DocArray๋ฅผ ํฌํ•จํ•œ ์‹ ๊ฒฝ ๊ฒ€์ƒ‰ ์ƒํƒœ๊ณ„์™€ ์›ํ™œํ•˜๊ฒŒ ํ†ตํ•ฉ๋ฉ๋‹ˆ๋‹ค. ๊ต์ฐจ ๋ชจ๋‹ฌ ๋ฐ ๋‹ค์ค‘ ๋ชจ๋‹ฌ ์†”๋ฃจ์…˜์„ ์ฆ‰์‹œ ๊ตฌ์ถ•ํ•˜์‹ญ์‹œ์˜ค.



ํŠน์ง•

  • Python 3.7 ์ด์ƒ์ด ์žˆ๋Š”์ง€ ํ™•์ธํ•˜์‹ญ์‹œ์˜ค.
  • ํด๋ผ์ด์–ธํŠธ์™€ ์„œ๋ฒ„๋ฅผ ๋…๋ฆฝ์ ์œผ๋กœ ์„ค์น˜ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
  • ์ƒ์‹œ ์˜จ๋ผ์ธ ๋ฐ๋ชจ ์„œ๋ฒ„
  • ์‹ ๊ฒฝ ๊ฒ€์ƒ‰ ์ƒํƒœ๊ณ„์™€์˜ ์›ํ™œํ•œ ํ†ตํ•ฉ
  • ํ•™์Šต ๊ณก์„  ์—†์Œ, ํด๋ผ์ด์–ธํŠธ ๋ฐ ์„œ๋ฒ„์˜ ๋ฏธ๋‹ˆ๋ฉ€ํ•œ ๋””์ž์ธ
  • ์ด๋ฏธ์ง€ ๋ฐ ๋ฌธ์žฅ ์ž„๋ฒ ๋”ฉ์„ ์œ„ํ•œ ์ง๊ด€์ ์ด๊ณ  ์ผ๊ด€๋œ API


ํ”„๋กœ๊ทธ๋ž˜๋ฐ ์–ธ์–ด

Python


์นดํ…Œ๊ณ ๋ฆฌ

๋ฉ€ํ‹ฐ๋ฏธ๋””์–ด, ๊ธฐ๊ณ„ ํ•™์Šต

์ด๊ฒƒ์€ https://sourceforge.net/projects/clip-as-service.mirror/์—์„œ๋„ ๊ฐ€์ ธ์˜ฌ ์ˆ˜ ์žˆ๋Š” ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์ž…๋‹ˆ๋‹ค. ๋ฌด๋ฃŒ ์šด์˜ ์ฒด์ œ ์ค‘ ํ•˜๋‚˜์—์„œ ๊ฐ€์žฅ ์‰ฌ์šด ๋ฐฉ๋ฒ•์œผ๋กœ ์˜จ๋ผ์ธ์œผ๋กœ ์‹คํ–‰ํ•˜๊ธฐ ์œ„ํ•ด OnWorks์—์„œ ํ˜ธ์ŠคํŒ…๋˜์—ˆ์Šต๋‹ˆ๋‹ค.


๋ฌด๋ฃŒ ์„œ๋ฒ„ ๋ฐ ์›Œํฌ์Šคํ…Œ์ด์…˜

Windows ๋ฐ Linux ์•ฑ ๋‹ค์šด๋กœ๋“œ

Linux ๋ช…๋ น

Ad