๋ถˆํƒ€๋Š” ์ฃผํ™ฉ์ƒ‰ ๊นƒํ„ธ์„ ํŽผ์นœ ๋‚ ๊ฐœ์™€ ์šฐ์šธํ•œ ํ•˜๋Š˜ ๋ฐฐ๊ฒฝ์„ ๊ฐ€์ง„ ๊นŒ๋งˆ๊ท€๊ฐ€ ๋‚˜๋Š” ๊ทน์ ์ธ ์ด๋ฏธ์ง€.
์ดˆํ˜„์‹ค์ ์ธ ์ง€์˜ฅ ๋™๊ตด์—์„œ ๋น›๋‚˜๋Š” ์šฉ์•” ๋ฐ”๋‹ฅ ์œ„์— ์„œ ์žˆ๊ณ  ํฉ์–ด์ง„ ์ฃผ์‚ฌ์œ„๋กœ ๋‘˜๋Ÿฌ์‹ธ์ธ ์ฃผ์‚ฌ์œ„ ๋ฌด๋Šฌ์˜ ๋กœ๋ด‡ ํ„ฐ๋ฏธ๋„ค์ดํ„ฐ.
์น˜์•„๊ฐ€ ๋ณด์ด๋Š” ๋ฒŒ์–ด์ง„ ์—ฌ์„ฑ ์ž…์ˆ ์˜ ํ‘๋ฐฑ ํด๋กœ์ฆˆ์—… ์ด๋ฏธ์ง€ ์œ„์— ์ถ”์ƒ์ ์ธ ๊ฐ„์„ญ ๋ฌด๋Šฌ๊ฐ€ ๊ฒน์ณ์ง„ ๋ชจ์Šต.
๋†’์€ ๊ฑด๋ฌผ์ด ๋ฐฐ๊ฒฝ์— ์žˆ๋Š” ์•ˆ๊ฐœ ๋‚€ ๋„์‹œ ํ™˜๊ฒฝ์„ ๊ฑท๋Š” ์ธ๋ฌผ๋“ค์˜ ์‹ค๋ฃจ์—ฃ์„ ๋ณด์—ฌ์ฃผ๋Š” ํ‘๋ฐฑ ๋„์‹œ ํ’๊ฒฝ.
๊ด‘๊ฐ ๋ Œ์ฆˆ์™€ ํ•„๋ฆ„ ๊ทธ๋ ˆ์ธ ํšจ๊ณผ ์•„๋ž˜, ๋ฐฐ๊ฒฝ์— ์‚ฐ์ด ์žˆ๊ณ  ์™ธ๊ณ„ ์‹๋ฌผ์ด ๋‘˜๋Ÿฌ์‹ผ ๊ณณ์—์„œ ํฌ๊ณ  ๋ฐ˜์‚ฌ๋˜๋Š” ๋ˆˆ์„ ๊ฐ€์ง„ ํ˜ธ๊ธฐ์‹ฌ ๋งŽ์€ ์™ธ๊ณ„์ธ์˜ ํด๋กœ์ฆˆ์—… ๋ทฐ, ์ƒ์„ธํ•œ ์™ธ๊ณ„ ํ”ผ๋ถ€ ์งˆ๊ฐ.
์ธํ„ฐ์Šคํ…”๋ผ ํ”„๋กœ๋ธŒ๊ฐ€ ํ•„๋ฆ„ ๊ทธ๋ ˆ์ธ ํšจ๊ณผ๋กœ ์ดฌ์˜ํ•œ, ์™ธ๊ณ„ ํ’๊ฒฝ์ด ๋ฐ˜์‚ฌ๋œ ์ปค๋‹ค๋ž€ ๋ฐ˜์‚ฌ ๋ˆˆ์„ ๊ฐ€์ง„ ๊ณ ๋„๋กœ ์„ธ๋ฐ€ํ•œ ์™ธ๊ณ„์ธ ์–ผ๊ตด ํด๋กœ์ฆˆ์—….
ํ๋ฆฟํ•œ ๋ถˆ๋ชจ์˜ ํ’๊ฒฝ์„ ๋ฐฐ๊ฒฝ์œผ๋กœ ํ•œ ๊ฟˆ๊ฐ™์€ ํŒŒ๋…ธ๋ผ๋งˆ ์† ๊ณฑ์Šฌ๋จธ๋ฆฌ ์ ๋ชจ ์ Š์€ ์—ฌ์„ฑ์˜ ์กฐ๊ฐ ๊ฐ™์€ ๊ทน์‚ฌ์‹ค์  ์ดˆ์ƒํ™”.
์ฃผ๊ทผ๊นจ๋กœ ๋‘˜๋Ÿฌ์‹ธ์ธ ์ดˆ๋ก์ƒ‰ ๋ˆˆ์˜ ํ•˜์ดํผ ๋ฆฌ์–ผ๋ฆฌ์ฆ˜ ํด๋กœ์ฆˆ์—… ์ด๋ฏธ์ง€, ๋นจ๊ฐ„ ์ƒ๊ฐ• ๋จธ๋ฆฌ์™€ ๊ฒ€๊ฒŒ ์น ํ•ด์ง„ ์ž…์ˆ .
๊ธธ๊ณ  ๋ถ‰์€ ๋จธ๋ฆฌ, ํฐ ํ”ผ๋ถ€์— ์ฃผ๊ทผ๊นจ, ์—ฐ๋‘๋น› ๋ˆˆ, ๊ฒ€์€ ์ž…์ˆ ์„ ๊ฐ€์ง„ ์—ฌ์„ฑ ์ดˆ์ƒํ™”๋กœ, ํ•˜์ดํผ ๋ฆฌ์–ผ๋ฆฌ์ฆ˜ ์Šคํƒ€์ผ์˜ ์ •๊ตํ•œ ๋””ํ…Œ์ผ์„ ๋ณด์—ฌ์ค๋‹ˆ๋‹ค.

์ถ”์ฒœ ๋งค๊ฐœ๋ณ€์ˆ˜

resolution

525x525

ํŒ

์ด ๋ชจ๋ธ์€ ์˜ˆ์ˆ  ์ž‘ํ’ˆ ์ƒ์„ฑ, ๊ต์œก ๋„๊ตฌ, ์•ˆ์ „ ๋ฐฐํฌ ๋“ฑ ์—ฐ๊ตฌ ๋ชฉ์ ์„ ์œ„ํ•ด ์ œ์ž‘๋˜์—ˆ์Šต๋‹ˆ๋‹ค.

์‚ฌ๋žŒ์ด๋‚˜ ์‚ฌ๊ฑด์˜ ์‚ฌ์‹ค์  ๋˜๋Š” ์ง„์‹คํ•œ ๋ฌ˜์‚ฌ๋ฅผ ์ƒ์„ฑํ•˜๋Š” ๋ฐ์—๋Š” ์ ํ•ฉํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

์™„๋ฒฝํ•œ ํฌํ† ๋ฆฌ์–ผ๋ฆฌ์ฆ˜ ๋ฏธ๋‹ฌ, ์ฝ์„ ์ˆ˜ ์žˆ๋Š” ํ…์ŠคํŠธ ๋ถˆ๊ฐ€, ๊ตฌ์„ฑ์  ํ”„๋กฌํ”„ํŠธ ์ฒ˜๋ฆฌ ์–ด๋ ค์›€, ์–ผ๊ตด ์ƒ์„ฑ ๋ฌธ์ œ ๋“ฑ์˜ ํ•œ๊ณ„๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค.

๋‘ ๊ฐœ์˜ ์‚ฌ์ „ ํ•™์Šต๋œ ํ…์ŠคํŠธ ์ธ์ฝ”๋”์ธ OpenCLIP-ViT/G์™€ CLIP-ViT/L์„ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค.

2๋‹จ๊ณ„ ํŒŒ์ดํ”„๋ผ์ธ์€ ๋ฒ ์ด์Šค ์ž ์žฌ ์ƒ์„ฑ๊ณผ SDEdit(img2img)๋ฅผ ์ด์šฉํ•œ ๊ณ ํ•ด์ƒ๋„ ์ •์ œ๋กœ ๊ตฌ์„ฑ๋ฉ๋‹ˆ๋‹ค.

ํฌ๋ฆฌ์—์ดํ„ฐ ์Šคํฐ์„œ

์›๋ณธ์€ Hugging Face์— ๊ฒŒ์‹œ๋˜์—ˆ์œผ๋ฉฐ Stability AI์˜ ํ—ˆ๊ฐ€๋ฅผ ๋ฐ›์•„ ์—ฌ๊ธฐ์„œ ๊ณต์œ ๋ฉ๋‹ˆ๋‹ค.

์›๋ณธ์€ Hugging Face์— ๊ฒŒ์‹œ๋˜์—ˆ์œผ๋ฉฐ Stability AI์˜ ํ—ˆ๊ฐ€๋ฅผ ๋ฐ›์•„ ์—ฌ๊ธฐ์„œ ๊ณต์œ ๋ฉ๋‹ˆ๋‹ค.

SDXL์€ ์ž ์žฌ ํ™•์‚ฐ์„ ์œ„ํ•œ 2๋‹จ๊ณ„ ํŒŒ์ดํ”„๋ผ์ธ์œผ๋กœ ๊ตฌ์„ฑ๋ฉ๋‹ˆ๋‹ค: ์ฒซ ๋ฒˆ์งธ ๋‹จ๊ณ„์—์„œ๋Š” ์›ํ•˜๋Š” ์ถœ๋ ฅ ํฌ๊ธฐ์˜ ์ž ์žฌ ๋ณ€์ˆ˜๋ฅผ ์ƒ์„ฑํ•˜๋Š” ๋ฒ ์ด์Šค ๋ชจ๋ธ์„ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค. ๋‘ ๋ฒˆ์งธ ๋‹จ๊ณ„์—์„œ๋Š” ํŠน์ˆ˜ ๊ณ ํ•ด์ƒ๋„ ๋ชจ๋ธ์„ ์‚ฌ์šฉํ•˜๊ณ  SDEdit(https://arxiv.org/abs/2108.01073, "img2img"๋ผ๊ณ ๋„ ๋ถˆ๋ฆผ) ๊ธฐ๋ฒ•์„ ์ฒซ ๋‹จ๊ณ„์—์„œ ์ƒ์„ฑ๋œ ์ž ์žฌ ๋ณ€์ˆ˜์— ๋™์ผํ•œ ํ”„๋กฌํ”„ํŠธ๋กœ ์ ์šฉํ•ฉ๋‹ˆ๋‹ค.

๋ชจ๋ธ ์„ค๋ช…

  • ๊ฐœ๋ฐœ: Stability AI

  • ๋ชจ๋ธ ์œ ํ˜•: ํ™•์‚ฐ ๊ธฐ๋ฐ˜ ํ…์ŠคํŠธ-์ด๋ฏธ์ง€ ์ƒ์„ฑ ๋ชจ๋ธ

  • ๋ชจ๋ธ ์„ค๋ช…: ํ…์ŠคํŠธ ํ”„๋กฌํ”„ํŠธ๋ฅผ ๊ธฐ๋ฐ˜์œผ๋กœ ์ด๋ฏธ์ง€๋ฅผ ์ƒ์„ฑ ๋ฐ ์ˆ˜์ •ํ•˜๋Š” ๋ฐ ์‚ฌ์šฉ๋˜๋Š” ๋ชจ๋ธ์ž…๋‹ˆ๋‹ค. ๋‘ ๊ฐœ์˜ ๊ณ ์ •๋œ ์‚ฌ์ „ ํ•™์Šต๋œ ํ…์ŠคํŠธ ์ธ์ฝ”๋”(OpenCLIP-ViT/G ๋ฐ CLIP-ViT/L)๋ฅผ ์‚ฌ์šฉํ•˜๋Š” Latent Diffusion Model์ž…๋‹ˆ๋‹ค.

  • ์ถ”๊ฐ€ ์ •๋ณด ์ž๋ฃŒ: GitHub ์ €์žฅ์†Œ.

๋ชจ๋ธ ์†Œ์Šค

์šฉ๋„

์ง์ ‘ ์‚ฌ์šฉ

์ด ๋ชจ๋ธ์€ ์—ฐ๊ตฌ ๋ชฉ์ ๋งŒ์„ ์œ„ํ•ด ๋งŒ๋“ค์–ด์กŒ์Šต๋‹ˆ๋‹ค. ๊ฐ€๋Šฅํ•œ ์—ฐ๊ตฌ ๋ถ„์•ผ ๋ฐ ์ž‘์—…์—๋Š” ๋‹ค์Œ์ด ํฌํ•จ๋ฉ๋‹ˆ๋‹ค:

  • ์˜ˆ์ˆ  ์ž‘ํ’ˆ ์ƒ์„ฑ ๋ฐ ๋””์ž์ธ ๋“ฑ ์˜ˆ์ˆ ์  ๊ณผ์ •์—์˜ ํ™œ์šฉ.

  • ๊ต์œก์šฉ ๋˜๋Š” ์ฐฝ์ž‘ ๋„๊ตฌ์—์„œ์˜ ์‘์šฉ.

  • ์ƒ์„ฑ ๋ชจ๋ธ์— ๋Œ€ํ•œ ์—ฐ๊ตฌ.

  • ์œ ํ•ดํ•œ ์ฝ˜ํ…์ธ  ์ƒ์„ฑ์„ ๋ฐฉ์ง€ํ•˜๋Š” ์•ˆ์ „ํ•œ ๋ชจ๋ธ ๋ฐฐํฌ.

  • ์ƒ์„ฑ ๋ชจ๋ธ์˜ ํ•œ๊ณ„ ๋ฐ ํŽธํ–ฅ ๋ถ„์„ ๋ฐ ์ดํ•ด.

์ œ์™ธ๋˜๋Š” ์‚ฌ์šฉ์€ ์•„๋ž˜์— ์„ค๋ช…๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค.

๋ฒ”์œ„ ์™ธ ์‚ฌ์šฉ

์ด ๋ชจ๋ธ์€ ์‚ฌ๋žŒ์ด๋‚˜ ์‚ฌ๊ฑด์— ๋Œ€ํ•œ ์‚ฌ์‹ค์  ๋˜๋Š” ์ง„์‹คํ•œ ํ‘œํ˜„์„ ์ƒ์„ฑํ•˜๋„๋ก ํ›ˆ๋ จ๋˜์ง€ ์•Š์•˜์œผ๋ฏ€๋กœ, ํ•ด๋‹น ๋‚ด์šฉ์„ ์ƒ์„ฑํ•˜๋Š” ๊ฒƒ์€ ๋ชจ๋ธ์˜ ๋Šฅ๋ ฅ ๋ฒ”์œ„๋ฅผ ๋ฒ—์–ด๋‚ฉ๋‹ˆ๋‹ค.

ํ•œ๊ณ„ ๋ฐ ํŽธํ–ฅ

ํ•œ๊ณ„

  • ๋ชจ๋ธ์€ ์™„๋ฒฝํ•œ ํฌํ† ๋ฆฌ์–ผ๋ฆฌ์ฆ˜์„ ๋‹ฌ์„ฑํ•˜์ง€ ๋ชปํ•ฉ๋‹ˆ๋‹ค.

  • ๋ชจ๋ธ์€ ์ฝ์„ ์ˆ˜ ์žˆ๋Š” ํ…์ŠคํŠธ๋ฅผ ๋ Œ๋”๋งํ•  ์ˆ˜ ์—†์Šต๋‹ˆ๋‹ค.

  • โ€œํŒŒ๋ž€ ๊ตฌ ์œ„์— ๋นจ๊ฐ„ ํ๋ธŒโ€์™€ ๊ฐ™์€ ๊ตฌ์„ฑ ๊ด€๋ จ ๋ณต์žกํ•œ ์ž‘์—…์— ์–ด๋ ค์›€์„ ๊ฒช์Šต๋‹ˆ๋‹ค.

  • ์–ผ๊ตด ๋ฐ ์‚ฌ๋žŒ์€ ์ผ๋ฐ˜์ ์œผ๋กœ ์ œ๋Œ€๋กœ ์ƒ์„ฑ๋˜์ง€ ์•Š์„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

  • ๋ชจ๋ธ์˜ ์ž๋™ ์ธ์ฝ”๋”ฉ ๋ถ€๋ถ„์€ ์†์‹ค์ด ๋ฐœ์ƒํ•ฉ๋‹ˆ๋‹ค.

ํŽธํ–ฅ

์ด๋ฏธ์ง€ ์ƒ์„ฑ ๋ชจ๋ธ์˜ ๋Šฅ๋ ฅ์€ ์ธ์ƒ์ ์ด์ง€๋งŒ, ์‚ฌํšŒ์  ํŽธํ–ฅ์„ ๊ฐ•ํ™”ํ•˜๊ฑฐ๋‚˜ ์‹ฌํ™”ํ•  ์ˆ˜๋„ ์žˆ์Šต๋‹ˆ๋‹ค.

์œ„ ์ฐจํŠธ๋Š” Stable Diffusion 1.5 ๋ฐ 2.1 ๋Œ€๋น„ SDXL(์ •์ œ ํฌํ•จ ๋ฐ ๋น„ํฌํ•จ)์— ๋Œ€ํ•œ ์‚ฌ์šฉ์ž ์„ ํ˜ธ๋„๋ฅผ ํ‰๊ฐ€ํ•ฉ๋‹ˆ๋‹ค. SDXL ๋ฒ ์ด์Šค ๋ชจ๋ธ์€ ์ด์ „ ๋ฒ„์ „์— ๋น„ํ•ด ํ˜„์ €ํžˆ ์šฐ์ˆ˜ํ•˜๋ฉฐ, ์ •์ œ ๋ชจ๋“ˆ๊ณผ ๊ฒฐํ•ฉ๋œ ๋ชจ๋ธ์ด ์ „์ฒด์ ์œผ๋กœ ์ตœ๊ณ ์˜ ์„ฑ๋Šฅ์„ ๋‹ฌ์„ฑํ•ฉ๋‹ˆ๋‹ค.

์ด์ „
epiCPhotoGasm - V1
๋‹ค์Œ
IlluQuaint - v0.3

๋ชจ๋ธ ์„ธ๋ถ€์‚ฌํ•ญ

๋ชจ๋ธ ์œ ํ˜•

Checkpoint

๊ธฐ๋ณธ ๋ชจ๋ธ

SDXL 1.0

๋ชจ๋ธ ๋ฒ„์ „

v1.0

๋ชจ๋ธ ํ•ด์‹œ

31e35c80fc

ํ† ๋ก 

๋Œ“๊ธ€์„ ๋‚จ๊ธฐ๋ ค๋ฉด log inํ•˜์„ธ์š”.

SD XL - v1.0 ์ œ์ž‘ ์ด๋ฏธ์ง€

๊ธฐ๋ณธ ๋ชจ๋ธ ์ด๋ฏธ์ง€

๊ณต์‹ ์ด๋ฏธ์ง€

sdxl ์ด๋ฏธ์ง€

stability ai ์ด๋ฏธ์ง€