antirezκ° DeepSeek V4 Flash μ μ© λ‘컬 μΆλ‘ μμ§ ds4λ₯Ό 곡κ°νμ΄μ.
ν΅μ¬μ νΉν μ€κ³μμ. λ²μ© GGUF λ¬λλ νλ μμν¬κ° μλλΌ DeepSeek V4 Flash νλλ§μ μν Metal κ·Έλν μ€νκΈ°κ±°λ μ. 128GB RAM MacBookμμ 2λΉνΈ μμνλ‘ 284B νλΌλ―Έν° λͺ¨λΈμ λ릴 μ μκ³ , 컨ν μ€νΈ μ°½μ΄ λ¬΄λ € 100λ§ ν ν°μ΄μμ.
thinking λͺ¨λκ° νΉν ν₯λ―Έλ‘μ΄λ°, λ€λ₯Έ λͺ¨λΈ λλΉ μ΅λ 1/5 μμ€μΌλ‘ μ§§μ thinking μΉμ μ μμ±νλ©΄μλ λ¬Έμ 볡μ‘λμ λΉλ‘ν΄μ κΈΈμ΄κ° μ‘°μ λΌμ. KV μΊμ μμΆλ₯ λ λ°μ΄λμ λμ€ν¬ μμμ±κΉμ§ μ§μνκ³ μ.
λ‘컬μμ μ€ νλ°ν°μ΄κΈ λͺ¨λΈμ μ€μ©μ μΌλ‘ ꡴릴 μ μλ κ°λ₯μ±μ΄ μ΄λ¦° κ±°μμ.