μ arXiv μ°κ΅¬μμ LLM μ½λ μμ΄μ νΈκ° λ°±μλ ꡬ쑰 μ μ½μ΄ λμλ‘ μ±λ₯μ΄ λ¬΄λμ§λ νμμ΄ νμΈλμ΄μ.
μ°κ΅¬νμ 8κ° μΉ νλ μμν¬μμ κ·Έλ¦°νλ 80κ°, κΈ°λ₯ μΆκ° 20κ° κ³Όμ λ₯Ό κ°μ API κ³μ½μΌλ‘ λΉκ΅νμ΄μ. λμ ν μ€νΈμ μ μ κ²μ¦μ ν¨κ» λλ € ꡬ쑰 볡μ‘λ μν₯λ§ λΆλ¦¬νκ±°λ μ.
κ²°κ³Όλ λλ ·νμ΄μ. κ°ν μ€μ λ κΈ°μ€ λλΉ assertion pass rateκ° νκ· 30ν¬μΈνΈ νλ½νκ³ , μ½ν μ€μ μΌλΆλ κ±°μ 0μ κ°κΉμμ‘μ΄μ. Flask κ°μ λͺ μμ νλ μμν¬μμ μλμ μΌλ‘ μνμ§λ§ FastAPIΒ·Djangoμ²λΌ κ΄λ‘ μ€μ¬ νκ²½μμ νκ· μ±λ₯μ΄ λ λ¨μ΄μ‘μ΄μ.
ν΅μ¬μ κΈ°λ₯ ꡬνλ§ λ§λ μ½λμ μ΄μ κ°λ₯ν μ½λ μ¬μ΄ κ°κ·Ήμ΄ μμ§ ν¬λ€λ μ μ΄μμ.