Reinforcement Learning
-κ°ννμ΅ μ΄ν΄λ₯Ό μν κΈ°μ΄ μ§μ-
-κ°ννμ΅ μ΄ν΄λ₯Ό μν κΈ°μ΄ μ§μ-
βοΈκ°ννμ΅μ κΈ°λ³Έ κ°λ
μ리:μμ΄μ νΈ(Agent)κ° νκ²½(Environment)κ³Ό μνΈμμ©νλ©° 보μ(Reward)**μ ν΅ν΄ μ΅μ μ νλμ νμ΅
λͺ©ν: μ₯κΈ°μ μΈ λμ 보μ(cumulative reward)μ μ΅λννλ μ μ± (policy) νμ΅
κΈ°λ³Έ μνμ λͺ¨λΈ: λ§λ₯΄μ½ν κ²°μ κ³Όμ (MDP)μΌλ‘ ννλ¨
βοΈκ°ννμ΅μ μ°κ΅¬ νλ¦
βοΈμ΅κ·Ό μ°κ΅¬ νλ¦ (2020 - )
μ¬μΈ΅ κ°ννμ΅(DRL): λ₯λ¬λκ³Ό RLμ κ²°ν©μΌλ‘ κ³ μ°¨μ μ λ ₯ μ²λ¦¬ κ°λ₯
μ μ± μ΅μ ν κΈ°λ²: PPO, A3C, SAC λ± μμ μ±κ³Ό ν¨μ¨μ± κ°μ
λͺ¨λΈ κΈ°λ° κ°ννμ΅: νκ²½ λͺ¨λΈμ νμ©ν΄ μν ν¨μ¨μ± ν₯μ
λ©ν° μμ΄μ νΈ κ°ννμ΅(MARL): νλ ₯/κ²½μ νκ²½μμμ μ λ΅ νμ΅
νμ΄λΈλ¦¬λ νμ΅: μ§λνμ΅ + κ°ννμ΅ κ²°ν© (μ: RLHF, RLVR)
βοΈμ΅κ·Ό μ°κ΅¬ νλ¦ (2020 - )
μ¬μΈ΅ κ°ννμ΅(DRL): λ₯λ¬λκ³Ό RLμ κ²°ν©μΌλ‘ κ³ μ°¨μ μ λ ₯ μ²λ¦¬ κ°λ₯
μ μ± μ΅μ ν κΈ°λ²: PPO, A3C, SAC λ± μμ μ±κ³Ό ν¨μ¨μ± κ°μ
λͺ¨λΈ κΈ°λ° κ°ννμ΅: νκ²½ λͺ¨λΈμ νμ©ν΄ μν ν¨μ¨μ± ν₯μ
λ©ν° μμ΄μ νΈ κ°ννμ΅(MARL): νλ ₯/κ²½μ νκ²½μμμ μ λ΅ νμ΅
νμ΄λΈλ¦¬λ νμ΅: μ§λνμ΅ + κ°ννμ΅ κ²°ν© (μ: RLHF, RLVR)
βοΈ2025λ μ΅μ λν₯
RLVR (Verifiable Rewards): κ²μ¦ κ°λ₯ν 보μ κΈ°λ° κ°ννμ΅μΌλ‘ LLMμ μΆλ‘ λ₯λ ₯ ν₯μΒ
LLM + RL: λκ·λͺ¨ μΈμ΄λͺ¨λΈμ λ―ΈμΈμ‘°μ μ RL νμ© (μ: DeepSeek-R1, TΓΌlu 3Β
μ°μ μ μ© νλ: μμ¨μ£Όν, λ‘λ΄κ³΅ν, ν¬μ€μΌμ΄, μ€λ§νΈμν° λ± λ€μν λΆμΌμμ RL κΈ°λ° μμ€ν λμ Β
μν ν¨μ¨μ± κ°μ : μ μ λ°μ΄ν°λ‘λ νμ΅ κ°λ₯ν μκ³ λ¦¬μ¦ κ°λ° (Meta-RL λ±)Β
μ€λ¦¬μ κ³ λ €: RL μμ€ν μ νΈν₯, ν¬λͺ μ±, μμ μ±μ λν μ°κ΅¬ μ¦κ°Β
βοΈκ°ννμ΅μ 곡λΆνλ€ λ³΄λ©΄ μ μ± (Policy)λΌλ λ§μ΄ λμ¨λ€?
μ μ± μ μμ΄μ νΈκ° μ΄λ€ μν©μμ μ΄λ€ νλμ ν μ§λ₯Ό κ²°μ νλ λ°©λ²μ λλ€.
μ¦, "μ΄ μν©μμλ μ΄λ κ² νλνμ!" λΌκ³ μλ €μ£Όλ κ·μΉ λλ ν¨μλΌκ³ μκ°νλ©΄ λ©λλ€. λ€λ§, κ° μ μ± λ§λ€ 'κ²°μ 'νλ λ°©μμ΄ λ€λ¦ λλ€.
μ μ± (Policy): μμ΄μ ΌνΈκ° νλμ μ ννλ κΈ°μ€ | μ: μνκ° AIμΌ λ νλμ X νλ€.
μκ³ λ¦¬μ¦(Algorithms): μ μ± μ νμ΅νλ λ°©λ² | μ: PPO, A3C, SAC κ°μ μκ³ λ¦¬μ¦μ μ’μ μ μ± μ μ°ΎκΈ° μν΄ μ¬μ©νλ λꡬ
λΉμ νμ¬ μκ°νλ©΄, μ μ± μ 'μ μ΄ κ°κΉμ°λ©΄ λλ§κ°κ³ , λ©λ©΄ 곡격ν΄'λΌκ³ κ·μΉμ μ ν΄μ£Όλ κ²μ΄λΌλ©΄, μκ³ λ¦¬μ¦μ 'μ μ± μ κ·Όκ±°νμ¬ κ²μμ μ¬λ¬ λ² ν΄λ³΄λ©΄μ μ΄λ€ νλμ΄ μ’μμ§ λ°°μ°λ λ°©λ²'μ΄λΌκ³ μκ°νλ©΄ λ©λλ€.
'κ²°λ‘ μ, μ μ± μ μ°λ¦¬κ° μ§μ μ¬μ©νλ κ²μ΄ μλ, μκ³ λ¦¬μ¦μ΄ λ§λ€μ΄μ£Όλ κ²°κ³Όλ¬Όμ λλ€.
μ°λ¦¬λ PPO, A3C, SACμ κ°μ μκ³ λ¦¬μ¦μ μ¬μ©νκ³ , μ΄ μκ³ λ¦¬μ¦ λ€μ΄ μ’μ μ μ± μ μ°Ύμμ€λλ€.'
βοΈκ°ννμ΅ μ»€λ¦¬ νλΌ μ°κ΅¬
βοΈκ°ννμ΅κ΄λ ¨ κ°μ μλ£
2022νλ λ κ³ λ €λ μ»΄ν¨ν° μ¬μ΄μΈμ€ νκ³Ό νλΆ μ°κ΅¬μ 'νμ§μλ'μ κ°ννμ΅ κΈ°μ΄ λ°ν μλ£ μ λλ€.
ν΄λΉ κ°μ PPT λ§ν¬λ μ§μλμ λμλ₯Ό μ»κ³ μ λ‘λ ν©λλ€.Β
'Peace be with you.'
Β by Learnmore'