Blog

An Analysis for Reasoning Bias of Language Models with Small Initialization

Aligning with Logic: Measuring, Evaluating and Improving Logical Preference Consistency in Large Language Models

💡LLM의 논리적 선호도 일관성을 정의하고, 관련 훈련 데이터 증강 방식을 제안하여, 논리 선호도 일관성과 논리 태스크 수행능력 증진

Understanding and Mitigating Numerical Sources of Nondeterminism in LLM Inference

💡LLM 추론은 계산 과정에서의 오차로 인하여 달라질 수 있음! ⇒ 정밀도 관점에서 재해석, 실제로 얼마나 달라지는지, 어떻게 해결해야 하는지?계산 과정에서의 문제니까, 계산 과정에서만 더 정확하게 보면 되는거 아닐까?⇒ 실험 결과, 그렇다!