전체 글1301 [논문리뷰] 회전·반사·이동까지 "하나의 대수"로 묶을 수 있다면? — Clifford Group Equivariant Neural Networks (NeurIPS 2023, Oral) 이 논문을 고른 이유분자의 3차원 구조를 예측하거나, 입자물리 실험에서 입자들의 궤적을 분석하거나, 로봇 팔의 움직임을 모델링할 때 공통적으로 마주치는 문제가 있습니다. 물체를 돌리거나(회전), 뒤집거나(반사), 평행하게 옮겨도(이동) 그 물체가 가진 물리적 의미는 달라지지 않아야 한다는 것입니다. 이런 성질을 신경망에 억지로 데이터 증강(augmentation)으로 학습시키는 대신, 아예 네트워크 구조 자체에 "이런 변환에 대해 결과가 일관되게 바뀐다"는 성질을 못박아 두는 분야가 등위(equivariant) 신경망 연구입니다. 다만 그동안의 등위 신경망들은 대부분 회전만 다루는 O(n), 혹은 회전과 이동을 함께 다루는 E(n) 등 특정 대칭군 하나를 위해 개별적으로 설계되어 왔습니다.이번에 소개할 .. 2026. 10. 31. [논문리뷰] 탐색을 "가르치지 않아도" 할 수 있을까? — Supervised Pretraining Can Learn In-Context Reinforcement Learning (NeurIPS 2023) 이 논문을 고른 이유강화학습(Reinforcement Learning, RL)은 보통 보상을 받으며 시행착오를 거쳐 정책을 학습시키는 과정이 필요합니다. 그런데 최근 LLM이 프롬프트 몇 개만 보고도 새로운 과제를 "그 자리에서" 익히는 인컨텍스트 러닝(in-context learning)을 보여주면서, 자연스럽게 이런 질문이 나옵니다. 의사결정 문제에서도 똑같이, 별도의 RL 학습 없이 그저 지도학습(supervised learning)으로 트랜스포머를 미리 학습시켜 두면, 테스트 시점에 그 트랜스포머가 알아서 탐색(exploration)과 활용(exploitation)을 균형 있게 수행할 수 있을까요?오늘 다룰 논문은 스탠퍼드대학교, 마이크로소프트 리서치, 구글 딥마인드 소속의 Jonathan N. .. 2026. 10. 31. [논문리뷰] "AI 모델 속 '회로'를 사람이 일일이 찾아야 할까?" — Towards Automated Circuit Discovery for Mechanistic Interpretability (NeurIPS 2023) 이 논문을 고른 이유기계적 해석가능성(mechanistic interpretability) 연구자들은 트랜스포머(Transformer) 같은 신경망 내부에서 특정 행동을 담당하는 "회로(circuit)"를 찾아내는 작업을 오랫동안 손으로 해 왔습니다. 예를 들어 "John과 Mary 중 누가 물건을 건넸는가"를 맞히는 간접 목적어 식별(Indirect Object Identification, IOI) 작업의 회로를 찾기 위해, 연구자들은 모델의 수만 개 구성 요소 중 어떤 어텐션 헤드(attention head)와 다층 퍼셉트론(MLP)이 관여하는지 하나하나 활성화 패칭(activation patching)으로 확인해야 했습니다. 이 논문은 바로 이 "손으로 하나하나 찾는" 과정을 자동화하겠다는, 당시로.. 2026. 10. 31. [논문리뷰] 돈 없이도 ChatGPT급 정렬 데이터를 만들 수 있을까? — OpenAssistant Conversations: Democratizing Large Language Model Alignment (NeurIPS 2023) 2026. 10. 31. [논문리뷰] AI 성능을 올리려면 모델이 아니라 데이터를 바꿔라? — DataComp: In search of the next generation of multimodal datasets (NeurIPS 2023) 2026. 10. 31. [논문리뷰] GPT-4에게 "어떤 답이 더 좋은지" 채점을 맡겨도 될까? — Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena (NeurIPS 2023) 이 논문을 고른 이유NeurIPS 2023 돌아보기 시리즈에서 이번에 고른 논문은 "Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena"입니다. ChatGPT 이후 챗봇형 언어모델이 쏟아져 나오면서, 연구자들은 금방 새로운 문제에 부딫혔습니다. "이 모델이 저 모델보다 더 잘 대답하는가?"를 어떻게 측정할 것인가라는 문제입니다. 기존의 객관식 벤치마크(MMLU 같은 정답이 정해진 문제)는 채점은 쉽지만, 실제 대화에서 중요한 "도움이 되는 정도", "자연스러움", "지시를 잘 따르는지" 같은 열린 질문(open-ended question)에 대한 답은 평가하기 어렵습니다. 반대로 사람이 직접 비교 평가를 하면 정확하지만 비용과 시간이 많이 들고, 빠르게 늘어.. 2026. 10. 31. 이전 1 2 3 4 ··· 217 다음
