Post #521

오픈AI, 딸기에 이어 이제는 별(오리온, Orion)이다 안녕하세요 삼성증권 글로벌 SW 담당 이영진입니다. 오픈AI의 새로운 모델 연구에 대한 보도가 나왔습니다(The Information) 상당한 관심이 쏠렸던 스트로베리(Q*) 모델을 가을 경 챗GPT 적용을 목표 하고 있다는 내용인데요 스트로베리 모델은 현재 AI 챗 봇이 겪은 어려움과 다르게 수학 및 프로그래밍 등 기술적 문제 해결에 긍정적 모습을 보인다고 언급되었습니다. 앞서 MATH 벤치마크 점수가 90점에 달한다 내용이 보도되기도 했지요. 기술적 문제에만 국한되는 것이 아니라 생각, 즉 추론할 수 있는 시간을 더 부여한다면 추상적 질문(제품 마케팅 전략)에 대한 답변도 가능한데요, 이는 대화형 AI와 에이전트로 가는 길에서 중요한 진보입니다. 스트로베리의 챗 봇 적용은 오리지널 모델의 증류(단순화된 소형) 버전을 적용할 계획이라고 언급되었습니다. 그렇다면 대형 모델은 어디에 사용될까요? 기사에 따르면 코드 네임 오리온(Orion)으로 불리는 신규 플래그십 LLM 학습을 위한 고품질 합성 데이터 생성에 활용되고 있습니다. 이를 통해 모델 에러를 줄이고 할루시네이션을 잡겠다는 것이지요. 샘 알트먼은 '좋은' 합성 데이터로 데이터 부족 이슈가 충분히 극복 가능하다는 언급을 했습니다. 고 퀄리티 합성 데이터는 절대적 데이터 양의 부족 이슈 뿐 아니라 모델 진보에서도 중요한 역할을 할 수 있습니다. 스트로베리 모델의 추론 성능을 여름에 국가 보안 기관에 시연했다는 내용도 포함되어 있습니다. AI 안전과 관련한 연방 기관 협력의 일부입니다. 이미 관련 프로세스를 진행했을 경우 안전 허들은 넘었다고 볼 수 있습니다. 그렇다면 Q*보다 뛰어나 보이는 Orion은 GPT-5(or GPT-Next) 일까요? 확정적인 것은 없지만, 지난 5월 샘 알트먼은 차세대 모델을 학습시킬 충분한 데이터가 존재한다고 언급했습니다. 해당 모델이 바로 다음 세대 모델이고, 올해 출시 예상 타임라인에 부합한다면, 학습을 위한 합성 데이터를 만들어 적용하기에 시차가 생기게 됩니다. Future 모델(차차기) 학습도 종종 언급되었던 만큼 내부적으로는 다수의 프로젝트가 진행중이라고 판단합니다. 차세대 모델의 등장은 현재 애매해보이는 생성 AI 산업의 트렌드를 가속시킬 수 있는 모멘텀입니다. 5/27일 안전 및 보안 위원회 설립과 함께 90일간 진행한 프로세스 및 안전 장치 평가 일정도 이달 말 끝나게 되는데요. 날씨도 선선해진 상황에서 새로운 바람이 불어오고 있습니다. 추가 업데이트해 드리겠습니다. (2024/8/28 공표자료)