Post #545

예상보다 빨라진 오픈AI의 스트로베리 수확 시즌 - 이전에는 경험해보지 못한 빨간 맛 안녕하세요 삼성증권 글로벌 SW 담당 이영진입니다. 가을 경 출시된 것이라는 소식이 있었던 오픈AI의 스트로베리(Strawberry)가 텍스트 전용 버전으로 2주 빠르면 1주 이내 공개될 것이라는 보도가 나왔습니다. 스트로베리는 특히 추론 성능 개선을 달성했다고 알려졌습니다. 이를 위해 답변 전 '생각'하는 단계를 거치는데요, 기존에 CoT(Chain of Thought) 프롬프팅을 입력해 구현해야 했던 부분을 스스로 수행하고 더 나은 결과를 도출합니다. 하지만 초기 테스터에 따르면 실망스러운 측면도 있다고 합니다. GPT-4o 보다 분명 개선된 성능이지만 추가 프로세스를 거쳐 응답에서 10~20초가 소요되는데요 간단한 답변을 위해 굳이 스트로베리를 사용해야 하는가?라는 의견입니다. 간단한 답변에는 응답 속도를 높이기 위해 '생각' 프로세스를 거치지 않는 구조를 구성한 것 같지만, 아직 일부 버그가 있는 모습입니다. '스트로베리가 출시된다'는 팩트만으로도 기대감이 높아지고 있지만, 성능과 공개 범위 그리고 가격(비용)은 추가로 고려해야 할 요인입니다. 스트로베리는 복잡한 다중 쿼리를 처리해야 하는 케이스에 최적화되어 있을 것입니다. 수학 및 코딩 문제 해결뿐 아니라 브레인스토밍이나 계획 수립 등 주관적 작업에서 오류를 감소시킬 수 있지요 하지만 고성능이 Use 케이스의 급격한 증가를 의미하는 것을 아닙니다. 또한 일반 B2C 유저 입장에서는 체감되는 개선 폭이 제한적일 수도 있습니다(결국 스트로베리는 엔터프라이즈 확장 목적일까요?) 공개 범위도 중요한 고려 사항입니다. 스트로베리는 챗GPT 일부로 제공되지만 독립 제품으로 봐야 하고, 제공 방식은 아직 미정입니다. 챗GPT 내 드롭다운 메뉴를 통해 모델을 선택하는 방식을 취할 가능성이 높아보이네요 오픈AI는 AI 선두 기업으로 다양한 프로덕트 파이프라인을 보유하고 있지요. 하지만 스트로베리가 서치GPT, Sora 그리고 보이스모드처럼 Waitlist를 받거나 일부 유저 대상으로만 공개된다면 오픈AI에게 또 속았네란 말이 다시 나올 수밖에 없습니다. 마지막은 가격(비용)입니다. 스트로베리는 구동에 필요한 컴퓨팅 파워가 크다고 알려졌습니다. 물론 증류된 소형 버전을 활용하겠지만 현재 모델 대비 추론 비용은 높을 수밖에 없습니다. 스트로베리를 활용하기 위한 새로운 구독 플랜 출시도 배제할 수 없습니다. 2,000달러는 아니더라도 비용을 충당해야겠지요 물론 추론을 위한 컴퓨팅 파워 부족이 심화된다면 인프라 기업 입장에서는 긍정적 요인이 될 수 있습니다. 마이크로소프트가 오픈AI 추론 수요를 위해 오라클 인프라를 활용하는 파트너십을 맺은 것도 계획이 있을 것입니다. 전일 마이크로소프트 CTO 케빈 스콧이 컨퍼런스에서 매우 중요한 AI 프로덕트 출시에 대해 언급하며 기대감을 높혔습니다. 추가로 GPT-4.5는 10월 GPT-5는 빠르면 12월 또는 내년 1Q/2Q 쯤 공개된다는 루머도 나오고 있는데요, AI 모멘텀의 공백기에서 스트로베리의 새로운 맛이 힘을 줄 수 있을까요? 추가 업데이트해 드리겠습니다. (2024/9/11 공표자료)