터보퀀트: 왜 모두가 ‘KV 캐시’를 줄이려 하는가

터보퀀트: 왜 모두가 ‘KV 캐시’를 줄이려 하는가

터보퀀트: 왜 모두가 ‘KV 캐시’를 줄이려 하는가 Document AI 기업 사이냅소프트입니다. 사이냅 OCR IX에 적용된 구글의 최신 양자화 기술 ‘터보퀀트(TurboQuant)’가 어떤 맥락에서 등장했고, 왜 의미가 있는지 짚어봅니다.   01.AI의 기억력은 좋아지고, GPU의 부담도 커진다  지난 2~3년 사이 AI는 비약적으로 기억력이 좋아졌습니다. 몇 해 전엔 1만 토큰만 다뤄도 길다고 했는데, 지금은 12만 토큰이...
슬랙 메시지 3만개, 그런데 왜 아무것도 남은 게 없을까?

슬랙 메시지 3만개, 그런데 왜 아무것도 남은 게 없을까?

슬랙 메시지 3만개, 그런데 왜 아무것도 남은 게 없을까? 안녕하세요. 도큐먼트 AI 기업 사이냅소프트 입니다. 요즘 슬랙, Teams, 구글 드라이브 같은 협업툴 하나쯤은 대부분 쓰고 계시죠.그런데 막상 쓰다 보면 이런 생각 드신 적 없으셨나요? “툴은 있는데, 왜 정보는 여전히 흩어져 있지?”오늘은 그 이야기를 해보려 해요. 읽다 보면 “우리 팀 얘기네” 하는 순간이 꼭 한 번은 올 거예요 😄 |협업툴은 있는데, 왜 지식은 여전히...
[기술블로그] EP9. 사용자의 첫 5분을 상상하는 일: 신입 개발자의 온보딩 플로우 구현기

[기술블로그] EP9. 사용자의 첫 5분을 상상하는 일: 신입 개발자의 온보딩 플로우 구현기

[기술블로그] EP9. 사용자의 첫 5분을 상상하는 일: 신입 개발자의 온보딩 플로우 구현기 안녕하세요! 키냅스(Kynapse)의 풀스택 개발을 맡고 있는 개발자 윤유빈입니다. 개발자로서 첫 단독 기능을 맡게 되었을 때, 저는 그동안 많이 다뤄 본 작업들과는 조금 결이 다른 작업을 받았습니다. 버그 수정도, 기존 화면 개선도 아닌 “온보딩을 만들어 보자”라는 제안이었죠. 솔직히 처음엔 기능에 대한 의문이 앞섰습니다.   “지금도 문제가...

사이냅 문서뷰어

어디서 어떻게 사용되고 있을까요?

사이냅 문서뷰어의 적용사례를 만나보세요

[개인정보 수집, 이용에 대한 동의 절차]

사이냅 문서뷰어 적용사례를 만나보세요

차원이 다른 HTML5 웹에디터

사이냅 에디터

사이냅 에디터가 어디에 활용될 수 있을까요?
다양한 적용사례를 만나보세요

[개인정보 수집, 이용에 대한 동의 절차]

한 차원 높은 HTML5 웹에디터를 만나보세요