가늠 테크 세미나: 온디바이스 AI를 현장에 올리는 법

가늠은 4월 29일 성수동 사옥에서 기업 IT·현장 시스템 담당자를 대상으로 테크 세미나를 열었습니다.

첫 번째 세션: 작게 만들면 무엇을 잃는가

임도하 엔지니어는 문서 모델을 4비트로 양자화했을 때 항목 유형별로 정확도가 어떻게 달라지는지 측정한 결과를 공유했습니다. 숫자 항목이 먼저 흔들린다는 점과, 민감한 층만 원래 정밀도로 남기는 혼합 방식을 소개했습니다.

두 번째 세션: 평균이 아니라 최대값

강민재 엔지니어는 검사 라인에서 가장 느린 한 장의 처리 시간을 줄이기 위해 전처리 위치를 바꾸고 전송을 분리한 사례를 발표했습니다.

질의응답

참석자들은 단말 수백 대의 모델 버전 관리와 오프라인 환경의 로그 수집 방법을 가장 많이 질문했습니다. 이 내용은 다음 세미나의 주제로 이어질 예정입니다.

다음 세미나

다음 세미나 일정은 뉴스 페이지에서 안내합니다.