AI · 기사
426B를 112GB로 줄인 MiniMax M3.1 Flash 무검열 GGUF, OrcaRouter 공개
매일타임즈 ·
한눈에 보기
싱가포르 컨티뉴엄 AI의 OrcaRouter가 MiniMax M3.1 Flash의 무검열 GGUF 모델을 공개했어요. GGUF는 PC에서 AI 모델을 돌리기 위한 파일 형식이에요. 원본 426B 규모 모델을 112GB로 압축해 128GB 메모리 기계 한 대에서 로컬로 돌릴 수 있다고 해요.
핵심 내용
- 어블리터레이션(AI가 거절하는 방향의 반응을 줄이는 작업)을 적용해 거부 반응을 크게 줄였어요.
- 회사는 추론(AI가 답을 만들어 내는 과정) 능력은 대부분 유지했다고 밝혔어요.
- 로컬 실행은 입력과 답변이 자기 장비 밖으로 나가지 않아요. 대신 메모리와 실행 환경은 직접 준비해야 해요.
- 독립 기관이 성능을 다시 측정한 자료는 아직 없어요.
왜 중요할까요?
큰 AI 모델을 개인 장비에서 직접 돌리는 길이 열리는 소식이에요. 다만 검열이 줄어든 모델이라 안전성 검증과 사용 조건을 함께 살펴볼 필요가 있어요.
원문과 출처
426B를 112GB로… OrcaRouter, MiniMax M3.1 Flash 무검열 GGUF 공개
매일타임즈 · 11월 3일 10:36 KST
매일타임즈에서 원문 읽기 ↗AI가 원문을 바탕으로 정리했어요. 틀린 내용이 있을 수 있어요. 저작권은 원 출처에 있어요. 매일타임즈.
같은 분야의 다른 소식
- 앤트로픽 투자·HBM·클로드까지, 한국 기업의 AI 3각 포석
미국 AI 기업 앤트로픽의 기업공개(IPO)를 계기로 한국 기업들이 AI 시장에서 여러 방향으로 존재감을 넓히고 있어요. SK텔레콤은 초기 투자로 큰 평가이익을 얻었어요. 삼성전자와 SK하이닉스는 반도체 공급 협력을 강화하고 있어요. 삼성SDS와 LG CNS는 앤트로픽의 AI 모델 클로드로 기업용 AI 시장에 들어가고 있어요.
뉴스웨이 · 11월 21일 06:10 KST - MIT·IBM 연구팀, 멀티모달 AI의 이해 한계 파헤쳐
MIT과 IBM 연구팀이 텍스트·이미지·소리를 함께 다루는 멀티모달 AI 모델의 약점을 연구하고 있어요. 이 모델들은 겉으로는 여러 정보를 잘 다루지만 실제 이해는 부족한 경우가 많아요. 팀은 MIT의 짐 글래스 연구원과 함께 새 시험 방법과 적은 데이터로 배우는 기법을 만들고 있어요.
MIT News · 11월 21일 06:00 KST - AI 공급망 허점으로 사용자 비밀 정보 대량 유출 확인
연구자들이 AI 서비스 여러 곳을 거치는 요청에 가짜지만 실제로 작동하는 비밀번호와 열쇠를 약 200만 개 심어 추적했어요. 그 결과 많은 비밀 정보가 새어 나가 공격자들이 이를 이용해 클라우드 계정에 접근했어요.
Ars Technica · 11월 21일 05:59 KST - ChatGPT에서 Shopify 쇼핑몰 비즈니스를 등록하는 방법 공개
이 영상은 Shopify 쇼핑몰을 ChatGPT에 연결해서 내 비즈니스를 등록(클레임)하는 방법을 보여줘요. 비즈니스 허브(Business Hub) 또는 Shopify 앱스토어에서 시작할 수 있어요. 연결한 뒤에는 비즈니스 정보를 관리해서 ChatGPT에 어떻게 보일지 조정할 수 있어요.
OpenAI 공식 YouTube · 11월 21일 05:48 KST