Reddit r/LocalLLaMA (Meta 계정) · 10월 16일 02:03
출처 이미지 · Reddit r/LocalLLaMA (Meta 계정)
Meta가 가중치를 공개한 대형 멀티모달 모델을 내놔서, 개발자가 자체 인프라나 호스팅 API로 실험할 수 있게 됐어요.
이번 모델은 텍스트·이미지·음성·영상을 입력받아 텍스트로 답해요. Meta 말로는 한 번에 다룰 수 있는 문맥이 최대 100만 토큰이에요. 토큰은 AI가 글을 나눠 처리하는 단위라서, 긴 자료를 넣는 작업에 관심 있는 개발자라면 살펴볼 만해요.
모델 전체 크기는 8160억 파라미터이고, 답을 만들 때마다 그중 420억 개가 활성화돼요. 여기서 주의할 게 있어요. Meta 개발 문서에 따르면 자체 서버에서 실행하려면 전체 가중치를 메모리에 올려야 해서, 일반적인 420억 파라미터 모델 수준의 장비를 생각하면 안 돼요.
가중치는 공개됐고 vLLM·SGLang 같은 실행 엔진도 안내됐어요. GPU를 직접 마련하지 않는 호스팅 API 선택지도 발표 당일부터 제공한다고 해요. 코딩이나 에이전트 작업에 붙여 볼 계획이라면 먼저 배포 방식과 필요한 하드웨어를 확인해 보세요.
※ 가중치와 호스팅 API가 공개됐어요. 라이선스 세부 조건과 비용은 별도로 확인해야 해요.
원문 열기 ↗ Reddit r/LocalLLaMA (Meta 계정)
함께 확인한 원문 ↗ Muse Spark Open - Meta Model API
Hugging Face · 10월 15일 09:00
출처 이미지 · Hugging Face
FLUX.3 Image Klein이 Diffusers를 지원해 이미지 생성·편집부터 화면 속 요소 배치까지 한 모델로 시험할 수 있어요.
이미지 속 물체를 어디에 놓을지 글로만 설명하기 답답할 때가 있죠. 이 모델은 프롬프트에 경계 상자를 넣어 위치를 지정할 수 있어요. 경계 상자는 이미지의 특정 영역을 좌표로 표시한 사각형이에요.
Diffusers에서는 공개된 두 체크포인트로 텍스트에서 이미지를 만들거나 참고 이미지 여러 장을 바탕으로 편집할 수 있어요. 빠른 생성용 체크포인트와 추가 학습에 쓸 수 있는 기본 체크포인트가 나뉘어 있어요. 예를 들면 참고 이미지 속 물체의 원래 위치와 옮길 위치를 각각 지정하는 식이에요.
속도 수치는 장비 조건과 함께 봐야 해요. Hugging Face가 공개한 측정에서는 H100 GPU 한 대로 빠른 생성용 모델을 돌렸을 때, 1024×1024 이미지 생성에 평균 1.93초가 걸렸어요. 기존 작업 흐름에 넣기 전에는 예제와 함께 메모리 사용량도 확인해 보세요.