AI 기반 기능
LM Studio는 로컬 및 오픈 소스 LLM(대형 언어 모델)을 실험하기 위해 설계된 사용자 친화적인 데스크톱 애플리케이션입니다.이를 통해 사용자는 Hugging Face에서 ggml 호환 모델을 검색, 다운로드 및 실행할 수 있습니다.이 앱은 간단하고 강력한 모델 구성 및 추론 사용자 인터페이스를 제공하므로 LLM을 쉽게 탐색하고 상호 작용할 수 있습니다. LM Studio의 주목할만한 기능 중 하나는 플랫폼 간 호환성으로, 사용자는 다양한 운영 체제에서 애플리케이션을 실행할 수 있습니다.또한 앱은 사용 가능한 경우 GPU를 활용하여 모델 실행 중 성능을 최적화합니다. LM Studio를 사용하면 사용자는 인터넷 연결 없이 랩톱에서 LLM을 실행할 수 있으므로 완전한 오프라인 액세스가 보장됩니다.인앱 채팅 UI를 통해 또는 OpenAI 호환 로컬 서버를 설정하여 모델을 활용할 수 있는 옵션이 있습니다.또한 사용자는 애플리케이션 내의 HuggingFace 저장소에서 호환되는 모델 파일을 편리하게 다운로드할 수 있습니다. 또한 LM Studio는 새롭고 주목할만한 LLM을 검색하기 위한 간소화된 인터페이스를 제공하여 사용자 경험을 향상시킵니다.Llama 2, Orca, Vicuna, NousHermes, WizardCoder 및 Hugging Face의 MPT를 포함하여 광범위한 ggml Llama, MPT 및 StarCoder 모델을 지원합니다. LM Studio의 개발은 llama.cpp 프로젝트에 의해 가능하며 지정된 조건에 따라 개인 용도로 제공됩니다.업무용으로 사용하는 경우 사용자는 LM Studio 팀에 문의하는 것이 좋습니다.