스크린샷
한줄평
“데이터를 밖으로 보내지 않고 로컬에서 AI를 돌리고 싶을 때 좋은 선택.”
이런 분께 내 PC에서 AI를 오프라인으로 돌려 쓰고 싶은 사람
좋은 점
- 대화 내용이 로컬에 머물러 프라이버시에 유리
- 오픈소스이며 여러 모델을 골라 쓸 수 있음
- 설치와 사용이 채팅 앱처럼 직관적
아쉬운 점
- 쓸 만한 속도를 내려면 PC 사양이 어느 정도 필요
- 모델 파일이 커서 저장 공간을 많이 씀
얀 소개
Jan은 대형 언어 모델을 내 컴퓨터에서 직접 돌려 쓰는 오픈소스 AI 어시스턴트다. 오픈소스로 공개된 모델을 내려받아 인터넷 연결 없이 대화할 수 있어, 입력한 내용이 외부 서버로 나가지 않는다는 점을 중시하는 사람에게 맞는다.
윈도우 설치 프로그램이 공식으로 제공되며, ChatGPT 같은 채팅형 인터페이스로 모델을 고르고 대화를 이어갈 수 있다. 다만 쓸 만한 속도를 내려면 어느 정도 사양의 CPU·메모리와, GPU가 있으면 더 좋다. 모델 파일 자체가 수 GB 단위라 저장 공간도 필요하다.
