Strix Halo 로컬 AI 추론 서버 만들기
초급20분2026-06-03
채용 JD, 기업 분석, 자기소개서, 면접 복기 자료를 외부 서비스에 올리지 않고 Strix Halo 장비에서 로컬 AI로 처리할 수 있도록 실행 설정과 점검 파일을 정리합니다. Qwen GGUF 모델용 llama.cpp 실행 스크립트, 성능 비교 메모 템플릿, 설정 점검용 자동화 파일과 안내 문서를 만들어 실제 장비로 옮겨 쓸 수 있는 준비물을 완성합니다.
이 코칭은 터미널에서 진행됩니다
오른쪽 패널에서 설치 명령어를 복사하세요이런 걸 배워요
- 로컬 AI 서버 실행에 필요한 설정 항목을 업무 목적에 맞게 정리합니다.
- Qwen GGUF 모델을 실행하는 llama.cpp 명령을 스크립트로 남깁니다.
- 채용 자료 분석용 성능 비교 메모를 작성합니다.
- 실제 서버 실행 전 설정 파일 누락 여부를 안전하게 점검합니다.
어떻게 진행해요
1. 환경 확인하기
2. 업무 목적 정하기
3. 서버 실행 스크립트 만들기
4. 성능 기록 메모 만들기
5. 설정 점검하기
6. 사용 안내서 남기기
AI 튜터가 각 단계를 하나씩 안내해줄 거예요