[Nas] TrueNAS SCALE 25.10 SMB 공유 설정 및 성능 최적화 완벽 가이드

목차

• 홈랩 NAS 쓰다가 SMB 때문에 삽질한 이야기
• SMB가 뭔지 잠깐만 짚고 가겠습니다
• TrueNAS SCALE SMB 설정: 단계별 가이드
• 1단계: ZFS 데이터셋(Dataset) 먼저 만들기
• 2단계: SMB 서비스 활성화
• 3단계: SMB 공유(Share) 생성
• 4단계: 로컬 사용자 및 권한 설정
• 성능 최적화: 이게 진짜 핵심이에요
• Samba 전역 설정 최적화 (smb.conf)
• ZFS 레코드 크기(Record Size) 최적화
• SMB 멀티채널(Multichannel) 설정
• Windows 클라이언트 측 최적화
• ⚠️ 자주 겪는 문제와 해결법
• 문제 1: Windows에서 자격 증명 오류가 계속 뜨는 경우
• 문제 2: macOS에서 연결 속도가 느린 경우
• 문제 3: 파일 복사 중 권한 오류
• 문제 4: 연결은 되는데 속도가 100MB/s를 못 넘는 경우
• 설정 검증: 제대로 됐는지 확인하기
• Windows에서 연결 및 속도 테스트
• TrueNAS Shell에서 Samba 상태 확인
• 실제 전송 속도 측정
• 2026년 기준 추가로 체크할 변화
• 추가 1: 현재 권장 버전은 25.10.4, 26은 아직 베타
• 추가 2: SMB 보안 옵션과 감사 로그도 같이 보세요
• 추가 3: Windows 11 24H2와 이름 규칙 이슈
• 마무리: 정리하면서 느낀 점

홈랩 NAS 쓰다가 SMB 때문에 삽질한 이야기

TrueNAS SCALE SMB 설정, 처음엔 진짜 쉬울 줄 알았거든요. 그냥 공유 폴더 만들고 Windows에서 접속하면 끝 아닌가? 했는데 현실은 늘 그렇듯 조금 달랐습니다. 속도가 애매하게 안 나오고, Windows에서 자격 증명 오류가 뜨고, 권한 문제로 파일이 안 열리고, 이런 자잘한 문제들이 생각보다 자주 생기더라고요.

그래서 이 글에서는 TrueNAS SCALE SMB 공유를 처음부터 다시 정리합니다. 특히 2026년 7월 기준으로 메뉴 구성, 보안 옵션, SMB 멀티채널, Windows 11 24H2 대응, ZFS 튜닝까지 최신 기준으로 묶어봤어요. 홈랩 NAS, 소규모 사무실 NAS 파일 서버, 영상 편집용 공유 스토리지 구성하시는 분들께 바로 써먹기 좋게 적어보겠습니다.

SMB가 뭔지 잠깐만 짚고 가겠습니다

SMB(Server Message Block)는 Windows 파일 공유의 사실상 표준 프로토콜입니다. 요즘은 macOS도 SMB를 기본으로 잘 붙고, 리눅스도 Samba로 호환이 잘 되기 때문에 가정용 NAS나 사무실 파일 서버에서는 제일 무난한 선택지예요.

특히 TrueNAS SCALE에서는 ZFS 데이터 무결성과 Samba의 성숙한 파일 공유 기능이 같이 가기 때문에, 권한만 제대로 잡아두면 꽤 안정적으로 굴러갑니다. 다만 기본값만 믿고 가면 속도나 ACL에서 아쉬울 수 있어서, 이번 글의 핵심은 바로 그 부분입니다.

TrueNAS SCALE SMB 설정: 단계별 가이드

이 글은 2026년 7월 기준으로 현재 일반 사용자에게 권장되는 TrueNAS SCALE 25.10.4 환경을 기준으로 적었습니다. 메뉴 이름은 25.04와도 거의 비슷하지만, 운영용으로는 25.10 계열을 보는 쪽이 맞습니다.

1단계: ZFS 데이터셋(Dataset) 먼저 만들기

먼저 풀(Pool) 아래에 SMB 전용 데이터셋을 하나 만드세요. 예를 들어 tank/share 같은 식으로요. TrueNAS에서는 공유를 풀 루트에 바로 걸기보다 데이터셋 단위로 끊어두는 게 관리가 훨씬 편합니다.

• 권장 예시: tank/share, tank/media, tank/projects
• 대용량 미디어 위주면 Record Size는 크게
• 문서/소스코드/자잘한 파일 위주면 너무 크게 잡지 않기

권한 유형은 SMB용이라면 NFSv4 ACL 기반으로 가는 게 편합니다. TrueNAS SCALE에서 SMB 공유를 만들 때 ACL 프리셋을 같이 적용할 수 있으니, 처음부터 POSIX 권한으로 억지로 버티는 것보다 SMB 흐름에 맞게 가는 편이 덜 고생합니다.

2단계: SMB 서비스 활성화

이제 System Settings > Services에서 SMB 서비스를 켭니다. 서비스 스위치만 올리고 끝내지 말고 설정 화면도 한 번 들어가 보세요.

• NetBIOS Name: NAS 이름 확인
• Workgroup: 보통 WORKGROUP
• Enable SMB1: 특별한 이유 없으면 끄기
• NTLMv1 Auth: 정말 레거시 장비가 아니면 끄기
• Multichannel: 다중 NIC 구성이라면 켜기

요즘 기준에서는 SMB1과 NTLMv1은 성능보다 호환성 때문에 켜는 옵션에 가깝습니다. 그리고 Windows 11 24H2 이후 환경에서는 NTLMv1을 켠다고 해서 해결되지 않는 경우도 많아서, 웬만하면 최신 인증 체계 기준으로 맞추는 게 맞습니다.

3단계: SMB 공유(Share) 생성

Shares > Windows Shares (SMB)로 들어가서 공유를 만듭니다. 여기서 중요한 건 이름보다 경로와 목적에 맞는 옵션입니다.

• Path: 아까 만든 데이터셋 경로 선택
• Name: Windows에서 보일 공유 이름
• Description: 나중에 구분하기 쉽게 적기
• Purpose 또는 Preset: 일반 공유인지, 멀티유저인지, 특수 워크로드인지 확인

TrueNAS SCALE 최신 UI에서는 공유 생성 후 ACL 적용과 서비스 시작을 바로 이어서 유도해주는 흐름이 꽤 잘 정리돼 있습니다. 예전처럼 만들고 나서 권한 누락으로 다시 돌아오는 일이 줄었어요. 다만 이미 권한 설계를 해둔 데이터셋이라면 자동 ACL 변경은 한 번 더 확인하고 진행하세요.

4단계: 로컬 사용자 및 권한 설정

다음은 사용자 계정입니다. 홈랩이면 로컬 사용자로 충분한 경우가 많고, 사무실이면 Active Directory 연동도 고려할 수 있습니다. 여기서는 가장 많이 쓰는 로컬 사용자 기준으로 갑니다.

• Users에서 SMB 접속용 계정 생성
• 공유 데이터셋 ACL에 해당 사용자 또는 그룹 추가
• 가능하면 사용자보다 그룹 중심으로 권한 설계

권한은 되도록 한 번에 설계하는 게 좋습니다. 읽기 전용 사용자, 읽기/쓰기 사용자, 관리자 그룹을 나눠두면 나중에 공유가 늘어나도 덜 꼬입니다. SMB 권한 문제는 대부분 서비스 문제가 아니라 ACL 설계에서 시작됩니다.

성능 최적화: 이게 진짜 핵심이에요

이제부터가 본게임입니다. SMB는 연결만 되면 끝이라고 생각하기 쉬운데, 실제 체감 성능은 네트워크, ZFS, 클라이언트 설정, 그리고 멀티채널 구성에서 갈립니다.

Samba 전역 설정 최적화 (smb.conf)

요즘 TrueNAS SCALE은 GUI에서 대부분 처리되기 때문에 예전처럼 무조건 튜닝 문자열을 잔뜩 넣는 방식은 추천하지 않습니다. 먼저 기본값으로 측정하고, 필요한 경우에만 최소한으로 조정하세요.

• AIO 관련 값은 최신 Samba 기본 동작을 먼저 믿고 측정
• SMB signing, encryption은 보안 요구사항과 CPU 여유를 같이 보기
• 기본 튜닝 없이도 2.5GbE, 10GbE에서는 네트워크가 먼저 병목인 경우가 많음

실무적으로는 불필요한 전역 튜닝을 줄이고, 멀티채널과 스토리지 레이아웃을 먼저 점검하는 쪽이 성공 확률이 높았습니다. smb.conf 만지기 전에 벤치마크부터 잡으세요.

ZFS 레코드 크기(Record Size) 최적화

여기가 진짜 중요합니다. 공유 용도가 뭔지에 따라 Record Size를 다르게 가져가야 해요.

• 대용량 영상, 백업 파일, ISO 위주: 큰 Record Size가 유리
• 문서, 사진, 프로젝트 파일, 소스코드 혼합: 너무 크게 잡지 않기
• 랜덤 I/O 많은 워크로드: 무조건 큰 값이 정답은 아님

파일 종류가 뒤섞여 있으면 데이터셋을 분리하는 게 제일 좋습니다. 하나의 공유에 모든 걸 몰아넣고 튜닝으로 해결하려고 하면 결국 평균 이하가 되기 쉽습니다.

SMB 멀티채널(Multichannel) 설정

2026년에도 체감 성능 향상에서 가장 확실한 카드 중 하나가 SMB 멀티채널입니다. TrueNAS SCALE 서비스 설정에서 멀티채널을 켜고, 클라이언트와 서버 양쪽 NIC 구성을 확인하세요.

• 서버와 클라이언트 모두 멀티 NIC 또는 RSS 지원 NIC면 유리
• 10GbE 하나보다 2.5GbE 여러 개에서 의외로 체감 차이 나는 경우 있음
• 스위치, 케이블, 드라이버 상태가 받쳐줘야 함

중요한 건 링크 수만 늘린다고 자동으로 빨라지는 건 아니라는 점입니다. Windows에서 실제로 멀티채널이 잡혔는지 확인해야 하고, 스토리지 쪽이 느리면 네트워크만 늘려도 한계가 분명합니다.

Windows 클라이언트 측 최적화

서버만 만져서는 끝이 아닙니다. Windows 클라이언트도 봐야 해요.

• 최신 NIC 드라이버 적용
• 절전 옵션 때문에 링크가 내려가지 않는지 확인
• SMB 연결을 IP 대신 호스트명으로 다시 테스트
• 백신 실시간 검사로 대용량 복사 속도 저하가 없는지 점검

Windows 11 24H2 이후에는 예전 레거시 인증 방식 의존성이 더 줄어든 쪽으로 보는 게 맞습니다. 예전 블로그 글처럼 보안 옵션을 마구 낮춰서 해결하는 방식은 이제 추천하기 어렵습니다.

⚠️ 자주 겪는 문제와 해결법

문제 1: Windows에서 자격 증명 오류가 계속 뜨는 경우

가장 흔한 원인은 세 가지입니다. 저장된 자격 증명이 꼬였거나, 실제 계정 비밀번호가 다르거나, ACL은 맞는데 공유 권한 흐름이 어긋난 경우예요.

• Windows 자격 증명 관리자에서 기존 NAS 항목 삭제
• TrueNAS 로컬 사용자 비밀번호 재확인
• ACL에 사용자 또는 그룹이 실제로 들어가 있는지 확인
• SMB1, Guest 접근에 기대고 있지 않은지 점검

문제 2: macOS에서 연결 속도가 느린 경우

macOS는 예전보다 SMB 호환성이 많이 좋아졌지만, 여전히 Finder 복사 체감과 실제 네트워크 처리량이 다르게 느껴질 때가 있습니다. 이럴 때는 Finder 감각보다 큰 파일 복사 기준으로 먼저 측정하세요.

그리고 Spotlight 인덱싱, 썸네일 생성, 네트워크 상태에 따라 체감 속도가 흔들릴 수 있습니다. 서버 문제로 단정하기 전에 같은 파일을 Windows에서도 비교해보면 원인 분리가 빨라집니다.

문제 3: 파일 복사 중 권한 오류

이건 거의 ACL 문제입니다. 특히 상위 데이터셋과 하위 디렉터리 권한이 뒤섞인 경우, 특정 폴더만 쓰기가 안 되는 식으로 나타납니다.

• 상속(Inherit) 여부 확인
• 상위/하위 ACL이 충돌하지 않는지 확인
• 관리자 계정으로 우회 테스트 후 일반 계정 권한 재설계

문제 4: 연결은 되는데 속도가 100MB/s를 못 넘는 경우

이 경우는 오히려 원인 찾기 쉽습니다. 대부분 1GbE 링크, 케이블 문제, NIC 협상 문제, HDD 병목, 또는 멀티채널 미적용입니다.

• 링크 속도 1Gbps/2.5Gbps/10Gbps 실제 협상 확인
• iperf 같은 네트워크 테스트와 파일 복사 테스트를 분리
• 단일 HDD 풀인지, RAIDZ인지, SSD 캐시 기대치가 과한지 확인

참고로 1GbE 환경에서 100MB/s 안팎이면 아주 이상한 수치가 아닙니다. 그보다 많이 기대했다면 네트워크부터 다시 봐야 합니다.

설정 검증: 제대로 됐는지 확인하기

Windows에서 연결 및 속도 테스트

Windows에서는 탐색기 접속만 보지 말고 실제 전송 테스트까지 보세요. 큰 단일 파일, 작은 파일 다건 복사, 그리고 여러 창 동시 복사를 각각 해보면 병목 위치가 꽤 잘 드러납니다.

멀티채널 여부는 PowerShell에서 SMB 연결 상태를 확인해보면 바로 감이 옵니다. 링크가 하나만 쓰이는지, 여러 채널이 잡히는지부터 확인하세요.

TrueNAS Shell에서 Samba 상태 확인

서버 쪽에서는 SMB 서비스가 정상 기동 중인지, 인터페이스가 제대로 붙었는지, 오류 로그가 없는지 확인합니다. 성능 문제가 있으면 서비스 오류보다 네트워크나 스토리지 병목이 더 흔하니 같이 보셔야 합니다.

실제 전송 속도 측정

테스트할 때는 한 가지 파일만 보지 마세요.

• 50GB 이상 대용량 파일
• 수천 개의 작은 파일 묶음
• 동시 접속 2~3대 환경

이 세 가지를 같이 보면, 네트워크가 빠른지, 메타데이터 처리에 약한지, ACL이 부담이 되는지 감이 옵니다. 진짜 운영 환경은 벤치마크 한 줄로 설명이 안 되거든요.

2026년 기준 추가로 체크할 변화

추가 1: 현재 권장 버전은 25.10.4, 26은 아직 베타

이 부분은 날짜가 지나면서 가장 빨리 낡는 정보라 업데이트가 필요했습니다. 2026년 7월 기준 TrueNAS 공식 소프트웨어 상태 페이지에서 일반 사용자용 권장 버전은 25.10.4이고, 이 빌드는 2026년 6월 3일 공개됐습니다. 반면 26.00-BETA.2는 2026년 6월 17일 기준 베타라서, 운영 NAS에는 아직 권장하기 어렵습니다.

즉, 블로그나 커뮤니티에서 26 계열 화면을 보고 따라 하기보다, 지금 실사용 목적이면 25.10 계열 문서 기준으로 맞추는 게 안전합니다.

추가 2: SMB 보안 옵션과 감사 로그도 같이 보세요

예전에는 SMB를 속도 위주로만 봤다면, 지금은 보안 설정도 같이 챙겨야 합니다. 특히 레거시 장비 때문에 SMB1이나 NTLMv1을 켜는 순간 공격면이 넓어질 수 있습니다.

• 특별한 이유 없으면 SMB1 비활성화 유지
• NTLMv1 인증은 레거시 장비 전용으로만 고려
• 민감한 공유라면 SMB 감사 로그(Audit Logging) 검토
• 필요 시 공유 단위 접근 이력 추적 정책 수립

회사 파일 서버나 팀 공유 스토리지라면 누가 언제 접근했는지 남기는 감사 로그도 생각보다 중요합니다. 보안 사고 대응이나 파일 유실 추적에 꽤 도움 됩니다.

추가 3: Windows 11 24H2와 이름 규칙 이슈

2026년 기준으로는 Windows 11 24H2 환경을 같이 고려하는 게 자연스럽습니다. 이 버전대에서는 예전 레거시 인증 우회 팁이 잘 안 통할 수 있고, 이름 규칙도 더 깐깐하게 보는 편입니다.

또한 TrueNAS 최신 문서에서는 NetBIOS 이름에 예약어를 쓰지 않도록 더 명확히 안내하고 있습니다. 괜히 애매한 호스트명이나 공유명을 쓰기보다 영문, 숫자, 짧은 식별자 위주로 정리해두는 게 문제 예방에 좋습니다.

마무리: 정리하면서 느낀 점

정리하면 TrueNAS SCALE SMB 설정은 예전보다 훨씬 쉬워졌습니다. 다만 성능과 안정성은 여전히 기본 개념을 알고 만져야 결과가 좋습니다. 데이터셋 분리, ACL 설계, 멀티채널, 네트워크 확인, 이 네 가지만 제대로 잡아도 체감이 꽤 달라집니다.

개인적으로는 smb.conf 세부 튜닝보다, 현재 권장 버전인 TrueNAS SCALE 25.10.4 기준으로 기본 구성을 단단하게 맞추고 실제 워크로드로 측정하는 쪽이 훨씬 낫다고 봅니다. 홈랩 NAS든 소규모 사무실 NAS든, 결국 잘 되는 설정은 화려한 옵션보다 검증된 기본기에서 나오더라고요.

🔄 마지막 업데이트: 2026년 07월