Synology NAS SSH 접속 오류, “Permission denied” 해결 방법 및 원인 분석

최종 수정일: 2025년 09월 19일

Synology NAS에 SSH로 접속하려는데, 올바른 비밀번호를 입력해도 “Permission denied” 오류가 발생해 당황스러우셨죠? 저도 최근 비슷한 문제를 겪으며 여러 방법을 시도했지만, 결국 해결하지 못하고 시간을 낭비했던 경험이 있습니다. 이 글에서는 제가 겪었던 문제의 원인과 해결 과정, 그리고 같은 상황을 겪고 계신 분들에게 도움이 될 만한 핵심 정보를 상세하게 공유해 드리겠습니다.

흔하게 발생하는 SSH 접속 오류 증상들

NAS에 SSH로 접속할 때 발생하는 오류는 다양합니다. 그중 가장 흔한 증상 중 하나가 바로 ‘Permission denied’ 오류입니다. 이 오류는 말 그대로 ‘접근 권한이 거부되었다’는 의미를 나타내며, 비밀번호를 올바르게 입력했음에도 불구하고 접속이 허용되지 않을 때 나타납니다. 대부분의 사용자는 이 오류가 발생하면 방화벽 설정, IP 차단 목록, 혹은 계정 권한 문제 등을 의심하게 됩니다. 저 역시 처음에는 NAS의 보안 설정을 꼼꼼히 확인하고 새로운 계정을 생성해 보기도 했지만, 해결되지 않았습니다. 이러한 시도는 문제 해결에 도움이 되지 않았고, 오히려 원인을 더 깊은 곳에서 찾아야 한다는 것을 깨닫게 되었습니다.

다른 일반적인 오류로는 Connection refused (연결 거부)가 있습니다. 이 경우 NAS의 SSH 서비스 자체가 활성화되지 않았거나, 포트가 올바르게 설정되지 않았을 가능성이 높습니다. 또한, Connection timed out (연결 시간 초과)은 네트워크 문제나 방화벽 설정으로 인해 NAS에 도달하지 못하는 경우에 주로 발생합니다. 이처럼 다양한 오류 메시지들은 각기 다른 원인을 시사하므로, 오류 메시지를 정확히 파악하는 것이 문제 해결의 첫걸음입니다.

해결의 실마리를 찾다: 기술 지원팀의 도움

며칠 동안 혼자서 문제를 해결하려다 결국 Synology 기술 지원팀에 문의했습니다. 전문 엔지니어는 원격으로 제 NAS에 접속하여 시스템 로그와 각종 설정 파일을 꼼꼼히 진단했습니다. 그리고 마침내 문제의 원인을 찾아냈는데, 저의 예상과는 전혀 다른 곳에 있었습니다. 바로 NAS의 SSH 서비스 설정 파일인 sshd_config가 임의로 수정되어 있었던 것입니다.

시놀로지 기술팀 답변

저 역시 전문가는 아니기에, SSH 접속 설정을 할 때 챗gpt의 도움을 받았었습니다. 그때 의도치 않게 중요한 설정 파일인 sshd_config가 수정되었던 것 같습니다. sshd_config 파일은 SSH 서버의 동작 방식을 정의하는 중요한 설정 파일입니다. 예를 들어, 어떤 포트를 사용할지, 어떤 사용자만 접속을 허용할지, 비밀번호 인증을 사용할지 아니면 키 인증만 사용할지 등 모든 핵심 설정이 이 파일에 담겨 있습니다. 이 파일을 수정하면서 의도치 않게 접속 권한 관련 설정이 잘못 변경되었고, 이로 인해 올바른 비밀번호를 입력해도 접속이 거부되었던 것입니다.

엔지니어는 수정된 파일을 원래 상태로 되돌려 주었고, 그 후 다시 SSH 접속을 시도하니 거짓말처럼 한 번에 로그인이 성공했습니다. 이 경험을 통해 혼자 해결하기 어려운 문제는 전문가의 도움을 받는 것이 가장 빠르고 확실한 방법임을 다시 한번 깨달았습니다.

문제의 원인 증상 해결 방법
sshd_config 파일 수정 ‘Permission denied’ 오류 기술 지원을 통한 파일 복원 또는 백업된 파일로 교체
SSH 포트 변경 ‘Connection refused’ 오류 Synology DSM에서 SSH 포트 확인 및 변경
방화벽 규칙 ‘Connection timed out’ 오류 방화벽 규칙에 SSH 포트(기본 22) 허용 규칙 추가
계정 권한 부족 ‘Permission denied’ 오류 해당 계정에 SSH 접속 권한 부여 (DSM 제어판에서 설정)

Synology NAS SSH 접속 오류의 근본적인 원인과 재발 방지 방법

이번 문제의 가장 큰 교훈은 중요한 설정 파일은 함부로 건드리지 않는 것입니다. 특히 SSH와 같은 보안상 민감한 서비스의 설정 파일(sshd_config)을 임의로 수정하면 예기치 않은 오류가 발생할 수 있습니다. 꼭 필요한 경우가 아니라면 기본 설정을 유지하는 것이 가장 안전하며, 만약 수정을 해야 한다면 반드시 원본 파일을 백업해두어야 합니다.

또한, Synology DSM(DiskStation Manager) 내에서 제공하는 설정을 최대한 활용하는 것이 좋습니다. DSM의 ‘제어판’ > ‘터미널 및 SNMP’ 메뉴에서 SSH 서비스를 활성화하고, 포트를 변경하는 등 기본적인 설정을 변경할 수 있습니다. 이 방법을 사용하면 파일 수정으로 인한 오류를 예방할 수 있습니다.

자주 발생하는 sshd_config 수정으로 인한 오류 예시:

  1. PermitRootLogin 설정: 루트(root) 계정의 SSH 접속을 허용할지 여부를 결정하는 설정입니다. 이 설정을 잘못 변경하면 관리자 계정으로 접속하려 해도 거부될 수 있습니다.
  2. PasswordAuthentication 설정: 비밀번호 인증 방식을 사용할지 여부를 결정합니다. 이 값을 no로 설정하면 오직 키 인증으로만 접속이 가능해져 비밀번호로 로그인하려는 시도가 모두 거부됩니다.
  3. AllowUsers 또는 AllowGroups 설정: 특정 사용자나 그룹만 SSH 접속을 허용하도록 설정합니다. 이 리스트에 본인 계정이 포함되어 있지 않으면 접속이 불가능해집니다.

이러한 설정들은 매우 강력하고 민감하기 때문에, 정확한 내용을 알지 못하고 변경하는 것은 매우 위험합니다.

전문가의 도움과 백업의 중요성

Synology NAS에 SSH 접속 오류가 발생했다면, 먼저 DSM 내의 설정들을 확인해 보시고, 그래도 해결되지 않는다면 시간을 낭비하지 마시고 기술 지원팀에 문의하는 것을 강력하게 추천합니다. 특히 ‘Permission denied’ 오류는 계정 문제나 방화벽 외에 sshd_config 파일 문제일 가능성도 있으니, 전문가의 진단이 큰 도움이 될 수 있습니다.

이번 경험을 통해 저는 복잡한 기술 문제는 전문가의 도움을 받는 것이 가장 효율적이라는 것을 다시 한번 깨달았습니다. 또한, 중요한 시스템 설정 파일을 다룰 때는 항상 신중해야 하며, 변경 전에는 반드시 백업을 해두는 습관을 들여야 합니다.