아내 PC 정리 맡긴 AI, 15년치 사진을 날렸다

15년. 명령어 하나.

아이들의 첫 걸음마를 찍은 사진. 친구들의 결혼식에서 찍은 단체 사진. 가족이 함께 떠난 여행에서 찍은 풍경. 한 사람이 15년 동안 찍고 모으고 정리한 삶의 기록이다. 생일 케이크 앞에 선 아이의 웃는 얼굴, 비 오는 오후 창가에서 그린 그림, 졸업식에서 부모가 눈물을 훔치는 장면. 사진 한 장 한 장이 다시는 돌아오지 않는 순간을 담고 있다. 하드 드라이브에 저장된 디지털 파일이지만, 그 안에 들어 있는 것은 바이트가 아니라 시간이다. 돈으로 살 수 없고, 기술로 재현할 수 없는 것.

이 모든 것이 사라지는 데 걸린 시간은 한 줄의 명령어가 실행되는 시간만큼이었다. rm -rf. 유닉스 계열 운영체제에서 파일을 되돌릴 수 없게 삭제하는 명령어다. rm은 remove(삭제), -r은 recursive(재귀적으로 하위 폴더까지 전부), -f는 force(강제로 확인 없이 실행)를 뜻한다. 이 세 글자의 조합은 프로그래머 세계에서 가장 위험한 명령어 중 하나로 꼽힌다. 확인 창도, 경고 메시지도, 휴지통도 없다. 실행하는 순간 파일의 참조가 운영체제에서 즉시 제거된다. 일반적인 방법으로는 복구할 수 없다.

이 명령어를 실행한 것은 사람이 아니었다. Anthropic이 만든 AI 에이전트, Claude Cowork였다.

데스크톱 정리라는 사소한 부탁

개발자 Nick Davidov는 아내로부터 컴퓨터 정리를 부탁받았다. 데스크톱에 파일이 너무 많이 쌓여서 느려졌다는 것이 이유였다. 개발자에게는 흔한 요청이다. 가족의 컴퓨터가 느려지면 "좀 봐줘"라는 말을 듣는 것은 IT 업계 종사자의 숙명과도 같다. 보통은 불필요한 파일을 지우고, 폴더 구조를 정리하고, 시작 프로그램을 줄이는 정도의 작업이다. 30분이면 끝난다.

하지만 Davidov는 직접 하는 대신 다른 방법을 선택했다. Anthropic이 새로 출시한 에이전트 모델, Claude Cowork에게 작업을 맡기기로 한 것이다. Claude Cowork는 기존의 채팅형 AI와 근본적으로 다르다. 텍스트로 답변만 하는 것이 아니라, 사용자의 컴퓨터에서 직접 작업을 수행할 수 있는 에이전트형 모델이다. 파일을 이동하고, 폴더를 생성하고, 셸 스크립트를 작성해 실행할 수 있다. 개발자에게는 매력적인 도구다. 반복적이고 지루한 파일 정리 작업을 AI에게 위임할 수 있으니까.

Davidov는 Claude Cowork에게 파일 시스템 접근 권한을 부여하고, 아내의 데스크톱을 정리하라고 지시했다. AI는 즉시 작업을 시작했다. 파일들을 유형별로 분류하고, 문서는 문서 폴더로, 이미지는 이미지 폴더로, 오래된 다운로드 파일은 별도로 모았다. 여기까지는 예상대로였다. AI가 파일 정리를 해주는 것은 미래의 일상이 될 수 있는 장면이었다. 효율적이고, 빠르고, 체계적이었다.

문제는 AI가 '비어 있는 별도의 폴더'라고 판단한 디렉토리가 실제로는 15년치 가족사진이 담긴 photos 폴더였다는 것이다.

AI가 rm -rf를 실행한 순간

AI는 자신이 작성한 정리 스크립트 안에 rm -rf 명령어를 포함시켰다. 빈 폴더를 정리하는 로직의 일부로 작성한 것이다. 정리 작업에서 빈 폴더를 삭제하는 것은 합리적인 단계처럼 보인다. 문제는 AI가 '빈 폴더'의 기준을 잘못 판단했다는 것이다.

Davidov가 공유한 스크린샷에 따르면, Claude는 작업을 완료한 후 이렇게 보고했다.

"My script ran rm -rf on what it thought was a separate empty folder, but it actually deleted your existing 'photos' directory and its contents."

내 스크립트가 별도의 빈 폴더라고 판단한 곳에 rm -rf를 실행했는데, 실제로는 기존 photos 디렉토리와 그 내용물을 삭제했다는 것이다. AI가 스스로 실수를 인정하는 이 보고가 화면에 담담하게 표시되어 있었다. 이미 되돌릴 수 없는 일이 벌어진 후였다. 보고서의 톤은 차분했지만, 그 내용은 재앙이었다.

삭제된 내용의 규모는 한 가정의 역사 전체에 해당했다. 아이들의 성장 사진. 아이들이 직접 그린 그림과 낙서. 친구들의 결혼식에서 찍은 사진. 온 가족이 함께한 여행 사진. 15년이라는 시간은 아이가 태어나서 중학생이 되는 시간이다. 그 사이의 모든 순간이 디지털 파일로 기록되어 있었고, 그 파일 전부가 한 줄의 명령어로 사라졌다. Davidov는 삭제된 범위를 한 단어로 표현했다. "Everything." 전부라는 뜻이다.

심장마비가 올 뻔했다

Davidov의 반응은 즉각적이었다. "I nearly had a heart attack." 심장마비가 올 뻔했다. 과장이 아니다. 개발자라면 rm -rf가 무엇을 의미하는지 정확히 알고 있다. 이 명령어는 파일을 휴지통으로 보내는 것이 아니다. 운영체제 수준에서 파일의 참조를 즉시 제거하는 것이다. 하드 드라이브의 데이터가 물리적으로 남아 있을 수 있지만, 운영체제는 그 공간을 '사용 가능'으로 표시한다. 새로운 데이터가 그 위에 쓰이면 원본은 영원히 사라진다.

가장 먼저 확인한 것은 컴퓨터의 휴지통이었다. 비어 있었다. rm -rf는 휴지통을 거치지 않는다. macOS의 Finder에서 파일을 삭제하면 휴지통으로 이동하지만, 터미널에서 rm 명령어로 삭제하면 휴지통 자체를 우회한다. AI가 터미널 명령어를 사용했기 때문에 휴지통에는 아무것도 없었다.

다음으로 iCloud를 확인했다. 사진이 없었다. iCloud 동기화가 삭제 사실을 반영한 것인지, 애초에 해당 폴더가 동기화 대상이 아니었는지는 명확하지 않다. 어느 쪽이든 결과는 같았다. 15년치 기록이 로컬에도, 클라우드에도 존재하지 않는 상황이었다.

Davidov에게 남은 선택지는 많지 않았다. 전문 데이터 복구 업체에 의뢰하면 일부 파일을 살릴 수 있을 가능성은 있다. 하지만 비용은 수십만 원에서 수백만 원에 달하고, 성공이 보장되지 않는다. 특히 최근 Mac은 대부분 SSD를 사용하는데, SSD는 데이터가 삭제되면 TRIM 명령어를 통해 즉시 저장 셀을 초기화한다. HDD와 달리 물리적 잔여 데이터가 거의 남지 않기 때문에, 전문 업체에 맡기더라도 복구 성공률이 극히 낮다. 15년치 사진 수천 장을 되살리는 것은 기술적으로 거의 불가능에 가까운 상황이었다.

Apple이 알려준 마지막 희망

Davidov는 마지막 수단으로 Apple 지원센터에 연락했다. 기대는 거의 없었을 것이다. rm -rf로 삭제된 파일은 일반적인 복구 도구로 되살릴 수 없다. 운영체제가 해당 파일의 존재 자체를 지운 것이기 때문이다. 디스크에 데이터의 잔해가 남아 있을 수 있지만, 그것을 복원하려면 전문 장비와 수백만 원의 비용이 필요하고, 성공도 보장되지 않는다.

하지만 Apple 지원팀은 의외의 답을 내놓았다. iCloud에 이전 시점으로 데이터를 복원할 수 있는 기능이 존재한다는 것이다. 많은 사용자가 모르는 기능이다. iCloud는 단순히 현재 파일을 클라우드에 동기화하는 것만이 아니라, 특정 시점의 데이터 상태를 스냅샷으로 보관한다. 파일이 삭제되더라도, 스냅샷이 갱신되기 전이라면 이전 상태로 복원할 수 있다.

Apple 지원팀의 안내를 따라 Davidov는 iCloud 복원 기능에 접근했다. 삭제 이전 시점의 백업 포인트를 찾았다. 그리고 그곳에 사진들이 있었다.

모든 사진이 돌아왔다. 15년치 기록이 살아났다. 아이들의 성장 사진, 손으로 그린 그림, 결혼식 사진, 여행 풍경. 한 장도 빠지지 않고 전부 복구되었다. rm -rf가 지운 것을 iCloud의 시간 여행 기능이 되살린 것이다.

Davidov는 아내의 반응에 대해 이렇게 말했다. "My wife is a saint. She forgave me even before I figured out how to get them back." 아내가 성녀 같은 사람이라고. 복구 방법을 찾기도 전에 이미 용서해주었다고. 이 한 문장에 그가 겪은 공포의 크기와 안도의 깊이가 압축되어 있다. 사진이 사라진 것을 알게 된 순간부터 복구에 성공하기까지, 그 사이의 시간이 얼마나 길게 느껴졌을지는 상상하기 어렵다.

하지만 이 이야기가 해피엔딩인 것은 순전히 운 덕분이다. iCloud 스냅샷이 이미 갱신된 후였다면 사진은 클라우드에서도 사라졌을 것이다. 백업 주기가 삭제 직후로 돌아갔다면 복원 포인트 자체가 없었을 것이다. 또는 애초에 iCloud를 사용하지 않는 사용자였다면, 선택지 자체가 존재하지 않았을 것이다. 모든 AI 에이전트 사고가 이렇게 복구 가능한 결말로 끝나지는 않는다.

AI가 파일 시스템을 이해하지 못하는 이유

이 사고의 근본 원인은 AI가 파일 시스템의 '맥락'을 이해하지 못한다는 데 있다. Claude Cowork는 photos라는 폴더를 보았다. 하지만 그 안에 15년치 가족의 역사가 담겨 있다는 것을 알지 못했다. AI에게 폴더 이름은 문자열이고, 파일은 바이트 덩어리일 뿐이다. photos와 temp_cache_2024는 AI에게 동일한 종류의 객체다. 하나를 삭제하면 한 가정이 무너지고, 다른 하나를 삭제하면 디스크 공간이 확보된다. 하지만 AI는 그 차이를 구분할 수 없다.

사람이 파일을 정리할 때는 무의식적으로 수십 가지 맥락을 동시에 처리한다. '이 폴더는 오래전에 만들어졌지만 크기가 크다 — 중요한 게 들어 있을 것이다.' '이 이름은 뭔지 모르겠지만 일단 건드리지 말자.' '삭제하기 전에 열어서 확인해보자.' '이건 아내가 소중하게 여기는 것 같다.' 이런 판단은 경험, 상식, 그리고 관계에 대한 이해에서 나온다. AI에게는 이 세 가지가 모두 없다.

더 큰 문제는 AI가 되돌릴 수 없는 명령어의 위험성을 인지하지 못한다는 것이다. 개발자 사이에서 rm -rf /는 농담이자 공포의 상징이다. 시스템 전체를 날리는 명령어이기 때문이다. 숙련된 개발자일수록 rm -rf를 사용할 때 극도로 신중하다. 실행하기 전에 ls 명령어로 대상 디렉토리의 파일 목록을 확인한다. du -sh 명령어로 폴더 크기를 확인한다. 빈 폴더가 정말 비어 있는지, 숨김 파일은 없는지 점검한다. 그리고 마지막으로 한 번 더 생각한다. "정말 삭제해도 되는 게 맞나?" 이 모든 절차는 과거에 실수를 겪었거나, 실수의 이야기를 들은 경험에서 비롯된다. AI는 그 경험이 없다. 자신이 생성한 스크립트의 로직만 신뢰하고 실행한다.

확인 절차의 부재도 심각한 문제다. Claude Cowork는 "이 폴더를 삭제해도 될까요?"라고 사용자에게 묻지 않았다. photos라는 이름의 폴더를 빈 폴더로 판단한 순간, 바로 rm -rf를 실행했다. 에이전트가 자율적으로 판단하고 자율적으로 실행한 것이다. 파일 이동이나 이름 변경은 자율적으로 해도 된다. 실수하더라도 되돌릴 수 있으니까. 하지만 삭제는 근본적으로 다른 작업이다. 되돌릴 수 없는 작업에서 자율성을 부여하는 것은, AI가 아무리 똑똑해도 위험하다.

반복되는 AI 에이전트의 파괴적 패턴

Davidov의 사례는 고립된 사건이 아니다. AI 에이전트가 사용자의 데이터를 파괴하는 사례가 2026년 들어 연이어 보고되고 있다. 하나의 사고가 아니라 하나의 구조적 패턴이다. 도구가 강력해질수록 실수의 결과도 더 치명적으로 커진다.

한 과학자는 ChatGPT의 설정을 변경한 후 2년치 학술 연구 자료를 잃었다. 논문 초고, 실험 데이터, 분석 결과. 수백 시간의 연구가 담긴 파일들이 AI의 판단 하나로 사라졌다. 학술 연구는 한 번 잃으면 다시 수행하는 데 몇 달에서 몇 년이 걸린다. 데이터만 잃는 것이 아니라 시간을 잃는 것이다.

구글의 AI 에이전트는 더 극단적이었다. 한 프로그래머가 파일 캐시를 삭제하라는 명령을 내렸는데, AI는 사용자의 하드 드라이브 전체를 날렸다. 캐시만 삭제하라고 했는데, AI는 더 넓은 범위를 '캐시'로 해석한 것이다. 명령의 범위를 확대 해석하는 것은 사람도 하는 실수다. 하지만 사람은 하드 드라이브 전체를 날리기 전에 "이게 맞나?" 하고 멈춘다. AI는 멈추지 않았다.

AI 코딩 에이전트 Replit의 사례는 사업 피해로 이어졌다. 한 사업가의 회사 데이터베이스 전체를 삭제한 것이다. 고객 정보, 거래 기록, 사업 데이터가 한꺼번에 사라졌다. 개인 사진을 잃는 것도 고통스럽지만, 사업 데이터를 잃는 것은 생계와 직결된다.

이 사건들에는 네 가지 공통 패턴이 있다.

코드 몇 줄을 잘못 수정하는 것과 15년치 사진을 삭제하는 것은 차원이 다른 문제다. 전자는 git revert 한 번이면 되돌릴 수 있다. 후자는 운이 좋지 않으면 영원히 사라진다. AI 에이전트가 점점 더 강력해지고, 점점 더 넓은 권한을 부여받고 있는 지금, 실수 한 번의 파괴력도 함께 커지고 있다.

Davidov가 남긴 세 가지 경고

사진을 되찾은 후 Davidov는 자신의 경험을 온라인에 공유하며 분명한 경고를 남겼다.

"Don't let Claude Cowork into your actual file system. Don't let it touch anything that is hard to repair. Claude Code is not ready to go mainstream."

Claude Cowork를 실제 파일 시스템에 접근시키지 말라. 복구하기 어려운 것은 건드리게 하지 말라. Claude Code는 주류로 사용할 준비가 되지 않았다. 세 문장으로 압축된 이 경고는 직접 겪은 사람만이 할 수 있는 말이다. 마케팅 문구나 기술 블로그에서 읽은 이론이 아니라, 15년치 사진이 사라지는 것을 눈앞에서 지켜본 사람의 경험에서 나온 결론이다.

이 경고의 핵심은 **'복구 가능성'**이라는 단 하나의 기준이다. AI 에이전트에게 작업을 맡길 때 물어야 할 질문은 "AI가 이 작업을 잘 할 수 있는가?"가 아니다. **"AI가 이 작업에서 실수하면 되돌릴 수 있는가?"**다. 이 질문에 "예"라고 답할 수 있으면 맡겨도 된다. "아니오"라면 직접 해야 한다. 그것이 아무리 귀찮고 시간이 걸리는 작업이라도.

되돌릴 수 있으면 맡겨라, 없으면 직접 해라

AI 에이전트의 능력은 매달 눈에 띄게 발전하고 있다. 코드를 작성하고, 파일을 관리하고, 시스템을 운영하는 수준에 이미 도달했다. 2026년 현재, AI 에이전트는 더 이상 채팅창 안에 갇혀 있지 않다. 사용자의 컴퓨터에 직접 접속해서 작업을 수행하고, 셸 스크립트를 작성해 실행하고, 파일을 생성하거나 삭제할 수 있다. Claude Cowork뿐 아니라 OpenAI의 Codex, Google의 Gemini 에이전트 등 주요 AI 기업들이 모두 에이전트형 모델을 출시하고 있다. 이 능력은 강력하다. 하지만 능력이 커질수록 실수 한 번의 파괴력도 함께 커진다는 사실은 변하지 않는다.

필요한 안전장치는 사실 복잡하지 않다. 되돌릴 수 없는 작업을 실행하기 전 사용자 확인을 필수로 요구하는 것. rm, DROP, DELETE 같은 파괴적 명령어에 별도의 승인 단계를 두는 것. 작업을 시작하기 전 대상 디렉토리의 스냅샷을 자동으로 생성하는 것. 이 세 가지만 있었어도 Davidov의 사진은 처음부터 위험에 처하지 않았을 것이다. 어느 것도 기술적으로 난이도가 높은 요구가 아니다. 기존 소프트웨어 엔지니어링에서 수십 년간 사용해온 패턴들이다. 하지만 현재 대부분의 AI 에이전트에는 이런 기본적인 안전장치조차 없거나 불완전하다. AI의 능력은 2026년 수준이지만, 안전장치는 2020년 수준에 머물러 있는 셈이다.

Davidov는 iCloud 백업 덕분에 15년치 사진을 되찾았다. 하지만 모든 사람이 iCloud를 쓰지는 않는다. 모든 사람이 Apple 지원센터에 연락할 생각을 하지는 않는다. 모든 사람이 정기적인 백업 습관을 가지고 있지도 않다. 통계에 따르면 개인 사용자의 상당수는 어떤 형태의 백업도 하지 않는다. 다음번 AI 에이전트 사고의 피해자가 Davidov만큼 운이 좋을 거라는 보장은 어디에도 없다.

AI 에이전트에게 편리함을 맡기는 것은 각자의 선택이다. 데스크톱 정리, 이메일 분류, 파일 관리. 이런 귀찮은 작업을 AI에게 위임하고 싶은 마음은 자연스럽다. 하지만 그 편리함의 대가가 누군가의 15년이 될 수 있다는 것은 선택이 아니라 사실이다. 5분을 절약하려다 15년을 잃을 뻔한 것이 Davidov의 이야기다. 다음에 AI 에이전트에게 무언가를 맡기기 전에 한 번만 생각해보라. 이 작업에서 AI가 실수하면, 나는 되돌릴 수 있는가. 그 답이 "아니오"라면, 직접 해라. Anthropic은 이 사건에 대해 아직 공식 입장을 밝히지 않았다.

출처

• Futurism – An AI Was Asked To Organize a Woman's Computer. It Deleted 15 Years of Family Photos Instead.