WhatsApp 도움말에 숨겨진 LLM 지침…“규제기관을 권하지 말라”
조사에서 공개 도움말 페이지에 삽입된 챗봇 지침이 발견됐고, Meta는 지원 봇 문구가 버그로 노출됐다고 설명했다.
TL;DR
- Redact는 WhatsApp 도움말 페이지 80개에서 숨겨진 언어모델 지침 102개를 확인했다고 밝혔다.
- 일부 지침은 특정 상황에서 데이터 보호 규제기관에 연락하라고 권하지 말도록 챗봇에 지시했다.
- Meta는 지원 챗봇 지침이 버그로 공개됐으며 이를 수정했다고 설명했다.
Redact는 10월 8일부터 18일까지 WhatsApp 도움말 페이지 545개 중 80개에서 숨겨진 지침 블록 102개를 발견했다고 보도했다. 조사에 따르면 이 내용은 지원 챗봇용이었지만 웹페이지에도 노출돼 있었다. [1] [2]
Redact가 소개한 지침 중 하나는 특정 이용자 지원 상황에서 데이터 보호 기관이나 규제기관에 연락하라고 권하지 말도록 챗봇에 지시했다. 이 발견만으로 실제 대화에서 챗봇이 해당 지침을 얼마나 따랐는지는 확인할 수 없다. [1] [2]
Meta 대변인 Joshua Breckman은 WIRED에 이 문구가 WhatsApp Support with AI용 지침이며 버그 때문에 공개 페이지에 나타났다고 설명했다. 회사는 WIRED의 문의 뒤 버그를 수정했다고 밝혔다. [2]
Redact는 10월 9일의 보관본에는 해당 지침이 있었지만 10월 18일 사본에서는 보이지 않았다고 전했다. 이는 공개 페이지에서 제거됐다는 점을 뒷받침하지만, 챗봇 내부 지침이 바뀌었는지 또는 유사한 문구가 다른 곳에 남았는지는 확인되지 않았다. [1] [2]
Why it matters
이 사건은 자동 고객지원과 독립적인 구제 절차 접근 사이의 경계를 구체적으로 묻는다. Meta의 설명은 공개 노출 경위를 제시하지만 실제 지원 결과에 미친 영향은 확인되지 않았다.
Editor's note
지침은 Redact의 페이지 분석에 근거하며, Meta의 설명은 Malwarebytes 보도를 통해 전했다.