챗GPT를 더 편리하게? 16개 악성 플러그인 적발

챗GPT를 더 편리하게? 16개 악성 플러그인 적발
Photo by Abid Shah / Unsplash
💡
Editor's Pick
- 챗GPT를 더 편하게 사용하게 해 준다는 플러그인 16개
- 15개는 크롬 환경에서, 1개는 에지 환경에서 발견됨
- 일부는 크롬 공식 추천 배지도 부착돼 있어

챗GPT를 보다 편리하게 사용할 수 있게 해 주는 브라우저 플러그인 16개가 사실은 악성 도구였음이 밝혀졌다. 보안 기업 레이어엑스시큐리티(LayerX Security)가 공개한 것으로, 악성 코드들은 주로 피해자의 디지털 크리덴셜을 가로채는 기능을 가지고 있다고 한다. 챗GPT라는 LLM 모델이나 플랫폼이 해킹되는 건 아니다.

16개 플러그인 중 15개는 크롬 브라우저를 위한 웹스토어에 이미 입점해 있으며, 심지어 하나는 스토어의 공식 추천 배지마저 달고 있었다. 나머지 1개는 MS 에지 브라우저용 플러그인이었다. 에지나 크롬이나 크로미움을 기반으로 하고 있기 때문에 구조와 위험성은 동일하며, 따라서 16개를 한데 묶어도 무리는 아니다.

현재까지 이 플러그인들은 총 900회 정도 다운로드 됐다. 16개가 900회이니 그리 많은 숫자라고는 할 수 없다. 레이어엑스 측은 “양동이  속 물방울” 수준이라고 표현하고 있다. 그러나 이를 다운로드 받아 설치한 사용자가 악성 플러그인을 적극 신뢰하여 계속 사용한다면 큰 사건으로 이어질 수 있다고 레이어엑스는 경고했다. 

16개 플러그인의 이름이 아직까지 전부 공개되지는 않았다. ‘챗GPT 보이스 다운로드’나 ‘프롬프트 관리자’와 같은 이름으로 유통됐다고 하는 설명이 전부다. 챗GPT를 이런 저런 방법으로 활용할 수 있게 해 주는 플러그인들이라는 특징을 가지고 있다고 한다. “이름을 공개하지 않은 것은, 이름을 공개해도 소용이 없기 때문입니다. 공격자들은 이름과 아이콘만 살짝 바꿔서 같은 악성코드를 얼마든지 재탕해 올릴 수 있습니다. 이름을 추적하는 것보다 ‘챗GPT 활용성 플러그인’이라는 기능성에 유의하는 게 낫습니다.”

사실상 당분간은 챗GPT의 기능성을 확장해준다거나 사용하기 편리하게 만들어준다는 설명이 붙은 브라우저 플러그인을 사용하지 말라는 것과 같은 말이다. 그도 그럴 것이 이런 플러그인들이 제공하는 기능들은 대부분 사용자들이 챗GPT 공식 서비스에 접속해 들어가 프롬프트를 직접 입력하는 것으로 충분히 대체 가능하기 때문이다. 약간의 불편함을 감수하면 훨씬 더 안전한 브라우저 환경을 조성할 수 있다는 게 레이어엑스 측의 설명이다.

크롬 웹스토어 추천 배지

이 사안에서 가장 문제시 되는 건 일부 악성 플러그인에 크롬 웹스토어 공식 추천 배지가 부착됐다는 것이다. 플러그인을 별도의 컴퓨터에 다운로드 받아 코드를 분석할 수 없는 일반 사용자들 입장에서는 ‘믿고 다운로드 받아도 된다’는 표시로, 크롬 웹스토어 측에서 악성코드에 공신력이라는 날개를 달아준 것이나 다름 없다. 레이어엑스는 “챗GPT 최적화 도구들이 흔해지고 있는 상황에서 이는 매우 심각한 일”이라고 지적했다. 

구글이 뭔가 잘못한 걸까? 보기 나름이다. “먼저 사용자들이 오해하지 말아야 할 것이 있습니다. 크롬 웹스토어의 추천 배지는 ‘구글이 보안 검증을 다 완료했다’는 의미를 전혀 가지지 않고 있습니다. 그러므로 이 배지가 붙어있다고 해서 ‘악성 요소가 없다’로 받아들이면 안 되며, 따라서 ‘안전하다’고 믿어서도 안 됩니다. 배지는 웹스토어 측이 요구하는 최소한의 품질 기준을 통과했다 정도의 의미일 뿐입니다.”

여러 자료를 종합했을 때 웹스토어의 추천 배지는 UI와 UX가 깔끔하냐, 스토어 정책을 잘 지키고 있느냐, 크래시가 없고 동작이 잘 되느냐, 사용자 신고가 들어왔느냐 여부로 결정되는 것으로 보인다. 외양이 거의 모든 것을 좌지우지 한다는 것. “악성코드는 보통 코드 분석을 통해 내부를 들여다 봐야 알 수 있는 것이죠. 겉모습으로 판단하여 부여하는 ‘추천 배지’는 보안과 전혀 관련이 없습니다.”

보안 검사는 아주 없는가?

그렇다고 보안 검사를 아주 안 하는 건 아니다. 레이어엑스의 설명에 의하면 “자동화 된 정적 분석만” 실시한다고 한다. “이미 널리 알려진 악성 패턴의 존재 유무만 훑는 거라고 할 수 있습니다. 플러그인 설치 직후에 발동되는 악성코드라면 여기에 걸리기 쉽죠. 하지만 사용자의 로그인 행위가 있은 후에 세션 토큰을 탈취하는 방식의 지능형 공격에는 속수무책입니다.”

실제 이번 16개 악성 플러그인들은 전부 ‘지능형 공격’을 수행하고 있었다. “아무 일도 하지 않다가 사용자가 챗GPT에 로그인을 해야만 작동하기 시작했습니다. 공격자들 편에서 웹스토어 추천 배지 메커니즘을 정확히 이해한 것으로 보입니다. 그리고 악성 플러그인들에 악성 요소들이 첨가되어 있을 뿐 그 외 다른 기능들은 정상적으로 작동합니다. 즉 악성 요소만 빼면 정상 플러그인이라는 것이죠.”

아직 정확히 확인된 건 아니지만 이 16개 플러그인들이 유포 초기에는 아무런 악성 행위를 하지 않았을 가능성도 높다. 사용자들 사이에서 어느 정도 평판과 인지도를 쌓고, 더불어 신고가 들어가는 걸 최소화 하기 위해서였던 것으로 추정된다. 그렇게 해서 받은 추천 배지는 이후 사용자들을 속이는 데 확실한 도움이 되었을 것으로 레이어엑스는 추측한다.

16개 플러그인, 하나의 캠페인

레이어엑스는 이 16개 플러그인이 우연히 같은 시기에 발견된 게 아니라고 주장한다. “단일 조직이 악성 플러그인을 대량으로 만들어 한꺼번에 살포했을 가능성이 높습니다. 코드 구조가 비슷하며, 개발자의 코딩 실력이 다 같은 수준인 것으로 분석됐습니다. 또한 모두 동일한 악성 도메인과 연결돼 있기도 했습니다. 이것이 우연의 일치일 수는 없습니다.”

하지만 그 배후 세력이 누구인지, 정확히 어떤 이유로 로그인 크리덴셜 정보를 수집했는지는 아직 다 조사되지 않았다. “결론을 내리기에는 다운로드 수와 피해 규모가 미미합니다. 아무래도 캠페인의 초기 단계에 덜미가 잡힌 것으로 보입니다. 이제는 이런 플러그인을 설치해 본 경험을 가진 사용자들 편에서 삭제하여 피해를 줄이는 일이 남았습니다.”

사용자들의 경우 이런 사건이 있을 때 반드시 기억해야 할 것이 있다고 레이어엑스는 강조한다. “플러그인은 원래부터 공격자들이 자주 이용하는 수단입니다. 어떤 플러그인이든 설치 전에 ‘꼭 필요한가?’를 객관적으로 물을 수 있어야 합니다. 단순 ‘편리함’ 외에 얻을 게 없다면 되도록 설치하지 않는 게 안전합니다. 이번 플러그인들 역시 ‘챗GPT 기본 사이트’에 접속만 할 수 있다면 없어도 되는 것들이었습니다.”🆃🆃🅔

by 문가용 기자(anotherphase@thetechedge.ai)


챗GPT, 클로드, 제미나이...차별없이 위험한 이유
💡Editor’s Pick - 모든 인공지능 모델 공통으로 위협하는 셰도우이스케이프 - 문제는 인공지능과 사용자 데이터베이스 연결해주는 MCP - 소리소문 없이 인공지능 통해 민감 정보 대량 유출 가능 인공지능 모델들을 위협할 수 있는 새로운 공격 기법이 발견됐다. 다행히 보안 기업 오퍼란트AI(Operant AI)가 해커들보다 먼저 발견해 세상에 알렸고, 따라서 실제 공격에
크롬미움 브라우저 노리는 ‘논리 시한폭탄’, 브래시 공격
💡Editor’s Pick - 크로미움 기반 브라우저 전부 비상 - DOM 연산 과도히 수행하게 해 브라우저 마비 - 공격자 편에서 시간 설정 가능하다는 게 특히 위험 크로미움(Chromium)의 렌더링 엔진인 블링크(Blink)에서 심각한 취약점이 발견됐다. 이를 익스플로잇 하는 데 성공할 경우 수초 만에 브라우저에 충동 오류를 일으킬 수 있다고

Read more

[TE머묾] AI 시대의 내적 체중

[TE머묾] AI 시대의 내적 체중

💡Editor's Pick - AI의 강력함 인정하지만, 우리의 과민 반응도 없지 않아 - 피셔들과의 장난질, 이제 그만하기로 - 기술의 발전상, 이리 저리 알아보는 게 중요 달리는 버스 안에 붙어 있는 ‘기사 실명’이라는 안냇말을 보고 1초 정도 뜨악했다. 동공이 커지고, 운전기사 쪽으로 황급히 고개를 돌렸다가, 다시 안냇말을 살피며 ‘아,

By 문가용 기자
[포인트 콕콕] 멀웨어와 결합하며 더 무서워진 클릭픽스

[포인트 콕콕] 멀웨어와 결합하며 더 무서워진 클릭픽스

💡Editor's Pick - 클릭픽스 확산과 진화 속도, 무시하면 큰일 - 베놈 멀웨어를 피해자가 직접 실행하도록 유도하면서 공격 속도 증가 - 앞으로도 더 진화된 클릭픽스 나올 가능성 높아 클릭픽스가 우습나? 그렇다면 오산이다. 흔한 소셜엔지니어링 기법의 변종일 뿐이라고 얕봐서는 큰코 다친다. 특히 최근 해커들은 클릭픽스 기법에 베놈 스틸러(Venom Stealer)

By 문가용 기자
크로아하트먼 曰, “AI 슬롭, 빠르게 해결되는 중”

크로아하트먼 曰, “AI 슬롭, 빠르게 해결되는 중”

💡Editor's Pick - 커널 생태계서 영향력 높은 인물, "AI가 변했다" - 얼마 전까지 AI가 만드는 쓰레기가 오픈소스에서 큰 문제였는데 - 단 1인의 소감일 뿐? 아직 뒷받침 될 만한 추가 증언은 없어 ‘AI가 쓰레기를 생성한다’는 경고의 목소리가 여기저기서 나오고 있는 가운데, 갑자기 상황이 바뀌었다는 증언이 나오기

By 문가용 기자
왜 우리나라 해커들은 제품이 아닌 사람을 팔게 되는가

왜 우리나라 해커들은 제품이 아닌 사람을 팔게 되는가

최근 Youtube를 통해 하나의 영상을 흥미롭게 끝까지 시청했다. 영상을 보면서 영상을 제작한 사람은 누구인가? 어떻게 이런 생각을 하게 되었는가? 등이 궁금했다. 그러다 문득 영상을 통해 규제 대응, 눈앞의 프로젝트 등의 논평을 들으면서 자칫 잘못하면 인재들이 잘못된 선택을 하고 있으며 그 결과 세계적인 기업에 밀리는 상황에 이르렀다고 인식할 수도 있겠다 싶었다.

By Donghwi Shin, Jin Kwak