챗GPT를 더 편리하게? 16개 악성 플러그인 적발

챗GPT를 더 편리하게? 16개 악성 플러그인 적발
Photo by Abid Shah / Unsplash
💡
Editor's Pick
- 챗GPT를 더 편하게 사용하게 해 준다는 플러그인 16개
- 15개는 크롬 환경에서, 1개는 에지 환경에서 발견됨
- 일부는 크롬 공식 추천 배지도 부착돼 있어

챗GPT를 보다 편리하게 사용할 수 있게 해 주는 브라우저 플러그인 16개가 사실은 악성 도구였음이 밝혀졌다. 보안 기업 레이어엑스시큐리티(LayerX Security)가 공개한 것으로, 악성 코드들은 주로 피해자의 디지털 크리덴셜을 가로채는 기능을 가지고 있다고 한다. 챗GPT라는 LLM 모델이나 플랫폼이 해킹되는 건 아니다.

16개 플러그인 중 15개는 크롬 브라우저를 위한 웹스토어에 이미 입점해 있으며, 심지어 하나는 스토어의 공식 추천 배지마저 달고 있었다. 나머지 1개는 MS 에지 브라우저용 플러그인이었다. 에지나 크롬이나 크로미움을 기반으로 하고 있기 때문에 구조와 위험성은 동일하며, 따라서 16개를 한데 묶어도 무리는 아니다.

현재까지 이 플러그인들은 총 900회 정도 다운로드 됐다. 16개가 900회이니 그리 많은 숫자라고는 할 수 없다. 레이어엑스 측은 “양동이  속 물방울” 수준이라고 표현하고 있다. 그러나 이를 다운로드 받아 설치한 사용자가 악성 플러그인을 적극 신뢰하여 계속 사용한다면 큰 사건으로 이어질 수 있다고 레이어엑스는 경고했다. 

16개 플러그인의 이름이 아직까지 전부 공개되지는 않았다. ‘챗GPT 보이스 다운로드’나 ‘프롬프트 관리자’와 같은 이름으로 유통됐다고 하는 설명이 전부다. 챗GPT를 이런 저런 방법으로 활용할 수 있게 해 주는 플러그인들이라는 특징을 가지고 있다고 한다. “이름을 공개하지 않은 것은, 이름을 공개해도 소용이 없기 때문입니다. 공격자들은 이름과 아이콘만 살짝 바꿔서 같은 악성코드를 얼마든지 재탕해 올릴 수 있습니다. 이름을 추적하는 것보다 ‘챗GPT 활용성 플러그인’이라는 기능성에 유의하는 게 낫습니다.”

사실상 당분간은 챗GPT의 기능성을 확장해준다거나 사용하기 편리하게 만들어준다는 설명이 붙은 브라우저 플러그인을 사용하지 말라는 것과 같은 말이다. 그도 그럴 것이 이런 플러그인들이 제공하는 기능들은 대부분 사용자들이 챗GPT 공식 서비스에 접속해 들어가 프롬프트를 직접 입력하는 것으로 충분히 대체 가능하기 때문이다. 약간의 불편함을 감수하면 훨씬 더 안전한 브라우저 환경을 조성할 수 있다는 게 레이어엑스 측의 설명이다.

크롬 웹스토어 추천 배지

이 사안에서 가장 문제시 되는 건 일부 악성 플러그인에 크롬 웹스토어 공식 추천 배지가 부착됐다는 것이다. 플러그인을 별도의 컴퓨터에 다운로드 받아 코드를 분석할 수 없는 일반 사용자들 입장에서는 ‘믿고 다운로드 받아도 된다’는 표시로, 크롬 웹스토어 측에서 악성코드에 공신력이라는 날개를 달아준 것이나 다름 없다. 레이어엑스는 “챗GPT 최적화 도구들이 흔해지고 있는 상황에서 이는 매우 심각한 일”이라고 지적했다. 

구글이 뭔가 잘못한 걸까? 보기 나름이다. “먼저 사용자들이 오해하지 말아야 할 것이 있습니다. 크롬 웹스토어의 추천 배지는 ‘구글이 보안 검증을 다 완료했다’는 의미를 전혀 가지지 않고 있습니다. 그러므로 이 배지가 붙어있다고 해서 ‘악성 요소가 없다’로 받아들이면 안 되며, 따라서 ‘안전하다’고 믿어서도 안 됩니다. 배지는 웹스토어 측이 요구하는 최소한의 품질 기준을 통과했다 정도의 의미일 뿐입니다.”

여러 자료를 종합했을 때 웹스토어의 추천 배지는 UI와 UX가 깔끔하냐, 스토어 정책을 잘 지키고 있느냐, 크래시가 없고 동작이 잘 되느냐, 사용자 신고가 들어왔느냐 여부로 결정되는 것으로 보인다. 외양이 거의 모든 것을 좌지우지 한다는 것. “악성코드는 보통 코드 분석을 통해 내부를 들여다 봐야 알 수 있는 것이죠. 겉모습으로 판단하여 부여하는 ‘추천 배지’는 보안과 전혀 관련이 없습니다.”

보안 검사는 아주 없는가?

그렇다고 보안 검사를 아주 안 하는 건 아니다. 레이어엑스의 설명에 의하면 “자동화 된 정적 분석만” 실시한다고 한다. “이미 널리 알려진 악성 패턴의 존재 유무만 훑는 거라고 할 수 있습니다. 플러그인 설치 직후에 발동되는 악성코드라면 여기에 걸리기 쉽죠. 하지만 사용자의 로그인 행위가 있은 후에 세션 토큰을 탈취하는 방식의 지능형 공격에는 속수무책입니다.”

실제 이번 16개 악성 플러그인들은 전부 ‘지능형 공격’을 수행하고 있었다. “아무 일도 하지 않다가 사용자가 챗GPT에 로그인을 해야만 작동하기 시작했습니다. 공격자들 편에서 웹스토어 추천 배지 메커니즘을 정확히 이해한 것으로 보입니다. 그리고 악성 플러그인들에 악성 요소들이 첨가되어 있을 뿐 그 외 다른 기능들은 정상적으로 작동합니다. 즉 악성 요소만 빼면 정상 플러그인이라는 것이죠.”

아직 정확히 확인된 건 아니지만 이 16개 플러그인들이 유포 초기에는 아무런 악성 행위를 하지 않았을 가능성도 높다. 사용자들 사이에서 어느 정도 평판과 인지도를 쌓고, 더불어 신고가 들어가는 걸 최소화 하기 위해서였던 것으로 추정된다. 그렇게 해서 받은 추천 배지는 이후 사용자들을 속이는 데 확실한 도움이 되었을 것으로 레이어엑스는 추측한다.

16개 플러그인, 하나의 캠페인

레이어엑스는 이 16개 플러그인이 우연히 같은 시기에 발견된 게 아니라고 주장한다. “단일 조직이 악성 플러그인을 대량으로 만들어 한꺼번에 살포했을 가능성이 높습니다. 코드 구조가 비슷하며, 개발자의 코딩 실력이 다 같은 수준인 것으로 분석됐습니다. 또한 모두 동일한 악성 도메인과 연결돼 있기도 했습니다. 이것이 우연의 일치일 수는 없습니다.”

하지만 그 배후 세력이 누구인지, 정확히 어떤 이유로 로그인 크리덴셜 정보를 수집했는지는 아직 다 조사되지 않았다. “결론을 내리기에는 다운로드 수와 피해 규모가 미미합니다. 아무래도 캠페인의 초기 단계에 덜미가 잡힌 것으로 보입니다. 이제는 이런 플러그인을 설치해 본 경험을 가진 사용자들 편에서 삭제하여 피해를 줄이는 일이 남았습니다.”

사용자들의 경우 이런 사건이 있을 때 반드시 기억해야 할 것이 있다고 레이어엑스는 강조한다. “플러그인은 원래부터 공격자들이 자주 이용하는 수단입니다. 어떤 플러그인이든 설치 전에 ‘꼭 필요한가?’를 객관적으로 물을 수 있어야 합니다. 단순 ‘편리함’ 외에 얻을 게 없다면 되도록 설치하지 않는 게 안전합니다. 이번 플러그인들 역시 ‘챗GPT 기본 사이트’에 접속만 할 수 있다면 없어도 되는 것들이었습니다.”🆃🆃🅔

by 문가용 기자(anotherphase@thetechedge.ai)


챗GPT, 클로드, 제미나이...차별없이 위험한 이유
💡Editor’s Pick - 모든 인공지능 모델 공통으로 위협하는 셰도우이스케이프 - 문제는 인공지능과 사용자 데이터베이스 연결해주는 MCP - 소리소문 없이 인공지능 통해 민감 정보 대량 유출 가능 인공지능 모델들을 위협할 수 있는 새로운 공격 기법이 발견됐다. 다행히 보안 기업 오퍼란트AI(Operant AI)가 해커들보다 먼저 발견해 세상에 알렸고, 따라서 실제 공격에
크롬미움 브라우저 노리는 ‘논리 시한폭탄’, 브래시 공격
💡Editor’s Pick - 크로미움 기반 브라우저 전부 비상 - DOM 연산 과도히 수행하게 해 브라우저 마비 - 공격자 편에서 시간 설정 가능하다는 게 특히 위험 크로미움(Chromium)의 렌더링 엔진인 블링크(Blink)에서 심각한 취약점이 발견됐다. 이를 익스플로잇 하는 데 성공할 경우 수초 만에 브라우저에 충동 오류를 일으킬 수 있다고

Read more

가장 ‘핫’한 인공지능 도구 둘, 멀웨어 배포처로 활용돼

가장 ‘핫’한 인공지능 도구 둘, 멀웨어 배포처로 활용돼

💡Editor's Pick - 인공지능 도구 클로드코드와 몰트봇, 악성코드 유포 - 인공지능이 스킬을 자동으로 다운로드 받아 설치한다는 사실 악용 - 공격자는 단일 인물 혹은 세력...신원 파악은 아직 현 시점 인공지능 업계에서 가장 많은 관심을 받고 있는 도구인 클로드코드(Claude Code)와 몰트봇(Moltbot)이 악성코드 유포에 악용됐다는 사실이

By 문가용 기자
음악 레이블 빅3와 스포티파이, 안나스아카이브 고소

음악 레이블 빅3와 스포티파이, 안나스아카이브 고소

💡Editor's Pick - 얼마 전 스포티파이에서 8600만 곡 가져간 안나스아카이브 - 스포티파이와 빅3가 뭉쳐 이들 고소 - 현재 안나스아카이브는 침묵 중...가처분 명령만 내려져 책과 논문 등을 불법으로 모아 배포하는 사이트인 안나스아카이브(Anna’s Archive)가 갑자기 음악에 손을 댔다가 세계 거대 음악 엔터테인먼트 회사들로부터 집중 공격을 받기

By 문가용 기자
무기 정교하게 가다듬은 북한, 한국은 비상

무기 정교하게 가다듬은 북한, 한국은 비상

💡Editor's Pick - 북한의 래버린스천리마, 세 그룹으로 나뉘어 - 기존 래버린스천리마에 암호화폐 탈취 전문 그룹 두 개 - 늘 그랬듯, 한국을 공격 훈련장이자 실험 무대로 활용할 듯 북한의 악명 높은 해킹 그룹 래버린스천리마(Labyrinth Chollima)가 세 개의 조직으로 분파했다고 보안 기업 크라우드스트라이크(CrowdStrike)가 분석했다. 크라우드스트라이크는 이

By 문가용 기자
[모집] 더테크엣지의 ‘테크 영어 루틴’인 톡섹을 공개합니다

[모집] 더테크엣지의 ‘테크 영어 루틴’인 톡섹을 공개합니다

💡Editor's Pick - TTE TalkSec이라는 소그룹 영어 모임, 곧 시작 - 프로그램의 목적은 영어 그 자체라기보다 영어 정복 '루틴' - 이른 아침 혹은 저녁 늦게...양자택일 얼마 전 저희 더테크엣지에서는 ‘테크와 보안 분야의 영어를 같이 익히는 모임’에 대해 공지를 올렸습니다. 대략의 얼개만 공개한 상황에서 적잖은

By 문가용 기자