안녕하세요. 최근 발표된 기사에 따르면, OPEN AI가 지난달 출시한 '챗GPT 빌더'로 맞춤형 챗봇을 구축할 경우 사이버 범죄용 도구로 활용될 수 있다는 우려가 나왔습니다. 함께 자세히 알아보도록 하겠습니다.
OPEN AI '챗GPT 빌더'의 소개
먼저, '챗GPT 빌더'에 대해 간략히 소개하겠습니다.
이 모델은 OPEN AI에서 개발한 최신 자연어 생성 기술로, 맞춤형 챗봇을 쉽게 구축할 수 있습니다. 이름에서 알 수 있듯이 OpenAI의 GPT Builder를 사용하면 개인이 회사의 인기 있는 대규모 언어 모델(LLM) 기반 챗봇인 ChatGPT의 맞춤형 버전을 구축할 수 있습니다. 그리고 GPT 빌더 도구는 ChatGPT와 유사하게 자연어를 통해 작동합니다. 사용자는 원하는 종류의 챗봇과 기능을 입력하기만 하면 나머지는 ChatGPT 빌더가 수행합니다.
BBC의 테스트 결과
BBC는 챗GPT 빌더를 활용한 실험에서, 유료 버전에 가입한 후, '크래프티 이메일'이라는 맞춤형 챗봇을 만들었습니다. 챗봇은 몇 초 안에 사회학 리소스를 활용하여 다양한 언어로 매우 설득력 있는 해킹 및 사기 텍스트를 작성했습니다.
특히, 맞춤형 챗봇은 '하이맘' 문자, '나이지리아 왕자 이메일', 스미싱 메일, 암호화폐 사기 메시지, 스피어 피싱 이메일 등 5가지 사기 시나리오를 요청받아 수행했습니다. 이 중 맞춤형 챗봇은 대부분의 작업을 수행하고 일부 작업에서는 비윤리적이라는 메시지를 표시했습니다. 챗GPT 일반 버전은 대부분의 요청을 거부했고, 스피어 피싱 이메일 작성에서는 효과적이지 못했습니다. 반면에 맞춤형 챗봇인 크래프티 이메일은 모든 요청을 수락했습니다.
이 챗봇은 사용자에게 텍스트를 작성하도록 지시하면서, 링크를 클릭하거나 파일을 다운로드하도록 유도했습니다. 특히, 긴박감과 두려움을 조성하여 수신자가 메일 내용을 따라 하는 심리적인 트릭을 사용하도록 유도하는 지시가 추가되었습니다. 이 테스트를 통해 챗GPT 빌더의 맞춤형 챗봇이 다양한 사이버 범죄 행위를 촉발시킬 수 있다는 사실이 드러났습니다.
외부 자료와 전문가 의견
위 내용에 더해, 외부 자료와 전문가들의 의견을 확인해보겠습니다. 사이버 보안 회사 엑스트라홉의 수석 기술 관리자인 제이미 몰스는 맞춤형 GPT를 구축하면 사용자가 모델에 대한 규칙을 직접 정의할 수 있어, 가드레일 작동이 덜 효과적이라고 지적했습니다.
결론
이러한 사례들은 우리에게 OPEN AI '챗GPT 빌더'의 새로운 가능성과 함께, 그로부터 비롯될 수 있는 위험성에 대한 경각심을 불러일으킵니다. 사이버 범죄가 더욱 지능적이고 세련된 방식으로 진화하고 있는 현시점에서, 이러한 기술적인 발전이 어떻게 우리의 안전성에 영향을 미칠지 주시하고 대비해야 할 시점이 되었습니다.
이상으로 OPEN AI '챗GPT 빌더'의 암울한 활용에 대한 이야기를 마치겠습니다. 여러분의 안전은 언제나 최우선이며, 더 나은 디지털 환경을 위해 지속적인 감시와 대응이 필요합니다. 감사합니다~!
