OpenAI와 Microsoft는 ChatGPT를 사용하여 국가 지원 해커를 차단합니다.

ChatGPT 제조사인 OpenAI는 AI 챗봇을 사용하여 "악의적인" 활동을 강화하려는 국가 지원 해커들의 여러 네트워크를 방해했다고 밝혔습니다.

이 회사는 마이크로소프트 와 함께 중국 , 이란 , 북한 , 러시아 의 5개 그룹을 교란시켰다고 말했습니다 .

OpenAI는 여러 국가 관련 그룹이 AI 서비스를 사용하여 연구, 번역, 코딩 오류 찾기 및 기본 코딩 작업 실행을 통해 활동을 지원했다고 말했습니다.

 

ChatGPT 제작자는 다양한 그룹과 관련된 식별된 계정이 해지되었다고 말했습니다.

We disrupted five state-affiliated malicious cyber actors’ use of our platform.

Work done in collaboration with Microsoft Threat Intelligence Center. https://t.co/xpEeQDYjrQ

— OpenAI (@OpenAI) February 14, 2024

OpenAI는 “우리는 삶을 개선하고 복잡한 문제를 해결하는 데 도움이 되는 AI 도구를 구축하지만 악의적인 행위자가 때때로 사이버 작전을 촉진하는 등 다른 사람에게 해를 끼치기 위해 우리 도구를 남용할 수도 있다는 것을 알고 있습니다.”라고 말했습니다.

“악의적인 행위자 중에서 첨단 기술, 대규모 재정 자원, 숙련된 인력에 접근할 수 있는 국가 산하 단체는 디지털 생태계와 인간 복지에 고유한 위험을 초래할 수 있습니다.

“Microsoft Threat Intelligence와의 협력을 통해 우리는 악의적인 사이버 활동을 지원하기 위해 AI 서비스를 사용하려는 국가 관련 행위자 5명을 방해했습니다.

“이들 행위자의 활동은 우리가 외부 사이버 보안 전문가와 협력하여 실시한 이전 레드팀 평가와 일치합니다. 그 결과 GPT-4는 공개적으로 사용 가능한 비 AI로 이미 달성할 수 있는 것 이상으로 악의적인 사이버 보안 작업에 대해 제한적이고 증분적인 기능만 제공하는 것으로 나타났습니다. 전동 공구.”

작년 영국에서 개최된 AI 안전 서밋에서 세계 지도자들과 기술 기업들은 사이버 공격 및 기타 사악한 활동을 수행하는 데 도움이 되는 생성 AI 애플리케이션을 사용하는 악의적인 행위자의 잠재적 위험에 대해 논의했습니다.

 

영국 국립사이버보안센터(NCSC)는 또한 더 많은 아마추어 및 저숙련 해커들이 이미 생성 AI 도구를 사용하여 기술을 향상시키고 보다 효과적이고 설득력 있는 스팸 및 피싱 공격을 만들고 있다고 경고했습니다.

OpenAI는 자신이 방해한 여러 그룹이 자사 서비스를 사용하여 "피싱 캠페인에 사용할 수 있는" 콘텐츠 초안을 작성하고 제작해 왔다고 지적했습니다.