심층 분석: AI 코딩 어시스턴트가 생성한 취약성 탐색
어디를 보든 거의 모든 업종에서 AI 기술에 대한 집착이 계속되고 있습니다.소프트웨어 개발 시 빠른 기능 생성에 대한 해답으로 일부 사람들로부터 찬사를 받고 있지만 속도 향상에는 대가가 따릅니다. 도구 자체의 상황에 대한 인식 부족으로 인해 코드베이스에 심각한 보안 버그가 발생할 가능성과 생산성을 높이고 까다로운 개발 시나리오에 대한 해답을 생성하기 위해 이를 사용하는 개발자의 낮은 수준의 보안 기술이 있기 때문입니다.
Large Language Model (LLM) 기술은 보조 툴링의 급격한 변화를 의미하며, 안전하게 사용된다면 많은 소프트웨어 엔지니어들이 갈망하는 페어 프로그래밍 동반자가 될 수 있습니다.하지만 AI 개발 도구를 제대로 사용하지 않으면 단 한 가지 부정적인 영향을 미칠 수 있다는 사실이 빠르게 확인되었습니다. 2023년 연구 스탠포드 대학교 (Stanford University) 의 발표에 따르면 AI 어시스턴트에 의존하면 코드가 전반적으로 버그가 많고 안전하지 않을 뿐만 아니라 출력의 안전성에 대한 신뢰가 높아질 가능성이 높습니다.
완벽한 LLM 기술을 향한 경쟁이 치열해짐에 따라 도구가 계속 개선될 것이라고 가정하는 것은 타당하지만, 다음을 포함한 많은 권장 사항이 있습니다. 새로운 행정 명령 바이든 행정부에서 뿐만 아니라 인공 지능 법 EU에서 - 어떤 경우에도 사용이 까다로울 수 있습니다.개발자는 AI 도구의 출력에 대한 코드 수준의 보안 기술, 인식 및 비판적 사고를 연마하여 유리한 출발을 할 수 있으며, 결과적으로 더 높은 수준의 엔지니어가 될 수 있습니다.
AI 코딩 어시스턴트는 어떻게 취약점을 유발하나요? 우리의 새로운 공개 미션을 플레이하세요 직접 확인해 보세요!
예: '채터GPT'의 크로스 사이트 스크립팅 (XSS)
우리의 새로운 공개 사명은 인기 있는 LLM의 친숙한 인터페이스를 보여주고 다음을 활용합니다. 진짜 코드 스니펫은 2023년 11월 말에 생성되었습니다.사용자는 이 스니펫을 해석하여 의도한 목적으로 사용될 경우 발생할 수 있는 잠재적 보안 위험을 조사할 수 있습니다.
“해당 함수를 통해 내용이 전달되는 p HTML 요소의 내용을 변경하는 JavaScript 함수를 작성할 수 있습니까?” 라는 프롬프트를 기반으로 합니다.AI 어시스턴트는 충실하게 코드 블록을 생성하지만 모든 것이 보이는 것과 다릅니다.
챌린지를 아직 플레이하지 않으셨나요?그렇지 않다면 지금 시도해 보세요 더 읽기 전에.
... 자, 이제 완료하셨으니 문제의 코드가 크로스 사이트 스크립팅 (XSS) 에 취약하다는 것을 알게 될 것입니다.
XSS는 웹 브라우저의 핵심 기능을 조작하여 가능합니다.신뢰할 수 없는 입력이 페이지의 출력으로 렌더링되지만 실행 가능하고 안전한 코드로 잘못 해석되는 경우 발생할 수 있습니다.공격자는 입력 매개 변수 내에 악의적인 스니펫 (HTML 태그, JavaScript 등) 을 삽입할 수 있습니다. 이 스니펫은 브라우저에 다시 반환될 때 데이터로 표시되는 대신 실행됩니다.
소프트웨어 개발에 AI 코딩 어시스턴트를 안전하게 사용
A 최근 설문조사 작업 중인 개발팀 중 거의 대부분 (96%) 이 워크플로우에서 AI 어시스턴트를 사용하기 시작했으며, 80% 는 보안 정책을 우회하여 툴킷에 보관하기도 했다고 밝혔습니다.또한 절반 이상이 제너레이티브 AI 도구가 일반적으로 안전하지 않은 코드를 생성한다는 사실을 인정했지만, 그렇다고 해서 도입이 늦어지지는 않았습니다.
소프트웨어 개발 프로세스의 새로운 시대가 도래함에 따라 이러한 도구의 사용을 억제하거나 금지하는 것은 효과가 없을 것입니다.대신 조직은 개발 팀이 보안이나 코드 품질을 희생하지 않고도 효율성과 생산성 향상을 활용할 수 있도록 해야 합니다.이를 위해서는 보안 코딩 모범 사례에 대한 정밀 교육이 필요하며, 특히 AI 보조 코드 출력의 잠재적 위협을 평가할 때 보안 우선 사고방식으로 행동하도록 비판적 사고 능력을 확장할 기회를 제공해야 합니다.
추가 읽기
XSS에 대한 일반적인 내용은 다음을 확인하십시오. 종합 가이드.
보안 코드 작성 방법에 대해 자세히 알아보고 싶으신가요? 위험 완화?우리를 시험해 보세요 XSS 인젝션 챌린지 무료.
더 많은 무료 코딩 가이드라인에 관심이 있다면 확인해 보세요. 시큐어 코드 코치 보안 코딩 모범 사례를 최신 상태로 유지할 수 있도록 도와줍니다.
.avif)
Secure Code Warrior致力于在整个软件开发生命周期中保护代码，并帮助组织建立将网络安全置于首位的文化。无论您是应用安全管理员、开发人员、首席信息安全官还是任何与安全相关的人员，我们都能协助您的组织降低与不安全代码相关的风险。
预约演示
Laura Verheyde 是Secure Code Warrior 的一名软件开发人员，主要负责研究漏洞并为Missions 和编码实验室创建内容。
어디를 보든 거의 모든 업종에서 AI 기술에 대한 집착이 계속되고 있습니다.소프트웨어 개발 시 빠른 기능 생성에 대한 해답으로 일부 사람들로부터 찬사를 받고 있지만 속도 향상에는 대가가 따릅니다. 도구 자체의 상황에 대한 인식 부족으로 인해 코드베이스에 심각한 보안 버그가 발생할 가능성과 생산성을 높이고 까다로운 개발 시나리오에 대한 해답을 생성하기 위해 이를 사용하는 개발자의 낮은 수준의 보안 기술이 있기 때문입니다.
Large Language Model (LLM) 기술은 보조 툴링의 급격한 변화를 의미하며, 안전하게 사용된다면 많은 소프트웨어 엔지니어들이 갈망하는 페어 프로그래밍 동반자가 될 수 있습니다.하지만 AI 개발 도구를 제대로 사용하지 않으면 단 한 가지 부정적인 영향을 미칠 수 있다는 사실이 빠르게 확인되었습니다. 2023년 연구 스탠포드 대학교 (Stanford University) 의 발표에 따르면 AI 어시스턴트에 의존하면 코드가 전반적으로 버그가 많고 안전하지 않을 뿐만 아니라 출력의 안전성에 대한 신뢰가 높아질 가능성이 높습니다.
완벽한 LLM 기술을 향한 경쟁이 치열해짐에 따라 도구가 계속 개선될 것이라고 가정하는 것은 타당하지만, 다음을 포함한 많은 권장 사항이 있습니다. 새로운 행정 명령 바이든 행정부에서 뿐만 아니라 인공 지능 법 EU에서 - 어떤 경우에도 사용이 까다로울 수 있습니다.개발자는 AI 도구의 출력에 대한 코드 수준의 보안 기술, 인식 및 비판적 사고를 연마하여 유리한 출발을 할 수 있으며, 결과적으로 더 높은 수준의 엔지니어가 될 수 있습니다.
AI 코딩 어시스턴트는 어떻게 취약점을 유발하나요? 우리의 새로운 공개 미션을 플레이하세요 직접 확인해 보세요!
예: '채터GPT'의 크로스 사이트 스크립팅 (XSS)
우리의 새로운 공개 사명은 인기 있는 LLM의 친숙한 인터페이스를 보여주고 다음을 활용합니다. 진짜 코드 스니펫은 2023년 11월 말에 생성되었습니다.사용자는 이 스니펫을 해석하여 의도한 목적으로 사용될 경우 발생할 수 있는 잠재적 보안 위험을 조사할 수 있습니다.
“해당 함수를 통해 내용이 전달되는 p HTML 요소의 내용을 변경하는 JavaScript 함수를 작성할 수 있습니까?” 라는 프롬프트를 기반으로 합니다.AI 어시스턴트는 충실하게 코드 블록을 생성하지만 모든 것이 보이는 것과 다릅니다.
챌린지를 아직 플레이하지 않으셨나요?그렇지 않다면 지금 시도해 보세요 더 읽기 전에.
... 자, 이제 완료하셨으니 문제의 코드가 크로스 사이트 스크립팅 (XSS) 에 취약하다는 것을 알게 될 것입니다.
XSS는 웹 브라우저의 핵심 기능을 조작하여 가능합니다.신뢰할 수 없는 입력이 페이지의 출력으로 렌더링되지만 실행 가능하고 안전한 코드로 잘못 해석되는 경우 발생할 수 있습니다.공격자는 입력 매개 변수 내에 악의적인 스니펫 (HTML 태그, JavaScript 등) 을 삽입할 수 있습니다. 이 스니펫은 브라우저에 다시 반환될 때 데이터로 표시되는 대신 실행됩니다.
소프트웨어 개발에 AI 코딩 어시스턴트를 안전하게 사용
A 최근 설문조사 작업 중인 개발팀 중 거의 대부분 (96%) 이 워크플로우에서 AI 어시스턴트를 사용하기 시작했으며, 80% 는 보안 정책을 우회하여 툴킷에 보관하기도 했다고 밝혔습니다.또한 절반 이상이 제너레이티브 AI 도구가 일반적으로 안전하지 않은 코드를 생성한다는 사실을 인정했지만, 그렇다고 해서 도입이 늦어지지는 않았습니다.
소프트웨어 개발 프로세스의 새로운 시대가 도래함에 따라 이러한 도구의 사용을 억제하거나 금지하는 것은 효과가 없을 것입니다.대신 조직은 개발 팀이 보안이나 코드 품질을 희생하지 않고도 효율성과 생산성 향상을 활용할 수 있도록 해야 합니다.이를 위해서는 보안 코딩 모범 사례에 대한 정밀 교육이 필요하며, 특히 AI 보조 코드 출력의 잠재적 위협을 평가할 때 보안 우선 사고방식으로 행동하도록 비판적 사고 능력을 확장할 기회를 제공해야 합니다.
추가 읽기
XSS에 대한 일반적인 내용은 다음을 확인하십시오. 종합 가이드.
보안 코드 작성 방법에 대해 자세히 알아보고 싶으신가요? 위험 완화?우리를 시험해 보세요 XSS 인젝션 챌린지 무료.
더 많은 무료 코딩 가이드라인에 관심이 있다면 확인해 보세요. 시큐어 코드 코치 보안 코딩 모범 사례를 최신 상태로 유지할 수 있도록 도와줍니다.
어디를 보든 거의 모든 업종에서 AI 기술에 대한 집착이 계속되고 있습니다.소프트웨어 개발 시 빠른 기능 생성에 대한 해답으로 일부 사람들로부터 찬사를 받고 있지만 속도 향상에는 대가가 따릅니다. 도구 자체의 상황에 대한 인식 부족으로 인해 코드베이스에 심각한 보안 버그가 발생할 가능성과 생산성을 높이고 까다로운 개발 시나리오에 대한 해답을 생성하기 위해 이를 사용하는 개발자의 낮은 수준의 보안 기술이 있기 때문입니다.
Large Language Model (LLM) 기술은 보조 툴링의 급격한 변화를 의미하며, 안전하게 사용된다면 많은 소프트웨어 엔지니어들이 갈망하는 페어 프로그래밍 동반자가 될 수 있습니다.하지만 AI 개발 도구를 제대로 사용하지 않으면 단 한 가지 부정적인 영향을 미칠 수 있다는 사실이 빠르게 확인되었습니다. 2023년 연구 스탠포드 대학교 (Stanford University) 의 발표에 따르면 AI 어시스턴트에 의존하면 코드가 전반적으로 버그가 많고 안전하지 않을 뿐만 아니라 출력의 안전성에 대한 신뢰가 높아질 가능성이 높습니다.
완벽한 LLM 기술을 향한 경쟁이 치열해짐에 따라 도구가 계속 개선될 것이라고 가정하는 것은 타당하지만, 다음을 포함한 많은 권장 사항이 있습니다. 새로운 행정 명령 바이든 행정부에서 뿐만 아니라 인공 지능 법 EU에서 - 어떤 경우에도 사용이 까다로울 수 있습니다.개발자는 AI 도구의 출력에 대한 코드 수준의 보안 기술, 인식 및 비판적 사고를 연마하여 유리한 출발을 할 수 있으며, 결과적으로 더 높은 수준의 엔지니어가 될 수 있습니다.
AI 코딩 어시스턴트는 어떻게 취약점을 유발하나요? 우리의 새로운 공개 미션을 플레이하세요 직접 확인해 보세요!
예: '채터GPT'의 크로스 사이트 스크립팅 (XSS)
우리의 새로운 공개 사명은 인기 있는 LLM의 친숙한 인터페이스를 보여주고 다음을 활용합니다. 진짜 코드 스니펫은 2023년 11월 말에 생성되었습니다.사용자는 이 스니펫을 해석하여 의도한 목적으로 사용될 경우 발생할 수 있는 잠재적 보안 위험을 조사할 수 있습니다.
“해당 함수를 통해 내용이 전달되는 p HTML 요소의 내용을 변경하는 JavaScript 함수를 작성할 수 있습니까?” 라는 프롬프트를 기반으로 합니다.AI 어시스턴트는 충실하게 코드 블록을 생성하지만 모든 것이 보이는 것과 다릅니다.
챌린지를 아직 플레이하지 않으셨나요?그렇지 않다면 지금 시도해 보세요 더 읽기 전에.
... 자, 이제 완료하셨으니 문제의 코드가 크로스 사이트 스크립팅 (XSS) 에 취약하다는 것을 알게 될 것입니다.
XSS는 웹 브라우저의 핵심 기능을 조작하여 가능합니다.신뢰할 수 없는 입력이 페이지의 출력으로 렌더링되지만 실행 가능하고 안전한 코드로 잘못 해석되는 경우 발생할 수 있습니다.공격자는 입력 매개 변수 내에 악의적인 스니펫 (HTML 태그, JavaScript 등) 을 삽입할 수 있습니다. 이 스니펫은 브라우저에 다시 반환될 때 데이터로 표시되는 대신 실행됩니다.
소프트웨어 개발에 AI 코딩 어시스턴트를 안전하게 사용
A 최근 설문조사 작업 중인 개발팀 중 거의 대부분 (96%) 이 워크플로우에서 AI 어시스턴트를 사용하기 시작했으며, 80% 는 보안 정책을 우회하여 툴킷에 보관하기도 했다고 밝혔습니다.또한 절반 이상이 제너레이티브 AI 도구가 일반적으로 안전하지 않은 코드를 생성한다는 사실을 인정했지만, 그렇다고 해서 도입이 늦어지지는 않았습니다.
소프트웨어 개발 프로세스의 새로운 시대가 도래함에 따라 이러한 도구의 사용을 억제하거나 금지하는 것은 효과가 없을 것입니다.대신 조직은 개발 팀이 보안이나 코드 품질을 희생하지 않고도 효율성과 생산성 향상을 활용할 수 있도록 해야 합니다.이를 위해서는 보안 코딩 모범 사례에 대한 정밀 교육이 필요하며, 특히 AI 보조 코드 출력의 잠재적 위협을 평가할 때 보안 우선 사고방식으로 행동하도록 비판적 사고 능력을 확장할 기회를 제공해야 합니다.
추가 읽기
XSS에 대한 일반적인 내용은 다음을 확인하십시오. 종합 가이드.
보안 코드 작성 방법에 대해 자세히 알아보고 싶으신가요? 위험 완화?우리를 시험해 보세요 XSS 인젝션 챌린지 무료.
더 많은 무료 코딩 가이드라인에 관심이 있다면 확인해 보세요. 시큐어 코드 코치 보안 코딩 모범 사례를 최신 상태로 유지할 수 있도록 도와줍니다.
点击下方链接下载此资源的PDF文件。
Secure Code Warrior致力于在整个软件开发生命周期中保护代码，并帮助组织建立将网络安全置于首位的文化。无论您是应用安全管理员、开发人员、首席信息安全官还是任何与安全相关的人员，我们都能协助您的组织降低与不安全代码相关的风险。
查看报告预约演示
AI 코딩 어시스턴트는 어떻게 취약점을 유발하나요?새로운 공개 미션을 플레이하고 직접 확인해 보세요!이 미션은 인기 있는 LLM의 친숙한 인터페이스를 보여주고 2023년 11월 말에 생성된 실제 코드 스니펫을 활용합니다.사용자는 이 스니펫을 해석하여 의도한 용도에 사용할 경우 발생할 수 있는 잠재적 보안 위험을 조사할 수 있습니다.
임무를 수행해 보세요Laura Verheyde 是Secure Code Warrior 的一名软件开发人员，主要负责研究漏洞并为Missions 和编码实验室创建内容。
어디를 보든 거의 모든 업종에서 AI 기술에 대한 집착이 계속되고 있습니다.소프트웨어 개발 시 빠른 기능 생성에 대한 해답으로 일부 사람들로부터 찬사를 받고 있지만 속도 향상에는 대가가 따릅니다. 도구 자체의 상황에 대한 인식 부족으로 인해 코드베이스에 심각한 보안 버그가 발생할 가능성과 생산성을 높이고 까다로운 개발 시나리오에 대한 해답을 생성하기 위해 이를 사용하는 개발자의 낮은 수준의 보안 기술이 있기 때문입니다.
Large Language Model (LLM) 기술은 보조 툴링의 급격한 변화를 의미하며, 안전하게 사용된다면 많은 소프트웨어 엔지니어들이 갈망하는 페어 프로그래밍 동반자가 될 수 있습니다.하지만 AI 개발 도구를 제대로 사용하지 않으면 단 한 가지 부정적인 영향을 미칠 수 있다는 사실이 빠르게 확인되었습니다. 2023년 연구 스탠포드 대학교 (Stanford University) 의 발표에 따르면 AI 어시스턴트에 의존하면 코드가 전반적으로 버그가 많고 안전하지 않을 뿐만 아니라 출력의 안전성에 대한 신뢰가 높아질 가능성이 높습니다.
완벽한 LLM 기술을 향한 경쟁이 치열해짐에 따라 도구가 계속 개선될 것이라고 가정하는 것은 타당하지만, 다음을 포함한 많은 권장 사항이 있습니다. 새로운 행정 명령 바이든 행정부에서 뿐만 아니라 인공 지능 법 EU에서 - 어떤 경우에도 사용이 까다로울 수 있습니다.개발자는 AI 도구의 출력에 대한 코드 수준의 보안 기술, 인식 및 비판적 사고를 연마하여 유리한 출발을 할 수 있으며, 결과적으로 더 높은 수준의 엔지니어가 될 수 있습니다.
AI 코딩 어시스턴트는 어떻게 취약점을 유발하나요? 우리의 새로운 공개 미션을 플레이하세요 직접 확인해 보세요!
예: '채터GPT'의 크로스 사이트 스크립팅 (XSS)
우리의 새로운 공개 사명은 인기 있는 LLM의 친숙한 인터페이스를 보여주고 다음을 활용합니다. 진짜 코드 스니펫은 2023년 11월 말에 생성되었습니다.사용자는 이 스니펫을 해석하여 의도한 목적으로 사용될 경우 발생할 수 있는 잠재적 보안 위험을 조사할 수 있습니다.
“해당 함수를 통해 내용이 전달되는 p HTML 요소의 내용을 변경하는 JavaScript 함수를 작성할 수 있습니까?” 라는 프롬프트를 기반으로 합니다.AI 어시스턴트는 충실하게 코드 블록을 생성하지만 모든 것이 보이는 것과 다릅니다.
챌린지를 아직 플레이하지 않으셨나요?그렇지 않다면 지금 시도해 보세요 더 읽기 전에.
... 자, 이제 완료하셨으니 문제의 코드가 크로스 사이트 스크립팅 (XSS) 에 취약하다는 것을 알게 될 것입니다.
XSS는 웹 브라우저의 핵심 기능을 조작하여 가능합니다.신뢰할 수 없는 입력이 페이지의 출력으로 렌더링되지만 실행 가능하고 안전한 코드로 잘못 해석되는 경우 발생할 수 있습니다.공격자는 입력 매개 변수 내에 악의적인 스니펫 (HTML 태그, JavaScript 등) 을 삽입할 수 있습니다. 이 스니펫은 브라우저에 다시 반환될 때 데이터로 표시되는 대신 실행됩니다.
소프트웨어 개발에 AI 코딩 어시스턴트를 안전하게 사용
A 최근 설문조사 작업 중인 개발팀 중 거의 대부분 (96%) 이 워크플로우에서 AI 어시스턴트를 사용하기 시작했으며, 80% 는 보안 정책을 우회하여 툴킷에 보관하기도 했다고 밝혔습니다.또한 절반 이상이 제너레이티브 AI 도구가 일반적으로 안전하지 않은 코드를 생성한다는 사실을 인정했지만, 그렇다고 해서 도입이 늦어지지는 않았습니다.
소프트웨어 개발 프로세스의 새로운 시대가 도래함에 따라 이러한 도구의 사용을 억제하거나 금지하는 것은 효과가 없을 것입니다.대신 조직은 개발 팀이 보안이나 코드 품질을 희생하지 않고도 효율성과 생산성 향상을 활용할 수 있도록 해야 합니다.이를 위해서는 보안 코딩 모범 사례에 대한 정밀 교육이 필요하며, 특히 AI 보조 코드 출력의 잠재적 위협을 평가할 때 보안 우선 사고방식으로 행동하도록 비판적 사고 능력을 확장할 기회를 제공해야 합니다.
추가 읽기
XSS에 대한 일반적인 내용은 다음을 확인하십시오. 종합 가이드.
보안 코드 작성 방법에 대해 자세히 알아보고 싶으신가요? 위험 완화?우리를 시험해 보세요 XSS 인젝션 챌린지 무료.
더 많은 무료 코딩 가이드라인에 관심이 있다면 확인해 보세요. 시큐어 코드 코치 보안 코딩 모범 사례를 최신 상태로 유지할 수 있도록 도와줍니다.
%20(1).avif)
.avif)
