Education DCL: EAGER: Advancing Secure Coding Education: Empowering Students to Safely Utilize AI-powered Coding Assistant Tools

教育 DCL:EAGER:推进安全编码教育:使学生能够安全地利用人工智能驱动的编码辅助工具

基本信息

  • 批准号:
    2335798
  • 负责人:
  • 金额:
    $ 30万
  • 依托单位:
  • 依托单位国家:
    美国
  • 项目类别:
    Standard Grant
  • 财政年份:
    2023
  • 资助国家:
    美国
  • 起止时间:
    2023-10-01 至 2025-09-30
  • 项目状态:
    未结题

项目摘要

The advent of Artificial Intelligence (AI) has transformed the landscape of the software engineering ecosystem. Particularly, AI-powered coding assistant tools (e.g., ChatGPT and GitHub Copilot) are believed to potentially revolutionize the software development landscape. The tools can enhance software developers' efficiency and productivity in software development by generating boilerplate code for developers. Unfortunately, the tools can generate (or suggest) insecure code for developers because (1) the models that the tools rely on can inadvertently learn from insecure code snippets of untrusted, unverified open-source projects, or (2) the models are also vulnerable to poisoning attacks. The project's novelties are to develop new curricular modules and hands-on exercises for computer science students and the software development workforce to enhance their secure coding practices when using the tools. The project's broader significance and importance are to equip students and the workforce with secure coding practices when using AI-powered coding assistant tools, thereby enabling them to develop secure programs in the future. Moreover, this project's activities will be used to attract undergraduate students from underrepresented groups to cybersecurity.The main objective of this education project is to help students and the workforce have secure coding practices. First, this project develops new hands-on exercises where the students and the workforce can learn how suggested insecure code can impact their software and how the software can be vulnerable and exploited by adversaries. This engages them in active security-oriented learning to cultivate their secure coding practices when using AI-powered coding assistant tools. The hands-on materials include a real-world programming environment where the learners are expected to have experience with poisoned models. Second, this project actively pursues the involvement of undergraduate/high school students in research, including underrepresented groups (specifically the Appalachia region). Third, the project team host workshops in the summer to assist participating faculty in learning how to use our hands-on lab materials developed through this projectThis award reflects NSF's statutory mission and has been deemed worthy of support through evaluation using the Foundation's intellectual merit and broader impacts review criteria.
人工智能(AI)的出现改变了软件工程生态系统的格局。特别是,人工智能编码辅助工具(如ChatGPT和GitHub Copilot)被认为有可能彻底改变软件开发领域。这些工具可以通过为开发人员生成样板代码来提高软件开发人员在软件开发中的效率和生产力。不幸的是,这些工具可以为开发人员生成(或建议)不安全的代码,因为(1)工具所依赖的模型可以不经意地从不受信任的、未经验证的开源项目的不安全代码片段中学习,或者(2)模型也容易受到中毒攻击。该项目的新颖之处在于为计算机科学专业的学生和软件开发人员开发新的课程模块和实践练习,以增强他们在使用这些工具时的安全编码实践。该项目更广泛的意义和重要性在于,让学生和员工在使用人工智能编程辅助工具时掌握安全的编码实践,从而使他们能够在未来开发安全的程序。此外,该项目的活动将用于吸引来自代表性不足群体的本科生学习网络安全。这个教育项目的主要目标是帮助学生和工作人员进行安全的编码实践。首先,这个项目开发了新的动手练习,学生和工作人员可以学习建议的不安全代码如何影响他们的软件,以及软件如何容易受到攻击并被对手利用。这让他们参与主动的安全导向学习,在使用人工智能编码辅助工具时培养他们的安全编码实践。实践材料包括一个真实世界的编程环境,学习者应该有中毒模型的经验。第二,本项目积极鼓励本科生/高中生参与研究,包括代表性不足的群体(特别是阿巴拉契亚地区)。第三,项目团队在夏季举办研讨会,帮助参与的教师学习如何使用我们通过该项目开发的动手实验材料。该奖项反映了美国国家科学基金会的法定使命,并通过使用基金会的智力价值和更广泛的影响审查标准进行评估,被认为值得支持。

项目成果

期刊论文数量(0)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ monograph.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ sciAawards.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ conferencePapers.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ patent.updateTime }}

Doowon Kim其他文献

An Inconvenient Trust: User Attitudes toward Security and Usability Tradeoffs for Key-Directory Encryption Systems
不方便的信任:用户对密钥目录加密系统的安全性和可用性权衡的态度
  • DOI:
  • 发表时间:
    2016
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Wei Bai;M. Namara;Yichen Qian;Patrick Gage Kelley;Michelle L. Mazurek;Doowon Kim
  • 通讯作者:
    Doowon Kim
Balancing Security and Usability in Encrypted Email
平衡加密电子邮件的安全性和可用性
  • DOI:
    10.1109/mic.2017.57
  • 发表时间:
    2017
  • 期刊:
  • 影响因子:
    3.2
  • 作者:
    Wei Bai;Doowon Kim;M. Namara;Yichen Qian;Patrick Gage Kelley;Michelle L. Mazurek
  • 通讯作者:
    Michelle L. Mazurek
Lessons Learned from Using an Online Platform to Conduct Large-Scale, Online Controlled Security Experiments with Software Developers
使用在线平台与软件开发人员进行大规模在线控制安全实验的经验教训
  • DOI:
  • 发表时间:
    2017
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Christian Stransky;Y. Acar;Duc Cuong Nguyen;Dominik Wermke;Doowon Kim;Elissa M. Redmiles;M. Backes;S. Garfinkel;Michelle L. Mazurek;S. Fahl
  • 通讯作者:
    S. Fahl
Demystifying the Regional Phishing Landscape in South Korea
揭秘韩国区域网络钓鱼格局
  • DOI:
  • 发表时间:
    2023
  • 期刊:
  • 影响因子:
    3.9
  • 作者:
    Hyunjun Park;Kyungchan Lim;Doowon Kim;Donghyun Yu;Hyungjoon Koo
  • 通讯作者:
    Hyungjoon Koo
An Adaptive Primary Path Switching Scheme for Seamless mSCTP Handover
一种用于无缝 mSCTP 切换的自适应主路径切换方案
  • DOI:
    10.6029/smartcr.2011.02.006
  • 发表时间:
    2011
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Jinsuk Baek;Doowon Kim;P. Fisher;Minho Jo
  • 通讯作者:
    Minho Jo

Doowon Kim的其他文献

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

相似国自然基金

OH+HCl/DCl↔H2O/HOD+Cl态-态反应的全维微分截面研究
  • 批准号:
  • 批准年份:
    2022
  • 资助金额:
    54 万元
  • 项目类别:
    面上项目
番茄抗病毒基因DCL2b受病毒诱导调控的分子机理
  • 批准号:
  • 批准年份:
    2022
  • 资助金额:
    54 万元
  • 项目类别:
    面上项目
套索RNA通过拮抗DCL1复合物抑制植物miRNA产生的分子机制
  • 批准号:
    31671261
  • 批准年份:
    2016
  • 资助金额:
    63.0 万元
  • 项目类别:
    面上项目
拟南芥DCL4介导、不依赖DRB4的新抗病毒RNA沉默分子机制研究
  • 批准号:
    31570145
  • 批准年份:
    2015
  • 资助金额:
    66.0 万元
  • 项目类别:
    面上项目
DCL在DNAmβ诱导的基因沉默和抗TYLCCNV病毒中的功能分析
  • 批准号:
    30771406
  • 批准年份:
    2007
  • 资助金额:
    32.0 万元
  • 项目类别:
    面上项目

相似海外基金

Education DCL: EAGER: Teaching Privacy via Stakeholder Modeling
教育 DCL:EAGER:通过利益相关者建模教授隐私
  • 批准号:
    2335625
  • 财政年份:
    2024
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
Education DCL: EAGER: An Embedded Case Study Approach for Broadening Students' Mindset for Ethical and Responsible Cybersecurity
教育 DCL:EAGER:一种嵌入式案例研究方法,用于拓宽学生道德和负责任的网络安全思维
  • 批准号:
    2335636
  • 财政年份:
    2024
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
Education DCL: EAGER: Experiential Learning Platform and Curricular Modules for Quantum Computing Security and Privacy Education
教育 DCL:EAGER:量子计算安全和隐私教育的体验式学习平台和课程模块
  • 批准号:
    2335788
  • 财政年份:
    2023
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
Collaborative Research: Education DCL: EAGER: Harnessing the Power of Large Language Models in Digital Forensics Education at MSI and HBCU
合作研究:教育 DCL:EAGER:在 MSI 和 HBCU 的数字取证教育中利用大型语言模型的力量
  • 批准号:
    2333951
  • 财政年份:
    2023
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
Collaborative Research: Education DCL: EAGER: Redefining Cybersecurity Education for Criminal Justice Professionals: Bridging the Gap in National Cyber Capabilities
合作研究:教育 DCL:EAGER:重新定义刑事司法专业人员的网络安全教育:缩小国家网络能力的差距
  • 批准号:
    2334196
  • 财政年份:
    2023
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
Education DCL: EAGER: Developing a Cyber-Aerial Computing Curriculum for Improving Sky-of-Privacy-Things Education through a Modular-Based Integrated Framework
教育 DCL:EAGER:开发网络航空计算课程,通过基于模块化的集成框架改善隐私天空教育
  • 批准号:
    2335681
  • 财政年份:
    2023
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
Collaborative Research: Education DCL: EAGER: Harnessing the Power of Large Language Models in Digital Forensics Education at MSI and HBCU
合作研究:教育 DCL:EAGER:在 MSI 和 HBCU 的数字取证教育中利用大型语言模型的力量
  • 批准号:
    2333950
  • 财政年份:
    2023
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
Collaborative Research: Education DCL: EAGER: Redefining Cybersecurity Education for Criminal Justice Professionals: Bridging the Gap in National Cyber Capabilities
合作研究:教育 DCL:EAGER:重新定义刑事司法专业人员的网络安全教育:缩小国家网络能力的差距
  • 批准号:
    2334197
  • 财政年份:
    2023
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
Education DCL: EAGER: Generative AI-based Personalized Cybersecurity Tutor for Fourth Industrial Revolution
教育 DCL:EAGER:第四次工业革命的基于生成人工智能的个性化网络安全导师
  • 批准号:
    2335046
  • 财政年份:
    2023
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
Education DCL: EAGER: Building a Capture-The-Flag Platform for 5G Network Security
教育 DCL:EAGER:构建 5G 网络安全的夺旗平台
  • 批准号:
    2335369
  • 财政年份:
    2023
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
{{ showInfoDetail.title }}

作者:{{ showInfoDetail.author }}

知道了