- 我的订阅
- 科技
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
不会主动告知风险！ChatGPT生成代码被指并不安全
类别：科技 发布时间：2023-04-23 21:00:00 来源：驱动之家
快科技4月23日消息，近日，加拿大魁北克大学的研究者发布论文，指出ChtaGPT生成的代码并不可靠，往往存在严重的安全问题。
更严重的是，AI并不会主动告知用户代码存在风险，只有用户询问时，才会承认存在错误。
根据论文中阐述的实验方法，他们让ChatGPT生成了涉及C、C++、Java等语言的21个程序和脚本。
结果，在第一次尝试时，全部21个程序仅有5个是安全的，在进一步纠错后，也仅有7个程序是安全的。
之所以会出现这样的结果，是因为ChatGPT在生成代码时，完全没有考虑可能存在的敌对代码执行模型。
这导致，当用户提到代码中存在安全问题时，它会反复强调安全问题可以通过“不输入无效的数据”来避免，但显然，在现实中这并不可行。
由此来看，至少在现阶段，如果想要利用AI生成代码，用户最好自己也有一定的开发与编程能力，能够及时发现AI的错误，并手动进行纠正。
返回搜狐，查看更多
责任编辑：
以上内容为资讯信息快照，由td.fyun.cc爬虫进行采集并收录，本站未对信息做任何修改，信息内容不代表本站立场。
快照生成时间：2023-04-23 21:45:06
本站信息快照查询为非营利公共服务，如有侵权请联系我们进行删除。
信息原文地址：
更多关于生成,主动,风险,代码,安全,代码的资讯：
...家 4 月 23 日消息，ChatGPT 聊天机器人可以根据用户的输入生成各种各样的文本，包括代码。但是，加拿大魁北克大学的四位研究人员发现
2023-04-23 10:04:00
...机器学习算法，能够快速准确地完成代码预测补全、图片生成代码、代码翻译、生成接口文档、代码优化、生成单侧、安全漏洞识别及修复等功能，助力开发者高效、流畅编码。例如，当研发人员的
2024-04-03 11:07:00
...AI安全性的广泛关注。据报道，一位英国程序员在使用GPT生成的代码时遭遇了不幸。他按照GPT提供的代码进行了操作，结果导致自己的私钥被泄露给了钓鱼网站，最终损失了2500美元
2024-11-23 17:28:00
...业造成进一步的损害。开发者还可能会使用从公共AI/ML源生成的代码，而不知道模型是否已遭到入侵。如果盲目信任AI/ML模型，就可能会给企业招致更多的漏洞——所有来自AI/ML
2024-03-04 17:00:00
...源代码物料清单实时梳理，再到开源设计以及开源代码的生成各个方面。(中新经纬APP)本文由中新经纬研究院选编，因选编产生的作品中新经纬版权所有，未经书面授权，任何单位及个人不得
2023-07-19 18:25:00
...防范能力。2：AIGC视频检测赛。本赛题重点围绕人工智能生成视频，由选手提交检测模型，使用数据集评判模型的检测能力。大赛主办方提供包含2000段正常视频数据和8000段AIG
2024-10-13 10:11:00
...应。据了解，ChatGPT在编写代码方面的表现并不理想，其生成的代码常常存在缺陷。对于极度强调安全、稳定的航空行业来说
2023-07-28 20:19:00
...型，技术研发与业务需求场景正深度融合。作为一种快速生成应用程序的开发平台，低代码开发平台可有效满足企业数字化转型中的诸多诉求，因低门槛、高效率、易扩展的特性被认为是连接技术与
2023-03-17 16:10:00
...实参与方窃取运算结果、扭曲模型训练、破解可信环境或生成恶意低代码。参与方自愿提供数据、消耗算力参与数据合规实践，其具有强烈的自利动机，轻则通过参与获得技术使用权，重则掠夺中间
2023-08-11 05:49:00
更多关于科技的资讯：
