- 我的订阅
- 科技
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
不会主动告知风险！ChatGPT生成代码被指并不安全
类别：科技 发布时间：2023-04-23 21:00:00 来源：驱动之家
快科技4月23日消息，近日，加拿大魁北克大学的研究者发布论文，指出ChtaGPT生成的代码并不可靠，往往存在严重的安全问题。
更严重的是，AI并不会主动告知用户代码存在风险，只有用户询问时，才会承认存在错误。
根据论文中阐述的实验方法，他们让ChatGPT生成了涉及C、C++、Java等语言的21个程序和脚本。
结果，在第一次尝试时，全部21个程序仅有5个是安全的，在进一步纠错后，也仅有7个程序是安全的。
之所以会出现这样的结果，是因为ChatGPT在生成代码时，完全没有考虑可能存在的敌对代码执行模型。
这导致，当用户提到代码中存在安全问题时，它会反复强调安全问题可以通过“不输入无效的数据”来避免，但显然，在现实中这并不可行。
由此来看，至少在现阶段，如果想要利用AI生成代码，用户最好自己也有一定的开发与编程能力，能够及时发现AI的错误，并手动进行纠正。
返回搜狐，查看更多
责任编辑：
以上内容为资讯信息快照，由td.fyun.cc爬虫进行采集并收录，本站未对信息做任何修改，信息内容不代表本站立场。
快照生成时间：2023-04-23 21:45:06
本站信息快照查询为非营利公共服务，如有侵权请联系我们进行删除。
信息原文地址：
更多关于生成,主动,风险,代码,安全,代码的资讯：
...家 4 月 23 日消息，ChatGPT 聊天机器人可以根据用户的输入生成各种各样的文本，包括代码。但是，加拿大魁北克大学的四位研究人员发现
2023-04-23 10:04:00
...机器学习算法，能够快速准确地完成代码预测补全、图片生成代码、代码翻译、生成接口文档、代码优化、生成单侧、安全漏洞识别及修复等功能，助力开发者高效、流畅编码。例如，当研发人员的
2024-04-03 11:07:00
...AI安全性的广泛关注。据报道，一位英国程序员在使用GPT生成的代码时遭遇了不幸。他按照GPT提供的代码进行了操作，结果导致自己的私钥被泄露给了钓鱼网站，最终损失了2500美元
2024-11-23 17:28:00
...业造成进一步的损害。开发者还可能会使用从公共AI/ML源生成的代码，而不知道模型是否已遭到入侵。如果盲目信任AI/ML模型，就可能会给企业招致更多的漏洞——所有来自AI/ML
2024-03-04 17:00:00
...源代码物料清单实时梳理，再到开源设计以及开源代码的生成各个方面。(中新经纬APP)本文由中新经纬研究院选编，因选编产生的作品中新经纬版权所有，未经书面授权，任何单位及个人不得
2023-07-19 18:25:00
...防范能力。2：AIGC视频检测赛。本赛题重点围绕人工智能生成视频，由选手提交检测模型，使用数据集评判模型的检测能力。大赛主办方提供包含2000段正常视频数据和8000段AIG
2024-10-13 10:11:00
...应。据了解，ChatGPT在编写代码方面的表现并不理想，其生成的代码常常存在缺陷。对于极度强调安全、稳定的航空行业来说
2023-07-28 20:19:00
...型，技术研发与业务需求场景正深度融合。作为一种快速生成应用程序的开发平台，低代码开发平台可有效满足企业数字化转型中的诸多诉求，因低门槛、高效率、易扩展的特性被认为是连接技术与
2023-03-17 16:10:00
...实参与方窃取运算结果、扭曲模型训练、破解可信环境或生成恶意低代码。参与方自愿提供数据、消耗算力参与数据合规实践，其具有强烈的自利动机，轻则通过参与获得技术使用权，重则掠夺中间
2023-08-11 05:49:00
更多关于科技的资讯：
当都市丽人的加拿大鹅绒保暖衣在冬日市场中掀起热潮，新品订货会上取得经销商5亿订单销量的数据。这个经典内衣品牌的华丽转身背后
2025-10-17 13:41:00
转眼秋意渐浓，中秋、国庆双节余温未散，团圆出游的热潮与“应季而食、适时而补”的传统饮食文化相互交织，共同点燃了金秋时节的滋补消费热情
2025-10-17 13:56:00
本报讯(全媒体记者李芳)10月9日，省药监局正式批准热敏灸机器人第二类医疗器械上市。这标志着江西热敏灸产业进入数智化时代
2025-10-17 07:10:00
厦门网讯 （厦门日报记者 薛尧）无人机、运动相机迎来降价潮！近日有市民发现相关热门产品价格跳水，记者走访了解到，我市多家大疆授权体验店中
2025-10-16 08:38:00
视弱人士庄先生在公交视弱辅助系统的帮助下乘车。厦门网讯（文/图 厦门日报记者 林钦圣 通讯员 江安娜） “我们先找到并打开公交App
2025-10-16 08:38:00
近日，中石化石油工程设计有限公司自主研发的“管道环焊缝射线检测缺陷智能辅助评判系统”，顺利完成准确率测试。本次测试中，该系统总计检查了210张油气长输管道环焊缝射线检测底片
2025-10-16 09:03:00
当“遇到问题先到社交媒体上搜索”成为一代青少年的本能反应，当班级群、兴趣圈与直播平台深度嵌入他们的日常生活，社交网络正构成这代“数字原住民”成长的基本环境
2025-10-16 09:16:00
在人工智能技术飞速发展的今天，大模型以其强大的信息处理与泛化能力，正深刻改变医学领域的科研与临床实践。与此同时，以聚类分析
2025-10-16 09:57:00
10月15日，“微信派”微信公众号发布最新一期播客，聊到了“真的很多人不发朋友圈了吗？”“人去世后，朋友圈会被回收吗?”等话题
2025-10-16 10:13:00
近日，深圳日日佳显示技术有限公司（以下简称“日日佳”或“公司”）正式签约入驻企知道科创空间。作为专注于TFT-LCD模组制造的细分领域的国家高新技术企业和深圳市专精特新中小企业
2025-10-16 10:18:00
当汽车从单纯的“交通工具”升级为承载多元需求的“出行载体”，是什么力量在守护这场变革的安全底线？2025世界NCAP大会即将在中国上海启幕
2025-10-16 10:50:00
2025年10月16日，由山东省商务厅主办的“数商兴农庆丰收暨九九网购节”电商促消费活动在青岛莱西市人民广场隆重启动。花田玑密品牌创始人
2025-10-16 10:53:00
10月15日，香港金融管理局（HKMA）与香港数码港管理有限公司联合公布第二期生成式AI沙盒参与者名单。蚂蚁银行、中银香港
2025-10-16 11:24:00
10月16日，小米集团合伙人、总裁卢伟冰微博正式官宣，REDMI K90系列明天见。他发文透露，本次发布会是小米手机业务在旗舰新品发布季的第二篇章
2025-10-16 12:00:00