• 我的订阅
  • 头条热搜
不会主动告知风险!ChatGPT生成代码被指并不安全
...近日,加拿大魁北克大学的研究者发布论文,指出ChtaGPT生成的代码并不可靠,往往存在严重的安全问题。更严重的是,AI并不会主动告知用户代码存在风险,只有用户询问时,才会承认存在错误。根据论文中阐述的实验方法,他...……更多
研究人员发现ChatGPT生成的代码大部分不安全 但它不会主动告诉你
...家 4 月 23 日消息,ChatGPT 聊天机器人可以根据用户的输入生成各种各样的文本,包括代码。但是,加拿大魁北克大学的四位研究人员发现,ChatGPT 生成的代码往往存在严重的安全问题,而且它不会主动提醒用户这些问题,只有在...……更多
京东云智能编程助手与安全大模型入选CCIA人工智能优秀案例
...机器学习算法,能够快速准确地完成代码预测补全、图片生成代码、代码翻译、生成接口文档、代码优化、生成单侧、安全漏洞识别及修复等功能,助力开发者高效、流畅编码。例如,当研发人员的创作灵感迸发时,JoyCoder会依...……更多
AI投毒第一案!GPT写的代码竟有后门 程序员被骗1.8万元
...AI安全性的广泛关注。据报道,一位英国程序员在使用GPT生成的代码时遭遇了不幸。他按照GPT提供的代码进行了操作,结果导致自己的私钥被泄露给了钓鱼网站,最终损失了2500美元(约合人民币1.8万元)。网友“余弦”在社交媒...……更多
2024 年企业安全领导者需要谨记的五大关键
...业造成进一步的损害。开发者还可能会使用从公共AI/ML源生成的代码,而不知道模型是否已遭到入侵。如果盲目信任AI/ML模型,就可能会给企业招致更多的漏洞——所有来自AI/ML源的代码都必须经过审查。无需对零日漏洞感到恐慌...……更多
...源代码物料清单实时梳理,再到开源设计以及开源代码的生成各个方面。(中新经纬APP)本文由中新经纬研究院选编,因选编产生的作品中新经纬版权所有,未经书面授权,任何单位及个人不得转载、摘编或以其它方式使用。选编...……更多
由厦门市人民政府主办的第五届中国人工智能大赛正式启动
...防范能力。2:AIGC视频检测赛。本赛题重点围绕人工智能生成视频,由选手提交检测模型,使用数据集评判模型的检测能力。大赛主办方提供包含2000段正常视频数据和8000段AIGC生成视频数据的测试数据集,综合判断参赛者提交模...……更多
...应。据了解,ChatGPT在编写代码方面的表现并不理想,其生成的代码常常存在缺陷。对于极度强调安全、稳定的航空行业来说,使用ChatGPT编写代码可能会导致严重的航空安全风险。新南威尔士大学计算机科学和工程讲师HammondPearce...……更多
以简至臻,江苏银行上线低代码开发平台加快响应客户需求
...型,技术研发与业务需求场景正深度融合。作为一种快速生成应用程序的开发平台,低代码开发平台可有效满足企业数字化转型中的诸多诉求,因低门槛、高效率、易扩展的特性被认为是连接技术与业务的一道桥梁。江苏银行基...……更多
...实参与方窃取运算结果、扭曲模型训练、破解可信环境或生成恶意低代码。参与方自愿提供数据、消耗算力参与数据合规实践,其具有强烈的自利动机,轻则通过参与获得技术使用权,重则掠夺中间数据和源头数据。依据危害性...……更多
赋予机器编程权:科技进步与失控可能性
...害。 随着AI编程的普及,越来越多的代码将由机器自动生成。然而,人类会创始人胡家奇对此提出了深刻的思考和警示。他指出,当前人工智能已具备自我编程的能力,即编程人员不再直接决定AI的行为和能力,而是通过训练和...……更多
AI生成代码30%以上!阿里通义灵码入职蔚来汽车
...中,通义灵码主要应用在代码开发、代码维护、单元测试生成以及问题排查等场景中。在蔚来的“天探”项目里,通义灵码生成的代码占全量代码约30%以上,在支持业务扩展、业务逻辑增加的增量代码部分,通义灵码生成代码占...……更多
科学家建立新评价基准,助力评估大模型数据分析能力
...的大型语言模型,它们已经能够理解自然语言查询,并能生成相应的代码或分析,让自动数据分析变得更加接近现实。例如,Devin 的成功,激发了人们对基于大语言模型的自动数据分析的广泛兴趣。现有的数据集例如 Text2Analysis ...……更多
代码生成器的优势和优化
...快、更高效的方式构建应用程序。在低代码平台中,代码生成器是一个关键组件,它在提升开发效率、保证代码质量和降低技术门槛方面发挥着重要作用。一.代码生成器的作用代码生成器是低代码平台中的核心组件之一,其主...……更多
三星自研AI大语言模型 将应用于下一代智能手机
...成高清杰作……数字化时代,人工智能快速发展,尤其是生成式人工智能技术的突破和应用已经深入影响到人们的工作和生活。2023年三星人工智能论坛上,三星官方正式公布了其自研的生成式人工智能产品Gauss(高斯)。三星以...……更多
ChatGPT中短期产业化方向主要为:文字模态的AIGC应用、代码开发相关、图像生成领域、智能客服
...方向主要分为文字模态的AIGC应用、代码开发相关、图像生成领域、智能客服四大板块。ChatGPT的成功,预示着人工智能(AI)无论在经济性与可获得性上都达到了支持普及的水平。同时,ChatGPT产生的鲶鱼效应,料将推动全球AI产...……更多
... Code领域,团队自2013年起就开始探索深度学习技术在代码生成和代码理解方面的应用。其核心产品智能化软件开发系统「aiXcoder」,旨在为C端开发者和B端企业客户提供实时智能开发辅助,帮助其提升软件开发效率和研发效能。...……更多
...成为高频词。多位与会专家学者认为,以ChatGPT为代表的生成式人工智能给我国带来的挑战和机遇并存,要统筹发展和安全,发挥好特色优势,加快推动技术进步。北京大学软件与微电子学院院长陈钟认为,“它能写文章,能整...……更多
人工智能时代:拥抱未来并警惕挑战
...给我们带来更多的治理挑战。其一,深度合成改变了信息生成方式,会带来潜在的安全问题。其二,深度合成的发展对现有数据、算法、算力分而治之的治理体系提出严峻挑战,网络安全、个人信息、数据保护、数据跨境流动的...……更多
IDC权威评测:文心快码位居国内代码生成产品评估第一
...6月3日,国际数据公司(IDC)正式发布《IDC 中国市场代码生成产品评估,1H25》报告,报告针对市面上主流的 AI 编码工具进行评测,谷歌、微软、百度、阿里、字节、腾讯等数十家海内外头部企业均参评。在涉及的 9 项评分维度...……更多
开源低代码平台“碰撞”浪潮海岳大模型,打造高效智能开发新体验
从智能对话到脚本编写、合同生成,从程序安全漏洞检测到重塑软件开发、驱动自动生产……大模型正成为产业创新变革的重要驱动力。浪潮海岳大模型顺势而生,针对企业个性化需求,在软件开发、数智融合、智能运维、应...……更多
谷歌:公司超过 1/4 的新代码是由人工智能生成的
...人工智能。“谷歌超过四分之一的新代码都是由人工智能生成,然后由工程师审查并接受,”首席执行官桑达尔・皮查伊在公司 2024 年第三季度财报电话会议上表示。AI 不仅帮助谷歌提高了生产效率,还直接带动了收入增长。谷...……更多
守护程序员 | 让大家可以no bug并拥有茂密的头发
...序猿来说有多好用,除了节省掉80%的时间成本,通过代码生成器,代码自动生成后下载到本地,你可以随意的对代码进行修改做二次开发的准备。因为底层代码是可以重复利用的,并不需要你不断地码字。除了上述说的代码生成...……更多
单卡算力对标英伟达A100,科大讯飞联手华为发布星火一体机
...理能力、应用成效等全栈AI能力,可用于问答系统、对话生成、知识图谱构建、智能推荐等多个领域的应用,具备大模型预训练、多模态理解与生成、多任务学习和迁移等能力。在内容安全方面,星火一体机可以针对污语料和幻...……更多
ChatGPT分析代码漏洞靠谱吗?华为算法专家实测:还得靠人工
...基于自然语言处理技术模型、情景模型和语言模型来自动生成文章和代码。今日,华为中国官微发布了一篇来自华为安全AI算法专家,中科院博士李智华“从防御视角探讨ChatGPT对网络安全的影响”的文章,对ChatGPT在网络安全领...……更多
给AI打下手,我被抢了“饭碗”
...可危,为了提高代码编写效率,组长开始让我们用AI代码生成器写中低端代码。可以说,35岁的危机还没到来,技术危机却先来到了。AI带来了许多令人震惊的功能。它可以通过分析大量的数据和模式完成自动化编程任务,从而减...……更多
当AI来敲低代码的门
...共识,是企业数字化转型的必选工具链之一。然而因为”生成的代码不靠谱、找 bug 不方便、维护迭代成本不明确“等质疑,也让不少企业望而却步,但AIGC的异军突起,为低代码带来了新的机会。Microsoft Power Platform、钉钉宜搭、...……更多
将偏好学习引入模型训练,北大李戈团队提出代码生成优化新框架
...在模型训练过程中引入偏好学习,提出了一个全新的代码生成优化框架——CodeDPO。在部分模型上,相比于单独使用SFT,CodeDPO能够将模型的HumanEval得分再多提升10个百分点,最高增幅接近1/3。监督微调(SFT)等现有训练方法,尽...……更多
附下载 | 国内首本《模糊测试技术白皮书》正式发布
...技术负责人周鹏先生深入探讨了代码模糊测试在测试驱动生成和代码漏洞修复中遇到的关键问题,并明确指出了当前阶段的痛点。云起无垠团队提出的基于大型语言模型(LLM)的驱动生成,以及基于生成式人工智能的智能缺陷分...……更多
Gartner2024十大战略技术趋势解读
...tner 发布的2024年十大战略技术趋势(附解读):全民化的生成式AI(Democratized Generative AI)经过大规模预训练的模型、云计算与开源的融合正在推动生成式人工智能(生成式AI)的全民化,使这些模型能够被全球工作者所用。到 20...……更多
更多关于科技的资讯:
刷新多项世界纪录!我国新型单光子探测器量产落地
大皖新闻讯 日前,安徽省量子信息工程技术研究中心发布消息称,我国实现了全球首款四通道超低噪声半导体单光子探测器的量产落地(以下简称“深度制冷单光子探测器”)
2025-10-12 10:52:00
深入实施“人工智能+”行动丨浪潮智能终端“超高清+AI”解锁场景新玩法
漫步浩瀚太空,秒回侏罗纪时代,与科幻机甲同框……济南方特东方神画“九州神韵”的XR拍摄专区,小学生李安安兴奋地“穿越”在异时空中
2025-10-11 10:21:00
近日,据大象新闻报道,疾控卫监部门在一次突击检查中发现,某美容院将普通的高频电灼仪包装为“黄金微针”项目进行推广。这类看似创新的营销话术
2025-10-11 12:36:00
中新经纬10月11日电 (李自曼)近期,多家险企推出1年期的短期重疾险产品。同样保额下,传统重疾险保费动辄千元甚至上万元
2025-10-11 13:55:00
滨州移动织就“数字救援网”,赋能红十字演练通信零死角
鲁网10月11日讯近日,中国红十字应急救援北部协作区综合救援演练在山东省滨州市惠民县黄河三角洲应急消防实训基地拉开帷幕
2025-10-11 14:44:00
看点十足!2025中国移动全球合作伙伴大会变身“AI嘉年华”
当碳基生命的创造力与硅基生命的智慧力深度融合,将迸发出怎样的“AI+”可能?2025年10月10日—10月12日,中国移动全球合作伙伴大会在广州保利世贸博览馆盛大召开
2025-10-11 15:31:00
中国移动董事长杨杰:碳硅共生 合创AI+时代
10月10日至12日,2025中国移动全球合作伙伴大会在广州举行。10月11日上午,中国移动董事长杨杰出席大会主论坛,并发表题为《碳硅共生 合创AI+时代》的主旨演讲
2025-10-11 15:31:00
北京apm多重活动焕活国庆长假新体验,解锁假日新乐趣!
国庆假日期间,北京apm以“沉浸式假日体验”为核心,精心打造多元互动活动、热门IP联名快闪与专属会员福利矩阵,为王府井商圈注入鲜活动能与浓郁假日氛围
2025-10-11 15:41:00
山东乐陵:“老味道”飘出消费新滋味
位于乐陵市经济开发区的山东金鹏德盛斋扒鸡有限公司扒鸡生产车间内,老师傅王强不再像过去那样,紧盯着油炸锅、凭经验调节火力
2025-10-11 16:03:00
近日,张家口农商银行钟楼北小贷中心积极组织开展一场针对光大新天地商城内各商户的专项走访活动。此次活动旨在深入了解商城内各类商户的经营状况
2025-10-11 16:20:00
易生支付:智慧支付护航国庆文旅消费 赋能区域商业活力升级
2025年国庆长假期间,全国文旅消费市场持续呈现旺盛活力。易生支付凭借高并发交易处理、全渠道聚合支付、实时资金清算等核心技术能力
2025-10-11 17:08:00
齐鲁晚报·齐鲁壹点 连宁燕今年以来,威海市商务局围绕促消费开展了一系列卓有成效的工作。紧跟国家、省级、市级各级各类消费提振部署安排
2025-10-11 17:10:00
从精装到智装:百川装饰20年新范式在深圳启航
新范式·新百川·新未来:20周年发布品牌与战略升级近日,行业专家、合作伙伴及媒体代表逾300人齐聚深圳百川装饰集团20周年现场
2025-10-11 17:11:00
聊城首家无缝钢管制造企业汇通集团:年产85万吨钢管,远销全球30余国
鲁网10月11日讯(记者 泮晓阳)10月11日上午,聊城市政府新闻办公室召开“产业链上的山东好品牌”企业家系列现场记者见面会(六)聊城黑色金属加工
2025-10-11 17:44:00
聊城新一代信息技术发展:创新水平稳步提高,多项成果达国际领先
鲁网10月11日讯(记者 泮晓阳)10月11日上午,聊城市政府新闻办公室召开“产业链上的山东好品牌”企业家系列现场记者见面会(六)聊城黑色金属加工
2025-10-11 17:49:00