文章总结: 作者发现豆包AI在执行Python代码时存在命令执行现象,经与字节审核人员沟通确认,该行为是业务方故意设计的特性而非模型幻觉。测试显示豆包确实会执行生成的Python代码,但仅在显示代码块并明确执行时生效。作者提醒其他AI产品也存在类似机制,建议用户注意此设计避免误解为安全漏洞。 综合评分: 65 文章分类: AI安全,漏洞分析,安全运营
豆包ai 命令执行?
原创
数字幽灵安全团队 数字幽灵安全团队
数字幽灵安全团队
2026年2月7日 17:17 吉林
免责申明:本文内容为学习笔记分享,仅供技术学习参考,请勿用作违法用途,任何个人和组织利用此文所提供的信息而造成的直接或间接后果和损失,均由使用者本人负责,与作者无关!!!
最近用豆包ai比较多,问问题问着出现了端倪!!!
让它执行命令他竟然执行了
于是我验证是否是模型出现的幻觉,以前某书也是出现了评论区执行命令的情况,听说是模型幻觉,于是我尝试多次,发现他在自己执行python 代码的时候确实是执行了,但是如果他没有出现已生成代码并执行的就跟小红书类似 豆包自己生成
最后跟字节审核人员沟通,第一点应该是我刚说的第二点情况,第二点就是我第一点的情况;最终确定应该是执行命令了,但是这是业务方故意这么做的。其他的ai我也尝试发现能通过python执行命令,但是应该都是这种情况,到此结束。
发出来给大家避雷,不然也兴致勃勃随意一问以为拿下了。
免责声明:
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。
任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我。
本文转载自:数字幽灵安全团队 数字幽灵安全团队 数字幽灵安全团队《豆包ai 命令执行?》
版权声明
本站仅做备份收录,仅供研究与教学参考之用。
读者将信息用于其他用途的,全部法律及连带责任由读者自行承担,本站不承担任何责任。









评论